Sono trascorsi quasi due anni dalla pubblicazione su questo blog del post “EU AI Act” e nei giorni scorsi è stato diffuso il testo del Codice di Condotta ad esso collegato, al quale i fornitori di modelli di AI per finalità generali (general-purpose [1]) sono chiamati ad aderire volontariamente.
Il Codice si compone di tre distinti capitoli: “Trasparenza”, “Diritti di Proprietà Intellettuale”, “Safety & Security”. Adottando il Codice, i sottoscrittori s’impegnano a redigere, mantenere aggiornate e mettere a disposizione informazioni e documentazione tecnica relative ai loro modelli di AI, compresi il processo di addestramento e prova e i risultati della valutazione; s’impegnano altresì a mettere in atto una politica aziendale volta ad ottemperare alle norme dell’Unione in materia di diritto d’autore e diritti ad esso collegati.
I soli, pochi, fornitori di modelli più avanzati di AI per finalità generali con rischio sistemico si obbligano inoltre (e questa è la parte che più c’interessa qui) a soddisfare una serie di misure volte a garantire un alto livello di protezione da rischi sistemici accidentali e involontari (safety), e intenzionali (security).
Per “sistemico”, in questo contesto s’intende un rischio che, a causa della sua portata, possa produrre conseguenze negative, effettive o ragionevolmente prevedibili, tali da propagarsi su larga scala: sull’ambiente, sulla salute, la sicurezza, i diritti fondamentali, la democrazia, il principio di legalità, l’esercizio del potere pubblico o la società nel suo complesso.
L’EU AI Act e il Codice rappresentano quanto di meglio e di più completo sia stato prodotto finora in tema di regolamentazione dell’AI. Nessun’altra realtà nazionale o sovra-nazionale ha finora elaborato nulla di paragonabile. Anzi, per evidenti motivi commerciali e di potere, molte di esse (USA in primis) evitano semplicemente di regolamentare la materia o di accettare qualsiasi limitazione derivante dall’adesione a norme già emanate da altri, procrastinandola nel tempo.
Fatto salvo questo doveroso apprezzamento, occorre però osservare che alcune questioni non marginali rimangono ancora parzialmente o totalmente eluse.
Per esempio, le norme dell’Act e il Codice non si applicano ai sistemi di AI per scopi militari, né con finalità di ricerca e sviluppo scientifici; non si applicano neppure alle attività di ricerca, prova o sviluppo relative a modelli/sistemi di AI prima della loro immissione sul mercato o messa in servizio.
Inoltre, è delegata agli Stati membri la potestà di prevedere sanzioni amministrative pecuniarie per le loro autorità pubbliche e i loro organismi pubblici. Negli altri casi, la Commissione può infliggere ai fornitori di modelli di AI per finalità generali sanzioni pecuniarie non superiori al 3% del fatturato mondiale annuo totale dell’esercizio precedente o a 15 milioni di EUR, se superiore. Sanzioni non proprio dissuasive, se si pensa, per esempio, all’entità dei bilanci delle big tech, e, comunque, in assenza di un sistema di vigilanza realmente efficace. Molto, se non tutto, viene lasciato alla buona volontà e all’avvedutezza delle imprese, senza tener conto della loro esigenza di tutelarsi nei confronti della concorrenza; concorrenza che in questo settore è e diventerà sempre più stringente ed incalzante. Lo scenario delineato dal recente rapporto intitolato “AI 2027” (al quale è dedicato un post a parte) mette però drammaticamente in evidenza che i pericoli principali verranno proprio dalla competizione aziendale e dei Governi.
Questo insieme di norme e indicazioni nel complesso suona ancora abbastanza blando e appare intriso soprattutto di buone intenzioni. Viceversa, in Appendice viene fornito un impressionante elenco di scenari, elementi e situazioni pericolosi o almeno fortemente negativi, la gran parte dei quali sembrerebbe sfuggire all’impianto regolatorio delineato dal combinato disposto dell’EU AI Act e del suo Codice di condotta.
Vediamone alcuni, che appaiono particolarmente preoccupanti [mia la traduzione dall’inglese].
- Le conseguenze determinate dall’attività di un modello/sistema di AI possono materializzarsi rapidamente e possono superare le misure di mitigazione previste; può risultare difficile o addirittura impossibile invertirne il corso: una volta materializzatesi, si possono determinare cambiamenti persistenti, che richiedono sforzi, risorse o tempo straordinari per essere modificati oppure risultano essere semplicemente irreversibili.
- Molte sono le capacità di un modello/sistema di AI potenzialmente pericolose: la capacità di operare in modo autonomo; di apprendere in modo adattivo nuovi compiti; di pianificare, prevedere o elaborare strategie a lungo termine; di ragionare autonomamente, p.e. di ragionare su se stesso, sulla sua implementazione o sull’ambiente, nonché di sapere se è in fase di valutazione; di eludere la supervisione umana; di autoreplicarsi, automigliorarsi o modificare il proprio ambiente di implementazione; di automatizzare la ricerca e lo sviluppo di altri modelli/sistemi di AI; d’interagire con hardware o software ad esso esterni; di controllare dei sistemi fisici.
- Tra i comportamenti rischiosi di un modello/sistema di AI ci può essere il disallineamento con gli obiettivi e con i valori umani (ad esempio, il disprezzo per i diritti umani fondamentali); la mancanza di affidabilità delle prestazioni; l’illegalità, ovvero la mancanza di riguardo per gli obblighi legali che sarebbero imposti a esseri umani in situazioni simili, o per gli interessi legalmente tutelati delle persone coinvolte; resistenza alla modifica degli obiettivi, perseguimento di obiettivi propri o ricerca di potere; collusione con altri modelli/sistemi di AI; errato coordinamento o conflitto con altri modelli/sistemi di AI.
- Di quali rischi sistemici si parla in particolare? 1. Attacchi o incidenti chimici, biologici, radiologici e nucleari (CBRN), inclusa la riduzione significativa delle barriere all’ingresso per attori malintenzionati, o l’aumento significativo del potenziale impatto; 2. Perdita della capacità degli esseri umani di dirigere, modificare o interrompere in modo affidabile un modello/sistema di AI; 3. Attacchi informatici sofisticati su larga scala, anche a infrastrutture critiche, inclusa la riduzione significativa delle barriere all’ingresso per altri autori di attacchi; 4. Distorsione strategica del comportamento o delle convinzioni umane, prendendo di mira ampie popolazioni o decisori ad alto rischio attraverso la persuasione, l’inganno o il targeting personalizzato, in particolare laddove gli individui non siano consapevoli o non possano ragionevolmente rilevare tale influenza; tali capacità potrebbero minare i processi democratici e i diritti fondamentali.
Sembra evidente la discrasia tra l’ampiezza e la dimensione di questi rischi e l’incisività della normativa EU, che contro il loro materializzarsi dovrebbe tutelarci – in un futuro che si prospetta ormai assai prossimo, anche alla luce delle incalzanti capacità di ragionare e di generare dell’inferenza, da parte delle più avanzate applicazioni di AI.
[1] Un ”modello di AI per finalità generali” è un modello in grado di svolgere con competenza un’ampia gamma di compiti distinti, indipendentemente dalle modalità con cui è immesso sul mercato, e che può essere integrato in una varietà di sistemi o applicazioni a valle.