Nell’aprile del 2021 la Commissione Europea ha presentando una proposta di quadro normativo sull’IA, dando avvio ad un lungo procedimento legislativo, che dovrebbe concludersi entro il 2023. Il mese scorso (giugno 2023) il Parlamento Europeo, compiendo un significativo passo avanti, vi ha apportato numerosissimi emendamenti, approvando a larga maggioranza una bozza di quello che sarà l’AI Act.
In questo momento gli organi e gli uffici competenti dell’EU stanno lavorando ai prossimi passi e rivedendo l’articolato del regolamento, che dovrà essere esaminato dal Trilogo, approvato in seduta plenaria e, da ultimo, adottato dagli Stati membri, per entrare in esecuzione verosimilmente non prima della fine del 2024.
Molte novità e aggiustamenti potranno ancora essere introdotti nei prossimi mesi; tuttavia l’impianto generale è già chiaramente delineato e può essere utile analizzarlo criticamente sin d’ora.
L’idea di fondo consiste nel classificare un vasto spettro di specifiche applicazioni di IA, per come le conosciamo, sviluppiamo e implementiamo oggi, in tre categorie di rischio.
Nella prima categoria sono elencate le pratiche di IA vietate, perché ritenute particolarmente dannose rispetto ai valori dell’Unione. Per esempio in quanto esse impieghino tecniche subliminali; sfruttino la vulnerabilità di persone fragili; determinino impropriamente dei punteggi sociali; pervengano ad alcune forme di identificazione biometrica; valutino il rischio di reato o di recidiva; assumano dal web in modo non mirato (web scraping) dati per il riconoscimento facciale; deducano le emozioni, i pensieri e gli stati d’animo di una persona.
Nella seconda sono ricompresi sistemi di IA che pongano rischi significativi per la salute, per la sicurezza, per i diritti fondamentali delle persone[1], per la democrazia e per lo stato di diritto. Si tratta in particolare di: traffico, fornitura di acqua, gas, riscaldamento e elettricità; selezione e valutazione degli allievi nell’istruzione e nella formazione professionale; valutazione di domande di assunzione, selezione di candidati, assegnazione di compiti, promozioni e licenziamenti, valutazione di comportamenti nell’ambito del lavoro; ammissibilità ai servizi di assistenza pubblica e gestione delle relative prestazioni; valutazione dell’affidabilità creditizia; gestione delle priorità nei servizi di prima emergenza e nelle attività di contrasto; gestione delle migrazioni, asilo e controllo delle frontiere; amministrazione della giustizia e processi democratici (come p.e. influenzare l’esito di elezioni o di referendum).
Nella terza ci sono applicazioni di tipo “generativo”, in particolare chatbot (come p.e. la nota chatGPT di OpenAI) e deep fake (video, immagini o audio che potrebbero apparire falsamente autentici o veritieri), giudicate di pericolosità limitata, per le quali sono indicati solo degli obblighi di trasparenza.
C’è poi una categoria residuale, tutt’altro che trascurabile, nella quale collocherei i c.d. modelli di base (foundation models) e i sistemi di IA per finalità generali (general purpose AI systems). Nella bozza del 2023 si riportano le seguenti definizioni: il “modello di base” è un sistema di IA addestrato su un’ampia scala di dati, progettato per la generalità dell’output e che può essere adattato a un’ampia gamma di compiti distinti; un “sistema di IA per finalità generali” è un sistema di IA che può essere utilizzato e adattato a un’ampia gamma di applicazioni per le quali non è stato intenzionalmente e specificamente progettato. Ne deriva che un sistema di IA può essere progettato direttamente per finalità generali, ma può anche essere il risultato dell’utilizzo di un modello di base. Infatti, l’emendamento “Considerando 60 sexies” recita: I modelli di base […] sono progettati […] per svolgere un’ampia gamma di compiti a valle, compresi alcuni per i quali non sono stati specificamente sviluppati e addestrati. [… i] modelli di base sono sviluppati a partire da algoritmi progettati per ottimizzare la generalità e la versatilità degli output. [… i] sistemi di IA per finalità generali possono essere l’attuazione di un modello di base …
Sembrerebbe dunque di poter concludere che per il legislatore europeo questi due sistemi siano quanto di più vicino ad una AGI – il che mi sembra un po’ sconcertante, sotto il profilo della pericolosità, delle possibili violazioni e del relativo contrasto. Infatti, (Considerando 16 octies) i requisiti e [gli] obblighi specifici indicati [per i modelli di base] non equivalgono a considerare [tali] modelli come sistemi di IA ad alto rischio. Invece, un giorno, in un futuro non troppo lontano, i centri di ricerca e di sviluppo di alcune forme di AGI dovranno essere dotati di requisiti di sicurezza analoghi a quelli disposti per gli odierni laboratori di massimo contenimento, capaci di assicurare il più alto livello di biosicurezza rispetto ad agenti biologici di altissima pericolosità.
La bozza di Regolamento prevede delle sanzioni in caso di inosservanze varie delle sue disposizioni, che saranno poi stabilite in dettaglio dagli Stati membri. Le sanzioni amministrative pecuniarie, che, per le violazioni più gravi, nella proposta della Commissione del 2021 arrivavano fino ad un massimo di €30mil. o del 6% del fatturato mondiale totale dell’anno precedente, nella bozza del Parlamento del 2023 sono state elevate rispettivamente a €40mil. e 7%. Purché realmente effettive, potrebbero essere ragionevoli, anche se gli interessi economici in gioco sono (e sempre più saranno) enormi. Tuttavia, la natura e la dimensione dei rischi ai quali potremmo andare incontro in caso di violazioni, sia commesse intenzionalmente che a seguito di gravi negligenze, meriterebbero previsioni anche più dissuasive. Penso ad una tutela rafforzata dall’introduzione di pene detentive, che la EU potrebbe raccomandare di adottare agli Stati membri, se non nell’ambito di un Regolamento, forse con una Direttiva.
Comunque sia, anche le valutazioni e i controlli, ai quali possono seguire eventualmente delle sanzioni, si presentano a maglie abbastanza larghe.
Il regolamento non si applica ai sistemi di IA sviluppati o usati per scopi militari; né ai sistemi di IA specificamente sviluppati al solo scopo di ricerca e sviluppo in ambito scientifico; né, più in generale, alle attività di ricerca, prova e sviluppo relative ai sistemi di IA prima che tali sistemi siano immessi sul mercato o messi in servizio; né ai componenti di IA [purché non assemblati] forniti in base a licenze gratuite o open source. Inoltre, per motivi eccezionali […] gli Stati membri possono autorizzare l’immissione sul mercato o la messa in servizio di sistemi di IA che non siano stati sottoposti a una valutazione della conformità [come d’obbligo negli altri casi].
La valutazione del loro sistema di IA è lasciata quasi completamente a chi lo sviluppi o lo faccia sviluppare per metterlo in servizio o immetterlo sul mercato; questi soggetti potrebbero, in buona fede o meno, semplicemente non riconoscere la presenza dei requisiti che lo rendono soggetto alle norme del Regolamento.
Inoltre il Regolamento prevede l’istituzione di spazi di sperimentazione (Art. 53), cioè di ambienti controllati che facilitino lo sviluppo, le prove e la convalida di sistemi di IA innovativi. Ora, se i potenziali fornitori si attengono a quanto concordato con le autorità costituenti, nessuna sanzione amministrativa è adottata nei loro confronti per eventuali violazioni del presente regolamento. Ma anche questo stesso Art. 53 è parte del presente Regolamento…
Alcune formulazioni, in particolare, lasciano francamente perplessi. Per esempio, la definizione stessa di sistema di intelligenza artificiale (Art. 3) come un sistema automatizzato progettato per operare con livelli di autonomia variabili e che, per obiettivi espliciti o impliciti, può generare output quali previsioni, raccomandazioni o decisioni che influenzano gli ambienti fisici o virtuali. Sembra essere stata omessa la possibilità che il sistema di IA agisca, operi, intervenga lui stesso, direttamente.
All’Articolo 9, dedicato al Sistema di gestione dei rischi, paragrafo 4, comma 1:
lettera a – […] l’eliminazione o la riduzione dei rischi individuati, per quanto tecnicamente fattibile […] In altri termini, se dopo aver individuato la presenza di un rischio, si accerta che tecnicamente non si è in grado di eliminarlo o ridurlo, il sistema di IA si può tenere così.
lettera b – ove opportuno, l’attuazione di adeguate misure di attenuazione e di controllo per far fronte ai rischi significativi che non possono essere eliminati. La locuzione “ove opportuno” è già di per sé abbastanza inquietante; comunque, attuando misure di attenuazione e di controllo (peraltro demandate agli interessati) si può tenere il sistema di IA in questione, nonostante i rischi che presenta.
Ancora, all’Articolo 10: I sistemi di IA ad alto rischio che utilizzano tecniche che prevedono l’uso di dati per l’addestramento di modelli sono sviluppati sulla base di set di dati di addestramento, convalida e prova che soddisfano i criteri di qualità [indicati] nella misura in cui ciò sia tecnicamente fattibile. Qui sembra proprio aprirsi un “liberi tutti”. Soddisfare dei criteri di qualità in genere non è una questione tecnica, ma economica, in termini di risorse e/o di tempo.
All’Articolo 14 dedicato alla Sorveglianza umana si prevede di poter interrompere il sistema mediante un pulsante di “arresto” o una procedura analoga, che consenta di arrestare il sistema in condizioni di sicurezza. Chissà perché, mi ricorda quei grossi funghi rossi delle seggiovie, molto meccanici e assai poco digitali, che ho sempre desiderato di premere furtivamente.
PS È proprio di questi giorni la notizia che, su sollecitazione del Presidente Biden, sette Corporations (Amazon, Google, Meta, Microsoft, OpenAI e due startup) si sono congiuntamente impegnate ad elevare e rispettare gli standard di sicurezza relativi alle nuove implementazioni di IA. Per il momento ci sono solo dei comunicati stampa – vedremo in seguito. Sembra che il mondo occidentale, USA e EU in primis, si stia dunque muovendo alacremente, su vari fronti; ma cosa faranno p.e. Cina, India, Russia, Giappone, Corea, Indonesia? Nonché Stati minori o gruppi, comunque in grado di acquisire da altri la tecnologia necessaria e poi utilizzarla per le proprie finalità, magari discutibili?
[1] I diritti fondamentali protetti dalla Carta sono: il diritto alla dignità umana, il rispetto della vita privata e della vita familiare, la protezione dei dati personali, la libertà di espressione e di informazione, la libertà di riunione e di associazione e la non discriminazione, il diritto all’istruzione, la protezione dei consumatori, i diritti dei lavoratori, i diritti delle persone con disabilità, l’uguaglianza di genere, i diritti di proprietà intellettuale, il diritto a un ricorso effettivo ad un giudice imparziale, i diritti della difesa e la presunzione di innocenza, il diritto a una buona amministrazione, la protezione dei minori, la tutela dell’ambiente.