Nell’ultimo anno si sono moltiplicati gli incontri, le iniziative e le dichiarazioni volti a denunciare i pericoli dell’AI e a suggerire come prevenirli, indicando principi da seguire, precauzioni da adottare, autorità di regolazione da creare.
Ricordo, uno per tutti, il prestigioso AI Safety Summit 2023, svoltosi nei giorni 1 e 2 novembre a Bletchley Park e promosso dal primo ministro Rishi Sunak, al quale ha partecipato anche l’Italia.
Tutto questo fermento porterà sicuramente i suoi frutti, sia in termini di messa a fuoco della questione, che di coinvolgimento dell’opinione pubblica; la quale, in poco tempo, sembra aver preso coscienza dei prezzi da pagare, forse anche salati, a fronte dei vantaggi di uno sviluppo impetuoso e tumultuoso dell’AI.
Ci sono tuttavia ancora degli aspetti che, secondo me, non vengono evidenziati a sufficienza.
Uno è relativo alla velocità impressionante con la quale l’AI si sta sviluppando in tutte le direzioni, a fronte delle attività appena ricordate, che invece seguono i consueti modi e ritmi istituzionali.
Come dicevo nel post EU AI ACT del 5.8.2023, “Nell’aprile del 2021 la Commissione Europea ha presentato una proposta di quadro normativo sull’IA, dando avvio ad un lungo procedimento legislativo, che dovrebbe concludersi entro il 2023”. In effetti, l’8 dicembre u.s., dopo 3 giorni d’intense trattative, il Consiglio e il Parlamento hanno raggiunto un accordo sul regolamento (emendato), proposto dalla Commissione, ma si è trattato di un accordo provvisorio. Nelle prossime settimane i tecnici metteranno a punto questa bozza, che verrà poi sottoposta nuovamente all’attenzione del Consiglio e del Parlamento e, da ultimo, se approvata, perfezionata sotto il profilo linguistico-giuridico.
Comunque sia, al termine dell’iter legislativo, è previsto che la versione definitiva dell’AI Act trovi applicazione 24 mesi dopo la sua pubblicazione, cioè, allo stato attuale, non prima degli inizi del 2026; ed ulteriori dilazioni saranno probabilmente concesse a fornitori e operatori di particolari sistemi di AI per conformarsi alle nuove disposizioni[1]. Qualcuno ha una (sia pur vaga) idea di dove saremo arrivati con l’AI fra un lustro?
Il secondo aspetto riguarda l’ente al quale riferirsi nel malaugurato caso di trovarsi un giorno a dover improvvisamente neutralizzare un’AGI ostile; ente dotato dei necessari poteri d’intervento e d’interdizione, effettivi e unanimemente riconosciuti, nonché dei mezzi per imporli senza indugio.
Anche l’ONU (e non poteva essere diversamente) si è da poco attivato in tema di AI, istituendo un AI Advisory Body, formato da 39 esperti di varia provenienza, che si è ufficialmente insediato il 27 Ottobre 2023. Il primo rapporto introduttivo di questo comitato consultivo, intitolato “Governing AI for Humanity”, è stato pubblicato nel dicembre scorso e sarà seguito da quello finale nell’Agosto del 2024. Breve (circa 25 pagine), ma denso, il documento si articola in 83 “tesi”, per più di un terzo dedicate all’enunciazione di 5 principi ai quali dovrebbe ispirarsi un nuovo ente di governance internazionale dell’AI e di 7 funzioni d’indirizzo che tale ente dovrebbe svolgere. Ed è proprio l’attenzione dedicata alla governance dell’AI l’aspetto più innovativo di questa iniziativa, dato che (come detto sopra e come recita il punto 39 del rapporto) in giro c’è già abbondanza di guide, quadri di riferimento e principi[2]. Inoltre, per la prima volta, si trovano, sparsi qua e là, alcuni cenni sulla possibile perdita di controllo di un’applicazione evoluta di AI e dei relativi rischi, anche di sopravvivenza. Ad esempio, si legge che “C’è anche preoccupazione per l’AI incontrollabile o incontenibile, inclusa la possibilità che possa rappresentare una minaccia esistenziale per l’umanità (anche se si discute se e come valutare tali minacce)”[3].
Lascia però perplessi il suggerimento d’ispirarsi ad agenzie come l’IAEA e il WHO, se si pensa alle note vicende legate alla centrale nucleare di Zaporizhzhia in Ucraina e alla comparsa di Sars-Cov-2 a Wuhan in Cina.
Infatti, l’ente dovrebbe essere veramente dotato, sulla base di un trattato internazionale, dei più ampi poteri d’intervento e d’interdizione, effettivi e riconosciuti internazionalmente, dei quali non può godere un organo tecnico, per quanto prestigioso. Purtroppo la reattività e l’efficacia attuali del principale organo “politico” dell’Organizzazione delle Nazioni Unite, il Consiglio di Sicurezza (sulle quali ci siamo recentemente soffermati[4]), non lasciano ben sperare.
L’ultimo, e forse più rilevante, aspetto si riferisce agli impieghi militari dell’AI. Dopo un lungo periodo iniziale, nel quale a sostenere gli sviluppi dell’AI sono stati soprattutto gli interessi commerciali, ora le principali potenze mondiali hanno colto appieno l’importanza strategica dell’AI, di deterrenza in tempo di pace e di prevalenza in tempo di guerra, ed hanno moltiplicato gli investimenti e i progetti in questo campo, coprendoli, per ovvi motivi, della massima segretezza. Nessuno sa veramente cosa stia “bollendo in pentola”, nemmeno USA e Cina, reciprocamente; con la conseguenza che aumenta la diffidenza reciproca e, con essa, l’incertezza; ma anche che si azzera il (pur già limitato) controllo dell’opinione pubblica.
Si noti, concludendo, che l’EU AI ACT, la normativa attualmente più estesa e articolata, esclude esplicitamente dal suo campo di applicazione tutti gli sviluppi militari[5] dell’AI.
[1] Ad esempio, in mancanza del testo appena approvato, si veda: Proposta di regolamento, Articolo 83, paragrafo 1, comma 1, emendamento 686, 14.6.2023: Gli operatori di sistemi di IA […] adottano le misure necessarie per conformarsi ai requisiti stabiliti dal presente regolamento entro 4 anni dopo la data di entrata in vigore del presente regolamento. [2] 39. There is, today, no shortage of guides, frameworks, and principles on AI governance. [3] 29. There is also concern about uncontrollable or uncontainable AI, including the possibility that it could pose an existential threat to humanity (even if there are debates over whether and how to assess such threats). [4] Avanti, molto adagio, pubblicato il 27.12.2023 [5] Art. 2.3 Il presente regolamento non si applica ai sistemi di AI sviluppati o usati per scopi esclusivamente militari.