Nessuno si illuda: AI ha già superato da qualche anno l’intelligenza umana in diversi campi di applicazione, non banali.
Sono sempre stato un convinto sostenitore di una ricerca scientifica libera di svilupparsi in qualsiasi direzione, senza limiti di alcun tipo o “direttive” di alcun genere.
Ci sono però dei casi specifici, nei quali i progressi tecnologici e le applicazioni, derivanti dalla ricerca scientifica, possono obiettivamente esporre a dei rischi, in primo luogo per gli stessi addetti ai lavori; rischi che vanno quanto meno controllati e limitati, imponendo opportune norme di comportamento o standard di produzione per i materiali e le attrezzature impiegati.
Ricordo ancora l’impressione che mi facevano, da piccolo, le mani del nostro radiologo di famiglia, devastate da (quella che ora attribuisco ad) una eccessiva o troppo disinvolta esposizione diretta ai raggi X.
Se poi i rischi riguardano i destinatari di nuove tecnologie o applicazioni, la questione può diventare di natura etica e va naturalmente affrontata con non minore attenzione.
Ma ci sono anche delle situazioni nelle quali i rischi possono riguardare un gruppo molto vasto di persone o, addirittura, l’intera popolazione della terra.
Per quanto ne so, nella storia della scienza solo in due casi, fino ad oggi, gli stessi scienziati, preoccupati dei possibili sviluppi delle loro scoperte o delle relative conseguenze, hanno sentito il bisogno di dare l’allarme.
Il primo riguarda l’energia nucleare e la possibilità che essa determini dei disastri su vasta scala. Mi riferisco alla lettera che Albert Einstein inviò al Presidente Roosevelt nell’estate del 1939 per informarlo della potentissima arma che si stava per realizzare: una sola bomba avrebbe potuto distruggere un intero porto e gran parte del territorio circostante – o un’intera città di medie dimensioni, come poi si constatò in due drammatiche occasioni nell’Agosto del 1945.
Il secondo caso riguarda invece la genetica e il famoso congresso organizzato dal biochimico Paul Berg, tenutosi all’inizio del 1975 ad Asilomar, una località vicina a Monterey, ad un centinaio di chilometri da Stanford. Considerato lui stesso il padre del DNA ricombinante, era all’epoca estremamente preoccupato delle possibili conseguenze di una tecnica relativamente facile, praticabile persino da un biologo dilettante, per mescolare informazioni genetiche di differenti organismi. In poche ore si potevano compiere salti evolutivi di un milione di anni e la ricerca in quel campo procedeva a ritmi serrati, spazzando via barriere evolutive e genetiche senza alcuna reale preoccupazione per i problemi di sicurezza. Il congresso si concluse con l’approvazione all’unanimità di un documento, nel quale (senza peraltro il minimo accenno agli aspetti etici e morali della questione) si proponevano dei metodi di contenimento del rischio per diversi livelli di rischio biologico di vari organismi geneticamente modificati.
Si noti che mentre la lettera di Einstein aveva carattere informativo, era stata indirizzata ad un Capo di Stato e tenuta rigorosamente riservata, il congresso di Asilomar si prolungò per cinque giorni di accesi dibattiti e fu tenuto a porte aperte, alla presenza di biologi, ma anche di giuristi, giornalisti e scrittori. Si trattò del primo e, fino ad oggi, unico esempio di scienziati che allertavano se stessi sui rischi insiti nello sviluppo delle loro tecniche e cercavano in qualche modo di contenerli, limitando spontaneamente le loro attività più avanzate.
Ad Asilomar si è richiamato nelle settimane scorse pure l’appello lanciato da un significativo gruppo di personalità di alto profilo, tra le quali anche Elon Musk – ma il riferimento è agli AI Principles scaturiti dal Beneficial AI 2017 conference promosso dal FLI, che con il congresso organizzato da Berg nel 1975 ha in comune solo la location californiana e, solo in parte, il format.
Nella lettera aperta datata 22 marzo 2023, Musk e gli altri primi firmatari fanno delle affermazioni estremamente allarmanti, dato anche il loro alto grado di competenza e di coinvolgimento diretto e primario. Ne riporto solo alcune (la traduzione dall’inglese e il corsivo sono miei): negli ultimi mesi i laboratori di AI sono stati impegnati in una corsa fuori controllo per sviluppare e implementare menti digitali sempre più potenti, che nessuno, nemmeno i loro creatori, può capire, prevedere o controllare in modo affidabile; menti non umane che alla fine potrebbero sovrastarci per numero e per intelligenza, renderci obsoleti e sostituirci; [tali da farci] perdere il controllo della nostra civiltà; l’AI causerà [comunque] drammatiche perturbazioni economiche e politiche, soprattutto per la democrazia.
Sono osservazioni e prospettive, che in altri tempi si sarebbero dette “horror” o “fantascientifiche”, ma che sono invece realistiche e impellenti – io le condivido e non mi giungono affatto nuove.
Ma che cosa propongono per fronteggiarle efficacemente? In sintesi: i sistemi di AI dovrebbero essere sviluppati solo quando saremo certi che i loro effetti saranno positivi e i loro rischi saranno gestibili; gli attuali sistemi più potenti e all’avanguardia dovrebbero essere più accurati, sicuri, interpretabili, trasparenti, robusti, allineati, affidabili e fidati; prima di iniziare ad addestrare i sistemi futuri di AI dovremmo sottoporli ad una revisione indipendente e nelle applicazioni più avanzate dovremmo limitare la potenza di calcolo utilizzato per la creazione di nuovi modelli; a tal fine tutti i laboratori di AI sono invitati a sospendere immediatamente, per almeno sei mesi, l’addestramento di sistemi di AI più potenti di GPT-4; se tale sospensione non venisse attuata, i Governi dovrebbero intervenire e imporre una moratoria.
Come si vede, una serie di apprezzabili (quanto scontati e velleitari) suggerimenti al condizionale, per migliorare la sicurezza in tema di AI, rivolti alla buona volontà dei singoli centri e laboratori. Essendo in ballo interessi economico-finanziari e strategici giganteschi, oltre che l’ego ipertrofico di molti, questi suggerimenti sono destinati, ahimè, a rimanere inevitabilmente inascoltati; se non forse per la parte che riguarda la creazione di nuove Autorità di regolamentazione dell’AI, l’istituzione di un sistema di audit e di certificazione, l’introduzione di una responsabilità per danni da AI, la richiesta di maggiori finanziamenti pubblici, e cose del genere, che non sembrano avere l’incisività e la tempestività necessarie.
E’ di questi giorni la notizia, pubblicata su Le Monde Diplomatique, che la Cina conferma e rinnova il suo impegno del 2017 a diventare entro il 2030 leader mondiale nel settore dell’AI. I laboratori ed i centri cinesi che sviluppano sistemi avanzati di AI accoglieranno l’invito di Musk e dei suoi colleghi? Xi Jinping sarà pronto a decretare una moratoria e ad uniformarsi alle disposizioni delle ipotizzate Autorità regolatorie? Se la Cina svilupperà il primo sistema di AGI (e posto che sia poi in grado di controllarlo), sarà “allineato” con i valori occidentali?
Concludo suggerendo una lettura illuminante sulla reale dimensione dei rischi ai quali stiamo andando incontro già oggi e, di conseguenza, sulla sostanziale irrilevanza delle proposte contenute nell’appello che abbiamo esaminato sopra. Si tratta dell’articolo datato 13 Aprile 2023 di Ian Hogarth intitolato “We must slow down the race to God-like AI”, pubblicato sul Magazine del Financial Times.