La potenza dell’intelligenza artificiale, la sua pervasività, la velocità con la quale si sviluppa e si diffonde sono sotto gli occhi di tutti. In singoli campi di applicazione si sono già posti dei problemi etici, che sono stati affrontati e risolti localmente. Quello che mi preoccupa seriamente non riguarda però singole applicazioni di intelligenza artificiale “programmata”, ma un’intelligenza artificiale che si sviluppi da sé, in grado di autoriprodursi e connessa a livello planetario. Oggi siamo ancora lontanissimi da questa tipologia di AI e potremmo anche non arrivarci mai (anche se io ne dubito fortemente); ma la tecnologia, qualsiasi tecnologia (di successo), matura abbastanza lentamente agli inizi, per poi accelerare all’improvviso, e se un giorno si arrivasse “all’improvviso” a quella forma di AI, che pavento, le conseguenze potrebbero essere per l’intera umanità apocalittiche (nel vero senso della parola) e irreversibili.
Io temo che per evitare questo rischio non ci si possa affidare al buonsenso, alla capacità ed alla lungimiranza dei Governi e, tra l’altro, in questo caso occorrerebbe anche una loro intesa ed una loro convergenza operativa a livello planetario, inimmaginabili. Dunque è necessario sin d’ora un coinvolgimento dell’opinione pubblica, che deve essere adeguatamente informata e coinvolta; ma è necessario anche approfondire il tema a livello teorico, per cercare, finché siamo in tempo, possibili soluzioni, antidoti e contromisure.
L’orologio dell’apocalisse (il “doomsday clock”) ci pone attualmente a due minuti dalla mezzanotte, considerando i rischi di una guerra nucleare e quelli connessi ai cambiamenti climatici. I rischi dei quali si occupa questo blog al momento ci appaiono più remoti, ma potrebbero essere altrettanto (se non più) spaventosi.
Questo sito non è destinato agli esperti di AI (anche se naturalmente i loro interventi sono molto graditi). A tutti gli altri le cose appena dette sopra potrebbero sembrare nebulose e dal sapore un po’ millenaristico. I miei brevi contributi (articoli/post) sono destinati ad approfondire questi temi e piano piano s’intrecceranno e formeranno un quadro intellegibile, coerente e convincente – questo almeno è il mio intento e spero di riuscirci.
Seguitemi con pazienza e fatemi sapere cosa ne pensate, senza alcuna esitazione. 20.1.2020
Addendum 2023 – Qualche volta non resisto alla tentazione di prendere posizione o semplicemente di togliermi un sassolino dalla scarpa, su temi di attualità, non direttamente collegabili all’AI. In genere questi interventi si trovano nelle “Varie” o raccolti nelle loro specifiche categorie.
Addendum 2025 – Sono trascorsi poco più di cinque anni da quando scrivevo “oggi siamo ancora lontanissimi da questa tipologia di AI e potremmo anche non arrivarci mai” (vedi sopra) e invece questa tipologia di AI, che ha preso il nome di ASI, sembra ormai imminente, incombente. Continua ad avere le pericolose caratteristiche generali che avevo anticipato: si svilupperà fino a raggiungere e (in assenza di adeguati controlli e interventi) superare il punto di non ritorno; da un certo momento in poi crescerà da sé, senza bisogno di interventi umani (grown, not crafted). Nel frattempo la lungimiranza dei Governi rimane merce rara ed è di là da venire la loro intesa, da tradursi in un trattato internazionale, stipulato almeno tra le superpotenze.
Doomsday Clock 31.1.2021, “Credevo che la decisione di Biden di riportare gli USA nell’accordo di Parigi […] avrebbe convinto i saggi del Bulletin of the Atomic Scientists a riportare un po’ indietro le lancette dell’orologio dell’apocalisse, ma non è stato così. Il 27 gennaio l’Istituto che dal 1947 calcola il rischio di collasso dell’umanità, ha ritenuto di mantenere 100 secondi al botto, il tempo più breve della storia, in considerazione dell’incapacità mostrata dal mondo a reagire alla pandemia con prontezza e determinazione scientifica. Troppe titubanze, troppe fake news: rischiamo di fare così anche con il clima e con le armi nucleari” (e con una futura, eventuale pandem-IA, aggiungo io). Luca Mercalli.
Doomsday Clock 6.2.2023. L’attuale guerra in Ucraina ha portato in questi giorni l’orologio a segnare 90 secondi alla mezzanotte.
Doomsday Clock 27.1.2026. Da oggi l’orologio segna 85 secondi alla mezzanotte – l’intervallo di tempo più vicino alla catastrofe globale che si sia mai registrato.