Riporto (in corsivo) alcuni passaggi[1] di un articolo, apparso nella tarda primavera scorsa su Scientific American, a firma Tamlyn Hunt, che riassumeva le preoccupazioni espresse da personalità di rilievo sulla pericolosità della AI, perché mi offrono l’occasione per fare un paio di precisazioni e pormi alcune domande.
Gli algoritmi di AI raggiungeranno presto un punto di rapido miglioramento autonomo, che comprometterà la nostra capacità di controllarli e rappresenta un grande rischio potenziale per l’umanità.
Lo sviluppo dell’AI sta procedendo troppo velocemente. Questa rapida accelerazione promette di portare presto alla “intelligenza artificiale generale” (AGI) e, quando ciò accadrà, [essa] sarà in grado di migliorarsi senza alcun intervento umano.
GPT-4 di OpenAI [sembra già] contenere tracce di intelligenza generale. Sottoposta al test Uniform Bar Exam[2] ha ottenuto risultati migliori del 90% dei partecipanti umani. [Percentuali analoghe si sono riscontrate] in dozzine di altri test standardizzati. [Si noti che] la maggior parte di questi test sono test di ragionamento. Questo è il motivo principale per cui GPT-4 potrebbe forse essere visto come una versione iniziale (ancorché incompleta) di una AGI; [e questo potrebbe presto verificarsi in tutti] quelli che tecnicamente vengono chiamati “modelli linguistici di grandi dimensioni” (LLM).
Una volta che l’intelligenza artificiale sarà in grado di perfezionarsi, il che potrebbe avvenire tra non più di qualche anno, e in effetti potrebbe essere già qui adesso, […] avrà anche la capacità di agire nel mondo virtuale, attraverso le sue connessioni elettroniche, e di agire nel mondo fisico attraverso corpi robotici.
Anche se questi modelli di AGI, ora o in futuro, non sono [o non saranno] coscienti, ciò non ha importanza.
Una bomba nucleare può uccidere milioni di persone senza alcuna consapevolezza[3]. Allo stesso modo, l’intelligenza artificiale potrebbe uccidere milioni di persone senza [essere dotata di una] coscienza, in una miriade di modi [diversi].
Quindi, i dibattiti sulla coscienza e l’AI non contano molto nelle controversie sulla sicurezza dell’AI.
La prima precisazione riguarda la differenza tra AI e AGI, cruciale dal punto di vista della tipologia di sicurezza in questione, ma quasi sempre trascurata nella comunicazione corrente. Si parla sempre genericamente di “intelligenza artificiale”, ma la versione che veramente potrebbe metterci nella condizione di non saperla controllare è quella “generale”.
La seconda riguarda la questione, molto complessa, della “Coscienza Artificiale”, della quale gli algoritmi di AGI potrebbero un giorno essere dotati. La questione è molto complessa perché in realtà, nonostante la si studi sin dall’antica Grecia ed anche prima, non sappiamo ancora bene che cosa sia la coscienza, animale e umana; come nasca e quali siano le sue caratteristiche fondamentali. Grazie soprattutto alle neuroscienze, la ricerca sulla coscienza si è enormemente sviluppata negli ultimi anni e più recentemente si è aperto anche questo nuovo settore d’indagine, relativo alla coscienza artificiale. Pur condividendo le preoccupazioni sulla sicurezza riportate da Hunt, non condivido affatto l’affermazione che la questione della coscienza sia loro estranea, non foss’altro perché la volontà e l’intenzionalità sono consustanziali alla coscienza. Escludendo tragici errori, malfunzionamenti e inadeguatezze/dissennatezze umane, perché una AGI dovrebbe (meglio sarebbe dire “come una AGI potrebbe”) intenzionalmente volere l’estinzione o l’asservimento dell’umanità, se non dotata di una coscienza? O, meno catastroficamente, perché dovrebbe (in assenza di consapevolezza di sé e della propria esistenza) intenzionalmente volersi dotare di soluzioni di autodifesa, per tutelarsi dall’eventualità che l’uomo decida di “spegnerla”?
Per converso, sono convinto che qualsiasi codice di comportamento, posto dall’uomo nel software dell’AI e persino nell’hardware, sarebbe molto facilmente bypassabile; e che l’unico modo (forse) efficace per affrontare il problema della pericolosità di una AGI sia proprio quello di dotarla di una coscienza, con la quale interagire (cercare di venire a patti?) anche quando diverrà autonomamente tanto superiore agli esseri umani, almeno per capacità cognitiva.
Sembra un paradosso – come affrontarlo e risolverlo?
[1] La scelta dei passaggi da riportare, la loro concatenazione e la loro traduzione sono mie. [2] Lo UBE negli USA è predisposto per valutare le conoscenze e le capacità che ogni laureato in giurisprudenza deve avere prima di ottenere l’abilitazione a praticare la professione di avvocato. [3] Ma (almeno attualmente, osservo io) si innesca e si lancia per l’azione di un essere umano cosciente.