Anche quest’anno, al congresso dell’IASEAI che si sta svolgendo in questi giorni a Parigi, Geoffrey Hinton (si veda il post dell’anno scorso intitolato Oh, oh!) ha detto, nel corso di un breve intervento, un paio di cose, sui rischi per l’umanità che una SuperAI possa prendere il controllo, che mi hanno fatto riflettere.
Ci sono sostanzialmente tre modi per evitare di esporsi a questi rischi: quello a) proposto da Stuart Russell, quello b) indicato da Yoshua Bengio e quello c) suggerito dallo stesso Hinton. a) Finché siamo nelle condizioni di poterlo fare (il tempo ormai stringe) dotiamo le applicazioni di AI di meccanismi che la rendano sicura in modo comprovato. b) Evitiamo di mettere l’AI nelle condizioni di fare autonomamente alcunché e limitiamoci ad utilizzarla per fare previsioni complesse, suggerire soluzioni innovative, sintetizzare enormi volumi di dati e informazioni, e cose del genere. c) Convinciamo i governi ad obbligare le aziende a essere più interessate alla sicurezza e a effettuare più test di sicurezza, dichiarandone pubblicamente i risultati.
La soluzione proposta da Russell non è tecnicamente praticabile. Attualmente i modelli di AI più avanzati si basano su grandi reti neurali e per il prossimo futuro non si prospettano soluzioni alternative; in queste condizioni non è possibile capire cosa stia veramente facendo l’AI.
Però (osserva Hinton), quando prendiamo un taxi non ci preoccupiamo di capire come funzioni la mente del tassista o di acquisire garanzie sul suo comportamento. La Statistica ci dice che si tratta di un mezzo di trasporto sicuro e la Psicologia ci dice che il guidatore non ha motivo di guidare così male da ucciderci, eliminando nel contempo anche se stesso. Dunque, il meglio che possiamo fare nei confronti dell’AI è dotarci di garanzie di sicurezza di tipo statistico.
I risultati conseguiti da Hinton e la sua lunga attività professionale nel campo dell’AI meritano la massima considerazione, ma in questo caso specifico non condivido il suo punto di vista e sono portato, rebus sic stantibus, a sposare piuttosto la tesi radicale di Bengio, che comunque soffre della difficoltà di trovare l’unanimità dei consensi e delle azioni.
Convincere i governi ad obbligare le aziende a essere più interessate alla sicurezza e a effettuare più test di sicurezza, dichiarandone pubblicamente i risultati, per poter stilare delle statistiche, è un obiettivo irrealistico, per vari motivi. Intanto perché sono escluse tutte le applicazioni militari, obiettivamente tra le più pericolose, come p.e. disposto dall’EU AI Act. Poi perché gli interessi in ballo, economici e politici, sono enormi e non possiamo più contare sulle grandi organizzazioni internazionali, la cui presa è venuta meno con il venir meno del multilateralismo.
Ultimo, ma non in ordine d’importanza, il rischio (com’è noto) non è dato solo dalla probabilità del verificarsi di un evento, ma dalla composizione di questa probabilità con l’entità dei danni che il verificarsi di quell’evento potrebbe causare. Ora, se scegliamo un taxi ufficiale, dotato di regolare licenza; se indossiamo le cinture di sicurezza; se, magari, ci raccomandiamo di non superare i limiti di velocità, la probabilità di essere coinvolti in un incidente stradale e di subire dei danni fisici è abbastanza limitata. Comunque, nella peggiore delle ipotesi, i danni potranno riguardare il conducente, noi e pochi altri soggetti esterni (pedoni, ciclisti, ecc.). Viceversa, sia pure con una probabilità limitatissima, le conseguenze di un evento catastrofico dovuto all’AI potrebbero, almeno teoricamente, arrivare fino all’estinzione stessa dell’umanità o allo stravolgimento della sua natura e della sua essenza.
Posto che la soluzione basata sulle grandi reti neurali c’impedisce (come ricordato sopra) il controllo diretto dell’AI, io personalmente mi sto arrovellando da cinque anni, senza successo, per individuare strumenti esogeni alla rete, che possano inibire efficacemente comportamenti dell’AI non etici o comunque dannosi per gli esseri umani. Tra l’altro, prima di trovare il modo di garantire il c.d. alignment (allineamento con i valori, gli obiettivi e le intenzioni dell’umanità), bisognerebbe fare chiarezza e trovare un unanime consenso su alcuni punti preliminari. Su questi aspetti ci soffermeremo in un prossimo post.