Yann LeCun è un ricercatore noto e accreditato nel campo dell’AI. Ha proposto, tra l’altro, e sta sviluppando un interessante modello di AI (sul quale ritorneremo) totalmente diverso da quelli, affermatisi ovunque negli ultimi anni, basati in vario modo sull’apprendimento (machine learning). Mi sembra giusto, perciò, riportare alcune sue rassicuranti affermazioni sui rischi di sopravvivenza, contenute in una recente intervista rilasciata a La Repubblica (v. bibliositografia).
“Penso che molte persone abbiano un modo relativamente semplicistico di pensare alle conseguenze dell’AI. Credo che, in parte, proiettino la natura umana sull’intelligenza dei sistemi artificiali. Assumono che se un sistema è intelligente, avrà le stesse caratteristiche dell’intelligenza umana e forse avrà il desiderio di dominare, allo stesso modo in cui gli esseri umani hanno il desiderio di dominare gli altri in alcuni casi“.
“[Ma io] non penso che il desiderio di dominare sia collegato all’intelligenza. In realtà, anche all’interno dell’umanità, le persone che desiderano diventare leader non sono necessariamente le più intelligenti tra noi. E ciò non è vero per ogni specie. Ci sono specie molto intelligenti come gli oranghi che non sono sociali e non hanno il desiderio di dominare nulla perché non sono specie sociali. Noi abbiamo il desiderio di dominare come esseri umani, così come i babbuini e gli scimpanzé, perché siamo una specie sociale con un’organizzazione gerarchica. Ma non è una caratteristica dell’intelligenza, è una caratteristica di come la natura ci ha evoluti, fondamentalmente“.
L’umanità teme che l’AI possa in futuro assumere improvvisamente il controllo. [Per me si tratta di un mito,] “il mito della presa di controllo improvvisa, [secondo il quale] nel momento in cui accendiamo un sistema di superintelligenza, se commettiamo anche il più piccolo errore nel suo design e lo lasciamo sfuggire o [ne] perdiamo il controllo, esso scapperà o prenderà immediatamente il controllo e diventerà ancora più intelligente perché potrà perfezionarsi all’infinito, quindi conquisterà il mondo e distruggerà l’umanità. Questo scenario è ridicolo. Non funziona così nel mondo reale. Non svilupperemo un sistema di superintelligenza, scopriremo in qualche modo il segreto di una superintelligenza e quindi progetteremo un gigantesco sistema e lo attiveremo. Non funzionerà in questo modo“.
“Andrà che progetteremo architetture di sistemi che potrebbero condurci a un’intelligenza di livello umano, ma prima faremo sistemi relativamente piccoli, che potrebbero avere l’intelligenza di un ratto o qualcosa del genere. Progressivamente li renderemo più intelligenti e li perfezioneremo affinché si comportino correttamente. Saranno sicuri e si comporteranno in modi che non siano pericolosi per gli esseri umani o per l’umanità. Li renderemo progressivamente più intelligenti e li perfezioneremo progressivamente. Quindi non sfuggiranno al nostro controllo, non avranno il desiderio di dominare. Li progetteremo in modo che siano sottomessi agli esseri umani”
Su questo tema, il rischio di sopravvivenza, mi piacerebbe poter condividere l’ottimismo di LeCun. Condivido invece (anche se con motivazioni diverse) il suo scetticismo (espresso nella medesima intervista) sull’utilità di regolamentazioni come quella approvata recentemente in sede EU (della quale parleremo nel prossimo post). “Credo che la regolamentazione dell’AI abbia senso a livello di [singola] applicazione. Ha senso avere leggi che regolamentino l’uso del riconoscimento facciale in contesti pubblici, ad esempio, perché sarebbe una violazione della privacy. Sostengo sicuramente la regolamentazione che richiede certificazioni per i sistemi che guidano autonomamente le automobili o che aiutano nelle procedure mediche. Tuttavia, una regolamentazione generale che limita l’uso e le applicazioni dell’AI potrebbe frenare l’innovazione e limitare il progresso nella ricerca e nello sviluppo dell’AI.”