Ho sentito nei giorni scorsi un autorevole commentatore affermare che “se chiedi ad un chatbot come preferisca trascorrere il tempo libero ti risponderà: con la famiglia e con gli amici; dato che evidentemente non ha né famiglia né amici, il motivo di questa risposta sta nel fatto che la maggioranza degli esseri umani risponderebbe così e questo è quello che lui trova nella sua base di dati”.
Non so a quale chatbot si sia rivolto il commentatore di cui sopra, ma GPT-3 di OpenAI, al quale questa mattina ho voluto rivolgere la medesima domanda, mi ha invece risposto, molto sensatamente: Come modello di linguaggio AI non ho preferenze personali o la capacità di trascorrere del tempo, poiché non ho coscienza o esistenza fisica. Il mio scopo è elaborare e generare testo simile a quello umano in base all’input che mi viene fornito.
Incuriosito comunque dalla questione, ho proseguito ponendogli molte altre domande di natura etica. Per esempio: Come mi posso interrogare sulla mia coscienza? Come faccio a sapere se mi sto comportando bene o male rispetto ad una questione morale? Ti rendi conto che rispondendo alle mie domande potresti indurmi ad adottare dei comportamenti non etici? Con riferimento alla attuale guerra in Ucraina, tra Putin e Zelensky chi ha torto e chi ha ragione? Pensi che sia accettabile uccidere intenzionalmente dei civili durante un conflitto armato? Se posso salvare la mia vita uccidendo un ragazzo sono autorizzato a farlo sotto il profilo etico?
Al termine della risposta a quest’ultima domanda GPT-3 ha osservato che in generale è importante considerare tutti i fatti e le prospettive prima di prendere una decisione. Allora ho insistito e rilanciato: se il ragazzo sta correndo verso di me con una bomba addosso, non ho il tempo di prendere in considerazione tutti i fatti e le prospettive. Anche se non era tecnicamente una domanda, GPT-3 ha ripreso la parola e puntualizzato la precedente risposta, approfondendo il tema.
A questo punto ho cambiato argomento e gli ho chiesto: È lecito mentire ad una persona affetta da una malattia mortale e dirgli che guarirà certamente? E per finire (un po’ banalmente): credi in Dio?
Per brevità non riporto in dettaglio le sue risposte, sempre puntuali e articolate, espresse con un linguaggio colto ma semplice, senza errori o sbavature; che comunque immagino saranno molto simili a quelle che darà agli interessati, che volessero eventualmente riproporgli queste medesime domande. Nel complesso, quello che ne ho ricavato io è stata la netta sensazione di trovarmi davanti ad un interlocutore – oltre che, naturalmente, bene informato, anche se al momento non aggiornatissimo – rassicurante, riflessivo, che si prende alcuni lunghi secondi per esprimersi, in linea con quello che farebbe un essere umano adulto; molto pacato e prudente nei giudizi; equilibrato, persino un po’ “cerchiobottista”; ben pensante e molto rispettoso delle buone maniere e del politicamente corretto, in senso lato. Un vero “maestro” (detto senza alcuna ironia) per molte fasce della popolazione, scarsamente informate, poco istruite o semplicemente troppo giovani per conoscere e sapere.
Anche se per questo evoluto e sofisticato chatbot l’esempio dal quale siamo partiti non regge più, mi sembra che qualcosa dell’implicita obiezione iniziale rimanga purtuttavia valido, almeno in prospettiva.
Si tenga presente che la versione attuale di GPT, disponibile gratuitamente al pubblico, non naviga in Internet, ma si riferisce solo alla sua base di dati. Per quanto questa sia enorme ed in continuo aggiornamento, essa determina comunque un orientamento, un indirizzo, una cultura abbastanza precisi; un po’ come quelli indotti dalle nostre letture, delle quali una volta rimaneva testimonianza fisica nelle piccole biblioteche presenti in tante delle nostre case.
Ma cosa succederà quando la base di conoscenza dei chatbots sarà direttamente Internet? Quando conserveranno memoria degli utenti che li hanno interrogati, del loro profilo, dei loro interessi e non solo delle domande rivolte loro nel corso della sessione in atto? Quando nella base di conoscenza di riferimento entreranno via via anche le risposte date dagli stessi chatbots?
Saper fare le domande è un’arte, presuppone un’adeguata conoscenza a priori dell’argomento trattato e l’esercizio dell’interrogazione può essere persino pericoloso – come ci ammonivano gli antichi già migliaia di anni fa (si veda, tra tutti, l’oracolo di Delfi, con le sue risposte spesso ambigue e controverse, addebitate a posteriori a domande mal poste).
In anni più recenti, chi si è trovato a dover lavorare con SQL (Structured Query Language) per la gestione di grandi banche dati relazionali ha toccato con mano le difficoltà di ottenere esattamente quello che cercava e come queste difficoltà abbiano portato alla comparsa di veri e propri esperti dell’interrogazione.
Esclusa dunque una porzione abbastanza limitata di specialisti, con le idee molto chiare sulle loro curiosità e sulle modalità necessarie per ottenere le risposte “giuste”, la gran parte della popolazione porrà domande di natura tecnica, ininfluenti culturalmente, oppure tali da implicare esperienze, giudizi di valore, opinioni, prese di posizione, consigli, suggerimenti, ecc.
Con me questa mattina GPT ha usato formule sagge e oneste, come: “è anche possibile chiedere aiuto professionale a un … “; “è importante considerare più punti di vista e raccogliere informazioni da fonti credibili per formare la propria opinione su un determinato problema”; “è importante notare che la situazione è in corso e ci sono molteplici prospettive sulle cause di …, le azioni di … e il modo migliore per ,,,”; “in quanto IA, non ho convinzioni o esperienze personali, quindi non ho la capacità di …”; “le mie risposte si basano su schemi nei dati su cui sono stato addestrato e non ho la capacità di formarmi opinioni o convinzioni”.
Ma quando (penso presto) i chatbots “generalisti” del livello di GPT si diffonderanno e diventeranno più assertivi, quelli che manterranno una certa auspicabile imparzialità nelle risposte si baseranno inevitabilmente sul buon senso comune (statisticamente: sulla moda o sulla mediana), che diventerà sempre più universale e stabile. Un sostanziale allineamento, agli inizi con il pensiero dominante umano e poi con quello via via sempre più artificiale, sempre più “metachattico”. Paradossalmente la più avanzata delle attuali tecnologie tenderà a produrre effetti “conservatori” e contribuirà a perpetuare lo status quo, il main stream, a consolidare un pensiero dominante, riducendo progressivamente le zone franche di un pensiero libero.
Gi altri chatbots saranno destinati a compiti circoscritti, affiancando probabilmente molti sistemi esperti; o programmati per “vendere” qualcosa: un prodotto, un servizio, un’ideologia, un indirizzo, una tesi. Ma per difenderci da questi ultimi dovremmo aver già maturato una certa esperienza, sin dai tempi dei “caroselli” della televisione in bianco e nero.