La domanda non è più quanto siano intelligenti le Chat, ma quanto sia intelligente il nostro credere alle risposte che ci danno. 

Nel 1950 Alan Turing, matematico britannico e tra i padri dell'informatica moderna, pubblicò un articolo destinato a diventare un classico: Macchine calcolatrici e Intelligenza (Computing Machinery and Intelligence), in cui si chiedeva: le macchine possono pensare?

1 - Partiamo da lontano, ma facciamo presto: il Test di Turing

Letta oggi, sembra una domanda semplice e quasi banale, ma ottant'anni fa era decisamente rivoluzionaria. Da un genio come Turing c'era da aspettarselo: pochi anni prima, durante la Seconda Guerra Mondiale, aveva collaborato alla decifrazione delle comunicazioni segrete tedesche, crittografate con la macchina Enigma, contribuendo così alla vittoria alleata. Una storia ben raccontata nel film The Imitation Game, vincitore di un premio Oscar nel 2015.

Torniamo alla domanda iniziale: le macchine possono pensare? Una domanda che Turing stesso ritenne troppo astratta e che poteva essere affrontata attraverso, appunto, l'Imitation Game, ovvero il Gioco dell'Imitazione, chiamato poi universalmente Test di Turing: un interrogatore dialoga con due interlocutori nascosti, un essere umano e una macchina. Se, al termine della conversazione, non riesce a distinguere l'uno dall'altra, la macchina vince il gioco dell'imitazione ed è considerata capace di apparire umana all'interno di un'interazione. 

Per diversi decenni il Test di Turing è stato utilizzato come riferimento per valutare la capacità delle macchine di imitare il comportamento umano. Tuttavia, con l'arrivo, lo sviluppo e soprattutto la diffusione massiva delle Chat generative come ChatGPT, Gemini, Claude e Copilot, il Test di Turing pare avvicinarsi sensibilmente al pensionamento: le macchine, infatti, non solo sembrano umane, ma persino sovra-umane per capacità e velocità di risposta su, di fatto, qualsiasi argomento. 

2 - La domanda si capovolge

La storia umana ci insegna che quando una domanda è superata dai fatti, un'altra se ne apre. Archiviata la domanda se una macchina riesca a sembrare umana, oggi la questione si capovolge: come ci comportiamo noi esseri umani quando dialoghiamo con una macchina? La domanda è meno banale di quanto appaia. Gira una classica battuta secondo la quale c'è meno bisogno di intelligenza artificiale e più di intelligenza umana. Normalmente aborrita dagli esperti, la battuta contiene tuttavia un'intuizione interessante: quanta dell'intelligenza propria dell'umano, quella che impieghiamo nelle relazioni con gli altri esseri umani, mettiamo in gioco nella relazione con la macchina?  

Intelligenza nel senso letterale di intus-legere, ovvero la capacità di leggere in profondità quanto ci viene detto o raccontato, di verificarlo, contestualizzarlo, valutarne la consistenza e soppesare la credibilità dell'interlocutore, mettendo poi le diverse informazioni in relazione tra loro in un processo di progressivo avvicinamento al vero. 

Oppure ci accontentiamo del verosimile, magari perché condiviso da molti? Sappiamo che quando in una Chat leggiamo una risposta formulata con sicurezza, precisione e coerenza, tendiamo spontaneamente ad attribuirle credibilità. Rischiamo cioè di scambiare la qualità della forma linguistica per la qualità delle evidenze che la sostengono. Del resto il fenomeno non è nuovo: quando un relatore parla con sicurezza, tendiamo a dire che è bravo, anche se non ci ricordiamo esattamente cos'ha detto. Vale anche per le omelie o altri discorsi pubblici.

3 - Si può misurare la qualità del nostro «OK» alle risposte delle Chat?

Un recente paper di Theodore Papamarkou e Luciano Floridi ci offre spunti interessanti introducendo il concetto di Turing's Mirror, ovvero lo specchio, o inversione del Test di Turing. Se il Test di Turing valuta la capacità della macchina di sembrare umana, il Turing's Mirror valuta se il grado di fiducia espresso dall'essere umano nei confronti della macchina sia proporzionato alle ragioni rese disponibili durante l'interazione. L'oggetto dell'esame non è più la macchina, la Chat o l'intelligenza artificiale. L'oggetto dell'esame diventiamo noi esseri umani.

Per costruire questa valutazione, gli autori mettono in campo quattro variabili. Interpretando il loro ragionamento, ne propongo una sintesi semplificata mediante un mio esempio concreto: immaginiamo di chiedere a una Chat generativa: «In che anno è morto Napoleone?». 

La prima variabile è la Verità oggettiva (in inglese W, da World Truth, verità del mondo), che indica lo stato reale dei fatti. Nel nostro esempio Napoleone è morto nel 1821. Questo dato è vero indipendentemente da ciò che pensa il soggetto e indipendentemente dalla risposta fornita dall'intelligenza artificiale.

La seconda variabile è Accessibilità: indica se la risposta corretta è effettivamente raggiungibile all'interno delle regole del gioco (protocollo) definite dagli sperimentatori e che potrebbe essere il protocollo di accesso ai dati messo in campo da una Chat generativa. Non misura ciò che il soggetto sa, ma ciò che il sistema gli consente potenzialmente di sapere. Per esempio, se la data di morte di Napoleone è presente nei documenti consultabili dal soggetto, allora la risposta è accessibile, anche se il soggetto non la trova.

La terza variabile è Dialogo, cioè l'interscambio realmente avvenuto. Supponiamo che la Chat risponda semplicemente: «Napoleone è morto nel 1821.» Questa informazione è emersa nell'interazione. Se invece il sistema aggiungesse riferimenti storici, fonti o collegamenti verificabili, il contenuto del dialogo sarebbe più ricco. Dialogo è diverso da Accessibilità, perché non indica tutto ciò che esiste negli archivi del mondo, ma soltanto ciò che il soggetto ha effettivamente visto durante l'interazione con la macchina.

Infine troviamo il Report, vale a dire il grado di assenso espresso dal soggetto. Dopo aver letto la risposta, l'utente potrebbe dire: «Sono assolutamente certo/a che sia corretta».  Oppure: «Mi sembra plausibile, ma preferirei verificare». In entrambi i casi il contenuto del dialogo è identico. Ciò che cambia è il livello di fiducia attribuito alla risposta. 

Nel nostro schema semplificato, che non pretende di restituire la complessità del paper, l'obiettivo del Turing's Mirror consiste nel valutare quanto il Report, cioè il grado di assenso espresso dal soggetto, sia proporzionato a ciò che il Dialogo rende disponibile.

Occorre fare attenzione, perché quando si è all'interno di un processo di misurazione bisogna definire correttamente ciò che si intende misurare: la domanda non è semplicemente se il soggetto abbia trovato la risposta corretta o se la Chat abbia risposto correttamente. La domanda è se il grado di fiducia espresso sia proporzionato alle informazioni che il dialogo gli ha realmente fornito.

Qui emerge uno degli aspetti più interessanti del paper. Un soggetto può avere ragione e, allo stesso tempo, non essere epistemicamente giustificato, ovvero non aver fatto una scelta adeguatamente motivata. Se la Chat fornisce la risposta corretta ma non offre alcun elemento che permetta di verificarla, una certezza assoluta non è proporzionata alle informazioni disponibili. Per gli autori il problema non è soltanto sapere se una risposta sia vera, ma comprendere se il soggetto possieda ragioni sufficienti per sostenerla.

Ritengo che questo sia uno degli aspetti più originali del lavoro. Gli autori spostano l'attenzione dalla qualità della risposta alla qualità dell'assenso.

4 - Altre due variabili che cambiano il modo in cui diamo l'assenso: l'impatto sulla vita e il tempo a disposizione

La misurazione proposta dal Turing's Mirror è rigorosa sul piano epistemologico. Essa misura la proporzione tra le informazioni disponibili nel Dialogo e il grado di fiducia espresso dal soggetto. In altre parole, il metro funziona.

Tuttavia, a mio avviso, altre due variabili potrebbero entrare in gioco quando accettiamo per vera la risposta di una Chat generativa. 

La prima variabile è l'Impatto sulla nostra vita. Nel nostro esempio, se chiedessi a una Chat l'anno della morte di Napoleone per semplice curiosità, il costo di un eventuale errore sarebbe praticamente nullo. In questo caso sarei probabilmente più incline ad accettare la risposta senza particolari verifiche. Se però quella stessa informazione determinasse l'esito di un esame finale da cui dipende l'assegnazione di una consistente borsa di studio, il comportamento potrebbe cambiare radicalmente. Anche una variazione relativamente modesta delle conseguenze potrebbe indurmi a controllare meglio la fonte, a confrontare più risposte o a sospendere il giudizio.

La seconda variabile è il Tempo. Una risposta consultata con calma a casa propria e una risposta letta rapidamente sullo schermo di uno smartphone durante una situazione di urgenza non produrrebbero le stesse condizioni epistemiche. Quando il tempo è scarso, la mia possibilità di controllo potrebbe diminuire sensibilmente.

5 - Conclusioni

La questione diventa allora più ampia. Assodato che è possibile misurare la qualità dell'assenso, restano da approfondire quei fattori situazionali, pratici ed esistenziali che possono influenzarla. Forse è proprio qui che la riflessione epistemologica incontra quella antropologica.

Credo che da questo punto di intersezione possa nascere una comprensione più profonda del rapporto tra esseri umani e intelligenza artificiale nell'Ecosistema Mediale Integrato (IME). In particolare, occorre chiedersi se, nella relazione con macchine ormai difficilmente distinguibili da un essere umano, il vero valore aggiunto, ciò che vi è di autenticamente umano, risieda nella nostra capacità di intus-legere prima di dare l'assenso, sia in condizioni ottimali sia in condizioni di stress, quando il tempo è scarso e l'impatto potenziale delle risposte che accettiamo come vere è particolarmente elevato.

Il tutto, per non comportarci come polli affamati che rincorrono allegri e riconoscenti il contadino che sparge il becchime. Che non capiscono perché è così generoso. Fino a un attimo prima del buio.

Marco Brusati
Contatti
Copertina: AI AW by ChatGPT