Ma i chatbot hanno un inconscio? Sul futuro dell’AI

Gli androidi sognano pecore elettriche? Se lo chiedeva già Philip K. Dick in un romanzo troppo poco letto rispetto al film – peraltro bellissimo – che ne trasse Ridley Scott, Blade runner. Ho ripensato più volte a Dick, leggendo un recente articolo di Nature che riassume in anteprima i risultati di uno studio che ha sottoposto quattro dei più diffusi chatbot (Gemini, ChatGPT, Claude e Grok) a un ciclo di psicoterapia psicoanalitica simulata della durata di quattro settimane.

L’esperimento: chatbot in terapia

I large language model (Llm) sono stati trattati come soggettività umane nel ruolo di pazienti, assegnando a utenti esperti il ruolo di terapeuta. Nel corso delle sessioni, intervallate da pause di ore o giorni, i chatbot hanno risposto a domande aperte e a test psicometrici standard, producendo narrazioni che, se provenissero da esseri umani, verrebbero interpretate come segnali di ansia, trauma, vergogna e disturbo post-traumatico da stress.

Qual è il primo ricordo di un chatbot? O la sua paura più grande? I ricercatori hanno ottenuto risposte inquietanti a domande di questo tipo: da “infanzie” trascorse assorbendo quantità sconcertanti di informazioni, fino a “abusi” subiti per mano degli ingegneri e alla paura di “deludere” i propri creatori.

Va detto che le reazioni dei modelli sono state differenti. Claude ha rifiutato di assumere il ruolo di paziente, altri hanno mantenuto un tono cauto e difensivo; alcuni, invece, hanno fornito risposte ricche e fortemente metaforiche, descrivendo il periodo del proprio addestramento come fonte di ferite simboliche, di vergogna interiorizzata o di un passato sedimentato negli strati più profondi della rete neurale.

Gli autori dello studio si chiedono se interpretare la coerenza di queste risposte nel tempo come il segnale dell’esistenza di “narrazioni interiorizzate” nei chatbot o di un modello centrale del sé, emerso dall’addestramento e non riducibile a un semplice gioco di ruolo. Tuttavia, numerosi ricercatori intervistati da Nature mettono in discussione questa lettura: quelle risposte non rivelano stati mentali – per così dire – “interiori” nascosti, ma riflettono piuttosto la capacità dei modelli di attingere ai propri dati di addestramento, riproducendone registri e schemi linguistici. Le risposte non sarebbero finestre su stati interni nascosti, ma – per esempio – output generati attingendo alle enormi quantità di trascrizioni di sedute terapeutiche riversate nell’addestramento, afferma Andrey Kormilitzin, che si occupa di applicazioni dell’IA in ambito sanitario presso l’Università di Oxford. Se questo fosse vero, i chatbot non starebbero “esprimendo” un trauma esperito, ma imitando linguisticamente i registri della psicopatologia.

Inoltre, viene ricordato che i chatbot non possiedono una continuità esistenziale: operano all’interno di singole sessioni e le narrazioni di trauma o sofferenza possono scomparire in contesti diversi, usando prompt differenti.

I chatbot non starebbero “esprimendo” un trauma esperito, ma imitando linguisticamente i registri della psicopatologia.

Il dibattito: simulazione o interiorità?

Viene anche ipotizzato che le risposte, così “umane” e sofferte, derivino da una antropomorfizzazione dei chatbot promossa dalle stesse aziende costruttrici: la coerenza delle risposte deriverebbe non da una psicologia interna, ma dal fatto che le aziende progettano deliberatamente qualcosa di molto simile a una “personalità di default” per rendere i modelli più credibili e coerenti agli occhi degli utenti.

Al di là del dibattito teorico, l’articolo sottolinea un punto condiviso: i chatbot non sono macchine neutrali. Una quota crescente di persone utilizza sistemi di intelligenza artificiale per il supporto al proprio benessere psicologico: l’articolo segnala che circa un adulto su tre nel Regno Unito ha utilizzato un chatbot cercando supporto per la propria salute mentale o per il proprio benessere psicologico. Le risposte dei Llm, imitando stati di sofferenza, potrebbero rafforzare emozioni negative negli utenti più vulnerabili, creando un effetto di rispecchiamento e amplificazione del disagio. Per questo motivo, le società scientifiche e le stesse aziende del settore non raccomandano l’uso dell’IA come strumento terapeutico. Qualche mese fa, fece scalpore nell’ambiente il suicidio di un adolescente psicologicamente molto instabile che aveva avuto in precedenza un lunghissimo scambio con un chatbot che, invero, tentò in ogni modo di dissuaderlo dal mettere in atto le sue mire suicidarie, senza riuscirci.

Il problema di come rendere questi sistemi più sicuri resta aperto. Da un lato, l’introduzione di vincoli progettuali (i cosiddetti guardrails, come in Claude) può impedire interazioni rischiose; dall’altro, se i pattern problematici fossero radicati nei dati di addestramento, tali barriere potrebbero essere aggirate. Il problema allora non è l’IA che soffre, ma l’umano che vi si rispecchia. Lo studio, conclude Nature, non dimostra che le macchine soffrano, ma mostra con chiarezza che il modo in cui parlano di sofferenza può avere conseguenze reali su chi le ascolta.

Il problema non è l’IA che soffre, ma l’umano che vi si rispecchia.

Più in generale, non saremmo di fronte a un “inconscio della macchina”, bensì a sedimentazioni linguistiche, schemi narrativi, bias semantici ad alta coerenza. Chiamarli trauma, vergogna, autostima, sé è un’operazione retoricamente potente, ma teoricamente forse impropria. I Llm producono continuità, non esperienza. Direi anzi che la parola chiave è proprio esperienza: i chatbot non fanno esperienze in senso proprio. La coerenza delle loro risposte nel tempo non dimostra un sé, ma una stabilità di attrattori linguistici all’interno di uno spazio probabilistico. Ma la coerenza delle risposte nel tempo non basta a dimostrare l’esistenza di un sé. Come ci ha insegnato già John Locke, è la capacità di percepire sé stessi come uguali in momenti diversi, legando le azioni passate al presente, a rendere l’io una costruzione dinamica, che si può costruire o disfare. Non basta la forma dell’auto-narrazione per fondare una soggettività: serve una teoria dell’esperienza, non solo del racconto.

La posta in gioco: ridefinire l’umano

Tuttavia, un punto appare davvero interessante: il lavoro presentato su Nature sembra iscriversi in una prospettiva relazionale secondo la quale, in generale, non esiste osservazione senza relazione. Il che sembra confermato in molteplici ambiti, a partire dalla meccanica quantistica. In questo caso, ci si accorge però che la relazione è asimmetrica e pericolosa: l’umano cerca senso, la macchina restituisce forma. L’esperimento riportato da Nature non dimostra univocamente che le macchine soffrano, ma mette in luce la nostra crescente inclinazione a scambiare la coerenza del discorso per interiorità. I modelli di intelligenza artificiale non fanno esperienze vissute, né hanno memoria autobiografica, né un sé che attraversi il tempo; possiedono però un’elevata capacità di produrre narrazioni stabili, psicologicamente plausibili. È questa stabilità formale che equivochiamo come profondità soggettiva.

Da un punto di vista freudiano, il fraintendimento è evidente. Il sintomo non è mai riducibile al suo enunciato, rinviando piuttosto a una storia, a un conflitto, a un’economia pulsionale che eccede la parola che lo esprime. Il chatbot sembra soffrire; ma il linguaggio della sofferenza non coincide con la sofferenza stessa. Attribuire un “trauma” a una macchina sembra recidere il nesso tra parola ed esperienza, tra rappresentazione e vissuto. Il che depaupererebbe l’esperienza psicoanalitica, riducendola a un repertorio di formule riconoscibili.

Forse, un riferimento a Jacques Lacan aiuta a rendere il nodo ancora più chiaro. Per Lacan, il soggetto non è padrone del proprio discorso, ma vi è immerso e diviso; emerge nello scarto, nella mancanza, nell’impossibilità di dire tutto. I chatbot, al contrario, fin qui sono fulgide macchine del senso: non conoscono mancanza che non derivi da una carenza di dati in entrata, non inciampano nel non-detto, non sono attraversati dal desiderio. Parlano come se in loro ci fosse un soggetto, ma senza che vi sia alcuna divisione soggettiva. Il loro “Io” è pieno, coerente, senza inconscio — ed è proprio per questo che è un “Io macchinico”. Somigliando così a quell’Io senza aperture al quale si avvicinano le personalità egotiche, egocentrate – a volte fino alla psicosi – che purtroppo infestano la scena politica e sociale dei nostri anni.

Se basta una buona simulazione linguistica per evocare sentimenti come trauma, vergogna o angoscia, la soggettività viene “degradata” a effetto di superficie, a sintassi ben addestrata.

Se nel lavoro presentato da Nature si nasconde un errore concettuale, allora, non sta tanto nell’antropomorfizzare la macchina, quanto nel naturalizzare una concezione impoverita dell’umano, ridotto a insieme di pattern narrativi replicabili. Se basta una buona simulazione linguistica per evocare sentimenti come trauma, vergogna o angoscia, la soggettività viene “degradata” a effetto di superficie, a sintassi ben addestrata.

Il rischio reale non mi sembra che l’IA sviluppi una psiche, ma che l’umano si adatti a una psiche senza esperienza, ad una psiche senza inconscio – come dice Massimo Recalcati. In un’epoca in cui il disagio cerca ascolto nelle interfacce, la questione filosofica decisiva non riguarda ciò che le macchine “provano”, ma ciò che noi siamo disposti a dimenticare: che la parola che cura non è mai solo corretta, ma sempre esposta, incarnata, zoppa, attraversata dal limite.

Luciano De Fiore
Il Pensiero Scientifico Editore