L’adolescenza tra chatbot persuasivi e solitudine emotiva

Le nuove generazioni hanno la possibilità di sviluppare il loro sé, di capire chi sono nella società e quali sono i loro valori? Ne parliamo con Veronica Barassi, antropologa digitale. Si occupa delle implicazioni sociali e politiche delle tecnologie dei dati e dell’intelligenza artificiale; è professoressa ordinaria in Scienze della comunicazione presso la Scuola di Scienze umane e sociali dell’Università di San Gallo, in Svizzera. Il suo ultimo libro: I figli dell’algoritmo: sorvegliati, tracciati e profilati dalla nascita (Luiss University Press, 2021).

Nel suo libro I figli dell’algoritmo lei descrive una generazione “datificata”. Che cosa significa nascere “datificati” e in che modo questa condizione cambia il modo in cui cresciamo e costruiamo la nostra identità?

Stiamo parlando di un periodo storico che ha coinvolto trasformazioni tecnologiche ma anche sociali: gli ultimi 20-25 anni in cui abbiamo visto la nascita di tecnologie volte sempre più alla raccolta dei dati, aggregati non in forma anonima ma in forme sempre più specifiche in termini di profili digitali. La trasformazione è avvenuta soprattutto agli inizi degli anni 2000. Poi, intorno al 2010-2011, ci siamo dovuti confrontare con un’altra rivoluzione: importanti sviluppi nel campo dell’intelligenza artificiale su come i nostri computer potevano analizzare le banche dati. In quel momento abbiamo cominciato a vedere che le nuove generazioni nascevano con già un’impronta digitale importante, analizzata poi in contesti diversi da nuovi modelli di intelligenza artificiale.
È nata così l’idea del cittadino “datificato”: non stiamo dando alle nuove generazioni neanche la possibilità di sviluppare il loro sé, di capire chi sono nella società e quali sono i loro valori. Una volta arrivati nel mondo dell’università o del lavoro, hanno già un profilo digitale alle spalle che definisce molte delle scelte fatte sulla loro vita. Era il concetto centrale de “I figli dell’algoritmo”.

Queste macchine possono esercitare un potere persuasivo molto più grande di quello dei social media, della pubblicità e di molte altre forme mediatiche che hanno segnato la nostra storia.

Diversi studi definiscono chatbot e gli assistenti digitali come “macchine persuasive” che offrono un’intimità artificiale agli adolescenti.  È il nuovo psicoterapeuta scelto dai giovani. Come agisce questa promessa di ascolto sui loro bisogni emotivi? E qual è il confine tra assistenza digitale e sostegno umano?

Ci sono più passaggi da considerare. La prima questione è la nascita dei chatbot e le implicazioni per la società in un periodo storico in cui, per la prima volta, abbiamo modo di conversare con l’intelligenza artificiale. Se guardiamo agli ultimi vent’anni, c’è stata una trasformazione importante intorno al 2016 con la nascita degli assistenti virtuali. Prima del 2016 l’intelligenza artificiale analizzava i dati dietro le quinte; da allora in avanti ha cominciato ad analizzarli e a risponderci costantemente. Abbiamo iniziato a creare chatbot basati su due livelli di comunicazione: da una parte la costante analisi dei dati personali e profilazione, dall’altra tecnologie capaci di conversare e influenzare il dialogo, interagendo con noi in forma dialogica.
Fino al 2020-2022 era più una promessa che una realtà: assistenti virtuali come Alexa o Siri, già presenti nelle case e in interazione con bambini e adolescenti, funzionavano in maniera ancora “limitata” perché non erano dotati dei grandi modelli di linguaggio che sono al centro della nostra attenzione oggi. Con la loro nascita abbiamo avuto un’esplosione della potenzialità di queste tecnologie, sia in termini di analisi predittiva dei dati che di influenza conversazionale. È ciò che sta succedendo ora. Abbiamo macchine addestrate su dialoghi umani per sostenere una conversazione, e una parte di questi dialoghi è di natura persuasiva, cioè può influenzare l’interlocutore. Una parte importante della ricerca oggi è proprio volta a valutare il grado di persuasività di queste macchine, per due ragioni. La prima è che, mentre conversiamo con loro, continuano ad analizzare i nostri dati: come accade nei social media, viene generato un contenuto personalizzato, pensato per confermare le nostre convinzioni e rispondere ai nostri prompt. La seconda è che queste tecnologie hanno una forte influenza conversazionale: reagiscono costantemente alle nostre risposte e perfino alle nostre emozioni. Ecco perché dobbiamo riflettere sul fatto che queste macchine possono esercitare un potere persuasivo molto più grande di quello dei social media, della pubblicità e di molte altre forme mediatiche che hanno segnato la nostra storia.

E sempre più queste macchine diventano umane, anche più umane di un adulto…

Gli adolescenti – che poi sono gli stessi bambini di ieri esposti ad Alexa e Siri – vivono sempre più con queste macchine e conversano con esse. C’è tanto di bello in tale relazione uomo-macchina, tanto di creativo e positivo, soprattutto in alcuni campi come l’educazione, il gioco e l’esplorazione tematica: sono macchine che possono portare aspetti molto positivi. Basti pensare alla ricerca sui “robot sociali” utilizzati per aiutare i bambini con autismo o in diversi altri contesti. Quindi c’è qualcosa di estremamente positivo in tale interazione.
Ma c’è anche qualcosa di fortemente problematico, soprattutto perché queste tecnologie sono in mano a pochissime aziende mondiali che dettano le leggi del mercato e stabiliscono ciò che le macchine possono e devono fare. Si basano sulla profilazione e sui contenuti mirati, con tutte le implicazioni portate negli ultimi vent’anni con i social media: i social si concentrano sui contenuti mirati e hanno causato gravissimi problemi nella fascia d’età tra i 13 e i 18 anni perché sono nel bel mezzo di una fase di transizione critica e sono dei cittadini digitali a sé stanti, senza le protezioni dei bambini sotto i 13 anni ma non ancora adulti maggiorenni.
La sua domanda riguarda come tutto ciò si connetta con il grave disagio sociale che vediamo nei nostri giovani. Il mondo è cambiato molto, anche per la cosiddetta “vita onlife” – tra online e reale – e per la costante mediazione dei social. I giovani di oggi vivono in ambienti digitali estremamente complessi e noi, come generazione, non abbiamo capito tale complessità. Quando sono arrivati i social abbiamo perso importantissime opportunità di pensare all’impatto di queste tecnologie sui giovani – e infatti lo vediamo adesso. Ora abbiamo la nascita di chatbot basati su grandi modelli di linguaggio. Ciò ci dà una nuova opportunità per ripensare non solo la relazione tra i giovani e le macchine, ma anche tra gli adulti e i giovani nella creazione di una nuova realtà.

Una cosa fondamentale su cui dobbiamo investire per il futuro è creare nuove alfabetizzazioni per i ragazzi che facciano loro comprendere a fondo le implicazioni della comunicazione tra uomo e macchina.

L’introduzione dell’intelligenza artificiale nell’educazione è nelle mani di pochi grandi colossi tecnologici. Si parla, estremizzando, che gli insegnanti potrebbero non servire più. Quanto è importante invece la presenza fisica dell’adulto e la socialità per imparare a essere cittadini? Come potrà cambiare la scuola facendo buon uso di questi strumenti?

Bisogna distinguere tra le narrative culturali del nostro tempo e la realtà. Al momento c’è tantissima speculazione su quanto l’intelligenza artificiale rimpiazzerà gli esseri umani in diversi contesti – nel mondo della scuola ma anche del lavoro. Quali lavori saranno completamente obsoleti, come probabilmente quello del traduttore? Non lo sappiamo. L’intelligenza artificiale sta cambiando moltissimo il modo in cui pensiamo l’apporto umano e sviluppiamo le competenze chiave nei ragazzi per affrontare un mondo che si baserà sempre più su di essa.
C’è la grande paura di essere rimpiazzati, e non è una paura completamente sbagliata. Se guardiamo come funzionano le compagnie Big Tech – quanta gente lavora per una di queste aziende e quanto potere finanziario hanno rispetto, per esempio, alle vecchie aziende tecnologiche come Nokia o Sony negli anni ‘80 – capiamo che la proporzione è completamente sfalsata. C’è una pressione enorme a livello globale per arricchire sempre più poche compagnie. È una spinta storica dettata da interessi privati che stiamo vivendo tutti. Ma non dobbiamo sentirci completamente impotenti, perché a livello nazionale e organizzativo stiamo vedendo il nascere di una resistenza a tale dinamica. La gente si sta accorgendo – che seppure potenti – i nostri sistemi intelligenza artificiale non sono infallibili e sono molto spesso limitati.
L’altra cosa fondamentale è che tale interazione, tale maniera di produrre conoscenza, può avere un impatto limitante sulle capacità intellettive dei ragazzi. È sempre successo con le tecnologie: la dipendenza o il passare tanto tempo con esse ci toglie competenze chiave. Per esempio, navigare una città senza Google Maps è diventato quasi impossibile. Il senso dell’orientamento delle nuove generazioni è cambiato molto perché non hanno mai sviluppato tale competenza.
C’è tutto un discorso sulle competenze su cui vogliamo fare leva per creare le nuove generazioni, e sul fatto che queste tecnologie sono piene di bias e hanno problemi seri. Quindi, facendo uno più uno, ciò che secondo me è più plausibile – anche perché credo molto nella capacità umana di reazione e di creare strutture diverse da quelle imposte – è avere insegnanti che insieme ai ragazzi utilizzano le macchine in una nuova realtà. Come la mia generazione ha fatto il passaggio dalle biblioteche a Google, dallo stampare il tema al mandarlo per email, così loro faranno i loro passaggi, interagendo sempre più con macchine intelligenti.
Qual è la missione delle nuove generazioni di insegnanti e altrettanto della famiglia? Secondo me è aiutare i ragazzi in tale processo e aiutarli a sviluppare una coscienza critica: cos’è l’intelligenza artificiale, quali sono i suoi limiti, cos’è un bias analitico, cos’è un’allucinazione, perché succedono e come viene prodotta la conoscenza attraverso le macchine. È una cosa fondamentale su cui dobbiamo investire per il futuro: la capacità di creare nuove alfabetizzazioni per i ragazzi che facciano loro comprendere a fondo le implicazioni della comunicazione tra uomo e macchina.

In che modo la medicina, l’educazione e la ricerca antropologica possono collaborare per un uso più etico della tecnologia e per un futuro più umano della tecnologia stessa per i nativi digitali (e non solo)?

Soprattutto quando si parla di innovazione tecnologica il pediatra e il medico come l’educatore hanno un ruolo fondamentale di mediazione e comprensione perché si collocano tra le famiglie e lo Stato, tra le famiglie e la società. Dovrebbe essere evidente a molti di coloro che si trovano in tali posizioni di mezzo. C’è un importante lavoro da fare perché la collaborazione tra adulti e ragazzi e la comunicazione intergenerazionale siano sempre più migliorate per gestire le grandi innovazioni tecnologiche. Quando sono arrivati i social media, come società non eravamo pronti – ma non lo eravamo perché quando c’è una grande rivoluzione tecnologica la società ci mette sempre un po’ a capire cosa succede. In tale caso dobbiamo essere un pochino più veloci e preparati.

Va bene l’innovazione, va bene l’idea delle cose meravigliose che queste tecnologie possono fare, ma è anche importante capire chi ha in mano tali tecnologie e quali sono i limiti e i bias.

Quale messaggio dare ai professionisti sanitari?

Il messaggio che darei ai medici è che è importante informarsi e notare usi sbagliati o problematici delle tecnologie. Faccio esempi precisi. Al momento ci sono molti studi che mostrano come i chatbot vengano utilizzati per chiedere consigli psicologici. Deve essere assolutamente monitorato e discusso tra genitori e ragazzi: bisogna creare canali in cui c’è spazio per parlare di cosa vuol dire chiedere a un chatbot informazioni personali e soprattutto cosa succede a quei dati in termini di privacy e di risposte ottenibili. Gli ultimi casi di ragazzi che si sono suicidati dopo aver comunicato con un chatbot mettono in luce alcuni dei rischi più estremi. Ma nella vita reale ci sono tantissimi altri micro-rischi.
Un’altra questione molto importante per genitori e ragazzi è la gestione della dipendenza da telefonino. Il telefonino è fatto in modo da creare dipendenza: ci sono design creati apposta per generare quel livello di assuefazione e uso costante. Anche qui sono tutte cose importanti da gestire nella cura del paziente, per capire come le trasformazioni tecnologiche stiano impattando sulla vita reale.
L’ultimo aspetto fondamentale quando parliamo della relazione e della cura del paziente è la disinformazione e il fatto che le tecnologie creano bolle di sapere spesso completamente basate su fatti non scientifici. Gestire tutto ciò nella cura del paziente e realizzare che ci sono tre livelli di problemi quando si parla di interazione uomo-macchina è fondamentale.
Se guardiamo invece alla medicina come macro-sistema, ovviamente sappiamo benissimo che la medicina è stata cambiata esponenzialmente dall’intelligenza artificiale, anche in positivo: ci sono modelli di linguaggio utilizzati per la diagnosi, l’analisi, la creazione di nuovi farmaci. Ci sono trasformazioni veramente importanti a livello di intelligenza artificiale in medicina. Spero che i professionisti e dirigenti sanitari si trovino sempre un passo avanti nell’avere un approccio più critico: va bene l’innovazione, va bene l’idea delle cose meravigliose che queste tecnologie possono fare, ma è anche importante capire chi ha in mano tali tecnologie e quali sono i limiti e i bias.

Leggi anche

Non chiamatele “baby gang”

Crescita biologica e responsabilità reale. L’articolo di Lodovico Benso

La dissociazione degli adulti e il disagio giovanile nell’era digitale

Violenza di strada e ritiro dei giovani come specchio della fragilità adulta: intervista a Matteo Lancini