La nuova rubrica: una panoramica settimanale sulla letteratura medica e sui media

1 Pochi articoli come la rassegna sulla relazione tra intelligenza artificiale in medicina e valori umani uscita il 29 maggio 2024 sul New England Journal of Medicine meritano di aprire questa breve panoramica sulla letteratura medica degli ultimi giorni [1]. In ogni fase dell’addestramento e dell’impiego di un modello di intelligenza artificiale (IA) – scrivono gli autori – entrano in gioco i valori umani. I modelli di intelligenza artificiale sono tutt’altro che impermeabili ai cambiamenti e agli attriti che possono determinarsi tra i valori di cui sono portatori i singoli pazienti e quelli che possiamo invece ricondurre alla società nel suo insieme. In questa dialettica, la tesi dell’articolo è che “la nostra responsabilità condivisa è quella di garantire che i modelli di IA che impieghiamo riflettano accuratamente ed esplicitamente i valori e gli obiettivi dei pazienti”. Interessante anche il richiamo che il lavoro fa a un antico articolo a firma di un grande clinico come Jerry Kassirer, non dimenticato editor del settimanale della Massachussets Medical Society, in cui si sottolineava come un approccio matematico al ragionamento clinico e alle decisioni al letto del malato rappresentasse una minaccia [2]. Niente sostituzione dell’agire del medico da parte dell’IA, dunque, ma necessità sempre più urgente di un’attenta considerazione dei valori alla base delle scelte, sia di quelle quotidiane, sia di quelle più strategiche di politica della salute.

2 Restando al tema dell’IA in medicina, è sicuramente interessante la conversazione pubblicata il 24 maggio 2024 sul JAMA tra Kirsten Bibbings-Domingo – editor-in-chief di JAMA – e Saurabh Jha – radiologo cardiotoracico della University of Pennsylvania [3]. Jha è uno degli specialisti che con maggiore determinazione si era “avventurato” in un contributo pubblicato nello scorso autunno nella profezia di un’imminente sostituzione dell’IA al radiologo nell’interpretazione dell’imaging diagnostico [4] e, provocatoriamente, l’editor della rivista chiede al proprio interlocutore come mai, a distanza di mesi da questa previsione, ancora conservasse il suo posto nell’ospedale dell’università statunitense: “Fin dall’inizio si è capito che la radiologia è una professione fondamentalmente basata sulle regole. È stata quindi solo questione di tempo prima di riuscire ad alimentare l’IA con un numero di regole sufficiente a far sì che fosse in grado di imitare il lavoro di un radiologo. Ma si tratta di regole non facili da seguire, perché ogni cambiamento nel panorama dell’imaging produce una nuova serie di regole. E, naturalmente, la nostra corteccia visiva è stupefacente. Le nostre retine sono fantastiche. Siamo molto bravi ad adattarci alla scala di grigi, alle dimensioni e al contrasto di un’immagine, il che rende molto difficile per la macchina imitare totalmente ciò che facciamo”. La conversazione è estremamente interessante: Jha conferma le doti di visionario che lo hanno reso un personaggio molto seguito sul #MedTwitter: “L’area che mi entusiasma (…) prevede che la prossima frontiera – quella che forse metterà al riparo il medico dalla concorrenza delle macchine – è legata all’idea di utilizzare la radionomica per impostare in modo più efficace i regimi di trattamento. Da una parte per identificare le persone che rispondono a determinati regimi e dall’altra per escludere le persone che si pensa non rispondano. “Penso che, da un punto di vista puramente intellettuale, questo sia molto eccitante”, conclude.

3 Se dalla lettura del JAMA possiamo uscire tranquillizzati, è un articolo del 29 maggio 2024 del Lancet Digital Health ad aggiungere una preoccupazione non banale: “preesistendo le tendenze attuali, l’IA continuerà a contribuire sempre più alla crisi climatica. L’entità dei calcoli necessari all’addestramento dell’IA raddoppia ogni 3-4 mesi dal 2012, una velocità circa sei volte superiore a quella inizialmente descritta. Secondo una stima conservativa, i server dell’IA potrebbero utilizzare tra 85 e 134 terawattora all’anno, pari a circa l’1 per cento dell’attuale consumo totale di elettricità a livello mondiale” [5]. Insomma, stiamo sottovalutando l’effetto reale dell’IA sul clima: serve un’IA a minor consumo energetico e nuovi progetti architettonici urbani che mitighino i livelli di calore causati dall’alimentazione dell’IA.

4 A conferma delle criticità esposte e discusse nell’articolo uscito sul “family journal” del Lancet, anche un Commentary del BMJ punta il dito sui rischi di insostenibilità dell’innovazione legata all’IA [6]. “I sistemi sanitari devono affrontare la sfida difficile di una rapida decarbonizzazione e del diventare sostenibili dal punto di vista ambientale come parte della risposta globale al cambiamento climatico. Sebbene molti si augurino che la digitalizzazione in corso dell’assistenza sanitaria renda i sistemi sanitari sostenibili, il raggiungimento di questo obiettivo è complesso e ricco di sfumature. Sono necessari metodi più articolati per misurare e comprendere i costi ambientali della digitalizzazione dei sistemi sanitari e serve un dibattito informato sull’ipotesi che disporre di un maggior numero di dati e un’elaborazione avanzata dei dati rappresentino sempre e comunque un bene per la sanità”.

5 Parte dei costi ambientali deriveranno anche dai sistemi di intelligenza artificiale generativa e le loro applicazioni in sanità. Questi sistemi sono tra le tecnologie che nel complesso consumano più energia: si stima per l’addestramento ChatGPT-3 abbia consumato 700.000 litri di acqua. Ancora: una conversazione tra un chatbot e un utente medio equivale al consumo di una bottiglia d’acqua. Il litio e il cobalto, fondamentali per le batterie dei data center, comportano problemi ambientali e sociali legati alla loro estrazione, come l’elevato consumo di acqua, l’inquinamento e la violazione dei diritti umani. Inoltre, l’uso intensivo di energia per la tecnologia può causare carenze per i bisogni essenziali di diverso livello, commenta in un articolo su The Guardian Mariana Mazzucato, economista e docente all’University College London, dove dirige l’Institute for Innovation and Public Purpose, sottolineando che “non è certo una novità che l’auto-glorificazione della bolla tecnologica abbia oscurato i lati più negativi di questo settore, dalla sua propensione all’elusione fiscale all’invasione della privacy e allo sfruttamento della nostra capacità di attenzione”. L’economista considera che “in un’era in cui ci aspettiamo che le aziende facciano molto di più che realizzare semplicemente profitti per i loro azionisti, i governi devono valutare le organizzazioni che finanziano e con cui collaborano, sulla base della traduzione delle loro azioni in successi concreti per le persone e il pianeta. (…) È tempo di affrontare le grandi sfide di oggi in modo sistematico, affinché la soluzione a un problema non ne esacerbi un altro”.

Redazione ilpunto
Il Pensiero Scientifico Editore

GLI ARTICOLI DELLA SETTIMANA

1. Yu KH, Healey E, Leong TY, et al. Medical artificial intelligence and human values. N Engl J Med 2024; 390: 1895-904.
2. Pauker SG, Kassirer JP. Decision analysis. N Engl J Med 1987; 316: 250-8.
3. Bock A, Hswen Y. How artificial intelligence will enhance imaging access and analysis. JAMA. Published online May 24, 2024.
4. Jha S. Algorithms at the gate—radiology’s ai adoption dilemma. JAMA 2023; 330: 1615-6.
5. Gaetani M, Mazwi M, Balaci H, Greer R, Maratta C. Artificial intelligence in medicine and the pursuit of environmentally responsible science. Lancet Digit Health 2024 May 29: S2589-7500(24)00090-6.
6. Samuel G, Anderson G M, Lucivero F, Lucassen A. Why digital innovation may not reduce healthcare’s environmental footprint. BMJ 2024; 385: e078303. 
7. Mazzucato M. The ugly truth behind ChatGPT: AI is guzzling resources at planet-eating rates. The Guardian, 30 maggio 2024.