L’intelligenza artificiale (IA) supporterà sempre più il mondo della salute, e lo farà lungo tre dimensioni: quella clinica, quella organizzativa e quella della ricerca di nuove cure.
Clinica. L’esempio più intuitivo di utilizzo di intelligenze artificiali è quello dell’analisi dei risultati di esami radiologici per fare diagnosi automatizzate. La disponibilità crescente di milioni di immagini radiologiche in forma digitale permette l’utilizzo di tecniche di apprendimento automatico per leggerle. Un altro esempio è lo studio dello sviluppo temporale delle cartelle cliniche dei pazienti per estrarre i protocolli di cura utilizzati e la loro efficacia grazie a tecniche di process mining, cioè l’applicazione delle IA al business process management. Infine, ricordiamo il tema della robotica in camera operatoria, dove però il ruolo del chirurgo nel guidare la macchina è ancora preponderante.
Organizzazione ospedale. Le applicazioni vanno dall’ottimizzazione dei processi (ad es., della calendarizzazione delle sale operatorie) al supporto alla logistica tramite la robotica, con carrelli a guida autonoma che portano e distribuiscono i medicinali ai pazienti, pasti, raccolgono i rifiuti o fanno le analisi automaticamente.
Ricerca medica. Le applicazioni delle IA vanno dalla previsione della struttura delle proteine (come il sistema AlphaFold) all’identificazione di nuovi principi attivi in farmacologia, anche in un’ottica di medicina di precisione (personalizzata). Ma, come hanno mostrato Fabio Urbina e colleghi un anno fa in un articolo pubblicato su Nature Machine Intelligence queste tecnologie possono avere un doppio uso: lo stesso algoritmo di apprendimento che ottimizza la non tossicità di un nuovo principio attivo può essere invertito per creare nuovi agenti nervini [1].
Di che cosa dovremmo preoccuparci?
È quindi chiaro che l’applicazione delle IA creerà nuovi problemi che vanno affrontati anche dal punto di vista etico. Come si vede già da questo esempio relativo all’identificazione di principi attivi in farmacologici i problemi etici non dipendono né solamente né principalmente da aspetti tecnologici. Di laboratori militari che fanno ricerca su agenti patogeni ce ne sono sempre stati. La differenza è che adesso chiunque abbia le risorse computazionali per sistemi di deep learning può arrivare a identificare nuove armi biologiche. C’è quindi un problema di tipo politico-economico a monte di tutte le preoccupazioni che derivano dalle IA.
Analogamente, altre problematiche come quella dei cosiddetti bias non sono questioni risolvibili tecnologicamente. Un sistema diagnostico basato sull’impiego di IA impara sui dati che gli vengono forniti. Se i referti digitali su cui è alimentato l’apprendimento del sistema derivano prevalentemente da un certo gruppo di pazienti, il sistema avrà performance peggiori su categorie di pazienti con caratteristiche diverse. Allo stato dell’arte tecnologico non c’è rimedio a questo problema, che deriva solo dalle condizioni socio-economiche relative alla copertura dell’assistenza sanitaria.
Un altro aspetto apparentemente tecnologico – ma non risolvibile tecnologicamente – è quello della classificazione dei dati. Come ci ricorda Kate Crawford in Atlas of AI la classificazione stessa dei dati alla base dell’apprendimento automatico porta in sé una connotazione politica [2]. La Crawford nota come molti sistemi di riconoscimento di immagini utilizzino una classificazione in corpo-maschile/corpo-femminile binaria perché tutti basati sul dataset pubblico di immagini categorizzate su ImageNet. Chi ha il potere di scegliere quali categorizzazioni usare nei sistemi di IA e messe poi a disposizione di tutti?
Un caso simile è quello sollevato da Timnit Gebru e Margaret Mitchell, le due scienziate licenziate due anni fa da Google per via del loro articolo “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” in cui criticavano quelli che si chiamano “large language models”, cioè le tecnologie che stanno dietro ChatGPT e gli altri sistemi di IA generative [3]. Dato che questi strumenti imparano partendo dai testi raccolti sul web attuale e passato, di fatto ignorano tutte le tendenze più recenti, come ad esempio il Me Too oppure il Black Lives Matter, che nascono come movimenti di nicchia e vengono fuori piano piano sul web. Allo stesso modo, ChatGPT è stata addestrata sui dati fino al 2021: non “sa” che la Russia ha invaso l’Ucraina. Si crea così il paradosso per cui il massimo dell’innovazione tecnologica si ritrova ad essere conservatore, perché guarda solo al passato per dare una risposta.
Come potrebbe cambiare il concetto di responsabilità?
L’impatto delle IA sulla società coinvolgerà anche altri aspetti del lavoro del medico, creando nuovi scenari e nuove problematiche da risolvere, esattamente come è successo negli anni ’70 con la nascita delle biotecnologie che ha portato alla rivoluzione della bioetica. Uno degli aspetti più critici nel lavoro di un medico è quello della responsabilità. Cosa succederà quando il medico dovrà confrontarsi con un referto fatto da un sistema di IA che ha prestazioni simili o superiori a quelle di una persona? Sistema che, almeno attualmente, non è in grado di dare una spiegazione della diagnosi che propone. Il medico sarà obbligato dalla sua direzione sanitaria ad usare un sistema non ha scelto e di cui non conosce il funzionamento?
Una presa di coscienza generale dei rischi creati dalle IA è la precondizione perché i preziosi interventi regolativi dell’Unione europea in questo ambito possano avere davvero effetto.
È probabile che ci troveremo di fronte alla necessità di rivedere il concetto stesso di responsabilità, complesso e con molte facce diverse. Una sua dimensione è quella di stabilire se c’è stato un dolo e si debba dare un risarcimento, ma nel caso di un sistema di IA non ci sono errori se non quelli previsti statisticamente. E in caso di errore il sistema può essere riallenato sui nuovi dati per migliorare. Le prestazioni saranno quelle migliori possibili dato lo stato dell’arte tecnologico e i dati a disposizione. Per non parlare della dimensione morale o religiosa del concetto di responsabilità che diventa irrilevante nel caso di un sistema di IA.
È importante fare prendere coscienza, all’opinione pubblica e a tutti gli stakeholders, dei rischi e delle opportunità create dalle IA e dei legami fra dimensione etica, economica e politica. La nuova Società italiana per l’etica dell’intelligenza artificiale e progetti come AI-Aware, finanziato dall’Università di Torino hanno proprio questo scopo, oltre a promuovere la ricerca scientifica riguardante l’impatto delle IA nella società. Una presa di coscienza generale dei rischi creati dalle IA è la precondizione perché i preziosi interventi regolativi dell’Unione europea in questo ambito possano avere davvero effetto.
Guido Boella Vicerettore vicario Università degli studi di Torino
Per fornire le migliori esperienze, utilizziamo tecnologie come i cookie per memorizzare e/o accedere alle informazioni del dispositivo. Il consenso a queste tecnologie ci permetterà di elaborare dati come il comportamento di navigazione o ID unici su questo sito. Non acconsentire o ritirare il consenso può influire negativamente su alcune caratteristiche e funzioni.
Funzionale
Sempre attivo
L'archiviazione tecnica o l'accesso sono strettamente necessari al fine legittimo di consentire l'uso di un servizio specifico esplicitamente richiesto dall'abbonato o dall'utente, o al solo scopo di effettuare la trasmissione di una comunicazione su una rete di comunicazione elettronica.
Preferenze
L'archiviazione tecnica o l'accesso sono necessari per lo scopo legittimo di memorizzare le preferenze che non sono richieste dall'abbonato o dall'utente.
Statistiche
L'archiviazione tecnica o l'accesso che viene utilizzato esclusivamente per scopi statistici.L'archiviazione tecnica o l'accesso che viene utilizzato esclusivamente per scopi statistici anonimi. Senza un mandato di comparizione, una conformità volontaria da parte del vostro Fornitore di Servizi Internet, o ulteriori registrazioni da parte di terzi, le informazioni memorizzate o recuperate per questo scopo da sole non possono di solito essere utilizzate per l'identificazione.
Marketing
L'archiviazione tecnica o l'accesso sono necessari per creare profili di utenti per inviare pubblicità, o per tracciare l'utente su un sito web o su diversi siti web per scopi di marketing simili.
