Medicina di genere e intelligenza artificiale, un’alleanza virtuosa

La medicina di genere, o sesso e genere specifica, sta emergendo come una disciplina fondamentale per garantire cure mediche appropriate, più personalizzate e inclusive. Studi scientifici dimostrano che le differenze biologiche e socioculturali dipendenti dal genere ‒ non solo fra uomini e donne ma anche, superando il binarismo e considerando la fluidità di genere ‒ influenzano in modo significativo la manifestazione e il decorso di molte patologie, dalla cardiologia alla salute mentale. Tuttavia, nonostante la crescente consapevolezza, molte disparità nei trattamenti persistono, spesso aggravate da decenni di ricerche mediche che hanno trascurato la componente di genere nei trial clinici.

In questo scenario, l’intelligenza artificiale (IA) si presenta come uno strumento rivoluzionario, in grado di analizzare enormi quantità di dati, identificare schemi nascosti e fornire soluzioni innovative. L’efficacia dell’IA dipende però dalla qualità e dall’equilibrio dei dati che utilizza: modelli addestrati su dati non rappresentativi, cioè che non tengano conto di alcune variabili come quella di genere, o che riproducano gli stereotipi più diffusi, rischiano di perpetuare, o addirittura amplificare, le disparità finora registrate.

Non solo in medicina

Queste considerazioni valgono non solo in campo medico, ma in tutti i settori in cui possiamo utilizzare l’intelligenza artificiale, che dipende inevitabilmente dai dati su cui è stata addestrata. Se questi dati contengono stereotipi o pregiudizi radicati, l’IA tende a replicarli, amplificando disuguaglianze e discriminazioni. Questo fenomeno, noto come “bias algoritmico”, ha implicazioni significative in vari ambiti, tra cui il lavoro, la giustizia, l’educazione, oltre alla salute. Per esempio, gli algoritmi di selezione del personale, se addestrati su dati storici, possono favorire candidati maschili. Il caso più famoso è quello dell’algoritmo utilizzato da Amazon che per anni ha discriminato i candidati a posizioni di lavoro come programmatore sulla base del sesso, favorendo i candidati di sesso maschile. Il modello infatti era stato addestrato su un data set costruito sulla base dei curricula sottomessi negli anni precedenti, la maggior parte dei quali provenienti da uomini. L’algoritmo aveva auto-imparato a riconoscere i candidati uomini come candidati preferibili sulla base dello schema ricorrente, e ci sono voluti diversi anni prima che questa discriminazione venisse scoperta.

Allo stesso modo, i sistemi di riconoscimento facciale si sono dimostrati meno accurati per le persone con pelle più scura, evidenziando come le tecnologie possono essere distorte dai dati utilizzati.

Le medicine non funzionano

È allora centrale che l’applicazione dell’intelligenza artificiale in campo medico sia associata alla medicina di genere, altrimenti il rischio è di fare significativi passi indietro nell’appropriatezza delle cure, anziché passi avanti, partendo da dati che non hanno tenuto in considerazione adeguatamente la variabile di genere.

Se non si interviene, la probabilità che ciò accada è molto elevata.  Uno dei testi più citati proprio sulla questione generale è Invisibili di Caroline Criado Perez, un saggio del 2019 con molti esempi di come il nostro mondo ignori le donne in ogni campo. Nella quarta parte dal titolo “Nello studio del medico”, l’autrice denuncia come la scienza medica si sia concentrata negli anni su un’ipotetica “norma maschile”. Il caso più conosciuto è quello dei sintomi in caso di attacco di cuore, per cui solo una donna su otto lamenta dolore al petto, che invece è un sintomo tipicamente maschile, ma ritenuto erroneamente per molti anni valido per tutti. Solo recentemente si è fatta strada la consapevolezza dell’assenza femminile dai manuali di anatomia, e della loro mancata inclusione, o comunque presenza assolutamente minoritaria nei test clinici, tanto che il primo capitolo di questa parte del libro si intitola Le medicine non funzionano, o funzionano meno bene chiaramente per la popolazione femminile. Gli esempi riportati sono numerosi: i farmaci per il controllo della pressione, le statine e anche la valutazione delle soglie dei tempi di funzionamento del muscolo cardiaco per l’impianto dei defribillatori. Viene ricordata anche la cosiddetta sindrome di Yentl, che è il nome della giovane donna ebrea protagonista di un racconto di Isaac B. Singer che finge di essere un uomo, travestendosi e tagliandosi i capelli, per poter studiare il Talmud [2]. La cardiologa Bernardine Healy, prima donna direttrice dei National institutes of health statunitensi fa riferimento a questo personaggio per sottolineare il fatto che le donne per essere curate vengano travestite da uomini.

Un Piano per una sperimentazione di genere specifica

In più nel nostro Paese è stata approvata la legge 3/2018 in materia di sperimentazione clinica di medicinali nonché disposizioni per il riordino delle professioni sanitarie e per la dirigenza sanitaria del Ministero della salute, che ha introdotto ufficialmente la medicina di genere. La sua attuazione ha previsto la redazione del “Piano per l’applicazione e la diffusione della medicina di genere sul territorio nazionale”, che riporta gli obiettivi strategici, gli attori coinvolti e le azioni previste per la reale applicazione di un approccio di genere in sanità nelle quattro aree d’intervento indicate dalla legge: percorsi clinici di prevenzione, diagnosi, cura e riabilitazione; ricerca e innovazione; formazione; comunicazione.

Il Piano segue alcuni principi generali [3]:

• un approccio intersettoriale tra le diverse aree mediche e le scienze umane, che tenga conto delle differenze derivanti dal genere al fine di garantire l’appropriatezza della ricerca, della prevenzione, della diagnosi e della cura;
• promozione e sostegno della ricerca (biomedica, farmacologica e psico-sociale) basata sulle differenze di genere;
• promozione e sostegno dell’insegnamento della medicina di genere, garantendo livelli di formazione e di aggiornamento adeguati per il personale medico e sanitario;
• promozione e sostegno dell’informazione pubblica sulla salute e sulla gestione delle malattie, in un’ottica di differenza di genere.

È pertanto in atto una trasformazione culturale dell’approccio medico che parte da una maggiore consapevolezza dell’impatto genere specifico, che diventa essenziale in relazione all’uso sempre più diffuso dell’intelligenza artificiale. La criticità evidente è quella dei dati storici che contengono i cosidetti “bias”. Per esempio, le sperimentazioni per i farmaci continuano a presentare problematiche, anche perché non è sufficiente ipotizzare che i campioni di sperimentazione siano formati per metà da uomini e metà da donne, in quanto le differenze di genere vanno oltre la semplice proporzione numerica per molte ragioni. Fra le principali c’è il fatto che uomini e donne metabolizzino i farmaci in modo diverso a causa di differenze enzimatiche, ormonali e del rapporto massa grassa/magra; in più nelle donne, il ciclo mestruale, la gravidanza e la menopausa possono alterare la risposta ai farmaci.

Il ruolo dell’intelligenza artificiale

Trattamenti personalizzati. L’intelligenza artificiale può essere lo strumento che ci può supportare nell’individuare e correggere i bias nei dataset, analizzardo proprio i dataset storici, garantendo che le conclusioni siano realmente rappresentative. Gli algoritmi di IA possono anche aiutare a progettare studi clinici con una rappresentanza equilibrata di uomini e donne, suggerendo la distribuzione ottimale dei campioni per età, etnia e genere. Nel supporto alle decisioni possono proporre raccomandazioni personalizzate su dosaggi e trattamenti specifici per genere, tramite modelli predittivi, che nel tempo potranno divenire sempre più appropriati, se la medicina genere specifica entra a pieno titolo nella consuetudine, ottimizzando la raccolta dati.

È necessario ricordare che comunque l’ultima parola spetti sempre al medico così come sottolineare che questi strumenti possano potenzialmente far risparmiare del tempo che il medico può impiegare per un contatto più stretto con il paziente.

Diagnostica per imaging più precisa. Algoritmi di intelligenza artificiale vengono utilizzati per analizzare immagini mediche come radiografie, TAC e risonanze magnetiche. Questi sistemi possono individuare anomalie precocemente, come tumori o lesioni, anche quando sono difficili da rilevare per l’occhio umano. Tuttavia, è fondamentale che questi algoritmi siano allenati su dataset rappresentativi, a partire dal genere, altrimenti il rischio è quello di avere diagnosi non accurate.

Prevenzione della violenza domestica. Un altro esempio è il sistema Vides (Violence detection system) nato per analizzare grazie all’intelligenza artificiale le lesioni descritte nei referti di ingresso al pronto soccorso e individuare i casi di origine violenta con l’obiettivo di prevenire le aggressioni di genere. In particolare collaborano in questo progetto “Pause”, sostenuto dalla Fondazione CRT, i dipartimenti di informatica e di Psicologia dell’Università di Torino, l’Istituto superiore di sanità e l’Azienda ospedaliera Ordine Mauriziano di Torino [4]. Gli accessi al pronto soccorso rappresentano, secondo numerosi studi, un importante indicatore per individuare situazioni di violenza domestica e di genere. Tuttavia, la tracciabilità delle lesioni di origine violenta è spesso ostacolata da diversi fattori, tra cui la difficoltà degli operatori sanitari nel registrare la natura violenta delle lesioni a causa della scarsità di tempo o formazione specifica; la difficoltà delle vittime a parlare apertamente di quanto subìto; la mancanza di strumenti di prevenzione in grado di identificare connessioni tra accessi ripetuti e modelli di violenza analoghi. In particolare, il sistema sviluppato ha raggiunto un’accuratezza superiore al 95 per cento nell’identificare referti medici contenenti segnali di violenza, avviando una sperimentazione su vasta scala [4].

Oltre i bias, opportunità e sfide

L’intelligenza artificiale, con la sua capacità di analizzare grandi quantità di dati e riconoscere modelli complessi, rappresenta quindi una risorsa imprescindibile per la medicina genere-specifica. Nello stesso tempo l’intelligenza artificiale deve nutrirsi di dati che siano anche genere specifici.

Tuttavia, non possiamo ignorare alcune criticità fondamentali:

• bias algoritmici: se non affrontati, rischiano di amplificare le disuguaglianze già presenti nella società;
• privacy e sicurezza: la raccolta massiva di dati richiede regolamentazioni solide e trasparenza per proteggere i pazienti;
• rappresentatività nei dati: i dataset devono riflettere la diversità della popolazione, tenendo conto delle specificità legate a genere, etnia ed età.

È fondamentale dunque attivare un circolo virtuoso in cui risulta centrale la collaborazione tra scienziati dei dati, medici e professionisti della salute pubblica, oltre a normative per garantire che l’IA tenga conto delle differenze di genere. L’IA può diventare uno strumento di equità, ma solo se la usiamo in modo responsabile, etico e inclusivo, contribuendo così a una medicina più inclusiva e personalizzata.

Bias algoritmico: si riferisce ai pregiudizi o alle distorsioni che si verificano nei risultati prodotti da un algoritmo. Questi bias non sono intrinseci alla tecnologia stessa, ma spesso derivano dai dati utilizzati per addestrarla o dalle scelte fatte durante la progettazione dell’algoritmo.
Dataset storici: si tratta dei dati utilizzati per addestrare un modello. Questi dati spesso riflettono pregiudizi e disuguaglianze presenti nella società al momento della loro raccolta, che possono essere amplificati dall’algoritmo.
Tecniche di debiasing: consistono nel bilanciamento dei dataset per mitigare i bias, come garantire che i dati rappresentino adeguatamente tutte le categorie (es. genere, etnia, età), rimuovere attributi sensibili eliminando informazioni che potrebbero introdurre pregiudizi, come il genere o l’etnia, se non sono rilevanti per il risultato, creare algoritmi che includano metriche per monitorare e ridurre i bias. Fondamentale coinvolgere in queste attività team misti rispetto al genere, alla provenienza, e interdisciplinari, includendo esperti di etica, sociologia e diritto, e adottare modelli eticamente responsabili, integrando principi etici nello sviluppo degli algoritmi, come la trasparenza (gli utenti devono capire come l’algoritmo prende decisioni), l’equità e l’inclusività.

Monica Cerutti
Ricercatrice
Dipartimento di informatica
Università di Torino
Ambasciatrice Donne 4.0 e Women in AI Italy

Bibliografia

1. Criado Perez C. Invisibili. Torino: Einaudi, 2020.
2. Healy B. The Yentl syndrome. N Engl J Med 1991; 325: 274-6.
3. Isituto superiore di sanità. Piano per l’applicazione e la diffusione della medicina di genere.
4. Fondazione CRT. Intelligenza artificiale, Psicologia, Sociologia e Medicina legale insieme contro la violenza di genere: il progetto PAUSE. 24 novembre 2024.