Le donne hanno il 75 per cento di probabilità in più di soffrire per gli effetti collaterali di un medicinale e il 17 per cento in più di morire in un incidente stradale. Sono solo due degli esempi a cui Emanuela Griglié e Guido Romeo ricorrono nel libro “Per soli uomini. Il maschilismo dei dati dalla ricerca scientifica al design” (Codice Edizioni, Torino 2021) per spiegare le discriminazioni – di genere – dei dati. Presentato lo scorso 23 febbraio 2021 in un incontro online organizzato da Fondazione Bassetti, la pubblicazione del volume ha rappresentato un’occasione per discutere – insieme a Ilenia Picardi, docente di sociologia al Dipartimento di scienze politiche dell’Università Federico II di Napoli, e Barbara De Micheli, Head of social justice di Fondazione Giacomo Brodolini – dei bias che ancora oggi compromettono la parità di genere fin dalle sue fondamenta, a partire dalla raccolta dei dati.
In questa pagina: video, podcast, sintesi e immagini dell’incontro.
Sintesi (a cura di Anna Pellizzone)
Che cosa accade quando i dati alla base di ricerca, innovazione e design di prodotti e servizi sono condizionati dal genere e quali risposte possiamo dare per garantire una società equa da questo punto di vista? Il tema dell'”ingiustizia dei dati” è più che mai cruciale per chi si occupa di responsabilità nell’innovazione, tanto più oggi che, producendo tutti noi un’enorme mole di dati che vengono aggregati anzitutto sulle grandi piattaforme del web, gli algoritmi svolgono un ruolo chiave nel determinare il nostro modo di relazionarci, di muoverci, di comunicare, di comprare, di curarci. Come ha dichiarato proprio in questi giorni su La Repubblica la vicepresidente UE e Commissaria alla Concorrenza Margrete Vestager riferendosi a Google e Facebook e «Il successo e il potere sono inseparabili della responsabilità». Non è un caso che, come abbiamo raccontato su questo sito, l’intelligenza artificiale sia stata al centro di numerose consultazioni pubbliche con la cittadinanza, per esempio in Canada e in Francia.
Ma l’ingiustizia di genere nei dati di ricerca e innovazione, affondando le radici nelle disparità e negli stereotipi di cui è pervasa la società, è purtroppo incardinata nel nostro mondo da tempi ben più “antichi” di quelli del big data. Come ha ricordato Guido Romeo, un caso esemplare è quello del settore farmaceutico. Pensiamo al Talidomide, il farmaco antidepressivo utilizzato negli anni ’50 e ’60 diventato tristemente noto per aver causato migliaia di morti e di malformazioni a causa di una sperimentazione assolutamente androcentrica che non ha permesso di identificare gli effetti del composto sulla popolazione femminile. Testato prima su animali maschi e poi su persone di sesso maschile, è stato all’origine di una vera e propria piaga sociale e ha in qualche modo rappresentato un punto di svolta per la farmacovigilanza. Anche se purtroppo il problema è tutt’altro che risolto, come dimostra un ben più recente caso di un sonnifero il cui dosaggio è stato calibrato su biologia maschile, evidentemente diversa per massa e metabolismo da quella femminile, che ha causato un aumento degli incidenti per sonnolenza tra le mamme che facevano uso di questo farmaco.
«Dietro al soffitto di cristallo – ha spiegato Romeo – c’è un secondo soffitto, che è quello che nel libro chiamiamo delle infrastrutture. Anche se le parole e la cultura cambiano, ci sono delle questioni strutturali che devono modificarsi, perché se un farmaco è sviluppato basandosi sulla biologia maschile, c’è un handicap alla base, il sistema è truccato». E ha aggiunto: «parliamo sempre più spesso di intelligenza artificiale e big data, di possibilità di creare prodotti su misura, ma ci sono dei coni d’ombra che non vediamo; in un mondo basato sull’innovazione non possiamo permetterci un maschilismo dei dati e rivendico anche un interesse maschile in questo, perché un mondo che tenga in considerazione le donne è un mondo migliore per tutti».
Secondo Barbara De Micheli, il libro è prezioso, anche perché accessibile e ricco di esempi concreti. «La parte che mi colpisce di più è quella sull’intelligenza artificiale e sul machine learning, una forma di apprendimento basata su codici che dovrebbero essere neutri». Se i codici neutri non sono, se “buttiamo” nella macchina cattivi dati, avremo cattivi ouput. Per questo, ha sottolineato la ricercatrice, è fondamentale il ruolo che giocano i movimenti, in primis quello femminista, e i gruppi di pressione, che ci aiutino a capire che la realtà non è neutra, ma è condizionata dal genere. «Sappiamo che la resistenza al cambiamento è fortissima, soprattutto se, per esempio parlando di big pharma, i cambiamenti implicano tempi e costi più elevati, come nel caso di trial differenziati per genere. Se non c’è qualcuno che porta avanti questo interesse, il cambiamento difficilmente avviene».
La mancanza di neutralità dei dati è stata il punto di partenza anche dell’intervento di Barbara Picardi. «Nei dati si nascondono moltissime informazioni sulla nostra società, che è costruita su uno standard maschile, che fa riferimento tendenzialmente al maschio, trentenne, bianco, occidentale ed eterosessuale». Uno standard che genera delle asimmetrie di genere ormai note e ben rappresentate, per esempio, con il diagramma delle carriere, che evidenzia come, a fronte di una parità tra sesso maschile e femminile in termini di presenza nelle prime fasi della carriera nell’ambito della ricerca, il numero di donne in posizioni più avanzate diminuisce via via. È il famoso tetto di cristallo, a cui ci spiega la ricercatrice, si aggiunge una «porta di cristallo, a cui corrispondono nuovi fenomeni di segregazione nell’accesso al mondo accademico da parte delle donne». Il fenomeno, in Italia evidente, non è dunque generazionale ed è misurabile – con un’attenta analisi dei dati – con quello che gli studiosi chiamano glass doar index. Per questo «sono necessari interventi strutturali all’interno delle organizzazione di ricerca e la prospettiva di genere andrebbe introdotta anche nel processo di valutazione; si tratta di una questione rilevante, che non è risolta e non si risolverà da sola».
Il maschilismo dei dati è dunque solo la punta dell’iceberg. Per capire a fondo le ingiustizie di genere nell’ambito della ricerca, dell’innovazione e dello sviluppo di nuovi prodotti, bisogna pensare che «i big data non piovono dal cielo, ma sono costruiti con processi sociali». Scienza e tecnologia non si creano in spazi separati dalla società e la natura maschilista dei dati va interpretata considerando la relazione tra scienza, tecnologia e genere. «Il genere informa la tecnologia e la tecnologia a sua volta dà forma al genere». Per esempio, le tecnologie domestiche, come il frigorifero o la lavatrice, non hanno seguito le traiettorie previste. Si pensava che queste avrebbero permesso alle donne di avere più tempo libero, ma in realtà hanno aumentato i tempi di aspettativa e di cura da parte di mariti e figli. Questo perché gli utenti hanno un ruolo attivo nell’uso degli artefatti e ne negoziano continuamente il significato. Per questo è necessario attivare dei processi partecipati nel processo di ricerca e innovazione, altrimenti rischiamo di fallire nel rispondere ai bisogni della società per cui determinate tecnologie vengono introdotte, o di non considerare potenziali effetti negativi delle stesse.
Il discorso sembra astratto, ma non lo è. Emanuela Grigliè riporta un esempio semplice e sotto gli occhi di tutti: siamo abituati a sentire ironizzare sulle file di donne in attesa fuori dai bagni pubblici, ma la ragione di questo fenomeno sta in una triplice ingiustizia: numerica, perché le donne sono il 51%; fisiologica per cui le donne hanno bisogno di più tempo per andare in bagno; e sociale, perché sono le donne a portare con sé i bambini alla toilette. E la progettazione dei bagni pubblici spesso non tiene conto di questi fattori.
L’autrice porta molti altri esempi che ben chiariscono il problema dell’ingiustizia dei dati e del design: dalla progettazione di termoscanner – divenuti diffusissimi in tempo di pandemia – troppo alti per le donne, alle mappe sviluppate con alcune app, che tengono in considerazione soprattutto i punti di interesse maschili, fino al celeberrimo caso della Nasa, che, dopo avere organizzato e pubblicizzato la prima passeggiata spaziale interamente femminile, che avrebbe dovuto vedere la partecipazione di due astronaute donna, dovette fare retromarcia a causa della presenza di una sola tuta spaziale di taglia media nella Stazione spaziale internazionale.
La strada per un approccio alla ricerca e all’innovazione che risponda ai bisogni delle donne è ancora lunga, ma la buona notizia è che qualcosa si sta muovendo, grazie appunto all’intervento di alcuni movimenti sociali e gruppi di pressione. E laddove si sono tenute in considerazione le esigenze e gli standard femminili, a beneficiarne sono stati tutti. Come nel caso dell’aeronautica militare americana, che, quando ha aperto alle donne, ha dovuto ridisegnare le cabine degli arei, con il risultato che i nuovi spazi progettati e i nuovi canoni di ammissione (per esempio di altezza) sono diventati più inclusivi anche per tutti, anche per gli uomini.
Molti studi hanno infatti dimostrato che la disparità di genere di cui il nostro mondo è intriso ha rappresentato un limite per la scienza e la tecnologia, riducendone sensibilmente i potenziali impatti positivi sulla società.
L’osservazione critica dei dati è un primo passo fondamentale per capire se quello che facciamo è condizionato da stereotipi, ma non basta per modificare la realtà. Come dunque incorporare l’attenzione al genere nel processo di ricerca e innovazione così da accrescerne la giustizia e la qualità? Un cambio di passo in questa direzione nel Vecchio Continente si è avuto con il progetto Gendered Innovation, che, accanto all’analisi della disparità di genere nell’ambito tecno-scientifico, rappresenta una vera e propria guida per far sì che la definizione delle domande di ricerca e il processo di ricerca tengano conto della dimensione di genere. Il progetto ha rappresentato un punto di svolta per la Commissione Europea, che nell’ultimo programma quadro – Horizon 2020 – ha introdotto la dimensione di genere in ambito ricerca e innovazione come tema trasversale alle diverse linee di finanziamento e ha previsto anche dei bandi specifici sul tema (per esempio nelle call “Science With and For Society”).
Per favorire un cambiamento puntando a una maggiore inclusione, alcuni strumenti sono già disponibili. Barbara De Micheli ha ricordato per esempio il gender impact assessment o i piani per l’uguaglianza di genere.
Anche nel panorama dell’informazione, Guido Romeo ci ricorda come molto si stia muovendo – all’estero – per garantire una pari attenzione ai sessi. «Per me è un problema deontologico: se le prime pagine sono firmate da uomini e parlano prevalentemente di uomini, il problema è che la società di scrivi non è rappresentata». Accorgendosi del problema, alcune testate, come il Financial Times, hanno avviato un processo per bilanciare il genere, ricorrendo talvolta a dei software, portando così a un riequilibro del loro modo di raccontare il mondo, oltre che a un maggior interesse per il proprio giornale da parte del pubblico femminile.
—————————————————–