Dall’ultimo rapporto 2024 sul Global Gender Gap del World Economic Forum si è calcolato che mancano ben 134 anni al raggiungimento della parità di genere, peggiorando il dato del 2023 che era di 131 anni.
Ma il rischio è che questa scadenza si allontani ancor più significativamente, invece di avvicinarsi, se il mondo dell’intelligenza artificiale continua non solo a riprodurre gli stereotipi di genere, ma a moltiplicarli, in particolare con l’AI generativa.
Ultimo esempio che non induce ottimismo è la nuova versione GPT-4o di OpenAI, a cui è stata data una voce che somiglia molto a quella di Scarlett Johansson, che doppiava il sistema operativo del film Her del 2013. L’azienda ha affermato che la voce sintetica di Sky non è stata modellata su quella dell’artista, ma l’ha rimossa in forma cautelativa. Questa vicenda sarà discussa dal Congresso USA che ha chiamato l’attrice a comparire per fornire la sua testimonianza.
Al di là della vicenda specifica, è da tempo nota la questione della voce femminile, insieme al nome, data agli o meglio alle assistenti vocali, come Siri di Apple e Alexa di Amazon, pur esistendo in alcuni casi anche la versione maschile che non risulta però l’opzione principale. Un rapporto Unesco del 2019 denunciava come questo modello riproduca l’immagine della donna servizievole, docile, disponibile, che agisce a comando.
Qualche passo avanti in positivo a dire il vero è stato fatto nel mondo delle assistenti vocali. Proprio in occasione della giornata internazionale della donna di quest’anno, Amazon ha introdotto una modifica in collaborazione con ActionAid, per cui in risposta a determinati insulti e offese ricevuti, Alexa non rimane in silenzio ma risponde a tono in maniera ironica chiedendo agli utenti di essere più umani e meno umilianti, reagendo così alla violenza verbale. Non ci si è fermati qui, prevedendo anche un comportamento attivo, per cui gli utenti possono ascoltare informazioni e approfondimenti legati al fenomeno della violenza verbale semplicemente pronunciando “Alexa, dì la tua”.
Al contrario con GPT-4o torniamo invece all’idea della donna pronta a rispondere al comando che le viene impartito, con una voce civettuola, seduttiva, che la riporta ad un ruolo fortemente stereotipato e connotato sessualmente.
Non sembra importare molto a Sam Altman, ceo di OpenAi, il dibattito sui bias di genere nell’AI, e probabilmente neanche alla dirigenza dell’azienda. Vale la pena ricordare che dei 702 dipendenti (su 750), che avevano firmato a fine dell’anno scorso la lettera che chiedeva la reintegrazione di Sam Altman, più del 75% erano uomini. Dopo il ritorno di Altman, il nuovo consiglio di amministrazione di OpenAI era risultato composto esclusivamente da uomini bianchi, una situazione quindi aggravata dalla predominanza maschile tra i dirigenti. Solo a marzo di quest’anno tre donne sono state inserite nel consiglio di amministrazione, ma probabilmente l’impianto fortemente maschile continua a prevalere nell’orientamento aziendale.
Ad essere molto pragmatiche, la scelta della voce da attribuire a GPT-4o probabilmente è avvenuta in base a criteri di gradevolezza, di uniformità con le assistenti vocali, senza porsi alcun problema sul rischio di riproporre stereotipi di genere dannosi culturalmente nel raggiungimento della parità di genere. La questione è però che stereotipi e pregiudizi non vengono semplicemente riprodotti a partire dai dati reali sbilanciati a causa del gender gap, ma il rischio è che vengano moltiplicati. L’algoritmo che Amazon ha usato dal 2014 al 2018 per reclutare programmatori è l’esempio classico pluricitato di come l’AI possa agire come fattore moltiplicatore di discriminazioni: avendo come dati di partenza un gran numero di curricula di programmatori uomini, l’algoritmo non poteva che continuare a selezionare uomini considerandoli preferibili in base all’esperienza del passato. In questo modo però ha contribuito ad aumentare il divario fra uomini e donne, preferendo assunzioni al maschile fino a quando l’azienda non si è accorta di mettere in atto un meccanismo discriminatorio.
Questo la dice lunga su quanto sia strategico in un momento cruciale come quello attuale avere gruppi di lavoro nell’intelligenza artificiale misti, in cui sia rappresentata la differenza di genere, insieme ad altre differenze, come quelle legate alla provenienza o all’orientamento sessuale.
Rispetto al genere abbiamo però un gap da colmare molto pesante, vale a dire la presenza femminile assolutamente minoritaria nelle discipline STEM, ed in particolare nell’ICT, dove sappiamo che la percentuale di laureate continua ad essere ferma attorno al 16% e poco cambia se guardiamo alle donne che occupano posti di lavoro tecnologici.
Serve abbattere le barriere culturali che portano le ragazze ad intraprendere percorsi che escludono le discipline scientifiche e che si sedimentano già nei primi anni di vita, sin dalla scuola dell’infanzia.
Ma è fondamentale che si comprenda che gran parte della partita futura sulla parità di genere si gioca proprio in questo ambito, che ancora molte organizzazioni che si occupano di gender gap non considerano o comunque sentono distante dalla loro sfera d’azione.
Un’opera di sensibilizzazione diffusa oltre che un’attività di advocacy su questi temi potrebbe fare la differenza in un approccio che non sia solo difensivo o allarmistico, ma anzi utilizzi le opportunità offerte dall’intelligenza artificiale per rendere visibili gli stereotipi e contrastarli.
In questo modo, potremmo provare concretamente a ridurre il numero di anni che ci separa dal raggiungimento della parità di genere.
