La terza stagione di AIAIAI Podcast prosegue con una nuova puntata di AI Aperitivo, dedicata ai bias nell’intelligenza artificiale. L’episodio parte da una domanda semplice: cosa accade quando i sistemi che promettono efficienza vengono addestrati su dati che riflettono disuguaglianze, stereotipi e discriminazioni? Quel che ne emerge è che i bias non sono un errore del sistema, ma uno specchio della società. Ascolta la puntata su YouTube o Spotify..
Quando i dati ereditano i pregiudizi
La conversazione si sviluppa insieme all’ospite speciale di questa puntata, Tiziana Catarci, professoressa ordinaria di Ingegneria Informatica, presidente di SIpEIA e direttrice dell’Istituto di Scienze e Tecnologie della Cognizione del CNR. Il punto di partenza riguarda la natura stessa dei bias: distorsioni sistematiche nel modo in cui informazioni e realtà vengono interpretate. Se negli esseri umani possono avere una funzione cognitiva, come facilitare decisioni rapide in condizioni di incertezza, nei sistemi AI diventano strutturali, replicabili e difficili da individuare.
Dall’algoritmo alla discriminazione concreta
L’episodio attraversa alcuni casi emblematici che mostrano come i bias non restino confinati nei modelli, ma producano effetti concreti. Dai sistemi di valutazione dei bisogni sanitari che tendono a sottostimare quelli femminili, fino agli algoritmi di riconoscimento facciale che escludono milioni di persone con tratti non standardizzati, emerge un quadro in cui l’automazione rischia di amplificare le disuguaglianze esistenti. Il problema non riguarda solo l’accuratezza tecnica, ma l’equità delle decisioni che questi sistemi contribuiscono a prendere.
Il limite della supervisione umana
L’episodio mette in discussione una delle soluzioni più citate nel dibattito pubblico: l’human-in-the-loop. Studi recenti mostrano che la presenza umana nei processi decisionali assistiti da IA non è sufficiente a correggere le distorsioni, soprattutto quando il sistema di partenza è già viziato. I bias umani e quelli algoritmici non si annullano automaticamente, ma possono rafforzarsi a vicenda. Diventa quindi necessario affiancare alla supervisione strumenti più strutturati: linee guida, monitoraggio e formazione critica.
L’episodio è disponibile su YouTube e Spotify.
Autori episodio: Marta Baronio, Federico Torrielli, Giovanni Siragusa, SIpEIA
Studio di produzione: @DigistartMedia
