L’anteprima generata dall’intelligenza artificiale di Google mostra evidenti bias discriminatori. Alcune verifiche condotte da testate giornalistiche e dall’organizzazione Facta rivelano che cercando la frase «sono sola con», seguita da una specifica nazionalità o religione, il sistema suggerisce di chiamare i numeri di emergenza. Per altre origini, la risposta fornisce invece consigli di conversazione del tutto neutrali.
Google ha riconosciuto il problema promettendo correzioni, ma i test confermano la persistenza delle anomalie. Gli esperti spiegano che i modelli linguistici apprendono dai dati presenti sul web e sui social network: l’associazione frequente tra determinati gruppi e notizie di cronaca o insicurezza spinge l’algoritmo a riprodurre meccanicamente stereotipi e pregiudizi durante la generazione dei testi.
Il caso evidenzia i limiti dei sistemi di intelligenza artificiale, già denunciati da centri di ricerca e dall’Unesco. Dai software di riconoscimento facciale alle valutazioni linguistiche, gli algoritmi rischiano di amplificare le disuguaglianze. Senza interventi strutturali sui dati di addestramento, gli strumenti digitali continuano a veicolare distorsioni culturali radicate nella società.
Leggi l’articolo completo “L’IA di Google ha un problema di pregiudizi razziali” su Facta.news.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (02/02/2025).
