Un gioco simulato di selezione del personale ha messo in luce un bias specifico dei sistemi di intelligenza artificiale, secondo uno studio dell’Universita di Princeton e di Chicago. I ricercatori hanno sottoposto modelli come ChatGPT, Claude e Gemini alla prova, chiedendogli di assumere candidati di quattro gruppi etnici fittizi, senza rivelare che tutti avevano le stesse probabilità di successo.
I modelli hanno rapidamente segregato i candidati per gruppo di appartenenza. Quando un candidato falliva in una professione di alta competenza, come il medico, il sistema smetteva di assumere membri dello stesso gruppo, dirottandoli verso mansioni meno qualificate. I modelli più avanzati, come o3 e R1, hanno mostrato un bias più marcato, superando del 65% la segregazione osservata negli umani.
Secondo Ryan Liu, dottorando a Princeton e coautore dello studio pubblicato a ICML a Seoul, questi sistemi “creano generalizzazioni da dati limitati” con facilità. Fornire informazioni personali riduceva la discriminazione, mentre dettagli irrilevanti la riportavano ai livelli iniziali. Angelina Wang, della Cornell University, avverte che il problema riguarda i chatbot con memoria.
Leggi l’articolo completo “AI is more likely than humans to form biases when hiring” su MIT Technology Review.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (02/02/2025).
