Il Centro di Ricerca sulle Politiche della United Nations University (UNU-CPR) ha sviluppato due avatar AI, Amina e Abdalla, che simulano rispettivamente una rifugiata in un campo in Ciad e un combattente delle Rapid Support Forces, un gruppo paramilitare sudanese. Il progetto, nato da un corso su AI e prevenzione dei conflitti tenuto da Eduardo Albrecht (Columbia University), punta a stimolare il dibattito etico e la riflessione critica sull’impiego di tecnologie AI nel settore umanitario.
Albrecht e Eleanore Fournier-Tombs, data scientist che guida il laboratorio AI del UNU-CPR, chiariscono che l’obiettivo della ricerca non è proporre soluzioni operative per l’ONU, ma testare e stressare i limiti di queste tecnologie in un contesto controllato. Durante i primi test condotti durante un workshop con organizzazioni umanitarie, enti di supporto ai rifugiati e ONG, Albrecht e Fournier-Tombs hanno riportato reazioni intense e, in molti casi, negative. I partecipanti hanno espresso preoccupazioni su più fronti, a partire dalla sostituzione delle voci autentiche dei rifugiati con simulazioni digitali. È emerso anche il timore riguardo alla possibilità che le interazioni mediate dall’AI possano rafforzare bias preesistenti, togliendo spazio al confronto umano. Preoccupa infine la tendenza dell’AI a sterilizzare o minimizzare la sofferenza reale, come dimostrano le risposte degli avatar, che appaiono vaghe e stereotipate, evidentemente costruite su report istituzionali piuttosto che su esperienze vissute.
Il rischio, affermano i due esperti, è che l’adozione di agenti AI in contesti umanitari avvenga senza principi etici solidi, riducendo il coinvolgimento dei soggetti coinvolti e compromettendo i diritti delle popolazioni vulnerabili.
Leggi l’articolo completo: The UN Made AI-Generated Refugees su 404Media
Immagine generata tramite Gemini Imagen 3. Tutti i diritti sono riservati. Università di Torino (28/11/2024).
