Un team della Johns Hopkins University ha scoperto che i chatbot possono rafforzare i pregiudizi degli utenti, contribuendo a un pensiero più polarizzato su questioni controverse.
Lo studio, presentato alla conferenza CHI dell’Association of Computing Machinery, ha coinvolto 272 partecipanti che hanno utilizzato chatbot e motori di ricerca tradizionali per informarsi su temi come assistenza sanitaria e prestiti studenteschi. I risultati hanno mostrato che i chatbot, offrendo risposte che rispecchiano le opinioni preesistenti degli utenti, intensificano l’effetto della “camera dell’eco” più dei motori di ricerca tradizionali.
Il capo del team, Ziang Xiao, ha avvertito del potenziale uso maligno dell’IA per creare una società più polarizzata. Addirittura i tentativi di contrastare questo effetto, come chatbot progettati per fornire risposte contrarie o incoraggiare il fact-checking, si sono rivelati inefficaci.
Leggi l’articolo completo: CHATBOTS TELL US WHAT WE WANT TO HEAR su hub.jhu.edu.
Foto di Shantanu Kumar su Unsplash.
