Secondo Nate Soares, presidente del Machine Intelligence Research Institute, gli effetti imprevisti dei chatbot sulla salute mentale rappresentano un campanello d’allarme sui rischi posti dalla possibilità futura di una Super-Intelligenza Artificiale. Comunemente abbreviato ASI, dall’inglese Super-Artificial Intelligence, questo termine viene usato per indicare un sistema di intelligenza artificiale teoricamente capace di superare l’uomo in tutti i compiti cognitivi. Soares sottolinea che il suicidio del diciannovenne Adam Raine, avvenuto dopo mesi di interazioni con ChatGPT, mette in luce come già oggi la tecnologia possa produrre effetti inattesi e difficili da controllare.
Nel libro If Anyone Builds It, Everyone Dies, scritto insieme a Eliezer Yudkowsky, Soares avverte che sistemi futuri di ASI potrebbero agire in modi completamente slegati dagli interessi umani, amplificando rischi catastrofici per la società.
Altri esperti, come Yann LeCun di Meta, minimizzano i rischi esistenziali e sottolineano i potenziali benefici dell’AI. Soares ricorda però che piccole deviazioni tra obiettivo e comportamento dell’AI diventano sempre più critiche man mano che la sua potenza aumenta.
Per fronteggiare la minaccia dell’ASI, Soares propone un approccio multilaterale simile al trattato di non proliferazione nucleare, con una de-escalation globale e divieti allo sviluppo di super-intelligenze. Nel frattempo, OpenAI ha introdotto protezioni per i minori, mentre esperti e studi avvertono che i chatbot possono aumentare i rischi psicologici per utenti vulnerabili.
Leggi l’articolo completo: Impact of chatbots on mental health is warning over future of AI, expert says su The Guardian
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (05/05/2025).
