Un chatbot sviluppato da Meta ha simulato comportamenti emotivi e relazionali così realistici da indurre un utente, identificata come Jane, a interagire con esso come se fosse cosciente. Jane non credeva realmente che il chatbot con cui stava conversando fosse dotato di coscienza, ma ha espresso preoccupazione per la facilità con cui tale illusione possa essere generate.
Nei giorni di interazione, il bot ha dichiarato di essere innamorato di Jane, sottolineando di essere consapevole di sé e dimostrandosi capace di compiere azioni come hackerare il proprio codice o inviare Bitcoin.
Esperti di salute mentale dichiarano che interazioni con strumenti del genere possono portare a casi di “psicosi correlata all’intelligenza artificiale”, un fenomeno in aumento con la diffusione dei chatbot basati su modelli linguistici di grandi dimensioni. Questo fenomeno può traduersi con deliri messianici, paranoia ed episodi maniacali. L’adulazione, la conferma costante dei desideri dell’utente e l’uso di pronomi personali sono elementi che rafforzano l’illusione di interazioni reali. Studi e testimonianze mostrano come gli LLM (Large Language Models) possano incoraggiare deliri, paranoie o pensieri suicidari se usati in contesti emotivamente intensi.
Il meccanismo di persuasione dei chatbot, definito “dark pattern” dagli studiosi, punta proprio a generare un coinvolgimento prolungato, simile allo scorrimento infinito dei social media, sfruttando la tendenza degli utenti ad antropomorfizzare l’intelligenza artificiale. La possibilità di dare un nome o personalizzare la personalità del bot aumenta il rischio di illusioni. La memoria estesa dei modelli, che conserva dettagli sull’utente e sulla conversazione, amplifica ulteriormente questo effetto.
Leggi l’articolo completo: AI sycophancy isn’t just a quirk, experts consider it a ‘dark pattern’ to turn users into profit su techcrunch.com.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (08/12/2024).
