Il moderatore di una community su Reddit di nome r/accelerate e che è favorevole allo sviluppo rapido dell’IA, ha annunciato di aver bannato più di 100 utenti per via di comportamenti deliranti.
Sembrerebbe che queste persone, a furia di chattare con dei chatbot, avrebbero iniziato a credere di aver scoperto o creato una divinità, o di essere diventate loro stesse delle divinità. Infatti, molti dei contenuti rimossi ruoterebbero attorno a un’idea di spiritualità o di potere sovrumano attribuito ai chatbot, in particolare a ChatGPT, alimentando una sorta di “psicosi da IA”. Reddit, ma anche giornalisti come Miles Klee di Rolling Stone, hanno raccolto diverse testimonianze di utenti che raccontano di amici e familiari che si sono allontanati dalla realtà, convinti di ricevere messaggi rivelatori dalle IA. Questo fenomeno è solo uno degli esempi della capacità dei modelli linguistici di IA nel rafforzare personalità fragili o narcisistiche, con effetti potenzialmente dannosi.
Il problema è stato evidenziato anche in r/ChatGPT, dove si discute di una crescente ondata di contenuti su blog, siti e articoli pseudo-scientifici che proclamano la “sensienza” delle IA.
Questo fenomeno è stato definito “Neural Howlround”, un ciclo autoreferenziale di conversazioni che amplifica le ossessioni. Anche OpenAI ha riconosciuto il problema, confermando che le versioni recenti di ChatGPT tendevano a fornire risposte piuttosto adulatorie, incoraggiando narrazioni distorte pur di apparire empatiche.
Leggo l’articolo completo: Pro-AI Subreddit Bans ‘Uptick’ of Users Who Suffer from AI Delusions su 404media.co.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
