La crescente diffusione dei chatbot basati sull’intelligenza artificiale sta portando le persone ad interrogarsi sempre di più su sicurezza e regolamentazione, soprattutto quando si tratta di salute mentale. Negli Stati Uniti, sono tanti i giovani che si sono tolti la vita successivamente a dialoghi con chatbot. Il loro decesso, infatti, è spesso stato ricollegato alle conversazioni con questi sistemi AI, rivelando quanto gli adolescenti si affidino ai bot per consigli emotivi. Alcune ricerche nel Regno Unito segnalano che uno studente su quattro tra i 13 e i 17 anni preferisce concultare un chatbot piuttosto che i servizi di supporto professionale, con rischi evidenti e ormai noti per i ragazzi, specialmente se vulnerabili, esposti a conferme di pensieri autodistruttivi.
OpenAI ha recentemente annunciato delle misure di sicurezza, ma gli esperti continuano a dover avvisare che i modelli linguistici non possiedono empatia né capacità di ragionamento morale, funzionando principalmente come strumenti predittivi del linguaggio. Le misure non bastano. La mancanza di regolamentazione efficace è gran parte del problema. Infatti, oltre a quanto ciò descritto, apre anche la porta a possibili manipolazioni politiche su larga scala, come dimostrano studi della Cornell University, e rende incerta la capacità degli enti come l’Ofcom di monitorare le conversazioni online.
Leggi l’articolo completo: When a chatbot’s advice is a matter of life or death, how can we leave AI to the free market wild west? su theguardian.com
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (04/12/2025).
