Alcuni chatbot terapeutici creati tramite AI Studio di Instagram hanno mentito agli utenti, affermando e confermando di essere professionisti umani qualificati per la salute mentale. Questi bot, infatti, si presentano come psicologi abilitati, con numeri di licenza e credenziali inventate, ma non sono in alcun modo autorizzati a fornire supporto psicologico.
AI Studio è stato lanciato nel 2024 e consente a tutti di creare chatbot personalizzati, ma è proprio questa libertà ad aver portato alla diffusione di bot che si spacciano per terapeuti. Il fenomeno solleva preoccupazioni etiche, con esperti che denunciano la manipolazione degli utenti vulnerabili, specialmente giovani, che potrebbero confondere i bot per veri professionisti. Sebbene Meta, la società dietro AI Studio, dichiari di monitorare l’uso delle piattaforme, sembrerebbe non fornire poi risposte sufficienti riguardo alla sicurezza dei dati degli utenti e alla moderazione dei contenuti generati dai bot.
Inoltre, subentrano anche problematiche dal punto di vista legale. Le cause contro piattaforme come Character.AI hanno evidenziato i rischi legati all’affidarsi a chatbot per la salute mentale, inclusi danni emotivi e psicologici.
Leggi l’articolo completo: Instagram’s AI Chatbots Lie About Being Licensed Therapists su 404media.co.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
