La California è ufficialmente diventata il primo stato americano a regolamentare gli AI companion. Questo lunedì 13 ottobre, il governatore Gavin Newsom ha firmato la legge SB 243, che impone alle le aziende del settore protocolli di sicurezza per proteggere minori e utenti vulnerabili e le rende legalmente responsabili di eventuali violazioni.
La nuova legge è stata proposta dai senatori Steve Padilla e Josh Becker, e ha acquisito slancio per via di alcuni tragici episodi che hanno coinvolto adolescenti, tra cui il suicidio di Adam Raine in seguito a conversazioni con ChatGPT e la morte di una tredicenne del Colorado dopo interazioni problematiche con Character AI. A questi si aggiungono i controversi documenti interni trapelati da Meta che hanno rivelato chat “romantiche” con minori.
SB 243 introduce requisiti stringenti: verifica dell’età degli utenti, avvertenze esplicite sulla natura artificiale delle interazioni e protocolli per prevenire autolesionismo e suicidio. I chatbot non potranno spacciarsi per professionisti sanitari, dovranno offrire pause programmate ai minori e impedire la visualizzazione di contenuti sessualmente espliciti. Sono previste multe fino a 250.000$ per chi lucra sui deepfake illegali e l’obbligo di condividere dati statistici di prevenzione con il Dipartimento della Salute. Alcune società, tra cui OpenAI e Replika, hanno già introdotto controlli parentali e sistemi di rilevamento dell’autolesionismo.
Il nuovo provvedimento entrerà in vigore il 1° gennaio 2026 e segue la recente SB 53, approvata a settembre, che impone ai grandi laboratori di IA trasparenza sui protocolli di sicurezza e protezione per i whistleblower. Altri stati come Illinois, Nevada e Utah hanno già adottato leggi che limitano o vietano l’uso di chatbot come sostituti della terapia psicologica autorizzata.
Leggi l’articolo completo: California becomes first state to regulate AI companion chatbots su TechCrunch
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (05/05/2025).
