Un tredicenne di Deland, in Florida, è finito in manette dopo aver scritto su ChatGPT di voler uccidere un compagno di classe. “Come ammazzare il mio amico nel bel mezzo della lezione“, il prompt che lo studente della Southwestern Middle School ha dato in pasto al chatbot di OpenAI e nel giro di poco tempo è arrivata la polizia che lo ha arrestato.
Il ragazzo si è giustificato sostenendo di aver solo “trollato“, facendo uno scherzo a un compagno che lo infastidiva. “Un altro scherzo che ha creato un’emergenza. Genitori, parlate con i vostri figli“, ha dichiarato un portavoce dello sceriffo e, sebbene possa considerarsi come tale oppure come un segnale di comportamento violento, l’unica certezza è l’alto livello di allarme nelle scuole americane per paura di nuove sparatorie. A segnalare il comportamento in questione, però, non è stato né un compagno né un docente, ma un’intelligenza artificiale sviluppata da Gaggle, un software che monitora le attività online degli studenti, comprese le conversazioni con ChatGPT e Gemini, segnalando comportamenti preoccupanti legati ad autolesionismo, violenza e bullismo, fornendo screenshot come prova.
Gaggle sorveglia quasi sei milioni di studenti in 1500 distretti, ma finisce spesso al centro di polemiche in quanto, secondo i critici, si tratta di sorveglianza di massa che genera troppi falsi allarmi: nel distretto di Lawrence, Kansas, due terzi delle 1200 segnalazioni in dieci mesi sono risultate irrilevanti, mentre altri software come, ad esempio Lightspeed Alert, rilevano persino ciò che gli studenti scrivono prima dell’invio.
Leggi l’articolo completo Un tredicenne arrestato per aver chiesto a ChatGpt: «Come ammazzare il mio amico nel bel mezzo della lezione» su Il Corriere della Sera.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (16/04/2025).
