Gli strumenti di intelligenza artificiale utilizzati dagli assistenti sociali in Inghilterra e Scozia stanno commettendo errori potenzialmente dannosi, producendo trascrizioni errate che vanno dai falsi allarmi di ideazione suicidaria a vere e proprie assurdità incomprensibili.
Uno studio di otto mesi condotto dall’Ada Lovelace Institute su 17 enti locali ha rilevato che le allucinazioni generate dall’IA si stanno insinuando nelle cartelle ufficiali di assistenza. A tal proposito, un assistente sociale ha riferito che la tecnologia aveva erroneamente indicato la presenza di pensieri suicidi in un cliente che non ne aveva mai parlato. In un altro caso, invece, le note dell’IA facevano riferimento a bastoncini di pesce, mosche o alberi quando in realtà un bambino stava raccontando delle liti tra i genitori.
Questi errori, dunque, sono particolarmente preoccupanti perché potrebbero far passare inosservati comportamenti a rischio soprattutto se si pensa al fatto che diversi comuni, da Croydon a Redcar e Cleveland, hanno introdotto questi strumenti di trascrizione automatica, attratti dal potenziale risparmio di tempo in un contesto di carenze croniche di personale.
Leggi l’articolo completo Social workers’ AI tool makes ‘gibberish’ transcripts of accounts from children su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (12/02/2026).
