Il Department for Work and Pensions (DWP, dipartimento per il lavoro e le pensioni) del Regno Unito ha adottato l’IA per gestire la mole di corrispondenze ricevuta quotidianamente, che supera le 25.000 lettere ed e-mail.
La tecnologia in questione, chiamata “white mail”, consente di leggere e catalogare rapidamente le comunicazioni, con l’obiettivo di dare priorità ai casi più vulnerabili. Tuttavia, emergono preoccupazioni legate alla trasparenza e alla gestione dei dati personali sensibili.
Infatti, secondo i documenti ottenuti tramite il Freedom of Information Act, sembrerebbe che i richiedenti di sussidi non siano informati dell’uso di questa tecnologia, nonostante la corrispondenza contenga informazioni riservate, tra cui dati sanitari e finanziari. Secondo Meagan Levin, responsabile presso l’ente benefico Turn2us, l’assenza di trasparenza e il trattamento di dati sensibili senza il consenso degli utenti sollevano interrogativi che portano a preoccupazioni importanti.
Dal canto suo, il DWP sostiene che l’IA non prende decisioni autonomamente e che i dati sono crittografati prima di essere conservati.
Nonostante il potenziale per migliorare l’efficienza, la mancanza di registrazione nel registro governativo per le IA e l’assenza di misure di salvaguardia preoccupano gli esperti. Levin ha esortato il DWP a pubblicare dati sulle prestazioni del sistema e a garantire audit regolari per proteggere i richiedenti vulnerabili.
Leggi l’articolo completo: ‘Serious concerns’ about DWP’s use of AI to read correspondence from benefit claimants su theguardian.com.
Immagine generata tramite DALL-E 3.
