Nel 2015, il governo australiano aveva lanciato un programma di recupero crediti automatizzato per contrastare i presunti pagamenti eccessivi nell’ambito del welfare. Tuttavia, sei anni dopo, il sistema ha erroneamente segnalato oltre 381.000 persone, portando a una causa collettiva che ha evidenziato il suo impatto devastante sulla popolazione. Il giudice ha definito il programma un “capitolo vergognoso” nella storia del Paese, responsabile di causare “difficoltà finanziarie, ansia e angoscia”.
Questo esperimento fallito in Australia rappresenta solo un esempio dei crescenti rischi associati all’adozione dei processi decisionali automatizzati (ADM) da parte dei governi.
Paesi come Giordania e Serbia hanno implementato strumenti digitali per automatizzare compiti cruciali, sfruttando l’IA per migliorare l’efficienza e l’accesso ai servizi pubblici. Tuttavia, questi sistemi non sono esenti da critiche: oltre a rischiare di amplificare pregiudizi sociali e mettere a rischio la privacy, possono compromettere l’accesso equo alle prestazioni sociali, sollevando dubbi sulla loro implementazione in contesti democratici.
Leggi l’articolo completo: Automated Decision-Making in Government and the Risk to Democratic Norms su techpolicy.press.
Foto di vectors icon su Pexels.
