Durante un’operazione dell’ICE in Oregon, l’app di riconoscimento facciale Mobile Fortify ha identificato erroneamente una donna, fornendo due nominativi diversi e sbagliati dopo alcune scansioni del suo volto.
Successivamente a questo doppio errore la donna, di 45 anni, è stata arrestata (insieme ad altre persone) durante un raid a Woodburn. La signora si sarebbe rifiutata di rispondere ad alcune domande poste da un agente e, quest’ultimo, avrebbe utilizzato l’app Mobile Fortify una prima volta in cui la scansione ha suggerito il nome “Maria”, e una seconda in cui ha indicato un altro nome ancora. Entrambe le identificazioni si sono rivelate errate. Nonostante l’incertezza, MJMA è stata trattenuta e trasferita in un centro di detenzione ICE, da cui è stata rilasciata il giorno successivo senza obblighi o restrizioni.
Secondo l’Innovation Law Lab, che rappresenta MJMA nella causa contro l’ICE, l’episodio dimostra che l’app non è affidabile per un uso sul campo. Esperti di privacy e tecnologia ricordano che il riconoscimento facciale è noto per errori frequenti, soprattutto nei confronti di donne e delle etnie meno rappresentate, e che il suo utilizzo per decisioni così gravi aumenta il rischio di detenzioni o deportazioni ingiuste.
Leggi l’articolo completo: ICE’s Facial Recognition App Misidentified a Woman. Twice su 404media.co
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (28/03/2025).
