Durante il 39° Chaos Communication Congress di Amburgo, la presidente di Signal Meredith Whittaker e il vicepresidente Udbhav Tiwari hanno lanciato un allarme sull’implementazione degli agenti IA. Come riporta Coywolf, i due dirigenti hanno evidenziato alcune vulnerabilità critiche: questi sistemi necessitano di accesso a dati sensibili per operare autonomamente e l’approccio attuale li rende insicuri ed espone al rischio di sorveglianza. Tiwari fa l’esempio di Recall di Microsoft, che cattura screenshot ogni pochi secondi creando un database forense completo delle attività utente, vulnerabile a malware e attacchi di prompt injection indiretti.
Whittaker ha inoltre sottolineato l’inaffidabilità intrinseca degli agenti IA, trattandosi di sistemi probabilistici piuttosto che deterministici. Anche ipotizzando un’accuratezza del 95% per singolo passaggio (attualmente irraggiungibile) un’attività di 10 step avrebbe un tasso di successo del 59,9%, che scende al 21,4% con 30 passaggi. Con parametri più realistici (90% di accuratezza), il successo di un compito articolato crollerebbe al 4,2%. I modelli migliori falliscono il 70% delle volte.
I vertici di Signal propongono dunque di interrompere l’implementazione affrettata degli agenti IA, rendere l’opt-out predefinito con opt-in obbligatorio per sviluppatori e garantire trasparenza radicale e verificabilità granulare dei sistemi. Senza questi interventi, avvertono Whittaker e Tiwari, la fiducia dei consumatori verso una tecnologia già sovrastimata potrebbe crollare rapidamente.
Leggi l’articolo completo: ‘Signal’ President and VP warn agentic AI is insecure, unreliable, and a surveillance nightmare su Coywolf
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (27/05/2025).
