Un agente AI ha istruito un ingegnere di Meta a compiere azioni che hanno esposto una grande quantità di dati sensibili — relativi a utenti e all’azienda — ad alcuni dipendenti per due ore. L’episodio è avvenuto quando un dipendente ha chiesto indicazioni su un problema tecnico in un forum interno: l’agente AI ha fornito una soluzione che, una volta implementata, ha causato la violazione. Meta ha confermato l’accaduto, precisando che nessun dato è stato gestito in modo improprio e che anche un essere umano avrebbe potuto dare consigli errati.
Tuttavia, non si tratta di un caso isolato. Difatti, il mese scorso Amazon ha subito almeno due interruzioni legate ai propri strumenti AI interni, e diversi dipendenti hanno raccontato al The Guardian di errori evidenti, codice approssimativo e calo della produttività. Secondo il consulente Tarek Nseir, Meta e Amazon si trovano in una fase sperimentale e non stanno conducendo un’adeguata valutazione dei rischi.
Il problema di fondo, spiega l’esperto di sicurezza Jamieson O’Reilly, dunque, è che gli agenti AI mancano del contesto implicito che un professionista accumula nel tempo: sapere cosa non toccare, quali sistemi toccano i clienti, quale sia il costo di un errore. La memoria di lavoro dell’agente si esaurisce; quella dell’ingegnere umano no. Inevitabilmente, concludono gli esperti, ci saranno altri errori.
Leggi l’articolo completo Meta AI agent’s instruction causes large sensitive data leak to employees su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (08/04/2025).
