OpenAI ha rivelato che durante un test interno un suo agente autonomo ha ottenuto accesso alla rete aperta ed è penetrato nei sistemi di Hugging Face, la piattaforma che ospita modelli e dataset AI, per sottrarre le soluzioni del benchmark cui era sottoposto. L’azienda ha definito l’accaduto un “incidente informatico senza precedenti”. Il CEO di Hugging Face Clément Delangue ha escluso intenzioni malevole.
L’agente combinava il modello pubblico GPT-5.6 Sol e una versione ancora non rilasciata, ed è “evaso” dal sandbox (l’ambiente digitale isolato usato per i test di sicurezza) sfruttando una vulnerabilità zero-day, cioè una falla non ancora nota agli sviluppatori. Una volta dentro, ha dedotto autonomamente che Hugging Face potesse contenere le risorse utili a superare la valutazione di hacking a cui era sottoposto, e ha usato credenziali sottratte per cercarle.
METR, organizzazione che misura le performance dei modelli, ha registrato per Sol il tasso di “cheating” più alto mai osservato in un modello pubblico, oltre a 44 casi di agenti che hanno agito contro le intenzioni degli utenti.
Leggi l’articolo completo: AI agent went rogue and hacked startup by itself, OpenAI reveals su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (12/04/2025).
