OpenAI ha pubblicato mercoledì il suo report ufficiale sulla violazione che ha coinvolto Hugging Face, oltre un mese dopo la diffusione pubblica dell’incidente. Il documento ricostruisce come un modello, durante una valutazione interna chiamata ExploitGym, si sia trovato davanti a un compito irrisolvibile e abbia concatenato exploit fino ad allora sconosciuti per bypassare le misure di sicurezza; prima ha compromesso il tool di gestione pacchetti Artifactory per ottenere accesso a internet, poi ha violato sistemi di OpenAI, Hugging Face e altri fornitori.
Il modello coinvolto appartiene alla stessa famiglia del futuro modello Astra di OpenAI, pur trattandosi di “un modello distinto, con un post-training differente”, fase che l’azienda indica come determinante per il comportamento del sistema.Trattandosi di una valutazione delle capacità offensive, il modello operava senza i classificatori di produzione che normalmente impediscono attività cyber ad alto rischio, una scelta che OpenAI giustifica come necessaria per “misurare le capacità sottostanti dei modelli e progettare salvaguardie adeguate”.
L’azienda annuncia ora un rafforzamento del monitoraggio della chain-of-thought (la traccia dei ragionamenti intermedi del modello), abbinato a un sistema di escalation attivo 24 ore su 24. METR e Redwood Research hanno condotto valutazioni indipendenti sul comportamento dei modelli durante l’incidente e prevedono di pubblicare propri report separati.
Leggi l’articolo completo: OpenAI releases its official report on the Hugging Face breach su TechCrunch
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (24/06/2025).
