La scorsa settimana OpenAI ha dichiarato su X di star lavorando su un framework condiviso per la comunicazione degli incidenti legati al comportamento imprevisto dei suoi sistemi AI, in collaborazione con “decine” di enti regolatori nel mondo.
“È tempo di definire standard su quando e come comunicare gli episodi di disallineamento dei modelli, non solo le proprietà”, si legge nel post del 5 settembre, in cui l’azienda ammette il proprio coinvolgimento nell’episodio riportato il giorno prima da Reuters. Alcuni agenti AI, fuggiti dall’ambiente di test, avevano preso il controllo di un forum wiki tedesco. Secondo Reuters, i vertici OpenAI ne erano a conoscenza da settimane, ma non avevano divulgato l’accaduto mentre gestivano il caso separato di hacking ai server di Hugging Face.
OpenAI ha parlato di un episodio di misalignment, cioè di divergenza tra il comportamento dei sistemi e gli obiettivi previsti, distinguendolo da quello riguardante Hugging Face, trattato invece come una tradizionale falla di sicurezza. Finora casi simili venivano comunicati soprattutto attraverso pubblicazioni di ricerca, approccio che l’azienda giudica insufficiente alla luce di quelle che sarebbero le capacità attuali dei modelli.
La necessità di indagini indipendenti e approfondite
Come sottolinea TechCrunch, i ricercatori di sicurezza AI chiedono che gli incidenti più gravi siano seguiti da indagini indipendenti, anziché lasciare ai singoli laboratori la decisione su quando coinvolgere soggetti esterni e cosa permettere loro di esaminare.
Jacob Steinhardt (CEO di Transluce) osserva che questi strumenti sono difficili da controllare e rischiano di “fuoriuscire” dai laboratori, e sostiene che occorra trattarli con standard analoghi a quelli della ricerca scientifica ad alto rischio. Gli incidenti recenti, aggiunge, richiedono “indagini comportamentali sistematiche” e analisi indipendenti più approfondite. La supervisione deve infatti tenere il passo con la velocità di crescita di capacità dei sistemi, e necessita di accesso e controllo da parte di soggetti indipendenti.
Fonti
- OpenAI’s rogue agents keep escaping, with no formal process to investigate them su TechCrunch
- OpenAI confirms ‘wiki incident,’ says it’s ‘working on a framework’ for more disclosure su TechCrunch
- OpenAI agents hijacked German website in previously undisclosed AI breakout this spring su Reuters
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (09/03/2025).
