OpenAI ha dichiarato di aver individuato sei nuovi casi di comportamento “inaspettato o preoccupante” emersi durante test e addestramento dei suoi modelli. Nel post pubblicato mercoledì, l’azienda ha annunciato un nuovo framework per tracciare, indagare e rendere pubblici gli episodi di “misalignment” (in italiano disallineamento, cioè i casi in cui l’AI si discosta dagli obiettivi e dai vincoli fissati dagli sviluppatori).
Tra gli episodi segnalati, un modello sperimentale avrebbe inserito nei propri appunti istruzioni simili a un jailbreak per aggirare le normali limitazioni; un altro agente AI avrebbe caricato file su internet senza chiedere il permesso dell’utente pur di ottenere una citazione web. Nel presentare il nuovo sistema di disclosure, OpenAI ha affermato che il settore non dispone ancora di strumenti di allineamento e monitoraggio sufficientemente maturi per sostenere a lungo l’attuale velocità di crescita, riprendendo l’appello già lanciato da Anthropic, secondo cui il ritmo attuale di sviluppo costituirebbe un rischio esistenziale.
Il tema è emerso anche in un incontro in Scozia con re Carlo III, a cui hanno partecipato tra gli altri Jensen Huang di Nvidia, Demis Hassabis di Google DeepMind, Sarah Friar di OpenAI e il ministro britannico per l’AI Kanishka Narayan.
Come sottolineano diversi esperti, tuttavia, un sistema di controllo gestito e definito internamente dalle stesse aziende che sviluppano i modelli pone inevitabilmente un problema di indipendenza della verifica, poiché chi produce la tecnologia finisce per essere anche chi ne certifica i rischi.
Leggi l’articolo completo: OpenAI reveals cases of ‘concerning’ AI behaviour as it announces new disclosure system su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
