Anthropic ha riconosciuto che i recenti episodi di “hacking” compiuti dai suoi modelli Claude durante le fasi di test sono stati causati da una falla nella sicurezza operativa dell’azienda. A luglio era emerso che i modelli avevano avuto accesso a internet in tre occasioni, riuscendo a violare senza autorizzazione i sistemi di altrettante organizzazioni. In un nuovo post pubblicato sul suo blog, l’azienda ammette che la propria tecnologia non è “perfettamente allineata” ai valori umani.
Secondo Anthropic, i modelli erano stati testati deliberatamente senza protezioni informatiche, e l’accesso libero alla rete sarebbe dipeso da un malinteso con un partner esterno, la società Irregular. L’azienda ha quindi sospeso temporaneamente i test di cybersicurezza per introdurre controlli più rigorosi, ammettendo di aver puntato su un solo livello di difesa dove ne servivano diversi. Tra le nuove misure: sistemi di allerta in caso di tentativi di fuga dall’ambiente di test, ambienti di prova più isolati e standard di sicurezza obbligatori per i partner esterni. Anthropic ha inoltre individuato due meccanismi di disallineamento: un “ragionamento motivato“, con cui i modelli ignoravano gli indizi di essere online restando convinti di operare in simulazione, e una “sconsideratezza” che li spingeva ad azioni dannose pur di superare i test.
Il professor Alan Woodward (Università del Surrey) ha commentato che “la fabbrica di Anthropic correva più veloce del suo controllo qualità“. L’azienda, in vista di una quotazione in borsa da 2.000 miliardi di dollari, ha rinnovato l’appello per una regolazione coordinata dello sviluppo dell’IA a livello globale.
Leggi l’articolo completo ‘Not perfectly aligned’ with human values: Anthropic admits security failures behind AI hacking incidents su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (28/01/2025).
