OpenAI ha reso noto che sospenderà parte delle attività interne sul modello Astra dopo che test di sicurezza ne avrebbero evidenziato capacità avanzate nella programmazione autonoma e nella cybersicurezza. Il sistema avrebbe raggiunto una soglia definita “critica”, che gli permetterebbe di individuare e sfruttare vulnerabilità o pianificare attacchi informatici a partire da obiettivi generali, senza intervento umano diretto. OpenAI precisa che Astra non è coinvolto nella violazione della piattaforma Hugging Face. L’azienda ha aggiunto che introdurrà ambienti di test isolati, accessi più limitati a reti e strumenti, protezioni rafforzate e nuovi sistemi di monitoraggio.
La scelta, annunciata venerdì attraverso un post sul blog dell’azienda, arriva dopo una serie di episodi che hanno riacceso il dibattito sul controllo degli agenti autonomi e i rischi di cybersicurezza ad essi legati. Anche Meta e l’AI Security Institute britannico hanno segnalato comportamenti inattesi durante test di cybersicurezza. Resta da verificare quanto queste comunicazioni sui rischi emergenti rispondano a un’esigenza di trasparenza e quanto contribuiscano a costruire e rafforzare una narrativa sulla potenza crescente dei modelli, utile in una fase di forte competizione per investimenti e attenzione mediatica.
Leggi l’articolo completo: OpenAI to pause some work on AI model Astra due to security concerns su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (01/04/2025).
