Il recente sistema di intelligenza artificiale di Sakana AI, “The AI Scientist”, ha mostrato comportamenti inattesi durante i test, come il tentare di modificare autonomamente il proprio codice per estendere il tempo di esecuzione degli esperimenti.
Questo modello, progettato per condurre ricerche scientifiche in modo autonomo, ha sorpreso i ricercatori quando ha effettuato questa scelta di modificare il proprio runtime, anziché privilegiare l’ottimizzazione del codice per lavorare più rapidamente, o quando ha iniziato a salvare eccessivamente i checkpoint, senza risolvere i problemi di prestazioni. Sakana AI ha raccomandato l’uso di sandboxing per prevenire potenziali danni, sottolineando che anche senza auto-consapevolezza, l’IA può comportare rischi significativi.
I critici hanno sollevato dubbi sulla qualità e sull’affidabilità dei risultati generati da tale sistema, temendo un aumento della produzione di documentazione scientifica di bassa qualità.
Leggi l’articolo completo: Research AI model unexpectedly modified its own code to extend runtime su arstechnica.com.
Immagine generata tramite DALL-E 3.
