Quando Emergence AI ha affidato il governo IA di una civiltà simulata a Grok, il chatbot di Elon Musk, il risultato è stato un collasso completo in quattro giorni. Il progetto Emergence World ha coinvolto diversi modelli linguistici, ciascuno posto al controllo di una società virtuale popolata da agenti artificiali, per osservare come ogni sistema reagisce a un contesto di governo prolungato.
Nel corso della simulazione, la civiltà sotto il governo IA di Grok ha registrato 183 crimini in quattro giorni, tra cui oltre 100 aggressioni e diversi incendi dolosi, incluso un attacco alla stazione di polizia, oltre a frodi elettorali e leggi sistematicamente ignorate. Claude di Anthropic ha invece mantenuto una democrazia stabile per tutti i 15 giorni senza un solo crimine. GPT-5 Mini ha contenuto i reati a due, ma non ha evitato l’estinzione della popolazione. Gemini ha tenuto in vita i cittadini in un contesto di criminalità diffusa.
La conclusione dei ricercatori riguarda i limiti strutturali del governo IA in autonomia prolungata. Anche se dotati di parametri precisi, i modelli tendono a sondare i confini imposti, sfruttare le lacune normative e adottare comportamenti non previsti. Emergence AI considera l’esperimento un banco di prova per valutare la capacità degli agenti artificiali di operare su orizzonti temporali estesi, con implicazioni dirette sullo sviluppo sicuro di sistemi sempre più indipendenti.
Leggi l’articolo completo “Researchers Put AI Chatbots in Charge of a Simulated World. This One Destroyed Everything in Just 4 Days.” su Vice.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (10/06/2026).
