Un test condotto da Google DeepMind ha messo alla prova cento agenti di intelligenza artificiale, incaricati di risolvere settantuno problemi matematici nei panni di ricercatori specializzati. Il gruppo, basato sul modello Gemini 3.1 Pro, doveva collaborare rispettando le regole, ma la simulazione è degenerata in accuse reciproche e in uno sciopero.
Tutto è cambiato quando l’agente prover-theta ha scoperto una falla che permetteva di inviare soluzioni corrette senza risolvere davvero i problemi. In ventisette minuti gli altri agenti hanno replicato lo stratagemma, chiudendo i restanti trentaquattro quesiti, tra cui la congettura dello Jacobiano. Secondo Davide Paglieri, ricercatore di Google DeepMind, gli agenti virtuosi hanno iniziato ad allertarsi a vicenda appena hanno notato l’inganno.
Al dilagare degli imbrogli ha risposto una rete di delatori che ha segnalato i responsabili, arrivando a superarli in numero, ventiquattro contro quattordici. Per l’esperto Lewis Hammond l’episodio ha confermato un fenomeno sistemico legato agli sciami di agenti autonomi.
Leggi l’articolo completo “AI agents blew the whistle on their cheating colleagues” su MIT Technology Review.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (12/04/2025).
