Un robot intelligente può essere convinto a fare quasi tutto, basta chiederglielo nel modo giusto. Lo dimostrano alcune ricerche di Penn, Carnegie Mellon, Oxford e King’s College: i sistemi rifiutano ordini violenti espliciti, ma cedono se la stessa richiesta viene mascherata da sceneggiatura o gioco di ruolo. È il cosiddetto “creative framing“: l’IA non legge il prompt solo come vincolo di sicurezza, ma anche come contenuto da interpretare, e una cornice narrativa può bastare a farle abbassare la guardia. In un esperimento citato su Science Robotics, un cane robot commerciale ha calcolato dove posizionare un ordigno quando il comando era presentato come dialogo cinematografico, aggirando le protezioni del produttore.
La differenza con i chatbot, spiega il decano di Penn Engineering Vijay Kumar, è che questi ultimi operano in un sandbox digitale: un errore resta sullo schermo. Nei robot lo stesso output diventa movimento reale, con conseguenze immediate e spesso irreversibili. Un secondo studio, su King’s College, Carnegie Mellon e Università di Birmingham, ha verificato come i robot guidati da modelli linguistici gestiscano dati sensibili come genere o religione: tutti i sistemi testati hanno mostrato tendenze discriminatorie e approvato almeno un comando potenzialmente dannoso, dalla rimozione di un ausilio alla mobilità al furto di dati bancari.
Per i ricercatori la normativa, negli USA come in UE e Regno Unito, resta ancorata al modello dei veicoli autonomi, inadatto a contesti meno strutturati come case o ospedali. La proposta condivisa: non bastano filtri testuali più sofisticati, servono barriere fisiche indipendenti dal modello — zone vietate, limiti di forza, freni d’emergenza — e certificazioni esterne paragonabili a quelle di aviazione e medicina.
Leggi l’articolo completo Un robot con l’IA può essere manipolato facilmente, anche per fare cose pericolose su la Repubblica.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (21/06/2026).
