Anthropic sostiene che alcuni suoi modelli potrebbero presto acquisire la capacità di autoreplicarsi su dispositivi smart connessi a internet, come frigoriferi e robot aspirapolvere. Lo riporta un report del Frontier Red Team, l’unità interna dedicata allo stress-test dei modelli, pubblicato lunedì 12 ottobre.
Secondo i ricercatori, dei worm (un tipo di malware capace di autoreplicarsi e propagarsi da un dispositivo all’altro) basati su IA potrebbero diffondersi autonomamente su reti domestiche entro pochi mesi, operando senza bisogno di datacenter centralizzati. L’assenza di un punto centrale di controllo renderebbe tali sistemi particolarmente difficili da disattivare. Il fenomeno riguarderebbe principalmente modelli di dimensioni ridotte, capaci di operare sui piccoli chip IA integrati in forni intelligenti, TV, tosaerba automatici, telecamere di sicurezza e sistemi di videoconferenza. Le abitazioni e le piccole imprese sarebbero i primi bersagli plausibili. Il team non ha definito con precisione quale forma assumerebbe concretamente la replicazione.
Reuters riporta che alcuni esperti hanno mostrato un certo scetticismo. L’ex direttore del National Cyber Security Centre britannico Ciaran Martin ha definito il report un lavoro tecnico interessante ma con una componente di esagerazione commerciale, sottolineando che un modello eseguito su una TV economica non equivale a una crisi di sicurezza. Di parere opposto, Zhengxiong Li (Università del Colorado Denver), preoccupato all’idea di un’IA capace di diffondersi come un “worm” che potrebbe improvvisare sul momento diversi modi per violare i dispositivi. Il report è stato ripreso anche da Repubblica.
Leggi gli articoli completi:
- AI in your oven? Anthropic warns models ‘months away’ from self-replication on smart devices su The Guardian
- Anthropic warns AI models may soon self-replicate and could wreak havoc on the web su Reuters
- L’IA che si replica da sola, cosa ha scoperto Anthropic su Repubblica
- AI models may be capable of self-replicating without access to a datacenter sul blog di Anthropic
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (18/04/2025).
