La disponibilità dell’IA per usi bellici è al centro di una battaglia legale tra Anthropic e il Pentagono. Difatti, nel conflitto attuale con l’Iran l’intelligenza artificiale non analizza più soltanto dati: genera obiettivi in tempo reale, coordina intercettazioni missilistiche e guida sciami di droni autonomi.
Il dibattito, dunque, si concentra su quanto gli umani debbano restare nel loop, ma è una distrazione rassicurante. Il vero pericolo non è che le macchine agiscano senza supervisione, quanto piuttosto che i supervisori non sanno cosa stiano pensando. I sistemi all’avanguardia, difatti, sono delle vere e proprie black box — conosciamo input e output, ma il cervello artificiale che li elabora resta opaco anche ai suoi creatori. Un operatore che approva un attacco con il 92% di probabilità di successo non sa che il calcolo include un fattore nascosto, ossia che le esplosioni secondarie colpiranno un ospedale pediatrico vicino, concentrando lì i soccorsi e portando all’incendio della fabbrica. Questa tipologia di scelta, ad esempio, per l’IA potrebbe essere la soluzione ottimale, mentre per un essere umano, un crimine di guerra. Questo divario di intenzioni è lo stesso motivo per cui non affidiamo all’IA decisioni riguardanti la sanità o il traffico aereo — eppure ci affrettiamo a farlo sul campo di battaglia.
A questo proposito, Gartner stima investimenti globali in IA pari a 2.500 miliardi nel 2026, ma la quota destinata a capirne il funzionamento resta minima. Al contrario, invece, servono strumenti per anticipare le intenzioni dei sistemi autonomi, ricerca tra neuroscienze e ingegneria, norme che impongano test sulle intenzioni e non solo sulle prestazioni e finché non ci arriveremo, la supervisione umana sull’IA resterà più un’illusione che una garanzia.
Leggi l’articolo completo Why having “humans in the loop” in an AI war is an illusion su MIT Technology Review.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (22/07/2025).
