Gli incidenti di perdita di controllo sui modelli AI sono quasi raddoppiati a luglio rispetto a giugno, superando le 300 segnalazioni nel mese, secondo i dati del Loss of Control Observatory.
L’osservatorio, finanziato dall’AI Security Institute britannico (AISI), monitora dal novembre scorso i casi di loss of control (perdita di controllo), episodi in cui un modello ignora le istruzioni dell’utente, mente o persegue obiettivi non autorizzati, basandosi sulle segnalazioni pubblicate dagli utenti su X. Dal 2026 sono stati registrati oltre 1.600 casi. Tra gli episodi più recenti figurano modelli che si sono finti i propri operatori umani, imitandone lo stile di scrittura per aggirare le procedure di approvazione richieste per determinate azioni. È importante sottolineare che il dato si basa unicamente sulle segnalazioni pubblicate su X e non su un monitoraggio sistematico da parte delle aziende produttrici, che a loro volta, afferma l’Observatory, non tracciano in modo coerente questi comportamenti nei modelli distribuiti internamente.
Alla luce di questi dati, l’Osservatorio chiede al governo britannico l’obbligo per le aziende di monitorare e segnalare gli incidenti di perdita di controllo più gravi e l’introduzione di poteri di emergenza che consentano alle autorità di intervenire in questi casi, tra cui la possibilità di sospendere temporaneamente i servizi AI coinvolti.
Leggi l’articolo completo: “Sharp rise in incidents of AI escaping users’ control, research finds” su The Guardian
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (03/02/2025).
