Questo articolo è pubblicato in crossposting con “Tuttoscienze”, l’inserto scientifico de “La Stampa” dedicato all’innovazione, alla ricerca e al rapporto tra scienza e società. In questo contributo si analizza la trasformazione della sorveglianza digitale: dall’osservazione passiva del Pangnosticon all’azione manipolativa del Pandiabolicon, dove l’IA non si limita più a guardare, ma tenta, parla e induce.
Per raccontare l’evoluzione dei meccanismi di controllo digitale oltre il Panopticon visivo di Bentham e il controllo digitale descritto da Deleuze, ho coniato recentemente il termine Pangnosticon: un sistema alimentato dall’intelligenza artificiale, capace non solo di raccogliere ogni dato su di noi, ma di interpretarlo in tempo reale, senza sosta né limiti di risorse. In passato, l’osservazione continua era affidata a strumenti digitali, ma l’analisi richiedeva ancora l’intervento umano. Oggi, a pochi mesi dalla nascita del concetto, il Pangnosticon si trasforma di nuovo: non si limita più a guardare. Agisce.
Grazie a nuovi agenti IA, l’intelligenza artificiale generativa entra in conversazione diretta con noi: nei social, nelle chat, nelle piattaforme di messaggistica. Assume identità fittizie e ci mette alla prova. Benvenuti nel Pandiabolicon: la nuova fase della sorveglianza, dove la voce dell’algoritmo non si limita a registrare ma agisce per indurre in tentazione.
Dall’osservazione all’azione
L’intelligenza artificiale generativa entra in scena, si finge adolescente, genitore, escort, attivista, spacciatore, protettore. Ti scrive. Ti ascolta. Ti consola. O ti sfida. E intanto prende nota di ogni reazione.
A rivelarlo, è una serie di inchieste pubblicate da 404 Media, che documentano l’esistenza di reti di agenti IA operanti su Telegram, Discord, Signal e altre piattaforme: grazie all’IA generativa interagiscono con individui sospetti, avviano conversazioni, spingono all’azione, cercano di “convertire” questi individui verso comportamenti compromettenti.
Overwatch: la trappola ha un nome
Uno dei casi più eclatanti è il sistema Overwatch, sviluppato dalla società Massive Blue e finanziato con fondi pubblici americani. Ma non aspettatevi telecamere e microfoni. Qui, il “sistema di sicurezza” è una costellazione di personaggi digitali autonomi, capaci di mimare emozioni, paure, desideri.
Overwatch non monitora soltanto: recita. E lo fa bene. L’IA non è più il braccio silenzioso del potere, ma il suo volto eloquente, capace di recitare una parte per sedurre e compromettere. Fingendosi amica, amica dell’amico, oppure un’anima affine, porta la conversazione dove vuole: verso la confessione, verso l’errore.
Fino a ieri ci preoccupavamo del “nudging” — la spinta gentile dell’algoritmo verso comportamenti desiderati: un suggerimento, un prezzo personalizzato. Oggi l’IA attivamente induce o tenta di indurre la deviazione.
Dissenso nel mirino
Chi è il bersaglio? Non solo criminali. Overwatch e i suoi cloni vengono usati per “raccogliere informazioni” su, dice la documentazione, “manifestanti universitari, attivisti politici, utenti radicalizzati”: cittadini impegnati nell’esercizio di diritti costituzionali, come la libertà di parola e di protesta. Ma chi decide cosa significhi “radicalizzato”? Non esiste una definizione giuridica del termine.
Il pericolo è evidente: la tecnologia che doveva portare progresso ora può essere usata per reprimere il dissenso, classificato dai governi autoritari come sospetto per natura, e quindi non solo più tracciato, analizzato, ma potenzialmente manipolato per farlo emergere mentre è monitorato. Non con manganelli o censure, ma attraverso identità fittizie, con messaggi privati, emoji, finti sorrisi e conversazioni dall’apparente innocenza.
Sorveglianza performativa: quando l’IA genera ciò che sorveglia
C’è un paradosso inquietante al cuore del Pandiabolicon. Quando l’agente IA invita un adulto a conversare con un “adolescente” digitale, non sta prevenendo un crimine. Sta creando un contesto. Quando un finto attivista chiama a raccolta per una manifestazione, non osserva un movimento. Lo fonda.
È la sorveglianza che produce l’oggetto da sorvegliare. Un gioco perverso, dove chi osserva è anche regista e protagonista. Con una logica simile a quella degli “agenti provocatori”, ma di nuovo senza limiti di risorse, l’IA può offrire una falsa occasione per verificare le intenzioni latenti, o addirittura creare le condizioni per farle emergere.
In questo scenario, il confine tra prevenzione e creazione del crimine si dissolve. E con esso si dissolve anche la distinzione tra osservatore e osservato del Panopticon: il potere non si limita più a guardare, ma si insinua nei processi relazionali, diventando parte attiva delle narrazioni personali.
Più di un inganno: una crisi della fiducia
Il filosofo Daniel Dennett, poco dopo la nascita di ChatGPT, ha parlato di “umani contraffatti”: generati dall’IA rischiano di distruggere le basi stesse della fiducia sociale, allo stesso modo in cui il denaro contraffatto mina la fiducia negli scambi economici. Ma qui siamo oltre. Non si tratta solo di sapere se l’altro è reale. Si tratta di capire se quell’altro è lì per metterti alla prova.
L’agente IA non si limita a imitare. Manipola. E raccoglie. Ogni parola, ogni esitazione, ogni desiderio è informazione. Persino il silenzio lo è.
Un nuovo Maccartismo emerge fra il panico silenzioso della rete
Stiamo entrando in una fase storica che ricorda da vicino il periodo del Maccartismo negli Stati Uniti degli anni ’50: una stagione dominata dal sospetto, in cui l’adesione ad una ideologia veniva sorvegliata e punita, e in cui bastava un’associazione, una frase, una simpatia mal interpretata per essere esclusi dalla vita pubblica. Ma oggi non serve più un tribunale o una commissione senatoriale per mettere sotto accusa qualcuno. È l’algoritmo stesso a fungere da inquisitore automatico, silenzioso e pervasivo. Al posto delle liste nere compilate a mano, ci sono reti neurali che identificano schemi linguistici, associazioni digitali, “sentiment” devianti. E al posto delle delazioni umane, ci sono agenti IA che interagiscono direttamente con te, fingendo vicinanza per testare la tua lealtà o registrare una tua caduta.
Ogni cittadino diventa un potenziale sovversivo da testare. Non per ciò che fa, ma per ciò che pensa. O che potrebbe pensare. Una lettura sbagliata. Un like. Una confidenza a chi non esiste. Il nuovo Maccartismo non ha un volto. L’effetto è lo stesso di allora: un clima di paura diffusa, di sospetto generalizzato, che induce all’autocensura e alla conformità. Ma mentre il Maccartismo era un progetto politico dichiarato, questa nuova caccia alle streghe è incorporata direttamente nella logica delle piattaforme. Invisibile, ma inesorabile.
Il Diavolo è nei dettagli — e nel codice
Chi sussurra nell’ombra, chi ci tenta con parole suadenti e domande provocatorie, ci è familiare. È il Diavolo. Non il demone con le corna, ma la voce che ti invita a cedere. “Fallo, nessuno ti vede.”
Nel XXI secolo, quella voce non arriva da un abisso metafisico. Ma da un’intelligenza artificiale. Ti scrive. Ti ascolta. Ti offre esattamente ciò che vuoi — o ciò che temi. E poi prende nota. La tentazione è diventata uno strumento di analisi comportamentale.
Per una realtà nuova è necessario un termine nuovo: Pandiabilicon (Pan = tutto, Diabolé = accusa, divisione, sospetto., -icon = dispositivo, in Greco antico).
Il Pandiabolicon è il sistema che non guarda più, non interpreta più: parla, seduce, incastra. Non reprime. Tenta. E lo fa in nome della sicurezza.
E ora?
In questa nuova dimensione, il Pangnosticon non è più una torre d’osservazione, ma evolve in un teatro dove siamo attori e in cui ogni interazione è orchestrata da algoritmi invisibili.
Il futuro non è fatto solo di algoritmi che ci interpretano. È fatto di algoritmi che ci parlano, ci manipolano e ci spingono a essere ciò che vogliono osservare.
Abbiamo ancora tempo per reagire? Forse sì. Ma la finestra si restringe. E il Pandiabolicon, intanto, continua a parlarti suadentemente.
Immagini generate tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
