• LinkedIn
  • Telegram
  • FB
  • FB

Magazine Intelligenza Artificiale: l'IA è più di quello che appare

Magazine Intelligenza Artificiale: l'IA è più di quello che appare

In nome dell’efficienza, è arrivato il tempo dei mostri

IA Mostro

La grande promessa della modernità è sempre stata l’efficienza. Dal sogno di Charles Babbage di un calcolo meccanico all’ottimizzazione algoritmica del lavoro negli ambienti di lavoro odierni guidati dall’intelligenza artificiale, l’efficienza è trattata come una virtù indiscussa, una forza che separa il progresso dalla stagnazione, i vincitori dai perdenti, gli ottimizzati dagli obsoleti. È la logica che alimenta le rivoluzioni industriali, riorganizza le economie, razionalizza la guerra e giustifica licenziamenti di massa con un semplice clic. In nome dell’efficienza, intere strutture sociali sono state smantellate, le burocrazie snellite e i lavoratori resi sacrificabili. Ma che cosa succede se l’efficienza da strumento di progresso diviene ideologia del controllo che, se lasciata incontrollata, funziona come una purga?

La storia non manca di esempi in cui l’efficienza da meccanismo di produttività si è trasformata in strumento ideologico di trasformazioni radicali, esclusioni e, a volte, vere e proprie eliminazioni. Nel XIX secolo, il poliedrico Charles Babbage progettò la prima macchina computazionale, celebrata come la precorritrice dei moderni computer, nota come la “Macchina Differenziale”. La Macchina Differenziale di Babbage, come osserva Matteo Pasquinelli nel suo libro “The Eye of the Master”, mirava ad “automatizzare il calcolo dei logaritmi e vendere tabelle logaritmiche prive di errori, cruciali per l’astronomia e per mantenere l’egemonia britannica nel commercio marittimo e [nella sua] aggressiva espansione coloniale” (Pasquinelli 2023). Babbage non fu solo un pioniere nel design computazionale, ma anche una figura chiave nello sviluppo delle pratiche di gestione industriale. Fin dall’inizio, le sue teorie computazionali furono concepite come strumenti per automatizzare e disciplinare il lavoro.

Il saggio di Meredith Whittaker “Origin Stories: Plantations, Computers, and Industrial Control mette in luce l’influenza di Babbage ben oltre l’ambiente di fabbrica, evidenziando come la sua visione della meccanizzazione e degli strumenti computazionali fosse profondamente intrecciata con l’amministrazione coloniale britannica. Automatizzando calcoli complessi e standardizzando i processi, le innovazioni di Babbage miravano a snellire la governance coloniale, rendendola non solo più efficiente ma anche più controllabile. Il suo approccio facilitò la gestione di vasti territori coloniali e rispecchiava le strutture oppressive dei sistemi di piantagione, dove il controllo sulla manodopera schiavizzata era fondamentale.

La piantagione, sia come istituzione economica che sociale, ha funzionato come precursore di molti meccanismi di controllo industriale. Tecniche originariamente sviluppate per gestire le popolazioni ridotte in schiavitù — come la meticolosa registrazione dei dati, la sorveglianza e gli orari di lavoro rigidamente regolamentati —furono successivamente adattate e perfezionate negli ambienti industriali. Il lavoro di Babbage attingeva da queste metodologie, incorporandole nei suoi progetti di calcolo meccanico e gestione del lavoro. Così, le fondamenta stesse dell’informatica moderna e del controllo industriale sono intrecciate con pratiche radicate nello sfruttamento e nella dominazione.

Oggi, questi stessi principi sostengono la gestione del lavoro guidata dall’intelligenza artificiale (IA), dove la supervisione algoritmica traccia i lavoratori nei magazzini con precisione biometrica, i sistemi di polizia predittiva prendono di mira in modo sproporzionato le comunità marginalizzate e le piattaforme di assunzione automatizzate rafforzano modelli storici di esclusione. Così come i primi sistemi industriali ottimizzavano il lavoro umano attraverso il controllo disciplinare e la previsione statistica, l’IA contemporanea ottimizza l’efficienza attraverso la backpropagation — il processo fondamentale di apprendimento nelle reti neurali. Riducendo continuamente l’errore e regolando i pesi interni, l’IA affina il processo decisionale senza intervento umano, trasformando l’efficienza da strumento manageriale a processo algoritmico autonomo.

La spinta all’efficienza, un tempo strumento della disciplina industriale e dell’amministrazione coloniale, avrebbe assunto dimensioni ancora più sinistre nel XX secolo. La stessa logica che razionalizzava le piantagioni e la meccanizzazione del lavoro, sotto Babbage trovò la sua espressione estrema nella macchina burocratica della guerra e del genocidio. Questo fu particolarmente evidente nella Germania nazista, che abbracciò la filiale di IBM, Dehomag, fornitrice della tecnologia a schede perforate che permise la classificazione sistematica, il tracciamento e lo sterminio di milioni di persone. Se la visione computazionale di Babbage mirava a ottimizzare il movimento di merci e lavoratori, le innovazioni di Dehomag razionalizzarono il movimento delle vite umane verso i campi di sterminio.

Quando Adolf Hitler divenne cancelliere nel 1933, il suo regime si mosse rapidamente per imporre leggi razziali che escludevano gli ebrei, i Rom, le persone nere e i loro discendenti dalla vita pubblica, li privavano delle loro attività e, infine, miravano alla loro totale eliminazione. Ma l’esecuzione di una purga su così vasta scala richiedeva più della sola ideologia: necessitava di dati, classificazione e organizzazione. Come sottolinea lo storico Harry Murphy nel suo saggio Dealing with the Devil: The Triumph and Tragedy of IBM’s Business with the Third Reich, Hitler aveva bisogno della tecnologia e dei database per contare, organizzare e numerare la popolazione, distinguendo coloro che erano considerati “indesiderabili” o una minaccia per l’ordine razziale nazista — ebrei, rom, persone con disabilità, individui LGBTQ+, dissidenti politici e altri — dal resto della società. Questo richiedeva enormi quantità di dati, e non dati qualsiasi. Come parte di questo sforzo, fu programmato un censimento nazionale per il maggio 1939, progettato esplicitamente per raccogliere informazioni dettagliate sulla religione di ogni cittadino. Per attuare questa operazione, la Germania nazista si rivolse a Dehomag, un’azienda che, di fatto, funzionava come un’estensione di IBM.

Con il monopolio di IBM sulla tecnologia di tabulazione in Germania — detenendo il 95% della quota di mercato — l’azienda, sotto la leadership di Thomas J. Watson, modificò direttamente le sue macchine per soddisfare le esigenze del regime nazista. IBM non si limitò a fornire l’hardware; addestrò il personale, sviluppò sistemi personalizzati di schede perforate e gestì attivamente l’elaborazione dei dati della popolazione. Quando fu condotto il censimento del maggio 1939, esso non fu progettato solo per contare le persone, ma per estrarre informazioni dettagliate su religione, ascendenza e identità razziale — dati che sarebbero stati successivamente utilizzati per isolare, deportare e assassinare milioni di persone in modo sistematico.

Il sistema di schede perforate Hollerith non facilitò solo le operazioni censuarie, ma divenne una parte integrante dell’infrastruttura dei campi di concentramento nazisti. All’ingresso in un campo, ai prigionieri veniva assegnato un codice Hollerith a cinque cifre, tatuato sui loro corpi, corrispondente a schede perforate che registravano i loro dati demografici e il loro destino. Ogni aspetto della loro esistenza — etnia, sessualità, capacità lavorativa e l’eventuale “uscita” dal campo — veniva elaborato, catalogato e registrato attraverso la tecnologia di IBM. L’efficienza del sistema era così perfetta che, nel campo di concentramento di Westerbork, un prigioniero di nome Rudolf Cheim —impiegato nell’ufficio del servizio del lavoro—assistette all’operazione delle macchine IBM e riuscì a decodificare l’algoritmo. Secondo i Papers of Rudolph Martin Cheim” (RG 804, Box 1, YIVO Institute for Jewish Research), egli osservò che: “Le colonne 3 e 4 indicavano la ‘ragione della consegna’, e il codice 5 designava un ebreo, mentre il codice 2 indicava un omosessuale. La colonna 34 riportava la ‘ragione della partenza’, e l’atroce codice 6 indicava ‘trattamento speciale’. Scrutando le macchine, Cheim ricorda: ‘[Non c’era] mai un nome, solo i numeri assegnati’.”

In questo sistema, i nomi scomparivano, sostituiti da numeri elaborati dalle macchine — un esempio agghiacciante di come l’ideologia dell’efficienza burocratica riducesse le vite umane a meri punti dati ordinabili. Questa trasformazione si allinea con ciò che Giorgio Agamben descrive come “nuda vita”: la spoliazione dell’identità politica e personale, riducendo gli individui a pura esistenza biologica all’interno di un sistema che decide chi è sacrificabile.

Il ruolo di IBM nell’Olocausto non fu un effetto accidentale della tecnologia; fu una collaborazione deliberata, motivata dal profitto e ottimizzata per un’efficienza genocida. Mentre migliaia di persone venivano elaborate e assassinate nei campi, il CEO di IBM, Thomas J. Watson, accumulava profitti immensi, consolidando ulteriormente l’eredità dell’azienda basata sull’efficienza a tutti i costi.

Ma il coinvolgimento di IBM nella fusione tra computazione, governance e controllo non terminò nel 1945. La stessa logica orientata all’efficienza che aveva ottimizzato il lavoro nelle piantagioni e meccanizzato il genocidio nella Germania nazista non fu abbandonata dopo il 1945, ma fu perfezionata, riutilizzata e ricontestualizzata nell’era postbellica della cibernetica, dell’automazione e della governance dei dati. Un esempio sorprendente dell’intreccio postbellico di IBM con l’ideologia dell’efficienza si trova nella sua collaborazione con lo psicologo B.F. Skinner, la cui visione delle teaching machines (macchine per l’insegnamento) mirava a meccanizzare l’apprendimento attraverso i principi del condizionamento operante. Ispirato ai principi del comportamentismo, Skinner propose un sistema educativo automatizzato, in cui gli studenti interagivano con dispositivi meccanici che rafforzavano le risposte corrette eliminando al contempo le inefficienze dell’insegnamento tradizionale. IBM sostenne questi primi esperimenti, immaginando un futuro in cui l’efficienza computazionale potesse plasmare l’apprendimento umano così come aveva ottimizzato la produzione industriale e la logistica bellica. Sebbene questi progetti non siano mai stati pienamente realizzati, essi rivelano come la ricerca dell’efficienza si sia estesa ben oltre le fabbriche e gli uffici militari—fino al cuore stesso dello sviluppo sociale e cognitivo.

Allo stesso tempo, il periodo postbellico vide l’ascesa della cibernetica. Sviluppata da Norbert Wiener, la cibernetica fu inizialmente concepita come un approccio scientifico per comprendere la comunicazione, il feedback e i sistemi di controllo sia nelle macchine che negli organismi viventi. Tuttavia, si espanse rapidamente oltre il suo ambito originario, diventando una teoria fondamentale per l’ingegneria dei sistemi, l’intelligenza artificiale e persino la gestione politica ed economica. La cibernetica applicò la logica bellica della governance basata sui dati a una nuova era di modellazione predittiva, automazione e regolamentazione algoritmica — aprendo la strada a una visione tecnocratica del governo che continua a plasmare il mondo moderno.

Negli anni ’50 e ’60, le idee cibernetiche furono integrate nella strategia militare, nell’automazione industriale e nella pianificazione statale. Il governo degli Stati Uniti, ad esempio, si affidò alla cibernetica per sviluppare i primi modelli di IA, strategie di deterrenza nucleare e sistemi di decisione in tempo reale sui campi di battaglia. Il sistema Semi-Automatic Ground Environment (SAGE) del Pentagono, una rete di primi computer progettata per elaborare e rispondere alle minacce della Guerra Fredda, dimostrò come la cibernetica trasformasse l’efficienza militare in una logica di sorveglianza automatizzata e risposta rapida.

Il sogno cibernetico del controllo predittivo e dell’adattamento in tempo reale si è evoluto nell’attuale governance algoritmica, nell’intelligenza artificiale e nella polizia predittiva. I sistemi di Big Data che alimentano l’IA contemporanea — che si tratti di sorveglianza statale, mercati finanziari o gestione aziendale — operano sugli stessi principi cibernetici di loop di feedback, automazione e decisioni in tempo reale.

Oggi, i modelli di efficienza guidati dall’intelligenza artificiale influenzano un’ampia gamma di settori della società: dalle decisioni aziendali sulle assunzioni alla polizia predittiva, dalla previsione dei mercati finanziari alla logistica automatizzata delle catene di approvvigionamento. La ricerca dell’ottimizzazione attraverso la governance basata sui dati, diretta erede della cibernetica, è diventata così profondamente radicata nella società da plasmare non solo le economie e i governi, ma anche il comportamento individuale stesso — dagli algoritmi dei social media che modellano il discorso pubblico fino alle decisioni automatizzate dell’IA nei settori della sanità, della giustizia e della guerra.

La domanda che emerge da questa evoluzione cibernetica non è semplicemente se l’efficienza conduca al progresso, ma piuttosto: “Chi controlla i sistemi che definiscono l’efficienza?”

E, come la storia ha dimostrato, essa si ripete prima come tragedia, poi come farsa. O, per parafrasare Antonio Gramsci: “Il vecchio mondo sta morendo e il nuovo tarda a nascere. È in questo interregno che si verificano i fenomeni morbosi più svariati”. Il concetto gramsciano di interregno — un periodo di crisi in cui le vecchie egemonie stanno crollando, ma una nuova non è ancora emersa — descrive perfettamente il nostro momento attuale. Quando le istituzioni tradizionali vacillano, forze reazionarie e opportunisti economici riempiono il vuoto, creando un’epoca di incertezza, instabilità ed estremismo politico.

È proprio in questo interregno che ci troviamo oggi, con l’ascesa di Trump, l’infiltrazione dell’estrema destra nelle agenzie federali, l’alleanza tra stato e corporate incarnata da figure come Elon Musk e il potere incontrollato del Dipartimento per l’Efficienza Governativa (Department of Governmental Efficiency – DOGE).

In questo interregno, la convergenza tra potere politico e influenza tecnologica è diventata sempre più evidente. La Silicon Valley, un tempo simbolo di innovazione e ideali liberali, si trova ora intrecciata con l’agenda dell’attuale amministrazione. Leader tecnologici di spicco, tra cui Elon Musk, hanno assunto ruoli significativi all’interno del governo, segnando una svolta verso un regime “tecno-fascista”. La storica Janis Mimura descrive questa fusione tra potere governativo e industriale come “tecno-fascismo”, tracciando un parallelo con il Giappone pre-Seconda Guerra Mondiale, dove i tecnocrati guidarono l’industrializzazione imposta dallo stato a scapito delle norme liberali e dei diritti dei lavoratori.

L’influenza di Elon Musk è particolarmente degna di nota. Come capo del DOGE, Musk guida gli sforzi per ridurre la spesa federale e snellire le operazioni, nonostante le controversie e le critiche. Accanto a lui, membri della cosiddetta “PayPal Mafia”, tra cui Peter Thiel e David Sacks, hanno assunto posizioni chiave all’interno dell’amministrazione, promuovendo politiche in linea con la loro visione tecnologica e conservatrice. La loro influenza si estende a vari dipartimenti, come la NASA, la Commodity Futures Trading Commission e l’Office of Science and Technology Policy. I critici sostengono che il loro approccio rapido e incline alla “disruption”, tipicamente efficace nel settore privato, potrebbe non essere adatto alle operazioni governative, dove i meccanismi democratici richiedono trasparenza, deliberazione e responsabilità, piuttosto che decisioni unilaterali e ristrutturazioni accelerate all’insegna dell’efficienza. Emergono inoltre preoccupazioni riguardo a potenziali conflitti di interesse, dato il loro legame con le industrie tecnologiche e della difesa.

L’integrazione dell’IA nelle funzioni governative rappresenta un ulteriore esempio di questa alleanza. L’amministrazione ha annunciato un progetto da mezzo trilione di dollari chiamato “Stargate“, volto a potenziare l’infrastruttura dell’IA negli Stati Uniti. Questa iniziativa, che coinvolge collaborazioni con aziende come OpenAI, Oracle e SoftBank, mira a rafforzare le capacità statunitensi nel settore dell’IA. Tuttavia, i legami sempre più stretti tra questi colossi tecnologici e il governo sollevano interrogativi sul rischio di una sorveglianza incontrollata e di una progressiva erosione delle libertà civili.

Aziende come Palantir, co-fondata da Peter Thiel, sono diventate elementi chiave di questo nuovo paradigma. La tecnologia di analisi avanzata basata su big data e IA di Palantir sarebbe utilizzata per individuare e colpire obiettivi militari, dimostrando la profonda integrazione dell’azienda nelle operazioni di intelligence e difesa. Il CEO di Palantir, Alex Karp, ha recentemente riconosciuto apertamente la controversa realtà del ruolo dell’azienda, dichiarando senza mezzi termini: “Il nostro prodotto viene utilizzato per spaventare i nostri nemici e, occasionalmente, per ucciderli.”

L’influenza di Palantir è profondamente intrecciata con le forze ideologiche e politiche che stanno ridefinendo la governance negli Stati Uniti. La visione del mondo di Peter Thiel fornisce una chiave fondamentale per comprendere questo cambiamento. Thiel ha espresso apertamente il suo scetticismo riguardo alla compatibilità tra democrazia e libertà, dichiarando in un saggio per il Cato Institute: “Non credo più che libertà e democrazia siano compatibili.” Questa affermazione incapsula i principi fondamentali del movimento neo-reazionario noto come Dark Enlightenment, che Thiel ha contribuito a diffondere — un’ideologia che rifiuta la democrazia egualitaria in favore di un governo elitario, di modelli corporativi e feudali moderni, in cui “i regni assomiglierebbero piuttosto a delle aziende, con i CEO come sovrani.

Uno dei protetti politici più vicini a Thiel è J.D. Vance, attuale Vicepresidente degli Stati Uniti, ex venture capitalist divenuto politico, che ha rapidamente guadagnato importanza all’interno della destra allineata con Trump. Thiel ha finanziato massicciamente la campagna senatoriale di Vance, vedendolo come un veicolo per promuovere un ordine conservatore post-democratico e filo-corporativo. Vance, un tempo critico di Trump, è diventato uno dei suoi più fedeli sostenitori, riecheggiando la retorica neoreazionaria di Thiel nel sostenere un potere esecutivo forte, epurazioni governative e un ridimensionamento delle istituzioni democratiche a favore di un riallineamento autoritario e nazionalista.

La loro visione non rappresenta semplicemente un movimento populista di destra, ma una ristrutturazione radicale della governance americana e oltre, come dimostrano le recenti dichiarazioni del vicepresidente J.D. Vance durante la Conferenza sulla Sicurezza di Monaco. A Monaco, Vance ha segnalato un drastico cambiamento nella politica estera degli Stati Uniti, suggerendo che le alleanze americane dovrebbero essere rivalutate non solo su basi ideologiche, ma attraverso una rigida lente di interesse nazionale ed efficienza transazionale. Le sue osservazioni riecheggiano il rifiuto neo-reazionario della democrazia liberale come modello obsoleto, proponendo invece un Darwinismo geopolitico, in cui alleanze, aiuti e diplomazia sono dettati esclusivamente da un’analisi costi-benefici piuttosto che da valori democratici condivisi.

Ma mentre figure come Vance, Thiel e Musk spingono per una concentrazione del potere nelle mani delle élite tecnopolitiche, un altro filone della stessa ideologia si spinge ancora oltre: verso un mondo in cui la governance stessa viene resa obsoleta dall’IA. Questa è la visione articolata nel Techno-Optimist Manifesto di Marc Andreessen: un futuro in cui l’IA permea ogni aspetto della vita umana, automatizzando di fatto il processo decisionale in ambito governativo, economico e bellico.

L’accelerazionismo dell’IA promosso da Andreessen, co-fondatore di Netscape e della società di venture capital Andreessen Horowitz, non è solo una teoria economica: è una visione del mondo con inquietanti precedenti storici. Nel suo Techno-Optimist Manifesto, Andreessen fa esplicito riferimento e loda Filippo Tommaso Marinetti, fondatore del Futurismo italiano, il cui Manifesto Futurista del 1909 esaltava la velocità, la guerra, la tecnologia e il controllo autoritario. Le idee di Marinetti sarebbero state successivamente assorbite nella prima ideologia fascista, poiché egli fu co-autore del Manifesto dei Fasci di Combattimento del 1919, che promuoveva uno stato tecnocratico guidato da industriali ed élite militari, giustificato dalla logica dell’efficienza e della forza.

L’abbraccio di Andreessen alla retorica di Marinetti,spogliata del suo contesto storico, rivela le profonde radici ideologiche della sua visione. Non si limita a immaginare un mondo plasmato dall’IA: immagina un ordine tecno politico in cui la logica dell’efficienza cancella del tutto la deliberazione politica.

Come avvertiva Umberto Eco in “Verso una guerriglia semiologica, il potere moderno non si basa più esclusivamente su eserciti e carri armati, ma sulla conquista dei mezzi di comunicazione. Oggi, però, non si tratta solo della comunicazione nel senso tradizionale, si tratta della conquista del codice stesso. Figure come Elon Musk, attraverso progetti politici come DOGE, le sue aziende xAI e Starlink, e piattaforme mediatiche come X, non stanno semplicemente ridefinendo il controllo dei media, ma stanno ricablando l’intera architettura informativa dello Stato. La battaglia ideologica non riguarda più solo chi controlla il messaggio, ma chi controlla l’algoritmo che decide quali messaggi possano essere inviati, ricevuti e persino pensati. La sfera digitale, un tempo considerata uno spazio aperto all’innovazione, è diventata il principale campo di battaglia per la fusione tra corporation e Stato, dove l’efficienza diventa un’arma e le epurazioni di massa — che siano burocratiche, politiche o algoritmiche — vengono eseguite in tempo reale.

È proprio in questi momenti che emergono i mostri. Hanno nomi e gesti. La domanda non è se riusciranno a prendere il potere, ma se permetteremo loro di reclamare il futuro prima ancora che si formi. La battaglia sull’IA, la governance algoritmica e il controllo corporativo-statale non costituiscono semplicemente un dibattito sulla tecnologia, ma una lotta per le condizioni stesse della vita politica e della democrazia.

Mentre l’Europa affronta questa nuova realtà, dobbiamo ricordarci che cosa è in gioco. Prima che sia troppo tardi, le parole di Frantz Fanon rimangono urgenti oggi come lo erano nel 1961: “Il popolo europeo deve prima di tutto decidere di svegliarsi e scuotersi, usare il cervello e smetterla di giocare al ridicolo gioco della Bella Addormentata.”

Immagini generate tramite DALL-E

Esplora altri articoli su questi temi