Dopo la prima e la seconda, pubblichiamo l’ultima parte della traduzione dell’articolo “Psychopolitics of AI: From Fetishism to Brutalism” di Ron Salaj, apparso su Sublation Media il 15 agosto 2024.
Brutalismo
Il brutalismo, nel pensiero e nella pratica architettonica, è inteso come uno stile caratterizzato da cemento grezzo, freddo ed esposto, e da audaci forme geometriche, spesso attribuito al termine francese “béton brut”, che significa cemento grezzo. Il brutalismo rappresenta forse ciò che l’architetto Alejandro Zaera Polo definisce la fisicizzazione del politico. Emergendo nel periodo post-Seconda Guerra Mondiale, con una forte presenza nell’Europa dell’Est, l’architettura brutalista è stata associata a idee utopiche socialiste.
Invocando l’estetica politica dell’architettura brutalista, il filosofo e critico sociale Achille Mbembe colloca il brutalismo “nel punto di giuntura tra materiali, immaterialità e corporeità”. Per Mbembe, il brutalismo è “il processo attraverso il quale il potere come forza geomorfica si costituisce, si esprime, si riconfigura e si riproduce attraverso atti di frattura e fenditura”, e il suo progetto finale è “trasformare l’umanità in materia ed energia”.
L’IA rappresenta la forma ultima del progetto brutalista. Il brutalismo dell’IA si basa su tre elementi identificati da Mbembe: materiale, immateriale e corporeo. La dipendenza dell’IA dalla materialità ruota principalmente attorno all’infrastruttura fisica necessaria per sviluppare, alimentare e mantenere la potenza di calcolo per i sistemi di IA, inclusi i materiali grezzi per l’hardware come unità di elaborazione centrale, grafica, neurale e a trazione. L’infrastruttura cloud, per quanto immateriale possa sembrare, non è solo materiale ma è anche una forza ecologica con un’impronta di carbonio superiore a quella dell’industria aerea. Tutto ciò che è solido, immateriale e corporeo si fonde nei data center — questi enormi siti tecno-architettonici dove si processa la fisicizzazione dell’immaterialità e della corporeità e dove le relazioni sociali, politiche ed economiche vengono automatizzate. Gli aspetti immateriali dell’IA sono anch’essi cruciali per il suo funzionamento. Alcuni degli elementi primari dell’esistenza umana — le nostre preferenze, comportamenti, interazioni, desideri, bisogni — vengono catturati e utilizzati per alimentare le reti neurali artificiali (ANN). In cambio, ci vengono presentate offerte speculative di “servizi personalizzati”, in linea con la razionalità politica del neoliberismo, e “previsioni”, in linea con la razionalità politica dell’eugenetica e dell’estrema destra. Per quanto riguarda la corporeità, l’IA oggi serve come dispositivo di potere, al quale entrambe le razionalità politiche — il centro radicale e la destra radicale — delegano i propri compiti più sporchi.
Un’indagine recente del canale israeliano +971 esemplifica il brutalismo dell’IA — le interazioni tra persone sofferenti vengono classificate come potenziali sospetti, con effetti devastanti a livello materiale e corporeo. Come ha dichiarato una fonte nell’indagine, “il personale umano dedica solo circa 20 secondi a ciascun obiettivo prima di autorizzare un bombardamento”. Per dirla in termini più adorniani, il brutalismo dell’IA è il nuovo metodo di amministrazione della violenza, dell’espulsione e dello sfratto dei gruppi più vulnerabili al mondo. Persino il recentemente approvato e molto lodato AI Act dell’UE è stato criticato da organizzazioni per i diritti umani per non aver vietato in modo adeguato alcuni degli usi più pericolosi dell’IA, inclusi i sistemi che abilitano la sorveglianza biometrica di massa e i sistemi di polizia predittiva; oltre a creare un regime separato per le persone che migrano, cercano rifugio e/o vivono senza documenti.
L’IA è la forma più contemporanea di questo brutalismo che, secondo Mbembe, “non funziona senza l’economia politica dei corpi”. Fanon, d’altro canto, osserva con grande lucidità che “la sovrastruttura economica è anche la sovrastruttura; sei ricco perché sei bianco, sei bianco perché sei ricco”. Il razzismo, quindi, non è mai casuale, ci ricorda Fanon, e tutte le forme di razzismo sono sostenute da una struttura. Questa struttura serve quello che Fanon chiamava un gigantesco lavoro di sottomissione economica e biologica (si può notare come qui si tratti ancora una volta di materialità e corporeità). Una lettura fanoniana dell’AI Act dell’UE suggerisce che l’IA oscura questa struttura rendendola invisibile, mentre contemporaneamente sottopone migranti e rifugiati a pratiche violente di tatuaggio biopolitico come: scansione elettronica delle impronte digitali e della retina, riconoscimento biometrico della voce, rilevatori di menzogne basati su IA, ecc. L’IA diventa così il Maestro-amministratore delle frontiere come “dispositivi ontologici, vale a dire, funziona ora di per sé e in sé, in modo anonimo e impersonale, con le sue proprie leggi” (Mbembe 2024).
La “borderizzazione” dell’Europa non è solo segnata da muri di cemento brutalisti e tecnologie brutaliste come l’IA; i suoi principi ideologici centrali risiedono nelle razionalità politiche del centro radicale e dell’estrema destra. Il primo considera i corpi come “eccedenze” da estrarre e monetizzare (cioè una forma di surplus-life), mentre il secondo li vede come “eccedenze” da espellere e sfrattare (la politica del Regno Unito di organizzare deportazioni di massa di richiedenti asilo in Ruanda e l’accordo dell’Italia per trasferire rifugiati in Albania sono i due esempi più recenti). Il primo immagina un regime tecnocratico globale amministrato dall’IA, simile a quello auspicato dal Tony Blair Institute, mentre il secondo ha già fatto progressi nella caccia ai dati biometrici. Il primo è la causa; il secondo è la conseguenza. Possiamo pensare al centro radicale e all’estrema destra in modo simile a come funzionano le generative adversarial networks (GAN), una variante del reinforcement learning: una rete tenta di ingannare l’altra facendole credere che i dati che genera provengano effettivamente dal dataset di addestramento. Questo approccio è stato utilizzato, ad esempio, per creare immagini sintetiche di opere d’arte e volti umani che un sistema di riconoscimento delle immagini non può distinguere da immagini reali. Allo stesso modo, una razionalità politica cerca di ingannare l’altra facendole credere che le politiche e le strategie che genera riflettano le vere richieste e necessità della popolazione. In realtà, ciò che otteniamo da entrambe le razionalità politiche sono forme brutaliste di tecno-politica, indistinguibili l’una dall’altra.
Di fronte a questa dose di pessimismo e stallo, bisognerebbe riorientarsi in linea con la frase conclusiva di Fanon nel suo saggio Concerning Violence: “I popoli europei devono innanzitutto decidere di svegliarsi e scrollarsi di dosso l’apatia, usare il cervello e smettere di giocare al ridicolo gioco della Bella Addormentata”.
