Da una parte telecamere sempre più sofisticate, sistemi di riconoscimento facciale sempre più precisi e diffusi, occhiali glamour che riprendono e registrano senza troppi consensi. Dall’altra esiste un piccolo mondo, ancora di nicchia, fatto di creazioni ed espedienti progettati per complicare quello che qui chiameremo “corporal mining” – per analogia con l’estrazione e la trasformazione dell’esperienza umana in dati alla base del capitalismo della sorveglianza descritto da Shoshana Zuboff.
È un mondo decisamente meno visibile. Non è finanziato dalle Big Tech, non compare continuamente nei nostri feed e, salvo qualche progetto di cui abbiamo letto en passant un carosello, rimane confinato tra laboratori universitari, studi di design, artisti, attivisti e piccole aziende. Parliamo di indumenti costruiti per interferire con i sistemi di object detection, tessuti che provano a riempire un’immagine di falsi volti, trucchi e acconciature sviluppati per rendere più difficile il rilevamento facciale, gioielli pensati per alterare la lettura automatica di un volto. Esistono persino soluzioni che cercano di interferire con le telecamere attraverso la luce infrarossa o con i sistemi di lettura delle targhe attraverso materiali riflettenti.
Sono esperimenti molto diversi tra loro e non tutti funzionano allo stesso modo. Alcuni funzionano soltanto contro determinati sistemi. Altri ancora sono diventati prodotti, spesso costosi e difficili da trovare.
Ma esistono e se esistono è importante che iniziamo a conoscerli. Conoscerli significa ribaltare la relazione e riprendere l’agency sul corpo e sull’esposizione. La moda anti-biometrica di cui ci occuperemo – alcune delle cose di cui si dirà sono del tutto gratuite e riproducibili – non è solo una questione estetica. L’idea di fondo è quella della disobbedienza civile non violenta che mira a rendere il corpo illeggibile, o quasi.
Hackeraggio contrario
Negli anni Novanta il cyberspazio era ancora immaginato come una possibilità. La rete poteva liberare l’individuo dai limiti del corpo e del territorio, mettere in discussione le gerarchie, distribuire l’informazione. Il rapporto con la tecnologia aveva qualcosa di euforico. Il Cyborg era un essere che sconfinava le categorie umane per inventarne di nuove e fantastiche. Un nuovo campo del possibile e del pensabile. In quell’immaginario la figura dell’hacker era fondamentale. Un mago o una maga capaci di entrare nel sistema per piegarlo ai propri scopi.
Oggi la situazione è capovolta. La tecnologia è diventata una parte dell’infrastruttura attraverso cui veniamo osservati, classificati e trasformati in dati. E una delle grandi ossessioni dell’intelligenza artificiale contemporanea è proprio migliorare la capacità delle macchine di riconoscere. Più immagini per l’addestramento, modelli più precisi, sistemi capaci di individuare caratteristiche sempre più sottili.
La moda avversaria- adversarial fashion- può essere letta dentro questa inversione. Se l’hacker cyberpunk usava la tecnologia per provare a modificare la società oggi, invece, si usa la materia della società per interferire con la tecnologia. È hacking nella direzione opposta. Ad esempio, un sistema è stato addestrato a trovare una persona dentro un’immagine? Si può provare a dargli un’immagine nella quale la persona, almeno per il modello, è riconoscibile come tutt’altro. Un algoritmo cerca un volto? Si può riempire il campo visivo di più volti. Cerca determinate caratteristiche facciali? Si modificano quelle. È una battaglia piuttosto particolare perché non ha un centro; è rizomatica. Non c’è un unico oggetto da distruggere e nemmeno una soluzione definitiva. Piccoli interventi sparsi che sfruttano i punti deboli di sistemi specifici.
Dentro il glitch
Passiamo ai casi concreti. Il primo è quello tutto nostrano di Cap_able. La Manifesto Collection, sviluppata dalla designer Rachele Didero, utilizza la maglieria per incorporare nei tessuti pattern progettati contro determinati sistemi di object detection (tecnica che permette ad un sistema di individuare e classificare gli oggetti presenti in un’ immagine). I disegni sono costruiti per influenzare il modo in cui il sistema interpreta l’immagine. In alcuni test documentati da Cap_able, il pattern ha portato il sistema a classificare il soggetto come un cane, una zebra, una giraffa o una piccola figura umana. La cosa interessante è proprio la distanza tra le due letture. Per chi guarda il maglione, c’è una fantasia. Per l’algoritmo può comparire un’altra categoria. Il risultato dipende dal modello, dalla versione del software, dall’immagine e dalle condizioni in cui viene acquisita.
C’è poi HyperFace, progetto di Adam Harvey. Qui il tessuto viene ricoperto di forme che ricordano elementi del volto umano. Occhi, nasi e bocche si moltiplicano sulla superficie e possono produrre false attivazioni nei sistemi che cercano facce. L’idea è: se la macchina sta cercando volti, gliene daremo troppi. L’obiettivo è disturbare il rilevamento introducendo abbastanza segnali da complicare il compito del sistema.
Sempre Harvey con CV Dazzle ha lavorato su capelli, trucco, colori e forme asimmetriche per interferire con i sistemi di facial detection (in questo caso il sistema riconosce un volto all’interno di un’immagine). L’ispirazione viene dalla dazzle camouflage, la mimetizzazione geometrica utilizzata sulle navi durante la Prima guerra mondiale. Anche qui la persona è perfettamente riconoscibile per gli esseri umani ma meno per i software.
Lo stesso principio vale per gli accessori. Incognito, progetto della designer Ewa Nowak, è un gioiello facciale in ottone progettato per interferire con il riconoscimento automatico del volto. Gli elementi metallici vengono collocati attorno a caratteristiche facciali rilevanti per i sistemi di analisi e il progetto è stato testato con DeepFace di Facebook.
In tutti questi casi bisogna conoscere bene la macchina e sapere quali sono le caratteristiche da lei ricercate e quindi da “disturbare”. Esistono poi oggetti che lavorano con la luce. Reflectacles, progetto di Scott Urban, utilizza materiali riflettenti e soluzioni legate all’infrarosso per interferire con determinati sistemi di sorveglianza. E ce ne sarebbero altri da mostrare, come le pellicole per i veicoli.
Non si risolverà tutto con una t-shirt
Attenzione però a non ridurre tutto ad un esercizio estetico. È vero che un maglione che inganna l’algoritmo, così come un trucco o un gioiello “avversari” sono cose interessanti dal punto di vista estetico ma evitiamo che rimangano orpelli da galleria d’arte. Il discorso rischia di impantanarsi lì. Rischia di rimanere nella nicchia anche perché il costo di alcuni di questi oggetti è fuori dalle comuni possibilità. E in questo modo, la privacy e il controllo sul proprio corpo diventano una questione di reddito.
Oltre le contraddizioni economiche, rimane il nodo centrale: questi strumenti possono interferire con una macchina, non con l’infrastruttura che la sostiene. Ci sono modi attraverso i quali si può, in parte, sottrarre il proprio corpo e il proprio volto alla lettura continua e non consapevole e non consensuale. Nessuno di questi strumenti permette di diventare invisibili a una città piena di sensori. Anche perchè non esiste un sistema unico che “ci guarda” ma molti sistemi con molti obiettivi; la moda “avversaria” è in divenire. È una pratica di adattamento continuo. Che rischia però di spostare sul singolo la responsabilità di non farsi catalogare e di proteggersi.
La questione della sorveglianza, come dicevamo, è invece strutturale e politica. Riguarda quali sistemi vengono installati nello spazio pubblico, quali dati vengono raccolti, chi può utilizzarli, per quanto tempo vengono conservati e con quali finalità. Non possiamo aspettarci che una t-shirt risponda a queste domande, al massimo può rendere visibile il problema e farlo arrivare ad un pubblico sempre più ampio. Non basta essere vestiti da errore algoritmico. Dovremmo ripensare la sorveglianza e la sua inevitabilità. Se la macchina guarda, il corpo può rispondere.
Immagine presa dalla HomePage di Capable design.
