Utopie e distopie dell’IA
Per decenni le scintillanti armate di robot umanoidi di Terminator e l’onniveggente occhio rosso di HAL9000 sono state due delle più iconiche rappresentazioni culturali globali dell’Intelligenza Artificiale: programmi dalla straordinaria potenza di calcolo incaricati di eseguire mansioni di enorme importanza e responsabilità, finiscono per ribellarsi ai loro padroni e cercano di annientarli. Al contempo, l’IA viene raccontata come la chiave per la trasformazione tecnologica odierna, in grado di affrancare l’umanità dal lavoro, salvando vite umane ed il pianeta intero. L’opposizione tra immaginari utopici e distopici ha alimentato il dibattito pubblico sull’IA per molto tempo, ma è una posizione un po’ ingenua agli occhi di chi sviluppa e utilizza questi sistemi. Eppure, l’IA si è evoluta, e continua a evolversi, al seguito di aspettative, immaginari e visioni che danno forma a futuri sociotecnici definendo ciò che è “pensabile” e guidando investimenti, politiche governative e quadri legislativi. Studiose come Sheila Jasanoff e Shoshana Zuboff hanno sottolineato la rilevanza e performatività di questi immaginari, la cui natura contestuale e contingente deriva dai processi di mutua informazione che coinvolgono saperi situati, pratiche e visioni del futuro. Ritorna utile il concetto di “futures in the making”, con cui Susan Halford identifica la collezione di futuri possibili che viene attivamente modellata da decisioni presenti e da processi in corso. Secondo questa prospettiva le pratiche e gli immaginari del presente sono fondamentali per comprendere e contribuire a cambiare le traiettorie del possibile.
Problematizzare l’impatto
Adottare questa concezione delle trasformazioni sociotecniche aiuta anche a compiere un’altra operazione concettuale affrontata con riluttanza da gran parte degli esperti di tecnologia: problematizzare l’uso del termine “impatto” nell’analisi degli intrecci tra tecnologia e società. Riflettere sugli impatti dell’IA, o di qualunque altro avanzamento tecnologico, pur essendo occasione di contributi interessanti, è un’operazione limitante sul piano analitico, poiché, da un lato ci suggerisce di trattare la tecnologia come un dato di fatto, un oggetto monolitico, esterno, e dall’altro a ragionare secondo una visione deterministica e lineare di causa-effetto, anche laddove questi rapporti non sono affatto facilmente rinvenibili, né sufficienti a descrivere le dinamiche in atto. Così si finisce per parlare di impatto delle tecnologie sulla società, come se queste operassero indipendentemente da essa. Problematizzare l’impatto non vuol dire negare il ruolo delle tecnologie nel futuro (e presente) della società, ma anzi riguarda l’espansione di questa idea, che passa per lo studio dei processi sociotecnici che fanno sì che determinate tecnologie vengano alla luce e si trasformino secondo particolari configurazioni e pratiche. Problematizzare l’impatto significa prendere in esame l’assemblaggio sociotecnico che costituisce i sistemi di IA, cioè il complesso di attori umani e non umani la cui interazione, e i cui rapporti di forza, modellano la tecnologia mediante legami di mutua influenza e co-costruzione. Solo riconoscendo l’importanza che l’assemblaggio sociotecnico ha nella ridefinizione continua di effetto, successo, rischio, etc., dell’IA ci si può rendere conto di quanto sia ingenuo soffermarsi sull’impatto delle tecnologie sulla società.
Copilotare il futuro
Si gioca una partita importante, che è quella della definizione dei ruoli e delle responsabilità fondamentali nella creazione, la gestione, e la fruizione dei sistemi di IA, nonché il modo il cui li pensiamo ed il rapporto che riserviamo loro nei nostri confronti. Le aziende private come OpenAI, Inflection e Meta contribuiscono a queste definizione, tutelando i propri interessi e promuovendo un utilizzo esteso dei loro sistemi. Microsoft ha deciso di integrare l’assistente virtuale Copilot nel sistema operativo Windows, aggiungendo un pulsante apposito sulla tastiera: un cambiamento in apparenza di poco conto, ma che invece attesta il peso strategico che Microsoft, che non ha cambiato la disposizione dei tasti in quasi 30 anni, attribuisce all’IA. Viene proposta una nuova concezione dei servizi informatici, che diventano assistenti, consulenti, informatori, segretari. D’altro canto, sono oramai numerose le istituzioni ed i gruppi di ricerca che stanno provvedendo a fornire un quadro comprensivo delle applicazioni di IA e dei loro rischi sociali, proponendo standard, regolamenti e buone pratiche. La maggiore difficoltà consiste nell’interoperabilità di queste proposte fra i vari ambiti di applicazione, il livello di dettaglio a cui possono giungere, e la capacità di comunicarne i contenuti a diversi livelli di astrazione, per poter intercettare tutti i pubblici, più o meno esperti. Non è possibile ignorare questa trasformazione, e vale la pena piuttosto riflettere sul mutamento di queste relazioni, poiché restituiscono nuovi orizzonti futuri e redistribuiscono il contributo di ciascuno nei loro confronti.
Sia con Copilot, Alexa, Siri, o numerosi altri sistemi di IA, l’umanità si trova ora nella condizione di “copilotare” il futuro. Significa creare spazi e pratiche di collaborazione fra attori umani e non umani, consci del potere definitorio che tutti loro hanno nei confronti dell’avvenire. Significa scegliere attivamente la traiettoria da seguire fra le molteplici che si propongono, nonché contribuire alla proposta stessa. Significa anche ripensare, sia analiticamente che eticamente, il ruolo dei non umani al fianco degli umani: oggi non è facile considerare l’apporto di sistemi di IA ad una decisione come quello determinante, ed è certamente auspicabile insistere nel coinvolgimento di attori umani nelle decisioni automatiche (il concetto di “human-in-the-loop”, per cui le procedure automatiche restano sotto lo scrutinio di umani). Perché questo mutuo adattamento di capacità e responsabilità si compia senza eccessive conseguenze sulla società bisogna esercitare collettivamente la capacità di pensare il futuro e timonare il presente verso la direzione più inclusiva, etica e sostenibile per tutti.
Bibliografia
Halford, S., & Southerton, D. (2023). What future for the sociology of futures? Visions, concepts and methods. Sociology, 57(2), 263–278. https://doi.org/10.1177/00380385231157586
Jasanoff, S., & Kim, S. (2015). Dreamscapes of modernity. https://doi.org/10.7208/chicago/9780226276663.001.0001
Zuboff, S. (2018). The age of surveillance capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.
Immagine: Foto di Compare Fibre su Unsplash
