Con l’avvento e la diffusione di tecniche e algoritmi basati su intelligenza artificiale, sempre più decisioni della vita quotidiana, individuale e collettiva, vengono prese utilizzando sistemi di raccomandazione e assistenti digitali. Algoritmi di routing per scegliere il percorso stradale da percorrere in macchina, suggerimenti automatici di contatti o contenuti social, o anche il caso più recente dell’IA generativa, che può essere utilizzata anche come strumento per generare materiale utile (testo, immagini, video, musica).. Vista l’importanza e l’urgenza di comprendere questi fenomeni, la ricerca scientifica ha negli ultimi anni esplorato in molti modi e con varie tecniche anche differenti tra loro gli effetti di queste tecnologie sulle decisioni e sulla società e sugli individui.
Uno studio in fase di pubblicazione e disponibile sulla piattaforma ArXiV – “A survey of the impact of AI-based recommenders on human behaviour” – cerca di fare chiarezza su quanto finora emerso dalla letteratura recente. L’articolo cataloga 144 articoli provenienti da diverse discipline che si interrogano tutti sugli effetti dei sistemi di raccomandazione basati su IA sul comportamento umano. Il lavoro, coordinato da Luca Pappalardo (CNR e Scuola Normale Superiore) e Emanuele Ferragina (Science Po di Parigi) e firmato da vari ricercatori e ricercatrici di vari istituti tra cui CNR, Scuola Normale e Università di Pisa, propone una tassonomia degli articoli accademici presi in questione basandosi su diversi criteri, in base all’ambito sociale, la metodologia utilizzata e l’effetto riscontrato del sistema di raccomandazione.
Uno dei problemi principali quando si vuole studiare l’effetto di una tecnologia nella società è capire come osservare il fenomeno. A volte è possibile confrontare dati su due popolazioni di utenti che siano state sottoposte a diversi algoritmi. È il caso di uno studio recente condotto da Huszàr et al., che hanno confrontato il feed degli utenti di Twitter prima e dopo l’introduzione della personalizzazione dei contenuti, scoprendo che quest’ultima amplifica i contenuti di centro-destra rispetto quelli di centro-sinistra. Tuttavia la possibilità di confrontare due popolazioni reali sottoposte a diverse situazioni è abbastanza rara, anche considerando la difficoltà da parte della ricerca di accedere ai dati delle piattaforme proprietarie. Così spesso si ricorre ai metodi della simulazione e del digital twin, come nel caso dello studio di Cornacchia et al., dove tramite il software SUMO si è condotta una serie di simulazioni per valutare l’impatto delle diverse alternative di routing sulle emissioni di CO2 e la distribuzione del traffico.
Da questa fondamentale distinzione, l’articolo classifica i 144 paper in due macrocategorie, studi empirici e simulativi, in maniera trasversale rispetto ai diversi ecosistemi considerati: social media, commercio online, navigazione urbana e IA generativa. Inoltre, analizzando la vastità di studi pubblicati negli anni, ci si accorge facilmente di quanto molte definizioni utilizzate per descrivere fenomeni online come filter bubble o echo chamber, entrambe indicate in italiano come “bolla”, siano spesso ambigue o addirittura in contrasto tra diversi utilizzi dello stesso termine in differenti lavori. L’articolo fornisce un contributo anche in questa direzione, fornendo descrizioni univoche dei termini utilizzati per descrivere i vari effetti degli algoritmi, e assegnandoli a diversi livelli a seconda che il fenomeno sia osservabile a livello di utente, di contenuto o di sistema.
Così ad esempio vengono presentati studi sulla radicalizzazione dei contenuti in base alle raccomandazioni personalizzate di YouTube, o ricerche che confrontano diversi algoritmi di suggerimenti di contatti online osservando come cambia la visibilità di una categoria minoritaria di utenti. Ancora, le raccomandazioni personalizzate di contenuti come film o musica possono spesso portare ad una perdita di diversità dei consumi, e le modalità in cui questo avviene vengono studiate con entrambe le metodologie sopra descritte e in vari scenari e piattaforme. Infine, nel caso dell’IA generativa, si va incontro a quello che viene definito model collapse, cioè la perdita di diversità del linguaggio e dei contenuti suggeriti qualora le IA venissero addestrate con materiale sintetico, cioè generato da IA stesse.
Un’importante osservazione che viene fatta dagli autori è vedere come la presenza di studi empirici sia maggiore negli ecosistemi dei social media e del commercio online, mentre le simulazioni abbondano in ambito urbano e generativo. La principale ragione di questa differenza è la disponibilità dei dati: le piattaforme dei social media tipicamente forniscono API, ovvero delle funzioni che consentono lo scaricamento di informazioni rilevanti riguardanti le scelte degli utenti, contribuendo alla costruzione di molti dataset utilizzati per analisi empiriche. Per quanto riguarda l’ecosistema del commercio online, gli studi sono spesso condotti all’interno delle aziende o in collaborazione con esse, facilitando l’uso di dati empirici. Al contrario, le piattaforme nell’ecosistema urbano condividono i dati con minore facilità, e le API non forniscono informazioni sufficienti per motivi di privacy. Nell’ecosistema dell’IA generativa infine, c’è una scarsità di studi empirici perché i prompt e i contenuti generati non sono attualmente messi a disposizione dei ricercatori esterni, e le piattaforme commerciali sono troppo recenti. Come si auspicano gli autori del testo, iniziative governative ed europee come il Digital Service Act potrebbero diventare strumenti utili se utilizzati nella direzione di consentire al mondo della ricerca una maggiore accessibilità a dataset e informazioni di piattaforme private per lo studio degli effetti degli algoritmi sul comportamento umano e sulla società.
Il tema in questione è di estrema rilevanza e urgenza, oltre che trasversale e interdisciplinare. Lo studio, proponendo una tassonomia dei lavori finora pubblicati, costituisce un contributo fondamentale per orientare le future ricerche nel campo. Esso non solo permette di sistematizzare le conoscenze acquisite, ma individua anche le lacune esistenti, aprendo così nuove prospettive per la ricerca del settore.
