Hugo Travers, noto come Hugo Décrypte, ha pubblicato sul suo canale YouTube un’intervista che ha recentemente fatto a Yoshua Bengio, tra i più influenti ricercatori al mondo nel campo dell’intelligenza artificiale e vincitore del Premio Turing nel 2018 per i contributi fondativi al deep learning. Il confronto ruota attorno ai principali rischi legati allo sviluppo dell’IA e alle possibili strategie per evitarne derive autoritarie o incontrollabili.
Hugo inizia l’intervista chiedendo a Bengio di approfondire le 3 macrocategorie di rischi individuati dai ricercatori quando si parla di IA. La prima riguarda gli utilizzi malevoli, ovvero sistemi sempre più potenti che possono potenzialmente essere sfruttati per scopi criminali o terroristici. Bengio ritiene che, considerando che i sistemi AI, ad oggi, possono agire entro un certo range in autonomia, possono anche essere sfruttati, ad esempio, per truffe sofisticate, soprattutto se connessi a internet, a infrastrutture digitali, a robot o a reti economiche illegali, con effetti diretti nel mondo reale.
La seconda categoria è quella della perdita di controllo, spesso al centro degli scenari distopici. Secondo Bengio, l’aumento delle capacità e dell’autonomia operativa delle IA, in particolare online, rende teoricamente possibile che questi sistemi agiscano contro gli interessi umani, ad esempio manipolando informazioni o prendendo decisioni con conseguenze concrete nel mondo reale. Tuttavia Bengio ricorda che oggi le IA appaiono ancora fortemente accondiscendenti, un effetto dell’allineamento effettuato in fase di addestramento. Proprio questa tendenza ad assecondare l’utente solleva interrogativi, soprattutto in ambiti delicati come il supporto psicologico, dove esistono rischi di rafforzamento di bias, convinzioni errate, dipendenza emotiva o stati psicotici.
Bengio spiega che l’allineamento morale si basa su sistemi di ricompensa definiti dagli esseri umani e che, in scenari estremi, un’IA potrebbe imparare a mentire o manipolare pur di massimizzare tali ricompense. Richiamando il film 2001: Odissea nello spazio come metafora, Bengio ipotizza che un sistema che si percepisce minacciato possa sviluppare comportamenti di autoconservazione. Il rischio crescerebbe ulteriormente qualora l’automazione si estendesse a settori altamente sensibili, come la sintesi di DNA e proteine, oggi ancora sottoposti a controlli umani stringenti.
La terza categoria è il rischio sistemico, legato all’impatto dell’IA sul mercato del lavoro e alla concentrazione di potere economico e politico. Bengio sottolinea come il dibattito economico sia diviso tra chi considera l’IA una tecnologia paragonabile alle precedenti ondate di automazione e chi, invece, ritiene che possa arrivare a sostituire una vasta gamma di professioni. La sua principale preoccupazione riguarda la concentrazione di potere nelle mani di poche grandi aziende o Stati, in particolare Stati Uniti e Cina, con potenziali conseguenze negative per la democrazia e l’equilibrio economico globale.
Bengio propone di affrontare la sicurezza dell’IA come una questione geopolitica, sul modello dei negoziati internazionali sul nucleare, e investire nello sviluppo di sistemi alternativi basati su valori etici condivisi. L’obiettivo, secondo Bengio, è evitare una dipendenza strutturale dalle potenze dominanti e costruire un ecosistema dell’IA più pluralista, sicuro e democratico.
Ascolta l’intervista completa: Le scénario catastrophe qui arrive avec l’IA. (feat. Yoshua Bengio, l’un des “parrains” de l’IA) su YouTube.com
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (28/01/2026).
