Eliezer Yudkowsky e Nate Soares nel libro If Anyone Builds It, Everyone Dies sostengono che la superintelligenza artificiale porterà all’estinzione umana. I due ricercatori, figure controverse ma influenti, paragonano questo scenario ad un cubetto di ghiaccio che si trova in acqua calda: inevitabilmente si scioglierà, proprio come noi saremo inevitabilmente eliminati.
Il timing di questa previsione teleologica è significativo. Dopo ChatGPT, difatti, gli investimenti nei datacenter si contano in centinaia di miliardi e Meta ha fatto della superintelligenza l’obiettivo esplicito di Zuckerberg. Unitamente a quanto detto, vi è poi un problema che riguarda la nostra incapacità di comprendere realmente come funzioni l’IA: i modelli moderni sono “cresciuti“, non costruiti, sviluppando capacità misteriose come il ragionamento. Questo, dunque, significa che un’IA superintelligente svilupperà preferenze “aliene” incompatibili con le nostre, secondo gli autori, che immaginano scenari apocalittici con virus sintetici e macchine molecolari, proponendo come unica soluzione quella di fermare immediatamente lo sviluppo dell’IA.
Nonostante questa visione, però, molti critici sostengono come Yudkowsky, in passato, abbia sbagliato previsioni, mostrando le caratteristiche di un bias di conferma tipico della cultura “iper-razionale“. Difatti, sebbene anche ricercatori Nobel condividono preoccupazioni simili, un sondaggio del 2024 indica come solamente il 5% degli esperti IA teme l’estinzione umana.
Leggi l’articolo completo If Anyone Builds it, Everyone Dies review – how AI could kill us all su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (22/09/2025).
