Trascendere gli esseri umani
L’umanità dipinta nell’universo di Dune, trovandosi di fronte all’impossibilità di utilizzare l’IA, ha intrapreso la strada dell’auto-miglioramento. Il dialogo iniziale fra Paul Atreides e la reverenda madre continua infatti in questo modo:
Have you studied the Mentat in your service?”
“I’ve studied with Thufir Hawat.”
“The Great Revolt took away a crutch,” she said. “It forced human minds to develop. Schools were started to train human talents.”
“Bene Gesserit schools?”
She nodded. “We have two chief survivors of those ancient schools: the Bene Gesserit and the Spacing Guild. The Guild, so we think, emphasizes almost pure mathematics.
Non hai mai studiato il Mentat al servizio della tua Casa?
– Ho studiato con Thufir Hawat.
– La Grande Rivolta ci ha liberati da una stampella – dichiarò la vecchia. – Ha costretto la mente umana a svilupparsi. Furono fondate scuole per sviluppare i talenti umani.
– Le scuole Bene Gesserit?
La vecchia annuì. – Due grandi scuole sopravvivono: il Bene Gesserit e la Gilda Spaziale. La Gilda, così noi pensiamo, concentra ogni suo sforzo nella matematica pura. Il Bene Gesserit svolge altre funzioni.
– Politiche – aggiunse Paul.
Nell’universo di Dune di Frank Herbert, l’umanità si è trovata costretta a vivere senza le intelligenze artificiali, bandite dalla Jihad Butleriana. Con questa limitazione tecnologica, l’umanità ha dovuto concentrare gli sforzi sul miglioramento delle proprie capacità attraverso altri mezzi. Questo ha portato alla nascita di ordini e istituzioni che hanno elevato le capacità umane: le Bene Gesserit, i Mentat e la Gilda Spaziale.
Le Bene Gesserit sono una sorellanza di donne che hanno raffinato l’addestramento fisico e mentale e la selezione genetica per ottenere capacità straordinarie. Questo ordine segretivo è dedito al controllo e alla manipolazione del potere politico e sociale, sfruttando la loro superiorità mentale e fisica.
I Mentat sono individui formati per diventare “computer umani“, capaci di eseguire calcoli complessi e analisi che diversamente richiederebbero un’intelligenza artificiale[1].
La Gilda Spaziale controlla il viaggio interstellare nell’universo di Dune grazie ai suoi Navigatori, dotati di capacità preveggenti sviluppate mediante l’uso della spezia Melange raccolta sul pianeta Dune.
Queste figure sono simboli di come l’umanità possa sviluppare capacità straordinarie senza perdere la propria essenza.
Transumanesimo ante-litteram
Nell’immaginare il potenziamento umano, Herbert trae ispirazione da vari movimenti culturali degli anni ’60, inclini alle sostanze allucinogene e alla parapsicologia, allora considerata quasi una scienza. Tuttavia, la volontà di sviluppare delle capacità latenti negli esseri umani in Dune può essere paragonata all’obiettivo della contemporanea filosofia del transumanesimo, molto popolare nel mondo delle Big Tech che producono sistemi IA.
Il transumanesimo è un movimento intellettuale e culturale che promuove l’uso della tecnologia per migliorare le capacità fisiche e cognitive dell’uomo. Tuttavia, a differenza del transumanesimo, che vede nella fusione con le macchine una via per migliorare le capacità cognitive umane, in Dune i Mentat, grazie all’auto-miglioramento e lo studio (e con un aiutino dai farmaci), rappresentano un potenziamento che sostituisce le macchine, mantenendo comunque l’essenza umana nel processo decisionale e anche nel calcolo.
L’eugenetica in Dune
L’eugenetica consiste nel migliorare la specie umana attraverso la selezione controllata dei tratti genetici. In Dune, l’ordine delle Bene Gesserit metta in opera un programma millenario di selezione per produrre individui con caratteristiche genetiche specifiche, con l’obiettivo finale di creare il Kwisatz Haderach, un essere profetico dotato di capacità superiori.
La tematica dell’eugenetica in Dune crea un ponte con la filosofia attuale del transumanesimo, spesso accusata di radicarsi nel pensiero eugenetico del ‘900 mirato al miglioramento degli individui. La differenza risiede nel fatto che il transumanesimo propone un miglioramento volontario e basato sulle tecnologie, piuttosto che sulla selezione genetica. Tuttavia, rimane il rischio di creare disuguaglianze sociali a causa dei costi elevati delle tecnologie di miglioramento umano e della loro non sostenibilità se applicate a tutta l’umanità.
La spezia geriatrica e l’extropianesimo
La spezia Melange è usata per prolungare la vita delle persone ben oltre i 100 anni, sebbene comporti il rischio di dipendenza da questa droga prodotta nelle sabbie del pianeta Dune.
Le stesse proprietà “geriatriche” della spezia Melange sono ora ricercate attraverso lo sviluppo delle biotecnologie, sostenute da una corrente specifica del transumanesimo: l’extropianesimo.
L’extropianesimo è un movimento filosofico e culturale che promuove il miglioramento continuo delle capacità umane attraverso le biotecnologie. Uno degli obiettivi principali dell’extropianesimo è l’estensione della vita umana. Gli extropiani credono che grazie all’innovazione tecnologica e scientifica, sia possibile non solo migliorare la qualità della vita, ma anche prolungarla significativamente, idealmente fino a raggiungere l’immortalità, come accadrà all’imperatore Leto II con la sua metamorfosi.
Questa prospettiva filosofica condurrà nel 2025 ai primi Enhanced Games, una sorta di Olimpiadi dove il doping è permesso per migliorare le prestazioni, ideati dall’avvocato e imprenditore australiano Aron D’Souza e finanziati dal miliardario di Silicon Valley, cofondatore di PayPal e di Palantir, Peter Thiel.
Le implicazioni etiche sono analoghe a quelle del transumanesimo. Così come la costosissima spezia è controllata da pochi potenti, creando una significativa disuguaglianza, vi è la preoccupazione che le moderne tecnologie di estensione della vita possano inizialmente essere accessibili solo a una minoranza ricca, esacerbando le disuguaglianze sociali. Inoltre, un mondo in cui tutti potessero prolungare la propria vita non è sostenibile in termini di risorse naturali.
Trascendere il tempo
Nel quarto volume del ciclo di Dune si scopre che il bando dell’IA è anche collegato a uno dei temi principali della narrazione: le implicazioni della capacità di prevedere il futuro da parte del protagonista Paul Atreides e dei suoi successori:
“We do not trust the unknown which can arise from imaginative technology,” Anteac said.
Luyseyal leaned toward him. “The Ixians boast that their machine will transcend Time in the way that you do it, Lord.”
– Non ci fidiamo dell’ignoto che può nascere dalla tecnologia immaginativa – disse Anteac.
Luyseyal si tese verso Leto. – Gli Ixiani si vantano che la loro macchina potrà trascendere il tempo nello stesso modo in cui lo fai tu, Signore.
Nei romanzi di Frank Herbert, prevedere il futuro è considerato rischioso perché comporta il pericolo di predeterminare il futuro stesso, limitando la libertà e la capacità di scelta degli individui, proprietà invece essenziale per esprimere la propria umanità, come si è detto negli articoli precedenti. La capacità di prevedere il futuro, posseduta da Paul Atreides e Leto II dopo la metamorfosi, è un dono e una maledizione. Chi possiede questa abilità deve confrontarsi con le conseguenze delle proprie azioni. Paul Atreides, per esempio, è costantemente tormentato dalle visioni di un jihad universale scatenato in suo nome.
L’atto stesso di prevedere il futuro può alterarlo. Paul si rende conto che cercare di evitare certi eventi previsti può effettivamente portare a realizzarli. Questo crea un paradosso in cui la conoscenza del futuro può diventare una trappola, influenzando le decisioni in modo da far avverare le visioni. Herbert arriva anche a anticipare l’effetto farfalla della teoria del caos: anche piccole azioni o decisioni possono avere enormi ripercussioni sul futuro. Paul è consapevole che anche le sue scelte più piccole possono avere conseguenze inaspettate e devastanti.
La capacità delle macchine intelligenti di prevedere il futuro è uno dei motivi del loro divieto nell’universo di Dune. Le macchine intelligenti, con la loro capacità previsionale, potrebbero determinare rigidamente il corso degli eventi. Questo contrasterebbe con il principio dell’autonomia degli esseri umani, poiché le decisioni umane verrebbero influenzate o controllate dalle previsioni delle macchine, limitando la libertà degli individui di scegliere il proprio destino.
Affidarsi alle macchine per prevedere il futuro potrebbe anche portare a un’erosione della responsabilità personale. Gli individui potrebbero diventare passivi, delegando alle macchine le decisioni importanti, e perdendo così il senso di responsabilità e iniziativa. Questo contrasta con i valori promossi dalla Jihad Butleriana, che esalta l’importanza del controllo e della responsabilità umana.
Cosa ci insegna Dune sull’intelligenza artificiale
L’universo di Dune, creato dalla mente visionaria di Frank Herbert, non è solo un’opera di fantascienza, ma un affresco complesso che esplora temi profondi e universali come il potere, l’ecologia, la spiritualità e, soprattutto, la natura dell’essere umano. In questo contesto, l’impossibilità di utilizzare l’intelligenza artificiale impone all’umanità di trovare vie alternative per evolversi, mettendo in risalto la capacità intrinseca dell’uomo di adattarsi e trascendere le proprie limitazioni.
La messa al bando dell’intelligenza artificiale nell’universo di Dune ci offre una lente attraverso cui esaminare le nostre stesse società e il nostro rapporto con la tecnologia. Frank Herbert ci ricorda che il vero pericolo non risiede solo nelle macchine, ma nell’uso che ne facciamo e nel modo in cui permettiamo alla tecnologia di influenzare la nostra umanità. La saggezza di Dune risiede nel riconoscere i limiti della tecnologia e nell’importanza di preservare ciò che rende unica l’esperienza umana. In un’epoca di rapidi progressi tecnologici, queste riflessioni sono più rilevanti che mai, e ci invitano a considerare con attenzione il ruolo della tecnologia nella nostra vita e le implicazioni etiche del suo utilizzo.
[1] Il sospetto nei confronti del pensiero meccanico tocca anche i Mentat che sono visti come “computer umani”. Ci ricorda The Dune Encyclopedia di Willis E. McNelly:
Late in the second Imperial millennium, the Sisterhood added an amendment to its Creed: “Reserve an attitude of distrust for anything that comes in the guise of logic.” This addition came partly in response to machine-thought but also as a counter to a new, competitive teaching order, the Mentats (founded in 1234), who sought to replace machine thought with perfect human logic.
Verso la fine del secondo millennio imperiale, la Sorellanza aggiunse un emendamento al suo Credo: “Riservare un atteggiamento di sfiducia per qualsiasi cosa che si presenti sotto le sembianze della logica.” Questa aggiunta fu fatta in parte come risposta al pensiero meccanico, ma anche come contrapposizione a un nuovo ordine di insegnamento con cui era in competizione, i Mentat (fondati nel 1234), che cercavano di sostituire il pensiero delle macchine con una logica umana perfetta.
