Per alcuni l’IA generativa si candiderebbe ad essere il nuovo paradigma dell’uomo technosapiens, il suggeritore digitale della sua sete di conoscenza, il potenziale alleato o il sostituto di ogni suo futuribile sogno di emancipazione. È davvero così? Contrariamente a quanti alcuni pensano il passaggio dall’IA simbolica a quella ‘predittiva’, implementata dai LLM non rappresenta un salto gnoseologico verso la conoscenza tacita. Se la prima cercava di afferrare il toro per le corna, la seconda cerca di afferrarlo per la coda. Considerare il linguaggio naturale umano alla stregua di un sistema complesso e caotico (teoria del caos) e modellizzarlo con algoritmi (LLM), che ne estraggono su base probabilistico-statistica alcune costanti, non migliora le aspettative gnoseologiche. Le verbalizzazioni del linguaggio umano, infatti, sono manifestazioni (rappresentazioni, modelli linguistici) della persona umana e non la persona stessa. I sistemi complessi caotici che si candiderebbero a modellizzare il linguaggio umano sono a loro volta rappresentazioni simboliche di modelli linguistici simbolici. San Tommaso direbbe che siamo nell’ambito degli enunciabili e non della res. E il nominalista medievale Roscellino di Compiègne parlerebbe di “sententia vocum”, semplici parole, suono provocato da emissioni di fiato alle quali non corrisponde nella realtà alcuna cosa, perché solo le sostanze sono individui reali. Se il linguaggio umano non compendia la persona, ma ne è una sua manifestazione, ancorché parziale, nondimeno si può ipotizzare che la rappresentino i sistemi complessi.
L’impredicibilità dei ‘sistemi complessi’
Il concetto di complessità, infatti, dal punto di vista scientifico, nasce all’interno della ‘teoria dei Sistemi’: in particolare, emerge dalla svolta impressa, tra gli altri, da Von Foerster con la cibernetica di secondo ordine (secondo cognitivismo e costruttivismo). Un “sistema” è “complesso” se non può più collegare ogni sua operazione con tutte le altre. Detto in altri termini, non vi è più la possibilità di applicare il principio di causalità in modo generale (a volte solo localmente). Questo è ben noto ai medici, ai biologi, agli psicologi, ai giuristi, ai sociologi che affrontano la complessità del corpo umano, della biologia, della mente, delle leggi con le loro applicazioni, dei sistemi sociali e di tutti i sistemi complessi. Le stesse scienze fisiche sono approdate alla rinuncia del principio di causalità, formulando la fisica quantistica: di ogni particella, secondo il principio di indeterminazione di Heisenberg, non si può conoscere con totale precisione contemporaneamente la posizione e la velocità. Più in generale si afferma che “la scienza non mira più allo scopo ontologico della verità, ma a quello metodologico di ottimizzare il sistema di credenze posseduto in un dato momento”. Se il principio di causalità non è più metodologicamente applicabile, la “predicibilità” perde gran parte della sua efficacia. Un sistema complesso, il corpo umano, la mente, il sistema economico, ecc., non è più “predicibile”, ma solo eventualmente approssimabile empiricamente.
Mi permetto di rilevare che in tali sistemi valgono le leggi della “teoria dei sistemi autopoietici”, che entrano nella complessità del rapporto sistema-ambiente e che seguono la tradizione post-darwiniana, già congetturata dai biologi evoluzionisti Humberto Maturana e Francisco Varela, di matrice evoluzionista e anti-deterministica, che sfidano i modelli deterministici e creazionistici. Non è difficile osservare e descrivere in tali sistemi il feedback tra sistema e ambiente. Nelle relazioni tra sistema e ambiente la nozione classica di “causalità” perde di significato e si passa sotto il regime della “probabilità”. Tale modello ipotizza una co-evoluzione di relazioni sistema-ambiente in un ecosistema, privo di un centro e di un meccanismo generale di governo. In un ecosistema tutti i sistemi co-evolvono. Un cambiamento in un sottosistema perturba gli altri sistemi e l’intero ecosistema.[1]
È vero che la teoria probabilistica della causalità prescrive che una causa c non determini l’occorrenza dell’effetto e, ma ne aumenti la probabilità. Sebbene il tentativo di sviluppare un’interpretazione probabilistica della causalità apparisse in generale un’impresa coerente con il ruolo della probabilità nella scienza, la sua realizzazione mediante probabilità condizionali si è rivelata insoddisfacente dal punto di vista formale (valga per tutti il caso dei processi stocastici markoviani, in cui la probabilità di transizione che determina il passaggio a uno stato di sistema dipende solo dallo stato del sistema immediatamente precedente e non da come vi si è giunti). Questo tipo di teorie non possono esimersi dal chiarire la relazione che in esse dovrebbe sussistere tra causalità e leggi di natura. Senza tacere l’impossibilità di giustificare la precedenza nel tempo della causa rispetto all’effetto sulla base di leggi di conservazione, che sono simmetriche rispetto all’ordinamento temporale.[2]
I limiti e l’opacità dell’IA generativa
In questo scenario la domanda decisiva è: tutto è predicibile? I tecno-entusiasti ritengono che il riconoscimento del linguaggio naturale sia un problema AI Complete, ossia sarà computabile quando l’IA avrà capacità computazionali, disponibilità di memoria e quantità di dati tali da assicurarne il riconoscimento senza ambiguità. Quelle che impropriamente i progettisti del software definiscono “ambiguità” sono invece connotazioni sostanziali del linguaggio naturale (bisemie, polisemie, metafore, ironie, domande, silenzi…), che ne determinano la complessità. Un robot non fa domande offre solo risposte. Il prompt dell’algoritmo è programmato solo per offrire risposte, non conosce il ‘silenzio’ (facoltà unicamente umana). Non pensa, non riflette, non prega… (eventualmente elabora informazioni e le comunica: è un ‘pappagallo stocastico’). Ecco perché i LLM invitano gli utenti a formulare le domande in maniera tale da agevolarne la comprensione. Insomma, in obbedienza alla nota massima “la scienza scopre, la tecnologia applica e l’uomo si adatta”, si chiede agli umani di adeguarsi alle macchine e non viceversa. A ogni buon conto l’affermazione che un giorno le architetture di computer (reti neurali) riusciranno a comprendere il linguaggio naturale per i tecno scettici sembra essere una “petitio princípii”, o un’asserzione predittiva priva di valore dimostrativo. Infine, le “reti neurali” sono per la loro struttura intrinseca delle black box (scatole nere), dove non è dato sapere come decide l’algoritmo, quali sono le qualità e i limiti specifici dell’IA rispetto all’intelligenza umana, qual è la complessità dei compiti e dell’ambiente dal punto di vista dei sistemi di IA. Inoltre, va precisato il problema dei bias nella cognizione umana, relativi ai bias nell’IA[3] e i problemi associati al controllo dell’IA. Ancora incerta è la prevedibilità del comportamento dell’IA (decisioni) e la costruzione della fiducia e il mantenimento della consapevolezza della situazione (compiacimento). E quale deve essere l’allocazione dinamica dei compiti (ad es. assumersi i compiti l’uno dell’altro) e la responsabilità. Si dovrà definire come affrontare le possibilità e i limiti dell’IA nel campo della “creatività” e dell’adattabilità.[4] Ci s’interroga anche sulla “consapevolezza ambientale” e la generalizzazione della conoscenza e su come imparare a gestire i limiti percettivi e cognitivi e i possibili errori dell’IA, che possono essere difficili da comprendere. Quale dovrà essere la fiducia nelle prestazioni dell’IA (possibilmente nonostante la limitata trasparenza o capacità di “spiegare”) sulla base di verifica e convalida. Come imparare a gestire la nostra naturale inclinazione all’antropocentrismo e all’antropomorfismo (“teoria della mente”) quando si ragiona sull’interazione uomo-robot. Come capitalizzare i poteri dell’IA per far fronte ai vincoli intrinseci dell’elaborazione umana delle informazioni (e viceversa). Come comprendere le caratteristiche e le qualità specifiche del sistema uomo-macchina ed essere in grado di decidere quando, per cosa e come la combinazione integrata di facoltà umane e di IA possa funzionare al meglio del potenziale complessivo del sistema.[5]
La ‘teoria della computabilità’ e il mito della ‘superintelligenza’
Il mito della ‘superintelligenza’ rilanciato dai tecno-entusiasti dell’IA (per tutti valga Nick Bostrom) crolla quando ci si confronta con i fondamenti della ‘teoria della computabilità’ e con i suoi teoremi fondamentali. Durante gli anni ’30 e agli albori degli anni ’40 del secolo scorso videro la luce diverse importanti teorizzazioni della calcolabilità (Turing, Kleene, Church). Si giunse così alla formulazione della tesi di Church-Turing universalmente riconosciuta: “una funzione è calcolabile se e solo se esiste una macchina di Turing che la calcola”.
La domanda decisiva allora è: tutto è computabile? Nel 1928 il matematico tedesco David Hilbert formulò l’entscheidungsproblem (“il problema della terminazione”), con il quale si chiedeva se fosse sempre possibile, definito un algoritmo e un determinato input finito, stabilire se l’algoritmo termini o continui la sua esecuzione all’infinito. Il teorema di Hilbert fu una pietra angolare sulla quale si infransero tutte le velleità dei matematici entusiasti, che confidavano nelle potenzialità delle macchine di Turing per risolvere problemi indecidibili. Il teorema fu confermato da Alan Turing nel 1936, che ne dimostrò la indecidibilità. Da parte sua Kurt Gödel formulò il primo Teorema di incompletezza (1930), secondo cui all’interno di ogni sistema formale coerente esistono proposizioni indecidibili. Il sistema viene perciò detto sintatticamente incompleto, e si dimostra che la sua incompletezza è essenziale, cioè non eliminabile. Successivamente il matematico dimostrò (secondo teorema) che la coerenza del sistema non può essere dimostrata con mezzi che siano entro il sistema. Le conseguenze filosofiche dei suoi due teoremi furono spietate, Gödel aveva inferto alle pretese dei matematici un colpo ferale, perché il perimetro del dimostrabile, o anche solo del computabile, necessitava di qualcosa che fosse all’esterno del sistema, un assioma, un postulato. Alcuni si chiesero se i due teoremi non avessero distrutto la fede nella matematica, forse non fu così, ma molti pensarono che reiterando all’infinito la necessità di postulare un assioma al di fuori del sistema per ampliare la base del dimostrabile si dovesse giungere, per dirla con san Tommaso, a un principio primo, a un’archè, a una causa causae (causa di ciò che è causato) … a Dio. I padri fondatori della teoria della computabilità con le loro teorizzazioni restano a tutt’oggi insuperati (con buona pace di Nick Bostrom) e il perimetro della computabilità o calcolabilità è legato inestricabilmente al destino delle macchine di Touring, di cui le attuali architetture, pur nella loro evoluzione sono figlie.
Immagini generate tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
[1] Cf. H.G. MOELLER, Per comprendere Luhmann. Una necessità per le classi dirigenti, Ipoc Milano 2016 [Orig. inglese, The radical Luhmann, 2011].
[2] Cf. F. LAUDISIA, Causalità. Storia di un modello di conoscenza, Carocci Editore, Roma 1999, 95-100.
[3] Nell’apprendimento automatico, il bias induttivo di un algoritmo è l’insieme di assunzioni che il classificatore usa per predire l’output, prima di conoscere i dati di input. Possiamo definire i bias come i pregiudizi dell’algoritmo; cf. voce bias induttivo: https://it.wikipedia.org/wiki/Bias_induttivo [ultimo accesso 10.5.2023]. Usiamo per la definizione del sintagma bias induttivo, col beneficio del dubbio, la piattaforma wikipedia non avendo il neologismo una definizione su dizionari certificati. Secondo Cathy O’Neil, mentre il processo decisionale umano, benché spesso viziato, si può evolvere e mostra capacità di adattamento, diversamente i sistemi automatici rimangono fermi nel tempo fino a quando gli ingegneri non decidono di modificarli. I processi basati sui Big Data codificano il passato. Non inventano il futuro cosa per la quale occorre la percezione, che solo l’uomo possiede; C. O’NEIL, Armi di distruzione matematica. Come i Big Data aumentano la disuguaglianza e minacciano la democrazia, Giunti/Bompiani, Firenze/Milano 2017, 293-294.
[4] In merito Giulio Xhaet afferma: “un algoritmo è perfetto in situazioni dove seguendo le regole trovi la soluzione, ma rimane fregato se più delle regole contano le eccezioni. L’habitat dove non esistono regole fisse è la complessità: un ambiente dove le regole non esistono, esistono solo le eccezioni”; G. XHAET, Algoritmi contro umani, solo i ‘contaminati’ si salveranno, in AgendaDigitale.eu, 11.9.2020, 2.
[5] Cf. J. E. KORTELING – G. C. VAN DE BOER VISSCHEDIJK – R. A. M. BLANENDAL – R. C. BOONEKAMP – A. R. EIKELBOON (EDD.), Human – versus Artificial Intelligence: https://www.frontiersin.org /articles/10.3389/ frai.2021.622364/full [10.5.2023].
