Reddit ha deciso di usare modelli di intelligenza artificiale per individuare contenuti prodotti da altre intelligenze artificiali. La notizia è passata quasi inosservata: sembra poco più di un aggiornamento dei sistemi di moderazione, una piattaforma che introduce strumenti nuovi per un problema nuovo. È difficile però immaginare una fotografia più precisa del momento che sta attraversando Internet. Per trent’anni gli algoritmi hanno fatto il personale di servizio. Indicizzavano pagine, ordinavano risultati, eliminavano spam, classificavano fotografie. Il materiale arrivava dagli esseri umani. Le macchine facevano i magazzinieri. Ogni tanto spostavano uno scatolone per convincerci che fosse una nostra idea, ma la merce continuavamo a portarla noi. Adesso il magazzino produce da solo. Descrizioni di prodotti, newsletter, comunicati, recensioni, documentazione tecnica, post. Non devono essere capolavori. Devono soltanto sembrare abbastanza credibili da occupare spazio. E Reddit si è trovato davanti a una domanda elementare: come si controllano milioni di testi scritti dalle macchine? Con altre macchine. La soluzione è logica. La deriva molto meno.
Il problema non è il rumore
Qui di solito arriva il lamento sulla sovrapproduzione. Troppi testi, troppe recensioni, l’inquinamento informativo, eccetera. È una lettura consolatoria, perché suggerisce che il materiale umano stia là sotto, coperto ma intatto, in attesa che qualcuno alzi la voce. Non funziona così. Quando una quota schiacciante del testo in circolazione è generata, un articolo scritto da una persona non viene censurato né sepolto: scende sotto la soglia di rilevabilità. È una candela accesa dentro un incendio. Nessuno l’ha spenta. Semplicemente non si vede e non esiste un angolo di quella stanza da cui si possa vedere. La differenza è sostanziale. Un contenuto oscurato ha almeno la dignità del bersaglio: qualcuno ha deciso che dava fastidio. Un contenuto statisticamente irrilevante non ha nemmeno quella. Nessuno ti ha zittito. Il tuo pezzo è finito nella percentuale che i sistemi di campionamento arrotondano.
Il collaudo dell’essere umano
C’è un particolare che rende la faccenda più interessante e più spiacevole. I rilevatori vengono addestrati sulla scrittura media. Ma la scrittura media, ormai, è quella delle macchine: pulita, bilanciata, con i connettivi al posto giusto e le frasi tutte della stessa lunghezza. Il testo generato è diventato la norma statistica. Il che significa che la prosa umana, quella irregolare con le ripetizioni, le frasi che si perdono, l’aggettivo sbagliato messo lì per un motivo che non sa spiegare nemmeno chi l’ha scritto, comincia a comportarsi come un’anomalia. Un professionista con uno stile riconoscibile finirà segnalato non perché scriva come un’IA, ma perché non ci somiglia abbastanza. La certificazione di umanità la rilascia il sistema, sulla base di un modello di uomo che il sistema ha costruito da sé. Chi ha provato a contestare una segnalazione automatica conosce la sequenza. Non c’è nessuno dall’altra parte. C’è un modulo, un tempo di attesa e un secondo algoritmo che valuta il ricorso contro il primo.
Chi legge davvero
Per anni abbiamo immaginato la rete come un’immensa conversazione tra persone. Forse era già una favola. Oggi è aritmetica sbagliata. Il primo lettore di quasi tutto quello che pubblichiamo è un software: scansiona, estrae, riassume, indicizza, valuta l’affidabilità, classifica, promuove, scarta. Scriviamo per un pubblico che non c’è, e il traffico si sposta su un altro piano. Descrizioni che alimentano motori interrogati da agenti. Riassunti letti da altri riassuntori. Documentazione consultata da software che scrivono software. Recensioni analizzate da modelli incaricati di sintetizzare recensioni. Un’infrastruttura enorme ed efficientissima, dove il traffico consiste in macchine che parlano con altre macchine. Quel dialetto qualcuno lo impara. È successo con la SEO: c’è stata una generazione di professionisti capaci di parlare a Google meglio di quanto sapessero parlare ai clienti e sta succedendo di nuovo con i prompt e con l’ottimizzazione per i modelli generativi. Il mestiere esiste, si paga, ha i suoi maestri. Il guaio è la velocità di rotazione della grammatica. Un algoritmo cambia regole in una notte e si aggiorna a ogni release; chi lo insegue lavora sui tempi umani, cioè legge, prova, capisce, scrive una guida e, mentre la guida esce, la regola è già decaduta. Ricordate quelli che vivevano di keyword density? Erano bravi. Avevano ragione. Per otto mesi (in realtà molto meno). Non è una lingua che si impara. È una lingua che si rincorre e chi la rincorre passa il tempo a disimparare la versione precedente.
Il grande licenziamento
Per molto tempo le piattaforme ci hanno convinti che partecipare volesse dire produrre. Un post, una storia, un commento, un video, qualunque cosa purché alimentasse il flusso. Ci siamo trasformati con tanto entusiasmo nella più grande redazione gratuita mai esistita: miliardi di persone che riempivano Internet di materiale monetizzato da qualcun altro. Adesso quel lavoro lo fanno le macchine, più in fretta e a costo minore, attingendo a una quota enorme di ciò che l’umanità ha scritto e archiviato. Detta così è perfino una buona notizia: dopo una vita da fornitori di contenuti gratis, il diritto di stare zitti sembra un privilegio. Il problema comincia al secondo giro. Se smettiamo di scrivere, le macchine continuano, soltanto che a quel punto il materiale su cui si addestrano lo hanno prodotto altre macchine. Il fenomeno ha un nome tecnico, model collapse, e non è una previsione da bar: nel 2024 un gruppo di ricercatori di Oxford e Cambridge lo ha documentato su Nature, mostrando che un modello addestrato in modo ricorsivo sui propri output degenera. Prima spariscono le code della distribuzione, cioè le cose rare, gli usi minoritari, gli accenti strani. Poi la distribuzione si stringe intorno alla propria media. Alla fine il sistema produce con grande sicurezza una variante sempre più povera di se stesso. La metafora corrente è la fotocopia della fotocopia, che però è troppo gentile: suggerisce un’immagine che sbiadisce in modo uniforme. Qui succede qualcosa di più selettivo. Il testo non si degrada, resta impeccabile: grammatica pulita, sintassi in ordine, tutto perfettamente leggibile. Sparisce l’eccezione. Va via per prima la frase costruita male da qualcuno che sapeva perché la stava costruendo male, il dialetto, l’ipotesi minoritaria, il pezzo scritto da uno che aveva torto in un modo interessante. Un settore però resta, in cui la produzione umana continua a superare quella automatica ed è il commento cattivo. Le macchine sanno scrivere un articolo, ma il tizio che alle due di notte ti spiega sotto il post il mestiere di tua madre e ti augura le peggio morti per te, i tuoi cari e la tua progenie, quello non lo replica nessun modello. Troppo specifico, troppo mal scritto, troppo odiocentrico. Se davvero l’ultima cosa che sappiamo fare meglio delle macchine è insultarci con precisione, il patrimonio da conservare è quello. Difendiamolo. Un giorno le macchine lo studieranno.
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
