Uno scrittore impiega tre anni per completare un romanzo di ottantamila parole. Durante la revisione si affida anche a ChatGPT o Claude, discute alcune scelte narrative, cerca alternative a una frase, ne scarta parecchie e alla fine decide quali modifiche conservare. La storia, i personaggi e le decisioni creative restano suoi. Ma potrebbe bastare l’intervento di un modello linguistico per rendere sospetta la paternità del testo. E magari convincere qualcuno a scartarlo senza nemmeno leggerlo. OpenAI ha annunciato il 5 ottobre l’introduzione progressiva nell’Unione Europea di textGrain, un sistema di watermark invisibile per i testi generati da ChatGPT e Codex. Anthropic ha adottato una soluzione analoga per i modelli Claude supportati, con applicazione mondiale. Sono marcatori statistici incorporati nelle scelte linguistiche dei modelli, riconoscibili attraverso appositi strumenti di verifica. Servono a identificare i contenuti prodotti dall’IA, anche per contrastare la disinformazione. Ma se uno scrittore utilizza ChatGPT per rivedere un capitolo, fino a che punto possiamo attribuire alla macchina il risultato? Il watermark non sa rispondere. Eppure potrebbe diventare un motivo per mettere in discussione la paternità di un’opera.
Il delitto della frase corretta
Torniamo al nostro romanziere. La storia è sua, i personaggi sono suoi, i dialoghi li ha immaginati lui. Ha utilizzato l’intelligenza artificiale come un editor particolarmente paziente, disponibile anche alle tre del mattino e incapace di lamentarsi dopo la cinquantesima richiesta di riscrittura. Il testo potrebbe conservare tracce dell’intervento della macchina. Oppure no. Dipende da quanto è stato generato, da come è stato modificato e dal sistema utilizzato per rilevarlo. Ma anche individuando correttamente il watermark, che cosa avremmo scoperto? Che una macchina ha contribuito alla formulazione di alcune parole. Non che abbia inventato il romanzo.
Gli scrittori lavorano da sempre con editor, ghostwriter e collaboratori. Esistono collettivi letterari che pubblicano sotto un unico pseudonimo e libri firmati da persone che non ne hanno materialmente scritto ogni riga. Nessuno pretende di ricostruire chi abbia composto ogni frase di un romanzo scritto a quattro, sei o otto mani. Se tra quelle mani ne compare una artificiale, improvvisamente sentiamo il bisogno di identificarla. Benvenuti nella tecnologia del sospetto. E se il contributo della macchina fosse molto più importante di una correzione? Immaginiamo un autore che abbia concepito un racconto, costruito i personaggi, deciso gli sviluppi della trama e trascorso settimane a interloquire con un LLM. Rifiuta le soluzioni banali, corregge i dialoghi, impone il ritmo, cambia il finale. Alla fine ottiene esattamente il racconto che aveva in mente, anche se molte delle frasi sono state materialmente generate dall’IA. Possiamo discutere se sia uno scrittore nel senso tradizionale del termine, quali diritti possa rivendicare e quanto debba dichiarare del proprio metodo. Ma perché il racconto dovrebbe essere considerato privo di valore prima ancora di leggerlo? Saper dirigere un processo creativo complesso richiede capacità che non si esauriscono nella formulazione di un prompt. Naturalmente non basta neppure saper impartire istruzioni per diventare romanzieri. A decidere dovrebbe essere, almeno sul piano letterario, il risultato.
La corsa a cancellare le impronte
La situazione ha risvolti comici. Utilizziamo l’intelligenza artificiale per accelerare il lavoro creativo e poi rischiamo di dover impiegare il tempo risparmiato per cancellarne le tracce. Una specie di lettera scarlatta digitale, capace di marchiare un’opera prima ancora che qualcuno si prenda la briga di leggerla. MagIA News ne aveva già parlato ad agosto, segnalando tra gli altri watermarks-remover, un progetto open source di Guillaume Meyer che raccoglie tecniche per rimuovere o indebolire diversi tipi di marcatori. Non tutti i watermark possono essere cancellati facilmente e alcuni resistono anche alle riscritture. Ma la corsa a eliminarli è già cominciata. Uno scrittore potrebbe ritrovarsi a rielaborare pagine appena perfezionate con Claude per evitare che qualcuno le consideri opera di una macchina. Chi invece ha affidato all’IA la stesura integrale di un articolo potrebbe riuscire a renderne meno riconoscibili le tracce. Il primo rischia di essere sospettato, il secondo potrebbe passare inosservato. Il paradosso è che entrambi potrebbero aver scritto qualcosa di interessante. O qualcosa di orrendo. Il watermark non è in grado di dircelo.
Il detector non è un critico letterario
Bisogna distinguere i watermark dai comuni rilevatori di testi artificiali, come GPTZero o Originality.ai. I primi cercano segnali introdotti durante la generazione. I secondi analizzano le caratteristiche linguistiche e stimano quanto un testo assomigli a quelli prodotti dai modelli. E possono sbagliare. Nel 2023 una ricerca dell’Università di Stanford ha rilevato che sette detector classificavano erroneamente come artificiali, in media, il 61,3% degli elaborati in inglese scritti da studenti non madrelingua esaminati nello studio. Si trattava di testi umani, non di output di IA: il risultato mostra quindi un tasso molto alto di falsi positivi su quel campione. È un dato riferito a quei sistemi e a quel contesto che non può essere esteso automaticamente ai rilevatori attuali, ma dovrebbe suggerire prudenza nell’usare questi strumenti come prova dell’origine di un testo.
Gli LLM sono stati addestrati su enormi raccolte di testi umani, compresi libri e opere letterarie. Hanno imparato a riprodurne strutture, stili e regolarità linguistiche. Adesso utilizziamo altri algoritmi per cercare di riconoscere la scrittura artificiale attraverso alcune di quelle stesse caratteristiche. Abbiamo insegnato alle macchine a scrivere come gli esseri umani. Adesso rischiamo di accusare gli esseri umani di scrivere come le macchine. Questo non significa che un watermark riconosca un testo come artificiale perché somiglia a un romanzo già esistente. I marcatori funzionano diversamente e il loro principio tecnico è conosciuto, anche se non tutti i dettagli dei sistemi proprietari sono pubblici. Il rischio di confondere la scrittura umana con quella artificiale riguarda soprattutto i detector statistici. Che, per quanto sofisticati, non sono critici letterari.
L’efficienza sotto processo
Da anni ci raccontiamo che l’intelligenza artificiale aumenterà la produttività e permetterà alle persone di dedicare più tempo alle attività creative. Uno scrittore potrà perfezionare una struttura narrativa, un giornalista migliorare la chiarezza di un articolo, un ricercatore rendere più comprensibili le proprie idee. Poi rischiamo di costruire un ambiente nel quale utilizzare questi strumenti diventa qualcosa da nascondere, per paura che qualcuno consideri il loro impiego una diminuzione del merito personale. Sarebbe come inventare il correttore ortografico e poi guardare con sospetto chi consegna un manoscritto senza errori. L’AI Act europeo riconosce la differenza tra generazione e assistenza editoriale, prevedendo un’eccezione agli obblighi di marcatura quando l’intervento del sistema non modifica sostanzialmente il contenuto originale o il suo significato. Resta da capire quanto questa distinzione sarà rispettata da chi utilizzerà gli strumenti di rilevazione. Nel frattempo cominciano a comparire iniziative per certificare l’origine umana dei libri. Una scelta legittima per chi vuole conoscere il processo produttivo di ciò che acquista. Ma una certificazione di questo genere non garantisce che il romanzo sia bello. E la sua assenza non dimostra il contrario.
Prima leggere, poi giudicare
Chiunque abbia chiesto a ChatGPT o Claude di scrivere un racconto partendo da un semplice prompt conosce il risultato. Trame prevedibili, personaggi inconsistenti, dialoghi convenzionali e una prosa spesso piatta, piena di formule ricorrenti. Si possono ottenere risultati migliori lavorando sulle istruzioni e revisionando a lungo il testo, ma produrre un romanzo capace di conquistare i lettori è decisamente più complicato che premere Invio. Molti racconti generati automaticamente si riconoscono senza bisogno di un detector. Basta leggerli. E sarebbe opportuno continuare a farlo anche quando un software attribuisce a un manoscritto un’elevata probabilità di essere stato scritto dall’IA. Quella percentuale non misura il valore letterario e non costituisce necessariamente una probabilità scientificamente calibrata. La letteratura si è sempre nutrita di storie già raccontate, personaggi reinventati e opere riscritte. Alcune sono diventate capolavori, altre sarebbe stato meglio lasciarle nel cassetto. L’originalità non coincide con l’assenza di influenze e la qualità non dipende dalla tecnologia utilizzata per arrivare alla versione definitiva.
Il romanzo che nessuno ha letto
La storia dell’editoria dovrebbe suggerire una certa prudenza. Nel 2007 David Lassman inviò a diciotto editori e agenti letterari britannici alcuni capitoli di Jane Austen, cambiando titoli, nomi dei personaggi e firma. Quasi nessuno riconobbe l’autrice di Orgoglio e pregiudizio e arrivarono numerosi rifiuti. Trent’anni prima, il giornalista Chuck Ross aveva fatto qualcosa di simile con Passi di Jerzy Kosiński, vincitore del National Book Award: quattordici editori e tredici agenti lo respinsero, compresa la casa editrice che lo aveva pubblicato. Se è già così difficile riconoscere il valore di un libro leggendolo, affidare la prima selezione a un algoritmo che cerca tracce di intelligenza artificiale non sembra un grande passo avanti. Uno scrittore potrebbe finire per preoccuparsi più del responso di un detector che del giudizio dei lettori. E un editore, già sommerso dai manoscritti, potrebbe trovare finalmente il modo di scartarli senza nemmeno leggere le prime tre pagine. Avremmo ottenuto un risultato straordinario: utilizzare l’intelligenza artificiale per evitare di leggere ciò che potrebbe essere stato scritto con l’intelligenza artificiale. Prima di pretendere che ogni scrittore dichiari quanto ChatGPT o Claude abbia contribuito al suo lavoro, proviamo a rispondere a una domanda: chi di noi può affermare con certezza che l’ultimo romanzo che lo ha conquistato non sia stato scritto anche con l’aiuto di un LLM? E soprattutto, se quel romanzo ci ha conquistato, saperlo cambierebbe davvero qualcosa?
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
