Alla fine del Duecento il cartaio di Fabriano firmava la carta con un nome che si leggeva controluce. I principali modelli di intelligenza artificiale cominciano a firmare i loro testi con un segno che nessun occhio vede e che quasi nessuno può ancora verificare. Un romanzo escluso dalla prima selezione del Goncourt per sospetta scrittura artificiale mostra quanto sia ampia questa distanza e chiede di stabilire chi risponda delle pagine che troviamo sul tavolo di una libreria.
Il 22 settembre una copia di C’était ça ou mourirera esposta sul tavolo di una libreria parigina e il suo autore, lo scrittore canadese di origine haitiana Thélyson Orélien, riceveva in quei giorni il Prix du roman Fnac per quel romanzo d’esordio. Tre giorni più tardi l’Académie Goncourt ha tolto il libro dalla prima selezione del premio per preservarne l’integrità. La decisione richiamava alcuni plagi attribuiti all’autore in testi precedenti e le analisi convergenti di ricercatori e giornalisti secondo cui il romanzo era «con ogni probabilità in larghissima parte il prodotto di un’intelligenza artificiale». Orélien respinge l’accusa e il caso resta senza una risposta sicura giacché gli strumenti usati per sospettarlo danno risultati diversi.
Il sospetto era nato da un account anonimo su X chiamato Balance ton Claude che aveva sottoposto estratti del libro al rilevatore Pangram ricavandone il giudizio di una scrittura quasi interamente artificiale. Il saggista Samuel Fitoussi ne ha poi rivendicato la gestione insieme a persone mai identificate. Intanto La Presse ha riferito di un racconto del 2012 e di un articolo del 2013 firmati da Orélien con passaggi ripresi da altri autori. Del resto un sospetto analogo sull’origine dei libri aveva già investito Alexandre Dumas nel febbraio 1845 quando il pubblicista Eugène de Mirecourt aveva dato alle stampe l’opuscolo Fabrique de romans per sostenere che i libri di Dumas uscissero da un’officina di collaboratori, quelli che oggi chiameremmo ghostwriter. Dumas portò Mirecourt in tribunale e il 15 marzo 1845 lo vide condannato. Tredici anni più tardi fu il collaboratore Auguste Maquet a chiedere ai giudici di essere riconosciuto coautore dei romanzi più celebri. La giustizia lasciò la paternità legale a Dumas e riconobbe a Maquet un compenso maggiore. Allora fu un tribunale a decidere a chi appartenesse l’opera mentre nel caso di Orélien il primo verdetto è venuto da un software.
Quel programma per computer appartiene a una famiglia di strumenti con cui si è già cercato di misurare quanta scrittura artificiale circoli in rete. Il Pew Research Center ha stimato con Open Pangram che circa una pagina web su dieci mostri tracce di scrittura artificiale in un campione di cinque anni. Tra le pagine nate dopo il lancio di ChatGPT la quota supera una su tre. Un gruppo della Stony Brook University ha poi esaminato con Pangram 14.419 romanzi di genere autopubblicati su Amazon tra il 2023 e il 2026 e ne ha trovato uno su cinque con oltre un quarto del testo segnalato. Cifre simili inducono a dimenticare che i programmi leggono le abitudini di frase tipiche dei modelli e restituiscono una probabilità, un indizio che Sherlock Holmes avrebbe tenuto distinto dalla prova. Lo studio di Stanford del 2023 mostra quanto possano sbagliare visto che sette rilevatori classificarono come artificiali in media circa il 61 per cento di 91 saggi scritti da non madrelingua inglesi. Si cerca dunque un segnale meno incerto, da inscrivere nel testo fin dalla sua produzione.
L’idea ha un precedente antico nella filigrana cartacea, nata a Fabriano alla fine del Duecento per mostrare controluce il nome del cartaio. Chi costruisce oggi i modelli di intelligenza artificiale la riprende con un segno che nessun occhio riesce a vedere, a cominciare dal SynthID-Text, il sistema per il testo che Google aveva reso pubblico già nel 2024. Da quel sistema deriva la filigrana statistica che Anthropic ha annunciato il 14 agosto per i modelli Claude lanciati dal 2 agosto e che applica in tutto il mondo perché non dispone ancora di un modo durevole per limitarla all’Europa. OpenAI ha pubblicato il 5 ottobre il rapporto tecnico su textGrain, la filigrana che nelle prossime settimane marcherà i testi di ChatGPT e Codex nell’Unione europea e che gli sviluppatori possono già attivare via API in tutto il mondo. I rilevatori di entrambe le filigrane sono però riservati per ora a organizzazioni e ricercatori approvati e chi voglia verificare di persona un romanzo non può dunque servirsene.
Anche chi potesse servirsene otterrebbe una risposta parziale dal momento che Anthropic precisa che la sua filigrana indica soltanto un probabile intervento di Claude e che una riscrittura completa la cancella. OpenAI avverte a sua volta che l’assenza di queste tracce non prova una paternità umana. Nell’incertezza resta la parola dell’autore, affidata a metà ottobre al testo Ce roman que j’ai écrit nel quale rivendica il libro e dichiara che «la storia viene dalle mie ferite» senza tuttavia portare prove della stesura, stando a quanto riferisce Open. Aveva già definito la campagna contro di lui motivata da pregiudizio razziale e volta a zittirlo. Chi racconta sé stesso offre un documento prezioso quanto difficile da verificare e la letteratura italiana ne ha un esempio celebre in Zeno Cosini, protagonista del romanzo di Italo Svevo del 1923.
Il Goncourt aveva già premiato un autore diverso da quello che si credeva quando nel 1975 assegnò il premio a La vie devant soi senza sapere chi fosse davvero Émile Ajar. Un parente di Romain Gary, Paul Pavlowitch, ne impersonò la figura nelle apparizioni pubbliche finché un libro postumo di Gary rivelò che l’autore era lui e che aveva vinto il Goncourt due volte. Nel 1967 Calvino aveva immaginato una macchina letteraria capace di tutte le permutazioni possibili. Il risultato poetico, scrisse, è l’urto di una di esse su un uomo dotato di coscienza e inconscio perché intorno alla macchina scrivente esistono «i fantasmi nascosti dell’individuo e della società». D’altronde da sempre l’editoria affida a un ghostwriter la scrittura di testi che portano la firma di altri e la responsabilità resta a chi li firma. Oggi la legge europea guarda a chi sta dietro un testo poiché l’articolo 50 dell’AI Act impone dal 2 agosto 2026 ai fornitori di marcare i contenuti sintetici (con una finestra provvisoria fino al 2 dicembre per i sistemi già sul mercato) e a chi pubblica testi di interesse pubblico generati dall’intelligenza artificiale di dichiararli salvo che siano stati rivisti da una persona con responsabilità editoriale. Ne discende che il diritto europeo assegna al modello una parte simile a quella del ghostwriter e affida la garanzia del testo a una persona con nome e cognome che risponde di ciò che pubblica.
Venduto in più di venti paesi, il romanzo di Orélien resterà fuori dal premio che l’Académie Goncourt assegnerà il 4 novembre e il dibattito sul suo autore proseguirà senza una risposta. In passato la paternità di un libro si accertava davanti a un giudice come per Dumas o si scopriva per rivelazione come per Gary. Oggi la si affida ai programmi che la leggono nelle abitudini di frase e alle filigrane che la custodiscono nel testo, strumenti che danno risultati diversi e i cui rilevatori di filigrana restano per ora riservati a organizzazioni e ricercatori approvati. Alla filigrana del cartaio bastava tenere il foglio controluce perché comparisse un nome mentre quella dei modelli resta invisibile a chiunque sfogli un libro. Chi prenderà il romanzo di Orélien da un tavolo di libreria avrà dunque davanti le stesse pagine del 22 settembre senza che alcuno degli strumenti oggi disponibili consenta ancora di dire con certezza chi le abbia scritte. Gli resterà soltanto il nome stampato in copertina, quello su cui il diritto europeo fa ricadere la responsabilità di ciò che si pubblica.
Alla fine del Duecento il cartaio di Fabriano firmava la carta con un nome che si leggeva controluce. I principali modelli di intelligenza artificiale cominciano a firmare i loro testi con un segno che nessun occhio vede e che quasi nessuno può ancora verificare. Un romanzo escluso dalla prima selezione del Goncourt per sospetta scrittura artificiale mostra quanto sia ampia questa distanza e chiede di stabilire chi risponda delle pagine che troviamo sul tavolo di una libreria.
Il 22 settembre una copia di C’était ça ou mourirera esposta sul tavolo di una libreria parigina e il suo autore, lo scrittore canadese di origine haitiana Thélyson Orélien, riceveva in quei giorni il Prix du roman Fnac per quel romanzo d’esordio. Tre giorni più tardi l’Académie Goncourt ha tolto il libro dalla prima selezione del premio per preservarne l’integrità. La decisione richiamava alcuni plagi attribuiti all’autore in testi precedenti e le analisi convergenti di ricercatori e giornalisti secondo cui il romanzo era «con ogni probabilità in larghissima parte il prodotto di un’intelligenza artificiale». Orélien respinge l’accusa e il caso resta senza una risposta sicura giacché gli strumenti usati per sospettarlo danno risultati diversi.
Il sospetto era nato da un account anonimo su X chiamato Balance ton Claude che aveva sottoposto estratti del libro al rilevatore Pangram ricavandone il giudizio di una scrittura quasi interamente artificiale. Il saggista Samuel Fitoussi ne ha poi rivendicato la gestione insieme a persone mai identificate. Intanto La Presse ha riferito di un racconto del 2012 e di un articolo del 2013 firmati da Orélien con passaggi ripresi da altri autori. Del resto un sospetto analogo sull’origine dei libri aveva già investito Alexandre Dumas nel febbraio 1845 quando il pubblicista Eugène de Mirecourt aveva dato alle stampe l’opuscolo Fabrique de romans per sostenere che i libri di Dumas uscissero da un’officina di collaboratori, quelli che oggi chiameremmo ghostwriter. Dumas portò Mirecourt in tribunale e il 15 marzo 1845 lo vide condannato. Tredici anni più tardi fu il collaboratore Auguste Maquet a chiedere ai giudici di essere riconosciuto coautore dei romanzi più celebri. La giustizia lasciò la paternità legale a Dumas e riconobbe a Maquet un compenso maggiore. Allora fu un tribunale a decidere a chi appartenesse l’opera mentre nel caso di Orélien il primo verdetto è venuto da un software.
Quel programma per computer appartiene a una famiglia di strumenti con cui si è già cercato di misurare quanta scrittura artificiale circoli in rete. Il Pew Research Center ha stimato con Open Pangram che circa una pagina web su dieci mostri tracce di scrittura artificiale in un campione di cinque anni. Tra le pagine nate dopo il lancio di ChatGPT la quota supera una su tre. Un gruppo della Stony Brook University ha poi esaminato con Pangram 14.419 romanzi di genere autopubblicati su Amazon tra il 2023 e il 2026 e ne ha trovato uno su cinque con oltre un quarto del testo segnalato. Cifre simili inducono a dimenticare che i programmi leggono le abitudini di frase tipiche dei modelli e restituiscono una probabilità, un indizio che Sherlock Holmes avrebbe tenuto distinto dalla prova. Lo studio di Stanford del 2023 mostra quanto possano sbagliare visto che sette rilevatori classificarono come artificiali in media circa il 61 per cento di 91 saggi scritti da non madrelingua inglesi. Si cerca dunque un segnale meno incerto, da inscrivere nel testo fin dalla sua produzione.
L’idea ha un precedente antico nella filigrana cartacea, nata a Fabriano alla fine del Duecento per mostrare controluce il nome del cartaio. Chi costruisce oggi i modelli di intelligenza artificiale la riprende con un segno che nessun occhio riesce a vedere, a cominciare dal SynthID-Text, il sistema per il testo che Google aveva reso pubblico già nel 2024. Da quel sistema deriva la filigrana statistica che Anthropic ha annunciato il 14 agosto per i modelli Claude lanciati dal 2 agosto e che applica in tutto il mondo perché non dispone ancora di un modo durevole per limitarla all’Europa. OpenAI ha pubblicato il 5 ottobre il rapporto tecnico su textGrain, la filigrana che nelle prossime settimane marcherà i testi di ChatGPT e Codex nell’Unione europea e che gli sviluppatori possono già attivare via API in tutto il mondo. I rilevatori di entrambe le filigrane sono però riservati per ora a organizzazioni e ricercatori approvati e chi voglia verificare di persona un romanzo non può dunque servirsene.
Anche chi potesse servirsene otterrebbe una risposta parziale dal momento che Anthropic precisa che la sua filigrana indica soltanto un probabile intervento di Claude e che una riscrittura completa la cancella. OpenAI avverte a sua volta che l’assenza di queste tracce non prova una paternità umana. Nell’incertezza resta la parola dell’autore, affidata a metà ottobre al testo Ce roman que j’ai écrit nel quale rivendica il libro e dichiara che «la storia viene dalle mie ferite» senza tuttavia portare prove della stesura, stando a quanto riferisce Open. Aveva già definito la campagna contro di lui motivata da pregiudizio razziale e volta a zittirlo. Chi racconta sé stesso offre un documento prezioso quanto difficile da verificare e la letteratura italiana ne ha un esempio celebre in Zeno Cosini, protagonista del romanzo di Italo Svevo del 1923.
Il Goncourt aveva già premiato un autore diverso da quello che si credeva quando nel 1975 assegnò il premio a La vie devant soi senza sapere chi fosse davvero Émile Ajar. Un parente di Romain Gary, Paul Pavlowitch, ne impersonò la figura nelle apparizioni pubbliche finché un libro postumo di Gary rivelò che l’autore era lui e che aveva vinto il Goncourt due volte. Nel 1967 Calvino aveva immaginato una macchina letteraria capace di tutte le permutazioni possibili. Il risultato poetico, scrisse, è l’urto di una di esse su un uomo dotato di coscienza e inconscio perché intorno alla macchina scrivente esistono «i fantasmi nascosti dell’individuo e della società». D’altronde da sempre l’editoria affida a un ghostwriter la scrittura di testi che portano la firma di altri e la responsabilità resta a chi li firma. Oggi la legge europea guarda a chi sta dietro un testo poiché l’articolo 50 dell’AI Act impone dal 2 agosto 2026 ai fornitori di marcare i contenuti sintetici (con una finestra provvisoria fino al 2 dicembre per i sistemi già sul mercato) e a chi pubblica testi di interesse pubblico generati dall’intelligenza artificiale di dichiararli salvo che siano stati rivisti da una persona con responsabilità editoriale. Ne discende che il diritto europeo assegna al modello una parte simile a quella del ghostwriter e affida la garanzia del testo a una persona con nome e cognome che risponde di ciò che pubblica.
Venduto in più di venti paesi, il romanzo di Orélien resterà fuori dal premio che l’Académie Goncourt assegnerà il 4 novembre e il dibattito sul suo autore proseguirà senza una risposta. In passato la paternità di un libro si accertava davanti a un giudice come per Dumas o si scopriva per rivelazione come per Gary. Oggi la si affida ai programmi che la leggono nelle abitudini di frase e alle filigrane che la custodiscono nel testo, strumenti che danno risultati diversi e i cui rilevatori di filigrana restano per ora riservati a organizzazioni e ricercatori approvati. Alla filigrana del cartaio bastava tenere il foglio controluce perché comparisse un nome mentre quella dei modelli resta invisibile a chiunque sfogli un libro. Chi prenderà il romanzo di Orélien da un tavolo di libreria avrà dunque davanti le stesse pagine del 22 settembre senza che alcuno degli strumenti oggi disponibili consenta ancora di dire con certezza chi le abbia scritte. Gli resterà soltanto il nome stampato in copertina, quello su cui il diritto europeo fa ricadere la responsabilità di ciò che si pubblica.
Antonio Di Ieva
Giornalista, stratega editoriale, digitale e social media. Responsabile multimedia e web della rivista “Informazioni della Difesa”, cura i progetti speciali per PRP Media Consulting e PRP Channel. Scrive di geopolitica, difesa, tecnologie emergenti, connettendo ambiti distanti in analisi divenute racconto.