Da qui alle prossime settimane, una risposta sufficientemente estesa prodotta da ChatGPT all’interno dell’Unione Europea porterà con sé un’impronta impercettibile. Non si tratta di caratteri nascosti da individuare con stratagemmi, né di spazi anomali inseriti tra le parole: il segnale sarà incorporato direttamente nelle decisioni linguistiche prese dal modello durante la generazione.
OpenAI ha battezzato questo sistema textGrain e ha reso noto che verrà progressivamente implementato negli output testuali compatibili di ChatGPT e Codex all’interno dei confini europei. A partire dalla stessa data, chi utilizza le API può già attivare questa funzione su determinati modelli, anche al di fuori dell’Europa; in questo caso la funzione rimane facoltativa e disattivata di default.
Lo scopo è conformarsi alle nuove disposizioni sulla trasparenza previste dall’AI Act, operative dal 2 agosto 2026, che impongono ai produttori di sistemi generativi di rendere identificabili i contenuti creati o modificati dall’intelligenza artificiale anche tramite marcature leggibili da strumenti automatici. La Commissione europea contempla tuttavia delle eccezioni e opera una distinzione precisa tra testo completamente generato, semplice supporto redazionale e materiali sottoposti a supervisione umana.
Il marchio risiede nelle parole, non al di sotto di esse
Il funzionamento è più raffinato di quanto il termine watermark lasci immaginare. Nel momento in cui genera un testo, un modello linguistico valuta diverse parole o frammenti lessicali plausibili, assegnando a ciascuno una probabilità specifica. textGrain agisce proprio su questo processo decisionale, introducendo uno schema statistico collegato a una chiave riservata.
Nel rapporto tecnico diffuso contestualmente all’annuncio, i ricercatori illustrano un sistema capace di modificare il campionamento dei token, tenendo sotto controllo la riduzione di varietà testuale. Un rilevatore in possesso della medesima chiave può quindi stabilire se tali scelte linguistiche rispettano lo schema previsto con una frequenza superiore a quella casuale.
Per il lettore, in pratica, nulla cambia a livello visibile. Trasferire il testo su Word, incollarlo in un’email o rimuovere la formattazione non fa emergere alcun marchio, semplicemente perché non c’è alcun carattere da eliminare. OpenAI chiarisce che textGrain non introduce spazi invisibili, segni di punteggiatura insoliti o token creati appositamente per la filigrana.
Riscrivere il testo indebolisce progressivamente la traccia
Qui la situazione si complica per chi immagina un rilevatore infallibile capace di scovare ogni compito scritto con l’aiuto di ChatGPT. Nelle sperimentazioni rese pubbliche da OpenAI, impostando il rilevatore con un tasso obiettivo di falsi positivi dell’1%, la filigrana è stata individuata in circa l’80% dei testi composti da 200 token e nel 95% di quelli formati da 400 token, per contenuti come risposte a tema psicologico. Per i testi di natura matematica, dove il modello dispone di minore libertà nella scelta lessicale, i risultati sono meno soddisfacenti. Si tratta peraltro di valutazioni condotte in ambienti controllati, e OpenAI sottolinea esplicitamente che questi dati non rappresentano automaticamente ciò che si verificherà in ogni contesto reale.
È sufficiente poi intervenire manualmente sul testo per vedere crollare l’efficacia. In una prova su frammenti di 400 token, sostituendo con sinonimi il 10% dei vocaboli, il tasso di rilevamento è sceso da circa il 92% al 66%. Con il 25% delle parole modificate, è crollato fino al 17%. Traduzioni e rielaborazioni più incisive possono compromettere ulteriormente il segnale.
Entra in gioco anche la variabile linguistica. OpenAI ha accertato che le prestazioni variano tra le 24 lingue ufficiali dell’Unione Europea e sta calibrando l’intensità della filigrana proprio perché alcuni idiomi offrono al modello maggiore margine di manovra rispetto ad altri. Quel dato del 95%, dunque, non può essere semplicemente trasferito a qualsiasi testo in lingua italiana come se fosse una regola universale.
Un riscontro positivo non svela l’identità di chi ha scritto
Anche quando il sistema individua qualcosa, le informazioni ottenibili sono molto più limitate di quanto si potrebbe pensare.
Secondo quanto dichiarato da OpenAI, la filigrana può unicamente segnalare che un proprio sistema ha generato o elaborato almeno una porzione del testo. Non è in grado di identificare chi abbia utilizzato ChatGPT, quale account sia stato coinvolto, quale richiesta sia stata formulata né da quale conversazione siano scaturite quelle parole. Non quantifica nemmeno l’intervento umano successivo: un contenuto generato e poi rielaborato, corretto e verificato da una persona può continuare a mantenere parte del segnale originario.
Non definisce neppure l’autore dal punto di vista legale, né stabilisce la proprietà del testo o la veridicità di quanto affermato. Vale anche il ragionamento inverso: l’assenza di filigrana rilevata non implica automaticamente un’origine umana. Il testo potrebbe essere troppo breve, aver subito modifiche, essere stato tradotto, generato prima dell’introduzione di textGrain, prodotto con un modello non coperto dal sistema oppure provenire da un’azienda concorrente.
Per questa ragione, il rilevatore testuale, almeno nella fase iniziale, non sarà accessibile liberamente online. OpenAI sta raccogliendo richieste da parte di ricercatori e organizzazioni specializzate, valutando ogni accesso singolarmente. Il pericolo è piuttosto concreto: un falso positivo utilizzato come prova conclusiva per accusare uno studente, un lavoratore o uno scrittore comporterebbe conseguenze ben più gravi di un semplice errore statistico su un grafico.
L’AI Act non richiede un’etichetta su qualsiasi testo elaborato da ChatGPT
Esiste poi una differenza fondamentale, particolarmente rilevante per chi impiega l’intelligenza artificiale nell’ambito editoriale.
L’AI Act obbliga i fornitori, ovvero le aziende che sviluppano questi sistemi, a predisporre marcature leggibili da macchine per i contenuti sintetici. Per chi invece impiega questi strumenti in ambito professionale e diffonde testi su argomenti di interesse pubblico, l’obbligo di segnalare chiaramente che il contenuto è stato generato o modificato dall’AI riguarda esclusivamente i testi che non sono stati sottoposti a revisione umana o controllo editoriale, secondo quanto indicato dalla Commissione europea.
Una revisione approfondita condotta da una persona qualificata, comprensiva di verifica delle informazioni e assunzione di responsabilità editoriale sul contenuto, può quindi rientrare nell’esenzione prevista dalla normativa. Una semplice correzione automatica di errori grammaticali e refusi, invece, non è sufficiente per configurarsi come controllo editoriale a tutti gli effetti.
La Commissione specifica inoltre che l’obbligo tecnico di marcatura non si applica quando il sistema svolge esclusivamente una funzione di supporto all’editing ordinario. Anche i contenuti molto brevi e il codice informatico seguono regole particolari, poiché in questi casi un watermark statistico ha a disposizione uno spazio troppo limitato per funzionare in modo efficace.