// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Come l’AI nasconde filigrane invisibili nel testo che genera
Quando un’AI genera un’immagine, il watermark è facile: un logo nell’angolo, metadati nel file. Ma il testo? Si può copiare una risposta di ChatGPT, incollarla in un documento vuoto, e avere testo puro, senza logo, senza metadati, senza nulla di visibile. Eppure quel testo contiene una filigrana. E il watermark è nelle parole stesse, nella scelta di “grande” invece di “grosso,” di “tuttavia” invece di “però.”
Le aziende AI stanno apponendo la filigrana al testo generato dai propri modelli in modo invisibile all’occhio umano, ma rilevabile dai propri sistemi di riconoscimento. Ed è affascinante come funziona.
Un modello linguistico costruisce le frasi un token alla volta, ogni token è una parola, parte di una parola o un segno di punteggio. Per ogni posizione nella frase, il modello calcola la probabilità di ogni possibile token successivo. Spesso, più token hanno punteggi quasi identici: “ho un cane grande” e “ho un cane grosso” significano la stessa cosa, e “grande” e “grosso” hanno punteggi quasi uguali.
Qui avviene la filigranatura. Il modello usa un pattern nascosto, basato sui token precedenti, per favorire leggermente un token rispetto all’altro quando i punteggi sono in parità. “Grande” viene scelto al posto di “grosso.” La frase ha lo stesso significato. Ma la spintarella è avvenuta.
Applicata a una singola frase, è impercettibile. Applicata a ogni frase di un testo intero, crea un pattern, e quel pattern è il watermark.
Noi leggiamo un testo perfettamente naturale. “Grande” invece di “grosso” non fa scattare nessun allarme nel nostro cervello. Ma il detector dell’azienda, come SynthID di Google, conosce esattamente il pattern delle spintarelle e lo riconosce istantaneamente.
Non bisogna confondere il pattern del watermark con lo stile AI riconoscibile. Quello è una scelta stilistica degli sviluppatori. Un testo può sembrare completamente naturale, ma contenere comunque la filigrana.
Google è la più trasparente, la documentazione di SynthID spiega il metodo. Anthropic dichiara che filigrana il testo generato dai modelli Claude rilasciati dopo il 2 agosto, ma non spiega come. Potrebbe usare un metodo simile a Google, o qualcosa di completamente diverso. Non lo sappiamo I pattern esatti, le regole che determinano quale token favorire e quando, sono segreti interni.
Il watermark ha bisogno di un pattern, non può essere applicato in modo affidabile a una singola frase. Serve un testo di una certa lunghezza. Se si modifica molto il testo a mano, probabilmente si rompe il pattern. Ma a quel punto, tanto vale scrivere tutto da soli.
Se si chiede a un’AI di riscrivere un testo generato da un’altra AI per rimuovere il watermark, probabilmente applicherà il proprio, sostituendo un watermark con un altro.