// MACITYNET — INTELLIGENZA ARTIFICIALE
La firma segreta per mettere il “watermark” ai testi di Claude
Questo sito contiene link di affiliazione per cui può essere compensato
I watermark sui video e sulle immagini li conosciamo tutti: sono quei loghi o scritte semitrasparenti sovrapposti nell’angolo per dire “questo contenuto è mio“. Altri ancora sono invisibili, annidati nel file che contiene l’immagine e impercettibili all’occhio umano.
In questi giorni sono diventati un argomento molto comune perché l’idea è quella di aiutare le persone a capire quando una immagine è genuina o generata dal computer. Ma come si fa a mettere un watermark su un testo fatto di parole senza che chi lo genera se ne accorga e possa rimuoverlo?
C’è la notizia: Anthropic ha annunciato l’arrivo di un watermark invisibile per il testo generato da Claude. Il “segnale”, secondo l’azienda, sarà molto resistente perché rimarrà attivo anche quando le persone copieranno e incolleranno la risposta, resistendo persino a piccole modifiche e riscritture. Come è possibile?
Ancora non lo sappiamo ma possiamo fare delle ipotesi e provare a spiegare in parole semplici come funzionano le principali tecnologie di questo settore (il watermarking dei testi), immaginando tre scenari principali.
Iniziamo usando una analogia: la scelta del gelato. I modelli linguistici generano una parola dopo l’altra seguendo scenari statistici. Immaginiamo che il modello scriva una frase in cui deve indicare un gusto di gelato da passeggio. Dopo la parola “cono”, si può scegliere un gusto tra cioccolato, panna, fragola o pistacchio. In condizioni normali, la scelta è del tutto casuale.
Invece, gli ingegneri hanno pensato un approccio semplice ma sofisticato. Ogni volta che Claude deve scegliere la parola successiva in una frase, lo fa pescando tra due liste di parole, che sono state divise segretamente in due gruppi: parole “verdi” e parole “rosse”.
Ecco cosa succede senza cambiare il significato della frase né la qualità dell’italiano, l’intelligenza artificiale viene spinta a preferire leggermente le parole del gruppo “verde”. La prima conseguenza voluta è che un lettore umano legge un testo assolutamente naturale. Invece, il software di controllo che conosce la strategia e ha accesso alla lista delle parole rosse e verdi, notando una presenza sproporzionata di parole “verdi”, capirà subito che la frase è stata scritta da Claude.
Questa tecnica funziona praticamente sempre, anche se un utente cancella un paio di frasi o cambia qualche aggettivo. Infatti, la concentrazione statistica di parole “verdi” nel resto del testo rimane comunque troppo alta per essere una coincidenza umana. Ci sono lavori scien