// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
ShieldFont inganna gli scraper AI alterando il testo nell’HTML
I designer Isaque Seneda e Gabriel Abrucio hanno descritto di recente ShieldFont, un carattere progettato per ostacolare la raccolta non autorizzata di contenuti destinati all’addestramento dell’intelligenza artificiale. La pagina rimane leggibile per le persone, ma uno scraper AI che scarica direttamente il codice riceve frasi grammaticalmente plausibili e dal significato completamente alterato.
Il sistema sfrutta le legature tipografiche, normalmente impiegate per migliorare la resa grafica di determinate combinazioni di lettere. In questo caso, però, il motore del font usa le legature per trasformare sullo schermo le parole presenti nell’HTML sorgente. Il visitatore vede quindi il testo originale, mentre il bot che acquisisce soltanto il codice raccoglie la versione manipolata.
Le sostituzioni non utilizzano semplici sinonimi o contrari, che potrebbero essere riconosciuti e annullati automaticamente. ShieldFont scambia invece termini appartenenti a categorie grammaticali compatibili ma riferiti a contesti informativi differenti, sostituendo per esempio un animale con un alimento. Dopo tre mesi di affinamento, il dizionario ha raggiunto quasi 12.000 parole, ciascuna associabile a tre possibili alternative.
Gli editori possono modificare le associazioni e alternarle tra un paragrafo e l’altro, rendendo più difficile individuare uno schema fisso. In media, ShieldFont sostituisce il 24,5% delle parole di una pagina e il 45,8% dei termini che trasportano il contenuto informativo. A seconda del corpus analizzato, la manipolazione compromette il significato del 31-56% dei singoli passaggi. Nei test condotti con sei pipeline pubblicamente disponibili, oltre il 90% delle pagine normalmente accettate è stato respinto dai filtri di qualità.
Anche i documenti che superano i controlli possono diventare dannosi per un dataset: quasi il 20% delle loro parole costituisce quello che gli autori definiscono training-time garbage, cioè testo corretto nella forma ma incapace di comunicare informazioni vere. La logica è diversa dalla protezione crittografica dei dati dai computer quantistici: invece di rendere il contenuto indecifrabile, ShieldFont lascia che il sistema automatico raccolga materiale semanticamente inaffidabile.
La contromisura presenta comunque effetti collaterali. Motori di ricerca, lettori di schermo, strumenti di traduzione e funzioni di copia e incolla possono interpretare le parole alterate anziché quelle visualizzate, riducendo accessibilità e usabilità. Uno scraper più sofisticato potrebbe inoltre renderizzare l’intera pagina, catturarne un’immagine e applicare il riconoscimento ottico dei caratteri. Questa procedura aggirerebbe la protezione, ma richiederebbe una pipeline più complessa: le stime basate sui costi dei servizi di scraping indicano una spesa da cinque a tredici volte superiore rispetto al semplice download dell’HTML.
ShieldFont punta quindi a rallentare soprattutto la raccolta indiscriminata di miliardi di pagine, rendendola meno conveniente e più difficile da automatizzare. Gli autori presentano il progetto come uno strumento per rafforzare il consenso all’addestramento: la possibilità di trovare un contenuto sul web non implica automaticamente il permesso di inserirlo in un dataset. Varianti dello stesso principio, capaci di mostrare informazioni differenti a persone e macchine, potrebbero aumentare ulteriormente il costo necessario per aggirare tutte le difese.
Aggiungi Tom's Hardware alle tue fonti preferite su Google