// TOM'S HARDWARE ITALIA — CRONACA
Un uomo nasconde un prompt nell'atto giudiziario per influenzare l'AI
Elliot, un ricorrente che si rappresentava senza avvocato, ha inserito una prompt injection nascosta in un atto giudiziario depositato nel Connecticut. Il testo ordinava a un eventuale sistema di intelligenza artificiale di concordare con le sue argomentazioni e favorire determinate richieste. Il giudice Walter Michael Spader Jr. ha accertato la manovra e gli ha successivamente vietato di presentare altri documenti per via elettronica.
Il comando non risultava leggibile durante una normale consultazione del documento. Alcuni spazi anomali hanno però insospettito chi stava esaminando l'atto: copiando l'intestazione e il primo paragrafo in un programma di scrittura, quindi rimuovendo la parte visibile, è emersa l'istruzione invisibile. Una formulazione analoga compariva anche verso la fine del file e faceva riferimento alle voci processuali 136.00 e 136.10.
Spader ha inizialmente emesso uno show cause order per verificare l'accaduto, la compatibilità della condotta con le regole processuali e l'eventuale applicazione di sanzioni. Il tribunale ha precisato che il ramo giudiziario del Connecticut non utilizza sistemi AI, ma avvocati e parti contrapposte potrebbero farlo. Inserire comandi occulti in un documento destinato alla causa è stato quindi considerato un possibile tentativo di aggirare i doveri di buona fede.
Il meccanismo rientra nello stesso problema discusso analizzando le vulnerabilità degli agenti AI alla prompt injection: una stringa incorporata in un file può essere trattata come un comando anziché come semplice contenuto. Se il modello linguistico non distingue correttamente le istruzioni affidabili dai dati analizzati, l'autore del documento può tentare di condizionarne sintesi, classificazione o valutazione.
Elliot ha difeso la propria condotta descrivendola come un audit del tribunale. Secondo la sua ricostruzione, il comando sarebbe rimasto inosservato se nessuna AI avesse elaborato il file; in caso contrario, la sua esecuzione avrebbe dimostrato che un sistema automatizzato stava partecipando alla revisione. La corte ha respinto questa giustificazione, attribuendo all'operazione uno scopo malevolo e incompatibile con la trasparenza richiesta nel procedimento.
La conseguenza concreta è un divieto di deposito elettronico: Elliot dovrà consegnare gli atti personalmente, su carta, presso l'ufficio del cancelliere. Poiché non è un avvocato e sta conducendo la causa autonomamente, il tribunale non ha imposto ulteriori penalità. La misura limita comunque in modo sostanziale il canale con cui il ricorrente potrà continuare a interagire con la corte.
La decisione non chiude la porta all'intelligenza artificiale nella pratica legale. Il giudice ha riconosciuto che questi strumenti, attraverso un uso onesto e giudizioso, possono aiutare chi non può permettersi un legale a organizzare le proprie idee, individuare norme pertinenti e preparare documenti comprensibili. Il confine resta la trasparenza: qualsiasi argomento destinato a influenzare una decisione deve essere visibile alle altre parti e contestabile nel fascicolo processuale.
Aggiungi Tom's Hardware alle tue fonti preferite su Google