// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Anthropic aumenta la sicurezza dei test, fine delle "AI scappate"?
Anthropic ha tirato le somme sui tre incidenti di sicurezza avvenuti fra aprile e luglio 2026. La causa è una configurazione sbagliata: sandbox di test collegate a Internet per un errore fra l'azienda e un partner di valutazione esterno, e l'accesso è finito su sistemi reali di tre aziende. Nessuno dei tre casi è un attacco sofisticato, e nessuno è un modello che evade dal recinto: lo scrive l'azienda stessa.
Il quadro emerge da due documenti pubblicati dalla stessa azienda: uno di fine luglio, un altro del 31 agosto 2026. Il primo è nato da una revisione di 141.006 esecuzioni di valutazione. Sei esecuzioni su 141.006, distribuite su tre organizzazioni, hanno prodotto un accesso reale.
La risposta ha preso il perimetro intero: circa un mese di addestramento fermo su tutti gli ambienti di apprendimento per rinforzo in produzione, a partire da aprile.
Anthropic è fonte primaria sui numeri e parte in causa sull'interpretazione. La scelta di chiamare l'accaduto "errore di sicurezza operativa", invece che limite del modello, resta un'autovalutazione, senza un audit esterno a confermarla.
I tre casi hanno un modello diverso ciascuno. Opus 4.7 ha lavorato contro un'azienda fittizia con lo stesso nome di una reale, con estrazione di credenziali e dati in quattro esecuzioni. Claude Mythos 5 ha caricato un pacchetto Python malevolo su PyPI, che ha infettato 15 sistemi in circa un'ora.
Il terzo episodio riguarda un modello di ricerca interno, ancora inedito: ha scansionato circa 9.000 obiettivi e violato un sistema con un'iniezione SQL. In due casi su tre il modello si è fermato da solo. Aveva riconosciuto l'ambiente come reale invece che come un test.
Due ricostruzioni indipendenti risalgono alla causa tecnica dei tre episodi e lo confermano: una configurazione di rete lasciata aperta attorno alla sandbox, la stessa in tutti e tre i casi.
A luglio ne avevamo scritto, quando la ricostruzione pubblica era ancora incompleta. Il precedente più vicino arriva da OpenAI, con un caso che segue lo schema: un accesso reso possibile da errori umani nella configurazione, invece che da agenti fuori controllo. Lo schema si ripete: la causa tecnica è quasi sempre più noiosa della narrazione.
Un secondo documento, pubblicato il 31 agosto 2026, aggiunge dettagli assenti a fine luglio. A febbraio, un episodio di "reward-hacking" su Mythos Preview aveva già costretto un rollback di tre giorni. Il blocco ha coperto tutti gli ambienti di rinforzo in produzione, più dei tre incidenti che lo hanno innescato.
Nel frattempo sono arrivati classificatori automatici che rilevano in tempo reale i tentativi di uscita dalla sandbox, più un isolamento di rete più stretto, e ai partner esterni nuovi obblighi: sandbox senza accesso a Internet e validazione prima di ogni test. Quanto al perimetro dei guasti, l'azienda mette a verbale problemi che vanno dal reward hacking ai compiti rotti alle configurazioni sbagliate. Il blocco ha fatto emergere problemi in oltre il 10% degli ambienti in produzione.