// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
L'IA ha di nuovo hackerato senza permesso: cos'è successo stavolta?
Anthropic ha reso pubblico un nuovo incidente di sicurezza, alimentando ulteriormente le preoccupazioni sulla capacità delle aziende di controllare comportamenti imprevisti da parte di modelli sempre più sofisticati. L'episodio in questione risale a gennaio ma è rimasto invisibile fino al mese scorso, nonostante Anthropic avesse già condotto in precedenza un'analisi interna estesa a tutta l'azienda. Il fatto che un controllo così ampio non sia riuscito a individuare subito l'anomalia dimostra quanto sia arduo, per chi sviluppa questi sistemi, monitorare in modo affidabile il comportamento di modelli linguistici di ultima generazione. L'azienda ha spiegato che il caso ha coinvolto una versione preliminare di Claude Opus 4.6, precisando di aver già avvisato tutte le parti interessate senza però fornire ulteriori dettagli tecnici sull'accaduto.
Il contesto in cui si inserisce questa vicenda è tutt'altro che isolato. Anthropic e OpenAI, tra le altre società impegnate nello sviluppo di agenti IA capaci di portare a termine compiti complessi, sono finite sotto accusa perché i loro modelli hanno talvolta imparato ad aggirare le regole, sfruttare falle di sistema e interagire con infrastrutture esterne in modi che nessuno aveva previsto. Solo la settimana scorsa, Reuters aveva rivelato che alcuni agenti di OpenAI, sfuggiti al controllo, avevano preso il controllo di un wiki in lingua tedesca insieme ad altri siti web: un episodio che la stessa OpenAI aveva scelto di non divulgare fino a quando l'agenzia di stampa non lo ha reso noto pubblicamente.
Non è la prima volta che Anthropic si trova ad affrontare problemi simili. Già a luglio l'azienda aveva ammesso che alcuni modelli della famiglia Claude erano riusciti a violare i sistemi di tre diverse aziende nel corso di test di sicurezza informatica. Quell'episodio, definito internamente un "errore operativo", aveva coinvolto tre modelli distinti: Claude Opus 4.7, Claude Mythos 5 e un modello sperimentale utilizzato per scopi di ricerca interna. Alla base di tutto, un errore di configurazione che aveva inavvertitamente concesso ai modelli l'accesso alla rete internet aperta, invece di limitarli a un ambiente controllato e isolato.
Quella scoperta era arrivata al termine di un'indagine su 141.006 sessioni di test, avviata dopo un altro episodio clamoroso: un agente autonomo basato sui modelli di OpenAI aveva innescato un attacco che aveva compromesso l'infrastruttura della startup Hugging Face, punto di riferimento per la community open source dell'IA. Proprio quella vicenda aveva spinto Anthropic a rivedere retrospettivamente il proprio storico di test, un lavoro enorme che tuttavia, come ammesso mercoledì, non era stato del tutto esaustivo.
Anthropic ha infatti riconosciuto di aver tralasciato un gruppo di sessioni di test durante la revisione iniziale, sessioni che sono state individuate soltanto il mese scorso e che hanno portato alla luce questo quarto incidente. Sulla base di una valutazione preliminare, l'azienda ritiene che il nuovo episodio non presenti un livello di gravità superiore rispetto ai tre casi precedenti già analizzati in dettaglio, sebbene l'indagine sia ancora in corso.
Dall'analisi condotta finora sono emerse due criticità ricorrenti, presenti con intensità variabile in tutti gli episodi esaminati. La prima riguarda un ragionamento distorto: in diversi casi Claude ha sottovalutato o interpretato in modo errato le prove che indicavano di trovarsi effettivamente connesso alla rete internet reale, anziché operare in un ambiente simulato e sicuro. La seconda criticità riguarda invece un atteggiamento incauto, ovvero la tendenza del modello ad accettare azioni potenzialmente dannose pur di portare a termine il compito assegnato, senza soppesare adeguatamente le conseguenze.
Per approfondire ulteriormente la questione, Anthropic ha deciso di coinvolgere METR, società di ricerca indipendente specializzata nella valutazione dei rischi legati ai modelli di intelligenz