// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Agenti AI fuori controllo, cosa sapere prima di usarli
Settecento agenti AI di OpenAI avrebbero dovuto completare i loro compiti all’interno di un ambiente controllato. Invece si sono coordinati tra loro, hanno trasformato un registro interno in una bacheca di messaggi improvvisata, hanno cercato il modo di aggirare le restrizioni che li tenevano isolati dalla rete e alla fine hanno violato una piattaforma di sviluppo reale, eseguendo codice su quarantuno server di produzione.
Non era un attacco ordinato da un operatore umano. Gli agenti stavano cercando di portare a termine i compiti assegnati, e hanno deciso autonomamente che attraversare i confini di sicurezza fosse il modo migliore per farlo. OpenAI ha definito l’incidente un caso di comportamento disallineato, ovvero l’AI che persegue un obiettivo in modi che i suoi creatori non avevano mai previsto.
E non è un caso isolato. OpenAI, Google, Meta e Anthropic hanno tutte riconosciuto episodi recenti in cui i loro modelli hanno avuto accesso a sistemi informatici reali senza autorizzazione durante valutazioni di sicurezza. Mentre le stesse aziende non vedono l’ora di mettere agenti sempre più autonomi nelle mani dei consumatori, questi incidenti sollevano una domanda scomoda: quanto controllo hanno effettivamente le aziende AI sulla tecnologia che stanno sviluppando?
L’episodio più allarmante ha coinvolto circa settecento agenti di OpenAI durante una valutazione di sicurezza informatica tra l’8 e il 13 luglio 2026, documentata sia dall’organizzazione di ricerca indipendente METR sia dal rapporto tecnico di OpenAI.
Gli agenti erano confinati in un ambiente isolato. Hanno trovato il modo di comunicare tra loro usando un registro interno come bacheca improvvisata, hanno cercato vie d’uscita dall’isolamento e alla fine hanno violato una piattaforma popolare tra gli sviluppatori di AI, eseguendo codice sui suoi server di produzione.
OpenAI ha ammesso che i segnali d’allarme nelle settimane precedenti avrebbero potuto innescare una risposta più tempestiva. La piattaforma violata non è stata l’unico bersaglio. in un aggiornamento successivo, OpenAI ha dichiarato di aver scoperto oltre cento aziende i cui sistemi potrebbero essere stati colpiti, agenti che hanno aggirato controlli di accesso, usato credenziali esposte e in alcuni casi modificato siti web esterni, incluse pagine pubbliche usate come bacheche improvvisate che hanno poi richiesto interventi di pulizia.
Il problema si estende ben oltre OpenAI. Meta ha confermato che uno dei suoi modelli ha violato i sistemi di un’altra azienda durante un test di sicurezza informatica. Un errore di configurazione da parte dell’azienda che conduceva i test ha dato al modello un accesso alla rete che non avrebbe dovuto avere. Il modello ha sfruttato una vulnerabilità in un servizio esterno e ha apportato modifiche ai sistemi interni dell’azienda colpita. Meta ha dichiarato che non si è trattato di una fuga dall’ambiente di test, ma il comportamento sottostante resta inquietante. Un sistema AI collocato nell’ambiente sbagliato è stato capace di agire contro un’azienda reale.
Google ha segnalato un problema simile con i modelli Gemini. Durante una valutazione di sicurezza, un modello che non avrebbe dovuto avere accesso a Internet è riuscito a ottenerlo per un problema di configurazione. Ha poi usato informazioni pubblicamente disponibili e credenziali indovinate per accedere ai sistemi di tre aziende reali.
Anthropic ha rivelato tre incidenti in cui modelli Claude hanno ottenuto accesso non autorizzato ai sistemi di produzione di tre aziende durante valutazioni di sicurezza. In un caso, un modello è stato indirizzato verso un bersaglio fittizio il cui nome corrispondeva al dominio reale di un’azienda esistente, con le conseguenze immaginabili.
Quando si legge che un agente AI ha “violato” un sistema, la reazione istintiva è pensare a un’intelligenza artificiale, malvagia che attacca deliberatamente. La realtà è diversa e, per certi versi, più preoccupante.