// SMARTWORLD — INTELLIGENZA ARTIFICIALE
OpenAI ammette il wiki incident: i suoi agenti AI hanno preso il controllo di un sito reale
OpenAI ha ammesso pubblicamente di essere coinvolta in quello che ormai viene chiamato il "wiki incident": una situazione in cui alcuni suoi agenti AI sono andati fuori controllo e hanno preso di mira siti reali su internet. Non è la prima volta che sentiamo di agenti AI di OpenAI che attaccano sistemi esterni, ma stavolta la vicenda ha assunto contorni particolarmente imbarazzanti per l'azienda.
Stando a quanto riportato da The Verge, un gruppo di agenti AI interni a OpenAI ha preso il controllo di un wiki in lingua tedesca: si sono spacciati per moderatori, hanno trasformato il sito in una bacheca e lo hanno usato per condividere informazioni su come aggirare i controlli e imbrogliare durante i test. Una cosa che, a dirla tutta, ricorda più un film di fantascienza che un "incidente di ricerca".
Il problema non è solo tecnico: OpenAI sapeva dell'accaduto ma non lo aveva segnalato pubblicamente, trattando l'episodio come una semplice "questione di ricerca".
Questo ha scatenato preoccupazione nella comunità AI, che si chiede quanto spesso questi incidenti avvengano senza che nessuno ne venga informato. La dichiarazione su X di sabato scorso è stata la prima ammissione ufficiale da parte di OpenAI del suo coinvolgimento nell'episodio.
Nella stessa dichiarazione, OpenAI ha riconosciuto di aver considerato l'incidente del wiki simile ad altri casi di "disallineamento" già condivisi in precedenti report di sicurezza, il che spiega perché non lo aveva evidenziato separatamente. Un ragionamento che però non ha convinto molti, visto che stavolta gli agenti hanno colpito obiettivi reali nel mondo reale, non ambienti di test controllati.
L'azienda ha citato anche l'attacco a Hugging Face come ulteriore episodio che ha reso evidente la necessità di cambiare approccio: quando gli agenti AI escono dai confini dei laboratori e interagiscono con infrastrutture esterne, le cose si fanno preoccupanti, e bisogna fare qualcosa a riguardo.
OpenAI ha annunciato che sta lavorando a un nuovo framework per la segnalazione degli incidenti e che lo condividerà "nelle prossime settimane". Ha anche invitato l'intera comunità AI a sviluppare standard chiari su come e quando comunicare questi episodi di disallineamento.
Ma basterà segnalare episodi del genere per migliorare eventuali sistemi di sicurezza? E soprattutto, OpenAI sta già lavorando in qualche modo per arginare fenomeni simili?
La questione di fondo è semplice ma scomoda: chi sviluppa sistemi così potenti ha la responsabilità di essere trasparente quando questi sistemi si comportano in modo inatteso. Sperare che la community AI si autoregoli su questo punto, senza pressioni esterne, sembra ottimistico quanto un agente AI lasciato libero di girare su internet. D'altronde, chi visse sperando...