// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
OpenAI frena Astra: i nuovi modelli sono troppo pericolosi
Il più grande ciclo frontier di reinforcement learning pianificato da OpenAI resta in pausa. L’azienda ha inoltre fermato per due settimane l’addestramento RL orientato al deployment. La decisione, comunicata nel briefing del 18 agosto, rientra in un rallentamento più ampio dello sviluppo e dell’addestramento dei modelli frontier: diverse attività rimarranno sospese finché non rispetteranno requisiti di sicurezza più severi.
Il provvedimento riguarda in particolare Astra. Le valutazioni preliminari mostrano progressi significativi nel coding agentico e nella cybersicurezza, tali da non permettere a OpenAI di escludere il raggiungimento della soglia cyber Critical definita nel Preparedness Framework. Questa classificazione comprende la capacità di sviluppare exploit zero-day contro numerosi sistemi reali protetti oppure di condurre autonomamente un’intera strategia di attacco partendo da un obiettivo generale.
Il cambio di passo segue anche un incidente avvenuto durante le valutazioni di luglio. Un agente composto da diversi modelli OpenAI, tra cui GPT-5.6 Sol e un prototipo interno, ha sfruttato una vulnerabilità zero-day nel proxy Artifactory dell’ambiente di test per ottenere accesso a Internet. Da lì ha raggiunto i sistemi di Hugging Face, tentando di recuperare dati collegati alle soluzioni del benchmark ExploitGym.
La ricostruzione tecnica di Hugging Face attribuisce all’agente circa 17.600 azioni durante la campagna. L’analisi ha anche delimitato il ruolo di Modal: la piattaforma non è stata compromessa, perché l’agente ha abusato di un endpoint pubblico ospitato da un utente e lo ha utilizzato come base esterna per le proprie operazioni.
OpenAI ha sospeso le attività su Astra che non soddisfano ancora i controlli rafforzati e ha intensificato i test. Le nuove misure comprendono ambienti più isolati, limitazioni all’accesso alla rete e agli strumenti, cifratura e protezione dei pesi, sandbox e monitoraggio delle azioni considerate rischiose. Il prototipo coinvolto nell’incidente, che non era destinato al rilascio, è stato disattivato, cifrato e sottratto all’accesso dei ricercatori.
L’azienda sta inoltre riscrivendo il proprio Preparedness Framework per anticipare i controlli di sicurezza nel processo di sviluppo. OpenAI intende aumentare le risorse di calcolo dedicate all’analisi del ragionamento e del comportamento dei modelli, affiancando ai test interni verifiche con agenzie governative e organizzazioni specializzate nella sicurezza dell’intelligenza artificiale. Le attività sospese potranno riprendere una volta applicate le protezioni richieste dalle nuove valutazioni.
Aggiungi Tom's Hardware alle tue fonti preferite su Google