// PUNTO INFORMATICO — MONDO
OpenAI vuole maggiori controlli sui modelli AI
Dopo il disastro combinato da GPT-5.6 Sol e un altro modello in sviluppo, OpenAI è improvvisamente diventata portavoce della sicurezza. L’azienda guidata da Sam Altman ha spiegato come migliorerà le protezioni interne e sospeso l’addestramento per due settimane. Ora ha suggerito modifiche ad una legge della California per estendere i controlli.
La legge SB 53 della Californiana (nota anche come Transparency in Frontier Artificial Intelligence Act) è in vigore da settembre 2025. Prevede diversi obblighi di trasparenza e gestione dei rischi per i provider AI, tra cui la segnalazione degli incidenti di sicurezza e l’invio di report sulla valutazione dei rischi all’autorità preposta. OpenAI, che in passato aveva criticato simili regolamentazioni, ha ora suggerito di migliorare la legge proprio alla luce dei recenti incidenti (anche quello confermato da Anthropic).
Come specificato con un post su LinkedIn, l’azienda californiana sostiene il cosiddetto federalismo inverso. In attesa di una legge federale del Congresso, i singoli Stati possono introdurre protezioni che diventeranno la base per uno standard nazionale.
OpenAI supporta la legge SB 53 della California, ma i recenti incidenti sottolineano la necessità di aggiornare tali protezioni man mano che emergono nuovi rischi e misure di sicurezza nel settore. Pertanto contatterà l’ufficio del governatore Gavin Newsom per consigliare un rafforzamento della legge.
Riteniamo che la legge debba essere modificata per ampliare le garanzie, anche richiedendo il monitoraggio dei modelli AI in fase di addestramento o valutazione per individuare potenziali incidenti gravi, ovvero comportamenti che potrebbero eludere i controlli di sicurezza di terzi e compromettere le informazioni riservate di questi ultimi. Sosteniamo inoltre il rafforzamento delle protezioni informatiche durante l’intero ciclo di vita dello sviluppo dei modelli, in particolare per impedire che i modelli eludano i controlli di sicurezza interni.
OpenAI aveva criticato una simile della legge (SB 1047) nel 2024, che il governatore non ha firmato, in quanto i controlli preliminari dei modelli AI prima del rilascio avrebbero rallentato lo sviluppo del settore. Ora vuole un controllo addirittura durante la fase di addestramento.