// TOM'S HARDWARE ITALIA — CRONACA
Trump rischia di dover svelare i test segreti sull'AI
L’amministrazione Trump rischia di dover rendere pubblico il framework federale di sicurezza impiegato per valutare i sistemi di intelligenza artificiale prima della loro distribuzione. Una causa promossa dall’organizzazione nonpartisan Protect Democracy contesta la segretezza di un processo che può determinare quali modelli arrivano sul mercato, quali aziende possono distribuirli e quali clienti ottengono l’accesso.
Protect Democracy sostiene che al pubblico e al Congresso siano stati forniti pochissimi dettagli. Non sono noti l’elenco completo delle società coinvolte, i criteri con cui sono stati selezionati i partner ritenuti affidabili, le procedure adottate durante le verifiche e l’autorità giuridica sulla quale poggiano le decisioni. Nel processo sarebbero coinvolti diversi organismi federali, inclusi gli uffici per la cybersicurezza e la politica scientifica, il Dipartimento del Tesoro e quello del Commercio.
La denuncia cita anche OpenAI, che avrebbe negoziato un accordo privato con il governo per limitare la distribuzione dei suoi modelli più avanzati a partner verificati dalle autorità. Secondo l’organizzazione, un sistema privo di controllo esterno potrebbe favorire alcune aziende, accelerandone i rilasci, oppure penalizzarne altre sulla base di valutazioni politiche. Il precedente richiamato è il tentativo di escludere Anthropic dai rapporti con il governo, giudicato illegittimo da un tribunale.
Il processo volontario è stato sviluppato dopo che il governo aveva considerato Mythos 5 di Anthropic troppo pericoloso per il rilascio. I team del Center for AI Standards and Innovation dovrebbero ricevere versioni dei modelli con protezioni ridotte o rimosse, così da esaminarne capacità offensive e implicazioni per la sicurezza nazionale. Questi test prerelease richiedono però una collaborazione molto stretta con i produttori, che devono descrivere in modo completo capacità e limiti dei sistemi.
In precedenza la Casa Bianca aveva inoltre avviato GOLD EAGLE, una struttura di coordinamento che coinvolge partner industriali nella ricerca di vulnerabilità informatiche in diversi settori. Anche in questo caso non sono stati pubblicati i nomi delle aziende partecipanti, le condizioni della collaborazione o la relativa base giuridica. Alcuni benchmark classificati serviranno a identificare i modelli di frontiera, ma il framework generale non risulta classificato; la Casa Bianca ha comunque rifiutato di diffonderlo.
L’opacità rende difficile stabilire se una vulnerabilità sfuggita ai controlli dipenda da prove incomplete, metodologie obsolete o definizioni troppo ristrette. I rischi di cybersicurezza aumentano con la capacità dei modelli di individuare e sfruttare falle: il fatto che una patch può diventare un exploit in appena mezz’ora mostra quanto rapidamente una debolezza possa trasformarsi in uno strumento d’attacco.
La causa riceve sostegno anche dalla California, dove il disegno di legge SB 813 propone standard di sicurezza elaborati da organizzazioni indipendenti, con benchmark e metodologie consultabili. Il senatore statale Josh Becker ha presentato al tribunale questo modello come alternativa basata sulla trasparenza pubblica. La decisione del giudice potrebbe quindi chiarire fino a che punto l’esecutivo possa mantenere riservate regole non classificate che condizionano il rilascio delle tecnologie AI più avanzate.
Aggiungi Tom's Hardware alle tue fonti preferite su Google