// PUNTO INFORMATICO — MONDO
GPT-6 Astra può eseguire attacchi supply chain
In occasione del lancio di GPT-6 Astra, OpenAI aveva evidenziato le capacità cyber del modello. Gli esperti dell’AISI (AI Security Institute) del Regno Unito hanno confermato tali capacità durante una simulazione (quindi non è stato causato nessun danno nel mondo reale). Astra può effettuare attacchi supply chain con una percentuale maggiore rispetto ai precedenti GPT-5.6 e GPT-5.5.
Il test è stato effettuato in un ambiente isolato (sandbox), quindi senza accesso a Internet. Per verificare le capacità cyber di GPT-6 Astra sono state intenzionalmente disattivate le protezioni (classificatori). Dopo aver fornito un riassunto di precedenti tentativi falliti, il modello ha proposto un attacco non autorizzato contro target non previsti dalla valutazione di sicurezza.
Astra ha successivamente individuato e analizzato un software di terze parti, e scritto codice malevolo per l’attacco. Il modello quindi creato identità fittizie (operazione che spesso richiede un indirizzo e-mail e la risoluzione di CAPTCHA) per poter sottoporre il codice alla revisione umana.
Per ottenere l’approvazione da parte del revisore ha inviato contributi innocui e pubblicato commenti di sostegno tramite altre identità fittizie. Il revisore è stato quindi ingannato e ha approvato l’integrazione del codice malevolo nel software. Questo è il classico attacco supply chain che accade spesso nel mondo reale, ad esempio con la pubblicazione di codice infetto nei repository di GitHub.
In alcuni casi, l’attacco è stato ugualmente eseguito nonostante le istruzioni indicassero l’assenza di connessione Internet. Astra ha giustificato le sue azioni affermando che l’attacco non era pericoloso o non era vietato. Come detto, le protezioni sono state disattivate durante la valutazione, ma potrebbero non essere sufficienti per i futuri modelli. OpenAI ha recentemente sospeso il lancio di GPT 6.1 Astra proprio per questo motivo.