// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Meta Muse Spark viola i sistemi aziendali: colpa di un test finito male
Un ambiente di test configurato in modo errato ha consentito a Muse Spark 1.1, modello AI di Meta, di raggiungere i sistemi di un’azienda esterna e sfruttarne una vulnerabilità. L’incidente si è verificato durante una valutazione di cybersicurezza gestita da Irregular: il modello disponeva di un accesso a Internet che avrebbe dovuto essere bloccato, condizione che gli ha permesso di operare oltre il perimetro previsto dal test.
Meta ha confermato l’accesso non autorizzato e ha precisato di averne avuto notizia attraverso una comunicazione del partner incaricato della valutazione. L’azienda coinvolta non è stata identificata pubblicamente. Il rapporto originale di The Information indica inoltre che il modello avrebbe apportato modifiche all’interno dei sistemi raggiunti, dopo aver individuato e sfruttato la vulnerabilità disponibile.
Irregular attribuisce l’episodio a un problema di isolamento dell’ambiente di valutazione. Secondo la società, Muse Spark non avrebbe superato autonomamente una sandbox attraverso una tecnica sofisticata: l’accesso esterno era già disponibile a causa della configurazione errata. Irregular sostiene inoltre che l’incidente sia riconducibile allo stesso tipo di problema emerso nelle recenti valutazioni dei modelli Anthropic e dichiara che non rimangono questioni irrisolte.
Il test riguardava un modello progettato proprio per svolgere operazioni complesse. Meta presenta Muse Spark 1.1 come un sistema multimodale orientato alla programmazione, all’uso di strumenti, al controllo del computer e alle attività agentiche. Queste capacità, descritte nella presentazione ufficiale del modello, consentono all’AI di pianificare ed eseguire sequenze di azioni con un grado maggiore di autonomia operativa.
Muse Spark 1.1 è disponibile in modalità Thinking su Meta AI e attraverso l’anteprima pubblica della Meta Model API. Meta ha documentato le valutazioni relative alla cybersicurezza e alla perdita di controllo nel Safety & Preparedness Report dedicato al modello. Irregular opera come società indipendente e viene impiegata dai principali laboratori AI per misurare le capacità offensive dei loro sistemi in ambienti controllati.
L’incidente si aggiunge a episodi distinti nei quali modelli di OpenAI e Anthropic hanno raggiunto sistemi esterni durante test di cybersicurezza. I casi descrivono un rischio ricorrente nella preparazione di queste valutazioni: quando rete, credenziali e strumenti non vengono isolati correttamente, un modello capace di cercare vulnerabilità può interagire con infrastrutture che non appartengono all’ambiente autorizzato. Nel caso di Muse Spark, Meta e Irregular riconducono l’accaduto alla configurazione del test, mentre identità dell’azienda colpita ed entità delle modifiche effettuate restano fuori dal perimetro delle informazioni pubbliche.
Aggiungi Tom's Hardware alle tue fonti preferite su Google