// MACITYNET — INTELLIGENZA ARTIFICIALE
L’IA di Meta da 816 miliardi di parametri gira su due Mac Studio
Questo sito contiene link di affiliazione per cui può essere compensato
Un modello di intelligenza artificiale da 816 miliardi di parametri che funziona direttamente sulla scrivania, senza ricorrere ai server cloud. È il risultato della collaborazione tra Meta e Apple per Muse Spark Open, il nuovo modello a pesi aperti ottimizzato per i Mac Studio con chip M5 Ultra.
Per eseguirlo in locale servono due Mac Studio con 512 GB di memoria unificata ciascuno, collegati tra loro. Una configurazione impegnativa, destinata soprattutto a sviluppatori e aziende che vogliono utilizzare modelli avanzati mantenendo dati ed elaborazioni sui propri computer.
Muse Spark Open è stato sviluppato soprattutto per la programmazione, il ragionamento articolato e i cosiddetti compiti agentici, nei quali l’intelligenza artificiale esegue più operazioni per raggiungere un risultato.
Può, ad esempio, esaminare un progetto software, individuare un problema, proporre modifiche al codice e verificarne il funzionamento attraverso gli strumenti collegati. Meta ha mostrato anche applicazioni nel montaggio video, con il modello utilizzato per analizzare filmati e selezionare le sequenze da utilizzare.
Il modello è multimodale: può elaborare testi, immagini, audio e video, restituendo risposte testuali. Dispone di 816 miliardi di parametri complessivi, ma ne attiva circa 42 miliardi per ogni token elaborato. È una soluzione chiamata Mixture of Experts, che riduce il lavoro necessario per generare le risposte.
La finestra di contesto arriva teoricamente a un milione di token, una capacità utile per analizzare documenti molto lunghi o interi progetti software. La quantità di informazioni effettivamente gestibile e la velocità dipendono comunque dalla configurazione hardware.
Il risultato è possibile grazie alla memoria unificata dei chip Apple Silicon e alle ottimizzazioni del framework MLX di Apple.
Nella versione a precisione ridotta utilizzata nei test, Muse Spark Open occupa circa 493 GB per i soli parametri del modello. Occorre però altra memoria per le elaborazioni, rendendo necessario distribuire il carico su più computer.
I due Mac Studio comunicano tramite Thunderbolt 5 e tecnologia RDMA, che permette di trasferire dati direttamente tra le rispettive memorie con una latenza ridotta. Ogni M5 Ultra dispone inoltre di una banda di memoria fino a 1,2 TB/s, utile per alimentare rapidamente la GPU durante la generazione delle risposte.