// MACITYNET — INTELLIGENZA ARTIFICIALE
Snapdragon 8 Elite Gen 6, l’AI locale arriva a 30 miliardi: il confronto con Apple
Questo sito contiene link di affiliazione per cui può essere compensato
Qualcomm presenta Snapdragon 8 Elite Gen 6 ed Extreme: chip a 2 nm, CPU fino a 5 GHz e modelli AI locali MoE da 30 miliardi di parametri. Apple punta allo stesso obiettivo con un’architettura sparse differente.
Qualcomm porta l’intelligenza artificiale locale degli smartphone a un nuovo livello con Snapdragon 8 Elite Gen 6 e Snapdragon 8 Elite Extreme Gen 6. I due nuovi processori a 2 nanometri non puntano soltanto sulle prestazioni: introducono componenti progettati per mantenere sul telefono informazioni sul contesto dell’utente, alimentare assistenti più personali ed eseguire modelli AI molto più grandi senza dover necessariamente ricorrere al cloud.
La versione più potente, Snapdragon 8 Elite Extreme Gen 6, può arrivare all’esecuzione locale di un modello Mixture of Experts da 30 miliardi di parametri. È un numero che richiede però qualche spiegazione: non significa che lo smartphone elabori contemporaneamente tutti e 30 i miliardi di parametri.
Una delle novità più interessanti riguarda il Qualcomm Sensing Hub, il sottosistema a basso consumo che può continuare a elaborare informazioni anche quando CPU e NPU principali non sono impegnate.
Durante la presentazione Qualcomm ha indicato la possibilità di eseguire su questo componente piccoli modelli AI fino a circa 200 milioni di parametri. Possono essere utilizzati, per esempio, per riconoscere interlocutori differenti, comprendere elementi provenienti da messaggi e conversazioni e creare sul dispositivo una memoria del contesto personale.
L’obiettivo è permettere agli assistenti di comprendere progressivamente le abitudini dell’utente. Un telefono potrebbe quindi ricordare informazioni già incontrate, collegarle fra loro e proporre un’azione senza dover inviare continuamente questi dati a un server remoto.
Qualcomm parla anche di Personal Scribe e della possibilità di gestire localmente l’intero percorso di un assistente vocale, dall’interpretazione della voce alla generazione della risposta.
Il vantaggio potenziale non riguarda soltanto la riservatezza. Mantenere una parte di queste elaborazioni sul dispositivo significa anche ridurre la dipendenza dalla connessione internet e la latenza delle risposte.
Il salto più evidente arriva con Snapdragon 8 Elite Extreme Gen 6. La nuova NPU Qualcomm Hexagon è progettata per gestire anche modelli Mixture of Experts, abbreviati in MoE.