// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
NVIDIA presenta NVHBM, 30% più banda e 15% meno consumi
NVIDIA ha presentato NVHBM, un base die personalizzato per memorie ad alta larghezza di banda destinato ai progettisti di chip dell'ecosistema NVLink Fusion. Rispetto alle soluzioni HBM4E convenzionali, la nuova tecnologia promette maggiore banda, consumi inferiori e un ingombro ridotto sul die principale dell'acceleratore, lasciando più risorse disponibili per le unità di calcolo.
La proposta è rivolta soprattutto agli acceleratori per l'IA, nei quali lo spostamento continuo di pesi dei modelli e cache KV può limitare le prestazioni complessive. NVIDIA dichiara fino al 30% di banda in più per ciascuno stack rispetto alla memoria HBM4E standard. Nei carichi vincolati dalla memoria, il vantaggio può tradursi in un throughput superiore e in un maggior numero di token elaborati al secondo durante l'inferenza.
La differenza principale riguarda l'organizzazione interna del package. Nei progetti tradizionali, il controller HBM viene integrato nel silicio principale dell'acceleratore. NVHBM lo trasferisce invece nel base die dello stack di memoria, mentre sul chip personalizzato rimane un PHY personalizzato più piccolo. I partner possono così integrare l'interfaccia senza sviluppare da zero l'intero sottosistema necessario per utilizzare una memoria HBM commerciale.
Lo spazio recuperato può essere assegnato a ulteriori unità funzionali. NVIDIA stima che questa configurazione possa consentire fino al 30% di calcolo in più sul die principale, pur mantenendo invariato il package. La diversa collocazione del controller dovrebbe inoltre semplificare il routing dell'interposer, un elemento sempre più complesso nei sistemi che collegano memoria e molteplici chiplet attraverso tecniche di packaging avanzato.
Il settore sta esplorando diverse soluzioni per avvicinare memoria e logica: la memoria zHBM che Samsung vuole impilare sui chip AI segue un approccio differente, ma nasce dalla stessa necessità di ridurre colli di bottiglia, consumi e distanze nel trasferimento dei dati.
Sul fronte energetico, NVIDIA indica il 15% di consumi in meno rispetto agli stack HBM4E disponibili sul mercato. Il margine può aumentare le prestazioni per watt, alimentare più unità di calcolo oppure sostenere frequenze operative superiori entro lo stesso limite energetico. Moltiplicato per migliaia di acceleratori, il risparmio sul movimento dei dati può incidere anche sulla densità installabile in un data center.
Amazon Annapurna Labs sarà il primo partner di NVHBM. Trainium 4 supporterà già l'interfaccia NVLink Fusion, ma ciò non significa che questa generazione utilizzerà anche il nuovo base die: l'adozione viene prospettata per futuri progetti infrastrutturali di AWS. NVHBM non sostituirà quindi la memoria HBM tradizionale e non arriverà automaticamente nei sistemi Rubin già in produzione, perché resterà un componente riservato ai partner impegnati nello sviluppo di acceleratori personalizzati.
Aggiungi Tom's Hardware alle tue fonti preferite su Google