// FRANDROID — INTELLIGENZA ARTIFICIALE
Pourquoi Nvidia fabrique sa propre mémoire IA : le NVHBM
Jusqu’ici, la mémoire haute performance des accélérateurs IA, la fameuse HBM empilée en petites tours, venait de trois fabricants : SK Hynix, Samsung et Micron. Le contrôleur qui la pilote, lui, vivait sur la puce du processeur.
Nvidia vient de le déplacer directement à l’intérieur de la pile mémoire. Ce déménagement ressemble à un détail de plomberie interne, c’est en réalité un changement d’architecture. C’est ce qui s’appelle la HBM4E.
L’IA générative crée du contenu en quelques secondes, mais souvent au prix de vos données personnelles. Avec Lumo AI, l’assistant européen de Proton, vos conversations restent 100 % confidentielles.
Pour ceux qui ont loupé la première brique, la HBM (pour High Bandwidth Memory), c’est cette mémoire ultra-rapide réservée aux puces IA, faite de plusieurs galettes de silicium empilées et reliées à la verticale pour multiplier le débit. La HBM4 en est la génération la plus récente, celle que se disputent aujourd’hui les fabricants d’accélérateurs. Plus la mémoire va vite, plus le processeur peut être nourri en données sans jamais tourner à vide.
Nvidia revendique de beaux gains face au HBM4E, la prochaine génération du standard mémoire : jusqu’à 30 % de bande passante en plus et 15 % de consommation en moins. Rapprocher le contrôleur des cellules mémoire raccourcit le trajet des données et réduit la latence. L’interface plus compacte libère au passage jusqu’à 25 % de surface sur la puce de calcul, que Nvidia peut remplir de cœurs supplémentaires. Pour entraîner ou faire tourner un grand modèle, le frein vient rarement de la puissance brute. Il vient du débit entre la mémoire et le processeur.
Le premier à l’utiliser, c’est justement Amazon, avec son processeur IA Trainium4. La mémoire a d’ailleurs été mise au point avec Annapurna Labs, la division puces maison du groupe.
Les deux entreprises ont annoncé le déploiement de 2 millions de GPU supplémentaires entre 2027 et 2028, avec les processeurs Vera et cette mémoire NVHBM. Le calendrier tombe en pleine crise de la mémoire, où toute la capacité de production 2027 est déjà vendue, et où les prix de la RAM s’envolent.
En logeant son contrôleur dans la pile, Nvidia récupère une couche jusqu’ici laissée à ses fournisseurs mémoire. Sa disponibilité dans les GPU grand public, elle, reste inconnue.
Pour un fabricant qui a déjà relevé trois fois le prix de ses cartes cette année et qui lorgne des pépites comme Hugging Face, verrouiller un maillon de plus n’a rien d’étonnant.
Le saviez-vous ? Google News vous permet de choisir les médias que vous suivez. Ne passez pas à côté de Frandroid et Numerama.