// CLUBIC — INTELLIGENZA ARTIFICIALE
Avec TorchNeuron, Amazon ouvre une brèche dans la forteresse logicielle de NVIDIA
Amazon a présenté lundi soir, un outil open source baptisé TorchNeuron, qui permet d’exécuter du code PyTorch sur ses puces IA Trainium sans le réécrire. Publié aujourd'hui, il s’attaque à l’un des atouts les plus solides du concurrent NVIDIA.
Avec TorchNeuron, le mastodonte de la vente en ligne Amazon veut rendre ses puces IA Trainium accessibles à tous les développeurs PyTorch, sans les obliger à réécrire leur code. Présenté le lundi 19 octobre, l’outil sera publié en open source dès aujourd'hui, à l’occasion de la PyTorch Conference North America. Plusieurs entreprises l’utilisent déjà, comme Hugging Face, des spécialistes de la voix ou en neurosciences, mais Amazon n’a encore communiqué aucun chiffre de performance face aux puces concurrentes.
Dans le monde de l'IA, presque tout le monde parle la même langue, et elle s'appelle PyTorch. Ce kit logiciel gratuit, qui sert à concevoir et à entraîner des modèles d'intelligence artificielle, serait utilisé par 85 % des chercheurs et développeurs du secteur, selon Amazon. Le problème, c'est qu'un programme écrit avec PyTorch ne s'exécute pas aussi facilement sur n'importe quelle puce. Pour changer de matériel, les équipes devaient souvent réécrire des pans entiers de leur code, puis tout retester pour s'assurer que leur IA se comportait toujours de la même façon. Un chantier de plusieurs mois, et un verrou qui a longtemps profité au leader du marché, NVIDIA, à la fois partenaire et concurrent d'Amazon Web Services, dont les puces sont depuis des années la cible naturelle de ces outils.
TorchNeuron fait sauter ce verrou pour Trainium, les puces conçues par Amazon et louées aux entreprises via son cloud AWS. Pour y parvenir, Amazon s'appuie sur une sorte de prise standard que PyTorch réserve justement aux nouveaux matériels. Il suffit d'y brancher sa puce pour qu'elle soit reconnue comme n'importe quelle autre. Conséquence directe, les outils dont les développeurs se servent au quotidien pour vérifier leur code, traquer les erreurs ou répartir le travail sur plusieurs machines fonctionnent sur Trainium sans la moindre retouche.
Amazon en a fait la démonstration en lançant le même programme d'entraînement sur une puce classique puis sur Trainium, en changeant uniquement le réglage qui indique quelle puce utiliser. Résultat, l'IA a appris les mêmes choses, au même rythme. Et pour éviter les mauvaises surprises, chaque nouvelle version de TorchNeuron est testée sur des centaines de milliers de modèles avant de toucher le moindre projet client.
Pour Amazon, le vrai coût de l'IA ne se résume pas au prix des puces. Dans beaucoup d'entreprises, et surtout dans les start-up, la dépense la plus lourde reste le temps des ingénieurs. Car chaque semaine passée à adapter un logiciel à un nouveau matériel est une semaine perdue pour le produit, ce qui peut peser sur la survie d'une petite équipe. Les grands groupes y trouvent un autre intérêt. Une IA vit deux phases : l'entraînement, quand elle apprend à partir de montagnes de données, et l'inférence, quand elle répond aux utilisateurs. Si les mêmes puces savent faire les deux, celles qui servent les clients aux heures de pointe peuvent entraîner de nouveaux modèles aux heures creuses, au lieu de tourner à vide. Enfin, si l'on peut passer d'une puce à l'autre sans pénalité, les fabricants devront séduire les développeurs plutôt que compter sur leur dépendance, avec à la clé des coûts plus bas et des projets qui avancent plus vite.
Avant même sa sortie officielle, TorchNeuron a trouvé preneur dans des secteurs comme la vidéo, la robotique, la voiture autonome, le traitement de la parole, la finance, les grands modèles de langage comme ChatGPT, ou encore les world models, ces IA qui apprennent à simuler le monde physique. La société Cartesia, qui conçoit des IA capables d'interagir avec leur environnement comme un humain, à commencer par la conversation, a fait tourner sur Trainium la chaîne logicielle qui produit les réponses de ses modèles