// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
AI-Benchmarks: Nvidia gibt Ausblick auf Rubin, AMD noch keinen auf MI400
Die neuen MLPerf-Inference-Ergebnisse zeigen es: Optimierte Software für bestehende Hardware birgt enormes Potenzial bei AMD, Intel und Nvidia. Der Platzhirsch kann so erstmals Vera Rubin als Preview zeigen, AMD bleibt indes bei der MI300-Serie und verzichtet auf das MI400-Debüt. Intels Arc und Xeons liefern ebenfalls ab.
Die aktuelle Benchmarkrunde von MLCommons basiert auf aktuellen Inference-Werten. Auf diese Anwendungen haben es zuletzt alle Lieferanten von AI-Hardware abgesehen, die neuen Inference-Benchmarks zeigen deshalb ein breites Bild und umfangreiche Optimierungen. Gegenüber der Inference-Benchmarkrunde vor einem Jahr liegen die Ergebnisse nun um rund den Faktor 5,7 höher. Auch größere Cluster werden zunehmend getestet, in dem Fall mit 512 AMD Instinct MI355X. Neu hinzu kommen sowohl Workstation-Lösungen von AMD und Intel als auch die neue Generation von Nvidia als GPU und komplettes Rackscale-Design.
AMD zeigt mit Einreichungen von gleich drei Plattformen, dass sich die Software rund um ROCm weiterentwickelt. MI355X, MI350X und neue MI350P für kleine Server und Workstations zeigen deutliche Leistungssteigerungen und gute Skalierung über multiple GPUs. Mit 512 Instinct MI355X stellt AMD zusammen mit Crusoe in dieser Runde das Ergebnis mit den meisten GPUs. Stolz ist AMD auch darauf, dass die Partner stets nahezu die gleichen Ergebnisse erreichen wie die eigenen Systeme.
Intel stellt nicht nur einmal mehr die meisten Prozessoren, auch Intel Arc Pro ist mit dabei. Xeon 6 und Arc Pro B70 stellen die aktuellen Produkte in dem Bereich dar, auch Intel zeigt mit vier B70 in einem System, dass sich die Software gut entwickelt. In Tests legte das gleiche Setup gegenüber v6.0 um bis zu 36 Prozent zu. Auch wenn Intel nicht ganz oben mitspielt aktuell, hat das Ganze noch einen Hintergrund: Die Software ist auch für zukünftige Produkte gedacht. So soll sich das Dranbleiben bei den kommenden GPU-Lösungen auszahlen.
Xeon improvements are
upstreamed into widely used AI frameworks so customers can benefit from software advances
on deployed infrastructure, while optimization work on Intel Arc Pro B70 helps advance the
kernels, frameworks, and serving stack for future Intel GPU products.
Nvidia kann sich einmal mehr mit vielen Partnereinsendungen im Benchmark rühmen, 19 Firmen haben Ergebnisse erzielt, viele dabei auch in Rackscale-Größe. Nvidia selbst hat die Preview-Version von Vera Rubin NVL72 dabei. Diese bietet bis zu 2,5- bzw. 3,7-mal so viel Leistung als GB300-Systeme (Blackwell Ultra). Zu einem großen Anteil hilft da aber auch die TDP: 2.300 Watt statt maximal 1.400 Watt für GB300 sind eine komplett neue Klasse. In einigen Tests ist der Vorsprung aber auch geringer, bei Vera Rubin ist aber auch noch viel Optimierungspotenzial vorhanden.
Am Platzhirsch vorbei kommt demnach wohl aber erst einmal keiner, AMD ist nun wieder am Zug, in der nächsten Auflage eventuell MI455X-Systeme und am besten direkt Helios zu positionieren.