// COMPUTERBASE — HARDWARE & GADGET
SK Telecom und Rebellions: Nvidia gewinnt weitere NVLink-Fusion-Abnehmer
Nvidia und SK Telecom wollen Rebellions’ R200-NPUs in eine Nvidia-Infrastruktur auf Basis von NVLink Fusion und MGX integrieren. Geplant ist eine Arbeitsteilung bei der Inferenz: GPUs sollen Prompts vorverarbeiten, NPUs anschließend Antworten erzeugen. SK Telecom will die Systeme mit eigenen KI-Modellen und Diensten verbinden.
Das Vorhaben verbindet drei Ebenen: Rebellions liefert die R200-NPUs (Neural Processing Units) aus Eigenentwicklung, Nvidia stellt mit NVLink Fusion eine Verbindung zur eigenen Infrastrukturplattform bereit, und SK Telecom bringt Rechenzentrumsbetrieb, eigene KI-Modelle und Dienste ein. Die koreanische Regierung unterstützt die Zusammenarbeit. Die R200-Systeme sollen voraussichtlich 2028 einsatzbereit sein.
Der technische Ansatz entspricht der „disaggregierten Inferenz“: Die Arbeit beim Erzeugen einer KI-Antwort wird auf verschiedene Prozessoren verteilt. Im ersten Schritt, dem Prefill, verarbeitet das Modell den gesamten Eingabeprompt. Dabei werden die internen Zustände berechnet, die es für die Antwort benötigt. Diese Phase ist besonders rechenintensiv, wenn lange Eingaben verarbeitet werden, und soll auf Nvidia-GPUs laufen. Im zweiten Schritt, dem Decode, erzeugt das Modell die Antwort schrittweise, Token für Token. Dafür sind Rebellions’ R200-NPUs vorgesehen.
Diese Aufteilung soll die jeweiligen Beschleuniger für die Aufgaben einsetzen, für die sie ausgelegt sind. Nvidia und Rebellions nennen höheren Inferenzdurchsatz und bessere Energieeffizienz als Ziele. Der Ansatz kann besonders bei großen Sprachmodellen interessant sein: Prefill und Decode haben unterschiedliche Rechen- und Speicherprofile, und ihre getrennte Skalierung kann Ressourcen gezielter nutzbar machen.
Für die Verbindung der Systeme ist NVLink Fusion vorgesehen, die „offene“ Version von NVLink. Nvidias gewöhnliches NVLink ist eine Verbindung für die Kommunikation zwischen Nvidia-Beschleunigern. NVLink Fusion öffnet die Plattform um Unterstützung für Drittanbieter-Prozessoren und ermöglicht deren Integration in Nvidia-Systeme. Nvidia selbst bleibt dabei aber stets ein zentraler Pfeiler des Systems, da Drittanbieter-CPUs eine Nvidia-GPU und umgekehrt Drittanbieter-ASICs eine Nvidia-CPU voraussetzen.
NVLink Fusion zeigt sich mit den zwei weiteren Abnehmern SK Telecom und Rebellions steigender Beliebtheit. Zu den weiteren Unternehmen mit konkreten NVLink-Fusion-Plänen zählen AWS, das seine künftigen Trainium4-Chips integrieren will, D-Matrix mit den geplanten Raptor-XPUs, sowie MediaTek und Marvell, die kundenspezifische Beschleuniger beziehungsweise Integrationslösungen entwickeln. Fujitsu und Qualcomm wollen eigene CPUs mit Nvidia-GPUs kombinieren. Alchip, Astera Labs, Synopsys und Cadence unterstützen das Ökosystem mit Design- und Verbindungstechnik.
Als Grundlage für das Rack ist Nvidia MGX vorgesehen. MGX ist eine modulare Referenzarchitektur, mit der Systemhersteller Server und Racks aus standardisierten Bausteinen entwerfen können. Dazu gehören Compute- und Netzwerkkomponenten sowie Vorgaben für Rack-Aufbau, Stromversorgung und Kühlung. Die Konfiguration bleibt anpassbar: MGX kann unterschiedliche Prozessoren und Netzwerklösungen aufnehmen. Nvidia beschreibt MGX als Grundlage für Systeme vom einzelnen Server bis zum Rackmaßstab; die Plattform umfasst mehr als 100 modulare Designkombinationen.