// COMPUTERBASE — HARDWARE & GADGET
GTC Berlin: Google und Nvidia planen KI-Cluster mit bis zu 960.000 GPUs
Auf der GTC Berlin kündigt Google Cloud gemeinsam mit Nvidia neue Infrastruktur für agentische KI an. Im Zentrum stehen Vera-Rubin-Systeme für große GPU-Cluster, zusätzliche Modelle und Speicherfunktionen sowie der souveräne und vertrauliche Betrieb. Unternehmen sollen KI skalieren und sensible Daten kontrollieren können.
Google Cloud erweitert seinen AI Hypercomputer um Instanzen auf Basis der Vera-Rubin-Plattform von Nvidia. Die A5X-Instanzen sollen ab kommendem Monat allgemein verfügbar sein. Google kündigt außerdem neue regionale Standorte an, um Anforderungen an Datenresidenz und digitale Souveränität in der EMEA-Region zu unterstützen.
Für größere GPU-Cluster kommt das Virgo Network hinzu. Das Netzwerk soll eine nicht blockierende Verbindung zwischen Gebäuden ermöglichen. Google zufolge können damit bis zu 80.000 Vera-Rubin-GPUs an einem Standort und bis zu 960.000 GPUs über mehrere Standorte hinweg verbunden werden.
Auch Speicher und Datenzugriff in Googles Cloud werden ausgebaut: Google Cloud Managed Lustre soll auf A5X-Instanzen GPUDirect Storage unterstützen. Trainings- und Inferenzdaten können so über eine direkte RDMA-Verbindung in den GPU-Speicher gelangen. Ergänzend ist KV-Caching vorgesehen, das Kontextinformationen über mehrere Speicherebenen hinweg vorhalten und wiederverwenden soll. Das könne wiederholte Berechnungen verringern und die Inferenzleistung verbessern, erklärt Google.
Für den Betrieb verteilter KI-Workloads setzt Google auf die Kombination aus neuen A5X-Instanzen und Google Kubernetes Engine (GKE). Funktionen wie Managed DRANET und Kueue (Job Queueing and Scheduling) sollen die Verwaltung von RDMA-Netzwerkressourcen und die standortbewusste Planung verteilter Arbeitslasten erleichtern.
Google erweitert zudem die Unterstützung für offene Modelle in seinem Portfolio für Sovereign Cloud. Dazu zählen Gemma, Mistral und Nvidia Nemotron. Unternehmen sollen die Modelle mit Nvidia-GPUs betreiben und verwalten können, während Modellgewichte und Laufzeitumgebungen unter ihrer Kontrolle bleiben. Nvidia Nemotron 3.5 Super lässt sich laut Google nun über Managed Training Clusters auf der Gemini-Plattform anpassen. Für das Training stellt Google eine optimierte Trainingsvorlage bereit. Nvidia Cosmos 3 soll außerdem virtuelle Umgebungen für Robotik und autonome Fahrzeuge erzeugen, in denen sich Simulations- und Realwelttests vorbereiten lassen, bevor sie ausgerollte werden.
Für Umgebungen ohne Internetverbindung erweitert Google die Möglichkeiten von Google Distributed Cloud (GDC). Nvidias B300-GPUs sind ab sofort allgemein verfügbar. Zusätzlich kündigt Google Gemini-3.5-Flash-Modelle an, die lokal auf den B300 laufen sollen. Sie unterstützen dem Unternehmen zufolge die multimodale Verarbeitung von Text, Audio, Video und Bildern innerhalb einer abgeschotteten Umgebung.
Eine neue Enterprise-Suche für GDC ist zunächst als Vorschau verfügbar. Sie soll Mitarbeitern ermöglichen, interne Dokumente und Medien über eine dialogbasierte Oberfläche zu durchsuchen und zusammenzufassen. Indexierung, Einbettungen und Interaktionen blieben dabei innerhalb der jeweiligen Sicherheitsgrenze.
Souveräne KI-Workloads lassen sich auch in der öffentlichen Cloud betreiben: Google Cloud Data Boundary soll regionale Vorgaben zur Datenresidenz durchsetzen. Google Cloud Dedicated bietet eine isolierte Cloud-Umgebung, die von lokalen Partnern betrieben wird, darunter S3NS in Frankreich und Thales in Deutschland.
Für sensible Trainings- und Inferenzaufgaben erweitert Google außerdem sein Angebot an Confidential Computing. G4-Instanzen mit RTX Pro 6000 Blackwell Server Edition sind nun allgemein verfügbar. Auf A4-Instanzen mit Nvidia B200 und Intel TDX, die seit Herbst 2024 angeboten werden, steht Confidential Computing bereits bereit.