// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Raus aus der Tokenfalle – mit VMware
Broadcom fasst sein KI-Portfolio unter VMware Private AI Cloud zusammen. Das Ziel: Modelle sollen zu den Daten kommen, nicht umgekehrt.
Broadcom hat auf der VMware Explore 2026 in Las Vegas sein KI-Portfolio unter dem Dach VMware Private AI Cloud zusammengefasst. Die Botschaft dahinter ist knapp und wurde auf der Bühne mehrfach wiederholt: Das Modell soll zu den Daten kommen, nicht die Daten zum Modell. Ram Velaga, President der Infrastructure Software Group, spricht von einem Punkt, an dem Private Cloud und privates KI-Infrastrukturgeschäft keine getrennten Disziplinen mehr sind.
Velaga, der die Sparte seit knapp neun Monaten führt, begründete das in der Keynote mit vier Beobachtungen aus Kundengesprächen. Erstens habe sich der Ton gegenüber den Cloud-Ankündigungen früherer Jahre gedreht: Für dauerhaft laufende und gut planbare Workloads sei der eigene Betrieb oft die günstigere Wahl, die Cloud bleibe für Lastspitzen und bestimmte Anwendungsfälle. Zweitens sei Hardware auf Jahre hinaus knapp und teuer, getrieben vor allem von den Speicherpreisen – was nach Broadcoms Argumentation eine möglichst hohe Auslastung vorhandener Ressourcen wichtiger und dedizierte Bare-Metal-Systeme weniger attraktiv macht. Drittens dränge das Thema Souveränität nicht mehr nur auf Länderebene, sondern auf Unternehmensebene, Metadaten eingeschlossen. Und viertens wolle niemand für KI ein weiteres Silo neben Compute, Netz und Storage aufbauen.
Die Antwort des Herstellers darauf heißt VMware AI Factory und ist laut Broadcom das softwaredefinierte Fundament der „Private AI Cloud“. Der Anspruch: Von der Auslieferung eines Servers bis zur Bereitstellung des ersten Modells sollen statt Wochen einige Stunden vergehen. Automatisiert werden dafür die Hardware-Provisionierung, die Bereitstellung des Software-Stacks und das Lifecycle-Management in einem Rutsch.
Der interessanteste Teil ist eine neue Partnerschaft mit MetalSoft. Deren Bare-Metal-Automatisierung wird in VCF integriert und erweitert dessen Betriebsabläufe bis auf die physische Schicht: Server verschiedener Hersteller lassen sich direkt aus der VCF-Managementkonsole heraus bereitstellen oder neu aufsetzen, ohne die jeweiligen herstellereigenen Werkzeuge für Hardware- und Firmware-Verwaltung. MetalSoft-CEO Lucas Roh beschreibt das als Behandlung physischer Server wie Code; Broadcom nennt eine Reduktion der Provisionierungszeit von Wochen auf Minuten. Für Häuser mit gemischten Serverparks ist das der handfesteste Teil der gesamten Ankündigung.
Darüber liegen die „Private AI Services“. GPUs werden organisationsweit gepoolt und geteilt, statt sie einzelnen Workloads fest zuzuweisen. Eine Model-Gallery dient als gemeinsame Oberfläche, über die IT und Data-Science-Teams Inferenz und RAG-Workflows über VMs, Container und GPU-Ressourcen hinweg ausrollen, samt Beobachtung von Token-Durchsatz, Latenz und Auslastung. Auf der Roadmap stehen außerdem mandantenfähiges Model-Sharing über isolierte Namespaces und ein AI-Gateway mit Prompt-Routing, Token- und Rate-Limits sowie Anwendungsautorisierung. Ebenfalls als künftige Funktionen angekündigt sind Secure AI Sandboxes für dynamisch erzeugten Agentencode und ein automatisches Model-Autoscaling.
Hardwareseitig kombiniert die AI Factory VCF mit zertifizierten VCF AI ReadyNodes von Cisco, Dell, Lenovo und Supermicro. Mit AMD arbeitet Broadcom an einer Variante mit Instinct-GPUs und dem offenen ROCm-Stack; Zero-Touch-Provisionierung soll dabei den gesamten Stack von vSphere und vSAN über Kubernetes bis zum AMD-GPU-Operator ausrollen. Auf Nvidia-Seite nannte Chief Product Officer Paul Turner die kürzlich abgeschlossene Unterstützung für B300 (Blackwell), Grace-CPUs als Tech-Preview in 9.1 und Offloading auf ConnectX-7.
Parallel hat Broadcom fünf Modelle für den Betrieb auf VMware Cloud Foundation getestet: Nvidias Nemotron 3, Googles Gemma 4, NECs cotomi, Alibabas Qwen3.8-27B und GLM 5.2 von Z.ai, dem früheren Zhipu AI. Die Auswahl ist bemerkenswert breit gestr