// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Nvidia will KI-Agenten per Hardware überwachen
Offene KI-Modelle versprechen Unabhängigkeit. Mit OpenShell und speziellen Prozessoren will Nvidia jedoch die Handlungsräume von Agenten begrenzen.
Nvidia will Unternehmen mehr Kontrolle über autonome KI-Agenten geben und dafür Sicherheitsmechanismen direkt in die Hardware seiner KI-Systeme integrieren. Auf der GTC in Berlin präsentierte der Konzern seine Open Agent Safety Platform rund um die Laufzeitumgebung OpenShell mit neuen Leistungsversprechen und zusätzlichen Industriepartnern.
Spezielle BlueField-4-DPUs sollen die Aktivitäten von KI-Agenten unabhängig von den verwendeten Sprachmodellen überwachen und unerlaubte Aktionen innerhalb von Millisekunden unterbinden. Gleichzeitig kündigt Nvidia weitere offene KI-Modelle und Software an, mit der Agenten auf Unternehmensdaten zugreifen und selbstständig Vorhersagen treffen.
Mit OpenShell hatte Nvidia bereits eine quelloffene Laufzeitumgebung vorgestellt, die KI-Agenten in abgeschotteten Umgebungen ausführt. Sie soll verhindern, dass ein Agent beliebig auf Dateien, Netzwerkdienste oder Programme zugreift. Solche Sicherheitsgrenzen sind nötig, weil autonome Agenten nicht nur Texte erzeugen, sondern eigenständig Werkzeuge aufrufen und Änderungen an IT-Systemen vornehmen können.
Die Open Agent Safety Platform erweitert dieses Konzept um hardwaregestützte Kontrollen. Auf der GTC hat Nvidia dazu eine Referenzarchitektur für OpenShell vorgestellt. Nvidia sieht dafür eine Arbeitsteilung vor: Vera-Rubin-Systeme berechnen die KI-Modelle, Vera-CPUs betreiben die Agenten und ihre Werkzeuge. BlueField-4-DPUs übernehmen mit der Sicherheitssoftware Sentry die unabhängige Überwachung und Durchsetzung der Zugriffsregeln.
Nvidia verspricht, dass Sentry Agenten innerhalb von Millisekunden isolieren und stoppen kann, wenn sie vorgegebene Sicherheitsgrenzen überschreiten. Da die Kontrollen außerhalb der eigentlichen Sandbox laufen, sollen die Agenten sie weder verändern noch umgehen können. Die OpenShell-Software ist quelloffen und unterstützt auch Agenten-Frameworks anderer Anbieter, darunter Claude Code von Anthropic und Codex von OpenAI.
Nvidia ergänzt damit die Sicherheitsmechanismen der KI-Modelle um Kontrollen in der Infrastruktur. Bisher versuchen die Anbieter vor allem, unerwünschte Antworten durch Alignment zu verhindern. Dazu werden die Modelle nachträglich so trainiert, dass sie bestimmte Anfragen verweigern. Diese Beschränkungen lassen sich bei frei verfügbaren Modellen teilweise durch sogenannte Abliteration wieder entfernen, bei der gezielt interne Repräsentationen verändert werden.
OpenShell verfolgt einen anderen Ansatz. Statt die Antworten des Modells zu beschränken, kontrolliert die Laufzeitumgebung, auf welche Dateien, Programme und Netzwerkdienste ein Agent zugreifen darf. Administratoren können darüber festlegen, welche Modellserver und Inferenz-Endpunkte ein Agent überhaupt erreichen kann. Das System kann somit unbefugte Zugriffe unterbinden, aber nicht kontrollieren, was ein KI-Modell bei befugten Zugriffen alles anstellt: ob es ungewollt Daten manipuliert, Backdoors einbaut oder anderweitig die Sicherheit kompromittiert.
Von Siemens bis Palantir: Laut Nvidia arbeiten bereits über 100 Organisationen mit Technologien der Open Agent Safety Platform. „Ich kann sie gar nicht alle aufzählen, aber ich liebe sie alle“, erklärte Huang.
Mit OpenShell lassen sich bestimmte Modelle vom Betrieb ausschließen, ohne ihre Gewichte oder ihr Alignment zu verändern. Entscheidend ist dann nicht mehr allein, wer die KI-Modelle entwickelt und ihre inhaltlichen Grenzen festlegt, sondern auch, wer ihre Laufzeitumgebung und deren Zugriffsregeln kontrolliert.