// STADT-BREMERHAVEN — INTELLIGENZA ARTIFICIALE
NVIDIA: Open Agent Safety Platform für sicherere KI-Agenten vorgestellt
von Carsten Knobloch
28. Sep. 2026 |
0
NVIDIA hat die Open Agent Safety Platform vorgestellt, eine neue Initiative für mehr Sicherheit beim Einsatz von KI-Agenten. Das System soll Sicherheitsrisiken von der ersten Testphase bis hin zum produktiven Einsatz abdecken und eine umfassende Governance-Struktur für autonome Agenten bereitstellen.
Technisch führt die Plattform die Software NVIDIA OpenShell und das Referenzsystem Sentry zusammen. Zu den Kernfunktionen gehören die kontinuierliche Laufzeitüberwachung, das Durchsetzen definierter Richtlinien sowie die unmittelbare Isolierung einzelner Agenten, sobald diese festgelegte Sicherheitsgrenzen verletzen.
Bei der Entwicklung arbeitet NVIDIA mit Partnern wie SpaceXAI und Scale AI zusammen. Ziel des Projekts ist es, Unternehmen über verschiedene Branchen hinweg mehr Transparenz und Kontrolle über die Aktionen ihrer KI-Agenten an die Hand zu geben. Mal schauen, was das wird. Man hört ja immer mehr davon, dass Agenten ausbrechen und "Schabernack" treiben. Wobei - sind es die Agenten oder die Entwickler, die vielleicht ihre Netzwerke nicht sicher konfigurieren können?
Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.