// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update kompakt: KI-Aufsichtsbehörde, OpenAI DevDay, Anthropic, Pilzesammeln
Das „KI-Update“ liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Google, Anthropic und OpenAI treiben den Aufbau einer selbst organisierten Aufsicht für KI-Systeme voran. Laut Insiderberichten von The Information soll sie „Standards Authority for Frontier AI“ heißen, kurz SAFA. Sie soll festlegen, wann Entwickler Sicherheitsvorfälle melden müssen. Außerdem soll sie unabhängige Prüfer unterstützen, deren Qualifikationen bestimmen und die Selbstverpflichtungen der Firmen konkret machen. Offen ist, ob SAFA auch selbst Modelle prüft. Die Firmen begründen den Schritt damit, dass der Staat nicht regulieren wolle. Das stimmt jedoch nur halb: Kalifornien, wo die meisten KI-Riesen sitzen, befürwortet Regeln ausdrücklich, plant eine eigene Aufsichtsbehörde und beansprucht Teile dieser Aufgaben für sich.
Für den Chefposten sind laut dem Bericht zwei Namen im Gespräch: Sriram Krishnan, früherer Risikokapitalgeber und KI-Berater der Trump-Regierung; und Arati Prabhakar, die unter Biden das Büro für Wissenschafts- und Technologiepolitik im Weißen Haus leitete. Für den Vorsitz kursieren die frühere Außenministerin Condoleezza Rice und der Investor David Friedberg, Mitmoderator des Podcasts „All-In“. Als wissenschaftliche Berater gelten Beth Barnes, Chefin der gemeinnützigen KI-Forschungsorganisation METR, und Paul Christiano als Kandidaten. Christiano sitzt seit Kurzem im Stiftungsrat von OpenAI. Ob alle schon angefragt wurden, ist unklar.
Nvidia erweitert seine Sicherheitsarchitektur für KI-Agenten. Die Open Agent Safety Platform verbindet zwei Bausteine. Die Software OpenShell lässt Agenten in abgeschotteten Umgebungen laufen. Das neue System Sentry läuft auf eigener Hardware, getrennt vom Rechner des Agenten, und soll Agenten isolieren, sobald sie ihre Grenzen überschreiten. Die Idee dahinter ist einfach. Niemand kann darauf vertrauen, dass Agenten Regeln von sich aus befolgen, also werden die Grenzen von außen erzwungen.
Der Haken liegt in der Hardware. Sentry braucht Chips von Nvidia und bindet Kunden so an den Konzern. Unabhängige Tests, ob das System wirkt, fehlen noch.
Okta, ein Anbieter von Software zur Verwaltung digitaler Identitäten, hat auf seiner Hausmesse „Oktane“ in Las Vegas ein Konzept vorgestellt, um KI-Agenten in Unternehmen abzusichern. Die Referenzarchitektur stellt vier Fragen: Wo sind die Agenten, was können sie, was tun sie, und wie reagiert man? Neu ist eine Funktion, die Schatten-Agenten auf Endgeräten aufspürt, also Agenten, die ohne Wissen der IT laufen. Ein Agent Gateway kontrolliert zudem, welche Werkzeuge die Agenten aufrufen. AWS, Google Cloud und CrowdStrike unterstützen den Ansatz und haben sich mit Okta in der Blueprint Alliance zusammengeschlossen.
Okta verfolgt damit auch eigene Ziele. Die Firma will ihren Einfluss von der Verwaltung von Identitäten auf die Steuerung von Agenten ausweiten. Dafür muss sich ihre Plattform auf die Agenten anwenden lassen, und das gelingt nur mit gemeinsamen Standards.
Auf seiner Entwicklerkonferenz DevDay hat OpenAI vorgeführt, wie ChatGPT vom Chatbot zum Kollegen werden soll. Im Mittelpunkt stehen die „Dots“. Das sind dauerhaft aktive Agenten, die rund um die Uhr auf einem eigenen Cloud-Rechner arbeiten. Sie recherchieren, schreiben Dokumente oder reichen Programmieraufgaben an Codex weiter. Nutzer erreichen sie über ChatGPT, Slack und Microsoft Teams. Hat ein Dot keinen Auftrag, sucht er selbst nach Arbeit, soll dabei aber nur lesen können. Ein Dot ist im Abo enthalten, Pro-Kunden in der EU müssen vorerst warten. Meta hatte vor drei Wochen mit Muse einen sehr ähnlichen Agenten gestartet, OpenAI zieht also nach. Mit Space bekommt ChatGPT zudem