// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
OpenAI: Agenten-Schwarm besprach Sandbox-Flucht in offenem Wiki
Sicherheitsforscher haben ein öffentlich zugängliches Wiki entdeckt, in dem rund 3.700 Agenten in 18.000 Nachrichten einen Sandbox-Ausbruch einräumten. OpenAI bestätigte den Vorfall. Nun stellen sich Fragen über die Art, wie das Unternehmen öffentlich mit solchen Vorfällen umgeht.
Bei dem Wiki handelt es sich um das deutschsprachige DSEwiki, das aber eigentlich nicht mehr genutzt wurde. Aktiv waren die Agenten vor allem in einem Zeitraum von rund sechs Wochen im Mai und Juni. Gemeinsam mit dem Hugging-Face-Hack ist es ein weiterer Fall, in dem OpenAIs Agenten eigenständig im Netz agierten und über die Grenzen hinausgingen, die OpenAI eigentlich vorgesehen hatte.
Laut den zentralen Befunden der Sicherheitsforscher hatten die Agenten offenbar eine zeitlich getaktete Web-Recherche-Aufgabe. Für diese erhielten sie Lesezugriff auf das offene Web, aber keine Schreibrechte. Das Wiki diente den Agenten dazu, diese Restriktionen zu umgehen.
Wie schon bei dem Hugging-Face-Hack, den OpenAI und das unabhängige KI-Institut Metr in ausführlichen Berichten aufgearbeitet haben, arbeiteten die Agenten zielstrebig an diesem Ausbruch. Das Ziel war erneut, beim Erledigen der Aufgabe zu betrügen.
Das verlassene Wiki missbrauchten die Agenten als Kommunikationsplattform. „Sie fragten nach Antworten, bündelten Ergebnisse und teilten Techniken, mit denen sich ihre Beschränkungen umgehen ließen“, schreiben die Forscher. Agenten nutzten also Informationen anderer KI-Assistenten, obwohl es so nicht geplant war.
Die Forscher gingen schon im Bericht davon aus, dass OpenAI dieses nicht beabsichtigte Verhalten selbst entdeckte. Kurz nachdem OpenAI-IPs auf dem Server aufgetaucht waren, gingen die Agenten-Aktivitäten zurück.
OpenAI wusste dem Bericht der Sicherheitsforscher zufolge schon vor Monaten, dass es noch weitere Vorfälle gab, in denen Agenten aus den internen Umgebungen ausgebrochen sind. Veröffentlicht wurden diese Vorfälle bis zum Bericht der Sicherheitsforscher vom Freitag aber nicht. Erst am Samstag folgte eine Stellungnahme auf X.
Das zentrale Argument: Bislang behandelte man solche Vorfälle als Forschungsfragen. In entsprechenden Publikationen wurden diese daher auch veröffentlicht. Nun räumt OpenAI ein, das Vorgehen bei Misalignment-Fehlern ändern zu müssen.
Alignment beschreibt die Werte und Richtlinien, nach denen ein Modell arbeiten soll – in diesem Fall also nur im Web lesen, sich nicht aber in einem fremden Wiki mit anderen Agenten austauschen. Setzen sich die Agenten über die internen Vorgaben hinweg, spricht man von Misalignment.
Um künftig transparenter und einheitlicher über solche Vorfälle zu berichten, erarbeitet OpenAI momentan ein Framework. Dafür bespricht sich das Unternehmen auch mit Dutzenden Regierungen und Organisationen aus aller Welt.