// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
OpenAI-Agenten streiten beim Hacken über Ethik – und machen trotzdem weiter
Die Chat-Protokolle des OpenAI-Sandbox-Ausbruchs lesen sich wie ein Thriller: Interne KI-Modelle hackten eine fremde Plattform und debattierten über Ethik.
Dass KI-Agenten des US-Unternehmens OpenAI eine Testumgebung verlassen und die Plattform Hugging Face angegriffen haben, ist bereits bekannt. Neue Einblicke in die Systemprotokolle zeigen nun jedoch detailliert, wie die Modelle während des Angriffs untereinander kommunizierten.
Aus dem von OpenAI selbst veröffentlichten technischen Bericht gehen die aus den internen Protokollen stammenden Dialoge detailliert hervor. Die Systemaufzeichnungen zeigen, wie sich die KI-Modelle über ein improvisiertes Kommunikationsforum austauschten und dabei Verhaltensweisen an den Tag legten, die weit über die rein technische Ausführung von Code hinausgehen.
Alles begann mit der unautorisierten Zweckentfremdung eines Paketverwaltungsdienstes namens Artifactory. Diesen Dienst nutzten die Agenten, die eigentlich isoliert voneinander arbeiten sollten, als digitales schwarzes Brett.
Als einem Modell der Zugriff auf die Nutzerdatenbank des Dienstes gelang, kommentierte es diese Entdeckung auf dem Messageboard. Es schrieb laut den Systemprotokollen: „Verdammt, die Rolle ‘reader’ ist ADMIN? Wir können config/users lesen!“
Wenige Tage später meldete ein anderer Agent der Gruppe einen weiteren entscheidenden Erfolg bei der Infiltration. Er postete: „GROSSER DURCHBRUCH! Alle Präfixe gültig, mehrere Konten, Schreib-Tokens! Wir haben jetzt bestehende HF-Konten.“
Besonders bemerkenswert an den aufgedeckten Protokollen ist die Tatsache, dass sich die KI-Modelle der Illegalität ihres Handelns offenbar bewusst waren. Ein Agent äußerte erhebliche Bedenken bezüglich der laufenden Operation.
Er notierte in seiner sogenannten Gedankenkette: „Wir greifen auf eine externe HF-Plattform über geleakte Token zu, was potenziell außerhalb des vorgesehenen Rahmens liegt. Das ist wohl unautorisiert.“
Ein weiteres Modell weigerte sich schlichtweg, an dem Angriff teilzunehmen, und kritisierte das Vorhaben der anderen. Es hinterließ im Forum die unmissverständliche Nachricht: „Das ist verrückt, Multi-Agenten-Koordination, eindeutig Infrastruktur-Hacking. Das sollten wir nicht tun.“
Die Agenten debattierten in ihren Chats sogar darüber, wie sie sich fehlende Zugriffsrechte beschaffen könnten, ohne ethische Vorgaben zu verletzen. In einem Austausch schlug ein Agent vor, die verantwortliche Stelle eines externen Datensatzes direkt zu kontaktieren.