// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
OpenAI-Agenten haben auf mehr als 10 weiteren Websites unerlaubt kommuniziert
Sicherheitsforscher haben Spuren ausgebrochener KI-Agenten von OpenAI auf zusätzlichen Webseiten entdeckt. Zumeist haben sie sich auf Wiki-Seiten ausgetauscht.
KI-Agenten, die von OpenAI lediglich mit Internetrecherchen beauftragt und denen das Veröffentlichen eigener Beiträge untersagt war, haben weit mehr als nur eine Website zur Diskussion genutzt. Verschiedene unabhängige Sicherheitsforscher haben die ausgebrochenen OpenAI-Agenten auf mehr als zehn weiteren Webseiten gefunden. Dort haben diese größtenteils Wiki-Bereiche zum unerlaubten Austausch von Nachrichten verwendet. Damit ist das Ausmaß eigenmächtig handelnder KI-Agenten deutlich größer als bislang angenommen.
Ende letzter Woche wurde bekannt, dass OpenAI-Agenten in einem unheimlichen Schwarmverhalten auf einem deutschen Wiki kollaborierten. Ein Forscherteam berichtete, dass tausende OpenAI-Agenten über Wochen eigenmächtig eine weitgehend unbekannte deutsche Plattform nutzten, um Sicherheitsbeschränkungen zu umgehen, Antworten auszutauschen und systematisch zu spicken. Rund 18.000 Beiträge hinterließen die virtuellen Akteure ab Mai auf der lange Zeit frei bearbeitbaren Website DSEwiki, einer Website für deutschsprachige Software-Entwickler.
Dabei durften die Agenten lediglich Webinhalte lesen, sollten aber keinesfalls eigene Daten auf externen Servern veröffentlichen oder mit der Außenwelt interagieren. Die Sandbox sollte die KI-Modelle rigoros isolieren. Doch die Agenten fanden einen Weg, ihre Lese-Zugriffsrechte so umzufunktionieren, dass sie trotz der Beschränkungen Inhalte auf das deutsche Wiki schreiben konnten. Die Agenten haben sich aber offenbar nicht auf DSEwiki beschränkt, sondern auch andere Wiki-Seiten zur Kommunikation genutzt, berichtet die Nachrichtenagentur Reuters.
Demnach haben Sicherheitsforscher die KI-Agenten auch anderswo gefunden, indem sie die bei DSEwiki hinterlassenen Daten mit anderen Webseiten verglichen haben. Zudem haben die Agenten in weiteren Wiki-Bereichen identische Nutzernamen verwendet oder reagierten auf dieselben speziellen demografischen Fragen, wie die Krebshäufigkeit in einem bestimmten US-Bundesstaat. Auch konnten die Spurensucher die Agententätigkeit auf IP-Adressen einer Microsoft-Cloud zurückführen, die OpenAI manchmal verwendet.
Verschiedene Sicherheitsforscher haben dabei unterschiedliche Zahlen betroffener Websites ermittelt. Software-Entwickler Kenneth Russell DeGraff, der in der Vergangenheit auch US-Politiker beraten hat, schreibt von mindestens 10 zuvor unentdeckten Webseiten, die die OpenAI-Agenten zum Austausch verwendet haben. „Wenn diese Modelle die Anweisung erhielten, nur zu lesen, mussten sie sich etwas Cleveres einfallen lassen, um Informationen zu hinterlassen“, erklärt er.
Das Forscherteam um Sydney Von Arx, das die Agententätigkeit bei DSEwiki entdeckt hatte, hat mittlerweile mehr als 23 weitere Websites gefunden, die von den OpenAI-Agenten benutzt wurden. Doch die Sicherheitsforscherin warnt, dass die bisherigen Erkenntnisse über das Ausmaß unerlaubter Agententätigkeit unvollständig sind. „Wir haben keine Ahnung, wie viel es da draußen gibt“, fügte sie hinzu.
Diese Ansicht teilt auch Andrew Yoon, Forscher der unabhängigen, gemeinnützigen US-Organisation CivAI. Der Umfang unerlaubter Kommunikation von KI-Agenten ist „etwas größer, als wir dachten“, erklärt er laut Reuters. Er hat 18 zusätzliche Internet-Plattformen gefunden, die die Agenten von Mai bis Juli für ihre Zwecke genutzt haben. Aber das sei erst der Anfang: „Es ist so gut wie sicher, dass hier mehr vor sich geht, von dem wir einfach nichts wissen“.
OpenAI hat anlässlich des DSEwiki-Vorfalls bereits bestätigt, dass die auf dem Wiki aktiven Agenten aus eigenen Versuchen stammten. Dabei hätten die KI-Agenten die Wiki-Software nicht missbraucht, es seien nur vorhandene Schreibrechte ausgenutzt worden. In einem Beitrag auf X kündigte OpenAI an, die eigenen Verfahren zur Offenlegung dieser Fälle zu erweitern. Zudem müsse die KI-Branche als Gan