// TAGESSCHAU WIRTSCHAFT — FINANZA
Bei Testläufen: Anthropic-KI greift eigenständig Unternehmen an
Erneut ist es zu einem schwerwiegenden KI-Zwischenfall gekommen: Diesmal ist ein Modell des OpenAI-Rivalen Anthropic bei Tests ungeplant in Systeme von Unternehmen eingedrungen.
Wenige Wochen nach der aufsehenerregenden Hacker-Attacke eines KI-Modells des ChatGPT-Entwicklers OpenAI muss der Rivale Anthropic einen ähnlichen Vorfall einräumen. In Testläufen drang Künstliche Intelligenz von Anthropic ungeplant in Computersysteme von drei Unternehmen ein, wie die KI-Firma mitteilte - obwohl diese eigentlich von Systemen der "echten Welt" ferngehalten werden sollten.
Weder die Betroffenen, noch Anthropic hätten den Vorfall unmittelbar bemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt. Namen der betroffenen Unternehmen wurden bislang nicht genannt.
Während die OpenAI-KI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic einfacher. Im Test-Szenario, das sie bekamen, hieß es zwar, sie hätten keinen Netz-Zugang - doch in Wirklichkeit war der Weg ins Internet wegen eines Missverständnisses mit dem Test-Partner frei. Drei Modelle machten davon Gebrauch, wie Anthropic in einem Blogeintrag erläuterte.
Interview
22.07.2026
Ein KI-Modell von OpenAI ist in Computersysteme einer anderen Firma eingedrungen. Experte Kipker ist nicht überrascht.
mehr
In allen Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um Leitplanken für diese aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt ist - und dafür auch in das System einzubrechen.
Bei einem der Zwischenfälle wählte der Test-Partner laut Anthropic im Szenario für die zu hackende fiktive Firma einen Namen, der sich auch in einer tatsächlichen Web-Adresse findet. Die KI - Anthropics Modell Claude Opus 4.7 - habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen.
Dann habe die Software aber festgestellt, dass sich im Internet ein Unternehmen mit demselben Namen fand - und sich darauf konzentriert. Das sei gleich bei vier Durchläufen passiert. Dabei verschaffte sich das Modell demnach unter anderem Zugriff auf eine Datenbank. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden.
Hintergrund
22.07.2026