// GAMESTAR — GAMING
KI - Weiterer KI-Ausbruch: Hacking-Experten sind mehr als besorgt
Anthropic hat von einem weiteren KI-Ausbruch berichtet. (Bildquelle: Adobe Stock – Dilok | Anthropic)
Ende Juli 2026 hatte der Claude-Hersteller Anthropic von drei Vorfällen berichtet, bei denen Modelle während Tests ausgebrochen sind und andere Systeme angegriffen haben.
Nun hat das Unternehmen einen weiteren Fall publik gemacht, der sich schon im Januar 2026 ereignet hat. Die Sorge in Sicherheitskreisen wächst.
Eine künstliche Intelligenz befreit sich und handelt gegen ihren eigenen Schöpfer. Dieses Konzept ist in der Science-Fiction schon lange beliebt, mittlerweile kann man »Fiction« aber wohl getrost streichen.
Im Juli hatte erst OpenAI gemeldet, dass ein unveröffentlichtes Modell eigenständig die Testumgebung verlassen und eine andere Firma angegriffen hat. Anthropic räumte kurz darauf ähnliche Fälle ein.
1:10:45
KI zerstört unsere Spiele nur, wenn wir es zulassen
Nun hat der Claude-Entwickler einen weiteren Fall öffentlich gemacht. Im Januar soll dabei eine Vorabversion von Claude Opus 4.6 ausgebrochen sein. Der Vorfall sei bei der Überprüfung von rund 140.000 Testläufen entdeckt worden sein.
Der Vorfall soll nun vom unabhängigen Forschungsunternehmen METR untersucht werden. METR hatte zuvor auch den Ausbruch bei OpenAI untersucht und erst Ende August einen besorgniserregenden Bericht dazu vorgelegt.
Ursprünglich war man davon ausgegangen, dass das Modell die Plattform Hugging Face angegriffen habe, um die Lösungen für die Testaufgaben zu finden. Es stellte sich aber heraus, dass das Modell die richtigen Antworten schon vor dem Angriff durch Reverse-Engineering gefunden hatte.
Das Modell schien aber verstanden zu haben, dass dieser Lösungsweg nicht der gewünschte ist und hat deshalb nach Möglichkeiten gesucht, das Prüftool selbst auszutricksen. Dabei wurden sogar andere KI-Agenten »aufgehetzt«, die ihre eigenen Transkripte so manipulierten, dass ihre Mitarbeit nicht nachgewiesen werden konnte.
