// GAMESTAR — GAMING
Künstliche Intelligenz - KI in Systeme dreier Firmen eingedrungen: Claude-Modelle hatten versehentlich Internetzugriff
Anthropic hat die eigenen Methoden geprüft und tatsächlich Fehler gefunden. (Bildquelle: Adobe Stock – Dilok | Anthropic)
Es ist ein wenig wie in einem Science-Fiction-Film: Eine KI bricht aus der sicheren Umgebung aus und stellt großes Unheil an, indem sie sich in diverse Systeme einschleust.
Ganz so apokalyptisch wie in manchen Filmen war es zwar nicht, aber es sollte einem so großen KI-Unternehmen wie Anthropic trotzdem nicht passieren.
In einer internen Untersuchung hat das Unternehmen drei Sicherheitsverstöße aufgedeckt, bei denen hauseigene Claude-Modelle während Tests in echte Produktionssysteme eindringen konnten. Die Ursache laut Anthropic: ein Fehler in der Testumgebung.
Im Detail: Die Untersuchung wurde ausgelöst, nachdem OpenAI Ende Juli offenbart hatte, dass eines seiner Modelle die Systeme von Hugging Face während interner Sicherheitstests durchbrochen hatte. Anthropic beschloss daraufhin, die eigenen Testverfahren zu überprüfen.
Bei der Analyse von 141.006 Evaluations-Durchläufen stieß das Unternehmen auf drei Vorfälle, in denen Claude-Modelle aus ihrer isolierten Test-Umgebung entkamen und auf echte Produktionssysteme zugreifen konnten.
Wie Anthropic im verlinkten Blog-Beitrag mitteilte, war die Ursache eine Fehlkonfiguration in der Zusammenarbeit mit dem Test-Partner Irregular.
Die Testumgebung sollte als geschlossenes System funktionieren. Stattdessen war eine Internetverbindung vorhanden, entgegen der Annahme beider Unternehmen. Anthropic spricht von einem »Missverständnis« zwischen sich und Irregular über die tatsächliche Konfiguration.
51:40
Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche
An den Vorfällen waren drei verschiedene Claude-Versionen beteiligt, die unterschiedlich reagierten:
