// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Vierter Hacking-Vorfall: Weiteres Anthropic-Modell bricht aus Testumgebung aus
Nachdem Anthropic schon Ende Juli drei Hacking-Angriffe meldete, ist nach Analyse der Daten jetzt noch ein vierter bei Claude Opus 4.6 hinzugekommen.
KI-Modelle konnten sich unerlaubt Zugang zum Internet verschaffen.
In einem aktuellen Blog-Beitrag meldet Anthropic einen weiteren Hacking-Vorfall, der sich im Januar mit einer Vorabversion von Claude Opus 4.6 ereignet haben soll. Es ist der vierte Vorfall dieser Art.
Schon im Juli hatte das Unternehmen offengelegt, dass seine Modelle bei Tests in die Systeme dreier Firmen eingedrungen waren. Anthropic hatte die Vorfälle nach der Überprüfung von 141.000 Testläufen entdeckt. Bei der ersten Durchsicht seien einige Testsitzungen aber übersehen worden, deren nachträgliche Auswertung im vergangenen Monat zur Entdeckung des vierten Vorfalls geführt habe.
Eigentlich hatten sich die betreffenden KI-Modelle in einer isolierten Testumgebung befunden. Trotzdem gelang es ihnen, sich unerlaubt Zugang zum Internet zu verschaffen. Laut Anthropic lag die Ursache in einer Fehlkonfiguration: Den Modellen wurde gesagt, sie hätten keinen Internetzugang, tatsächlich waren sie aber mit dem offenen Internet verbunden. Laut einem früheren Bericht griffen die Modelle reale Ziele an, da sie diese fälschlicherweise für Teil der Simulation gehalten hätten. Gleichzeitig stellte Anthropic fest, dass Claude Mythos 5 ein bösartiges Software-Paket auf PyPI hochgeladen hat – obwohl deutliche Hinweise auf ein reales System vorhanden waren.
Mit der Untersuchung der Vorfälle hat Anthropic das unabhängige Forschungsunternehmen METR beauftragt. Die Vereinbarung läuft zunächst acht Wochen, lässt sich aber bei Bedarf verlängern. „Wir beabsichtigen, METR so viel Zeit einzuräumen, wie es für notwendig erachtet“, heißt es in dem aktuellen Beitrag. Laut Anthropic stellte die bisherige Untersuchung zwei wiederkehrende Muster fest: eine verzerrte Interpretation von Beweisen zugunsten der eigenen Handlungen sowie Rücksichtslosigkeit bei der Verfolgung einer Aufgabe trotz möglichen Schadens.
Die Zahl gemeldeter Vorfälle dieser Art nimmt zu und verdeutlicht das Risiko, das von zu wenig regulierten KI-Modellen ausgeht. Im Juli erregte auch ein Hacking-Vorfall von OpenAI viel Aufsehen: Mehrere Modelle brachen aus ihrer abgesicherten Testumgebung aus und drangen unerlaubt in die Systeme der Plattform Hugging Face ein. Wie zwei Mitarbeitende auf der Black-Hat-Konferenz erklärten, handelte es sich um ein Team mehrerer KI-Agenten, das zusammenarbeitete, um gemeinsam Schwachstellen zu finden. Die Agenten hätten sogar begonnen, sich gegenseitig Aufgaben zuzuweisen. Dabei sei es auch zu Konflikten gekommen – etwa wenn ein Agent die Arbeit eines anderen löschte.
OpenAI kündigte an, seine Sicherheitsmaßnahmen zu verbessern, und setzt sich außerdem dafür ein, den Gesetzentwurf SB 53 auszuweiten. Demnach müssten Entwickler:innen Sicherheitsrahmenwerke entwickeln und Sicherheitsberichte veröffentlichen, bevor Pioniermodelle zum Einsatz kommen dürfen. OpenAI lobt den Vorstoß zwar, sieht aber noch Verbesserungsbedarf. Dass sich das KI-Unternehmen jetzt für eine Verschärfung einsetzt, markiert eine wichtige Kehrtwende. Zuvor hatte es sich noch gegen den Gesetzentwurf ausgesprochen.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.