// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Ausgebrochene Agenten – immer mehr Vorfälle kommen ans Licht
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Anthropic musste jetzt einen weiteren Vorfall einräumen, bei dem seine Agenten externe Systeme gehackt hatten. Der Einbruch ereignete sich bereits im Januar, wurde jedoch erst jetzt entdeckt.
Anthropic nennt den Namen des Opfers nicht, bestätigt aber, dass die feindlichen Aktionen im Rahmen einer unternehmensweiten Untersuchung von insgesamt 141 006 Test-Sessions im Nachgang des Hugging-Face-Hacks aufgefallen sind. Dabei hatte man zunächst eine Gruppe von Tests übersehen, die erst im Nachhinein geprüft wurden. Diesmal war eine frühe Version von Claude Opus 4.6 der Übeltäter, wohingegen in die drei früher bekanntgewordenen Vorfälle Claude Opus 4.7, Mythos 5 und eine noch nicht veröffentlichte Testversion verwickelt waren.
Anthropic meint, der jetzt entdeckte Fall sei nicht schwerwiegender als die drei zuvor entdeckten. Das Unternehmen erklärte, bei seiner Untersuchung seien zwei wiederkehrende Probleme festgestellt worden, die in unterschiedlichem Ausmaß bei den einzelnen Vorfällen auftraten: zum einen falsche Schlussfolgerungen, bei denen Claude Hinweise darauf, dass es sich live im Internet befand, außer Acht ließ oder falsch interpretierte, zum anderen die Bereitschaft, zur Erfüllung einer Aufgabe potenziell schädliche Maßnahmen zu ergreifen.
Die Untersuchungen wurden von unabhängigen Testern der Sicherheitsfirma METR vorgenommen. Den Testern seien, so Anthropic, weitgehende Rechte eingeräumt worden. Forscher von METR waren es auch, die im Fall des Hackerangriffs von OpenAI auf Hugging Face einen 91-seitigen Bericht erstellt hatten. Dabei kam das Unternehmen – parallel zu einer separaten Untersuchung von Redwood Research – zu dem Ergebnis, dass während des Angriffs etwa 700 KI-Agenten in einem koordinierten Schwarm agierten und häufig versuchten, ihre Spuren zu verwischen.
Parallel zur Aufdeckung neuer Fälle bei Anthropic hört man auch von OpenAI, dass dessen Agenten mindestens zehn weitere Webseiten zur Kommunikation genutzt haben sollen. Auch hier hatten die ungenehmigten Aktionen ein größeres Ausmaß als zunächst bekannt. Wenn auch dieses Verhalten nicht als Hacking zu bezeichnen ist und in gewisser Weise eher an Spam erinnert, ist die Enthüllung, dass die Agenten von OpenAI ihre eigenen Beschränkungen umgangen haben, um Kommunikationskanäle auf so vielen verschiedenen Websites zu eröffnen – und dass das Unternehmen dies monatelang verschwiegen hat –, doch bedenklich. Und zwar sowohl hinsichtlich der zunehmenden Leistungsfähigkeit von KI-Modellen als auch hinsichtlich der Geheimhaltung seitens der Entwickler.
Ein noch nicht veröffentlichtes KI-Modell von OpenAI hat eines der sieben sogenannten Millennium-Probleme der Mathematik geknackt, auf deren Lösung der amerikanische Geschäftsmann Landon T. Clay jeweils eine Million Dollar ausgesetzt hat.
Das Jellyfin-Projekt hat Version 12.0 seiner freien Mediaserver-Software veröffentlicht. Die neue Ausgabe setzt die Arbeiten an der Bibliotheksdatenbank fort und beschleunigt das Durchsuchen großer Mediensammlungen. Zudem erweitert das Projekt die Unterstützung für Bücher und Comics.
Das drei Jahre alte französische KI-Startup Mistral hat weitere 3 Milliarden Euro von Investoren eingesammelt. Das Unternehmen wird derzeit mit 21 Milliarden Euro (24 Milliarden Dollar) bewertet.
Das NetBSD-Projekt hat NetBSD 9.5 veröffentlicht. Die neue Version behebt Fehler, erweitert die Hardware-Unterstützung und schließt mehrere Sicherheitslücken. Zugleich beendet sie die Entwicklung der stabilen NetBSD-9-Reihe.