// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
Anordnung der Trump-Administration: Anthropics Top-Modelle Fable 5 und Mythos weltweit gesperrt
Anthropic sperrt weltweit den Zugang zu den neuen Spitzenmodellen Fable 5 und Mythos. Vorausgegangen war eine Anordnung der US-Regierung. Unter Verweis auf die nationale Sicherheit sollte der Export der neuen Modelle untersagt werden, schreibt Anthropic im Blog.
Die Anordnung erreichte Anthropic gegen 17 Uhr amerikanischer Zeit. Die Auflage lautet eigentlich, Fable 5 und Mythos nicht mehr für nicht-amerikanische Nutzer bereitzustellen. Der Bann bezieht sich laut Anthropic aber explizit nicht nur auf das amerikanische Ausland, sondern auch auf ausländische Nutzer, die sich innerhalb der USA aufhalten.
Um die Einhaltung der Anordnung sicherzustellen, hat Anthropic die neuen Modelle für sämtliche Nutzer – also auch US-Bürger – abgeschaltet.
Die Umsetzung ist bereits aktiv. Noch befindet sich Fable 5 in der Modell-Auswahlliste des Claude-Assistenten, nutzen lässt es sich aber nicht. Erfahrungsberichte aus der Nacht zeigen, dass der Zugang plötzlich nicht mehr möglich war.
Ein Grund für die Exportkontroll-Anordnung der US-Regierung waren Hinweise auf einen möglichen Jailbreak, mit dem sich Sicherheitsvorkehrungen in Fable 5 umgehen lassen. Das Modell hat strikte Restriktionen, damit es etwa im Bereich Cyber-Sicherheit nicht verwendet wird, um Sicherheitslücken zu enttarnen.
Von dem Jailbreak hat Anthropic bislang in Gesprächen erfahren. Nach Einschätzung ist es kein universeller Jailbreak, mit dem sich sämtliche Sicherheitsvorgaben von Fable 5 umgehen lassen. Aufgrund kleinerer Schwachstellen im Modell sei es hingegen möglich, Cybersicherheitsfähigkeiten in einem sehr engen Rahmen freizuschalten. Auf diese Weise lassen sich mit Fable 5 dann Schwachstellen im Code finden. Laut Anthropic handele es sich aber um alltägliche Fähigkeiten.
These vulnerabilities all appear relatively simple, and we have found that other publicly-available models are able to discover them as well without requiring a bypass.
Weitere Details will Anthropic im Verlauf des Tages mitteilen.
Fable 5 und Mythos hat Anthropic in dieser Woche vorgestellt. Während Fable 5 eine eingeschränkte Variante des Modells für die Allgemeinheit ist, stand Mythos weiterhin nur ausgewählten Partnern im Bereich Cybersicherheit zur Verfügung. Insbesondere Mythos sorgte in den letzten Wochen für Aufsehen, weil es in der Lage ist, in bislang nicht bekanntem Ausmaß Sicherheitslücken zu entdecken.
Die Sicherheitsvorkehrungen waren bis dato aber so weitreichend, dass selbst alltägliche Aufgaben im Bereich Coding oder in anderen Gebieten wie der Biologie blockiert worden sind. Kuriose Chat-Abbrüche kursierten in den letzten Tagen auf Social Media.