// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Anthropic hat angeblich untersagte KI-Forschung an Biowaffen unterbunden
Im ersten umfangreichen Bericht zu Versuchen, Anthropics KI zu missbrauchen, schlägt die Firma einen weiten Bogen zu ganz unterschiedlichen Themenkomplexen.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Anthropic hat in einem umfangreichen Bericht dargelegt, wie in den vergangenen acht Monaten verschiedene Versuche unterbunden wurden, die eigene KI-Technik für die Forschung an biologischen Waffen, die Entwicklung konventioneller Waffen und anderen Missbrauch zu nutzen. Der Bericht „Detecting and countering misuse of AI“ ist der erste derartige von Anthropic aus diesem Jahr, die Vorgänger erschienen alle 2025. Insgesamt geht es um erkannte und verhinderte missbräuchliche Nutzung in den Bereichen „Cyberoperationen, Einflussnahme, Überwachung, Betrug und Schwindel, biologischer Missbrauch, Entwicklung konventioneller Waffen und Destillation“. Genutzt wurden Modelle der Familien Haiku, Sonnet und Opus, aber nicht Mythos oder Fable.
Im Bereich „biologischer Missbrauch“ umfassen die aufgeführten Beispiele unter anderem den Versuch, mithilfe von Claude einen Antrag auf finanzielle Förderung einer Gain-of-function-Forschung zu einem bestimmten Virus zu stellen. So werden Versuche bezeichnet, die Übertragbarkeit und/oder Virulenz von Krankheitserregern zu erhöhen. Die Forschung sollte demnach an einer militärischen Einrichtung erfolgen. In einem anderen Fall habe jemand über eine VPN-Verbindung und angemeldet über eine anonyme E-Mail-Adresse tausende Nachrichten mit Claude zur Forschung an einem hochansteckenden Grippevirus ausgetauscht. Anthropic spricht in diesen und anderen Fällen von nicht eindeutigen Hinweisen auf Missbrauch, trotzdem habe man das aus Vorsicht unterbunden.
In Bezug auf den Versuch, die KI-Technik für die Entwicklung konventioneller Waffen zu benutzen, schreibt Anthropic von Akteuren aus dem Norden des Kriegslands Jemen, die Raketen weiterentwickeln wollten. Die hätten ihre Anfragen aufgeteilt, um den wahren Hintergrund zu verschleiern. Die meisten seien blockiert worden, aber nicht alle. In einem anderen Fall seien Versuche aus China entdeckt worden, Anti-Torpedo-Waffen mithilfe von Claude zu verbessern. „Mutmaßlich freiberufliche Akteure aus Russland“ hätten wiederum versucht, mithilfe der KI-Technik einen autonomen Kamikaze-Drohnenschwarm zu entwickeln, der per FPV („First-Person-View“) gesteuert wird.
In Bezug auf sogenannte Destillation wirft Anthropic chinesischen Rivalen in dem umfangreichen Bericht vor, Anfragen heimlich zu Claude umgeleitet zu haben, statt sie von der eigenen Software beantworten zu lassen. Im Rahmen dieses Vorgehens seien auch Daten staatlicher Stellen in China und Russland an Anthropic gegangen. Beispielhaft führt die KI-Firma aus, dass jemand mit Verbindungen zur chinesischen Armee Aufnahmen von Überwachungskameras zur Auswertung an das KI-Modell Kimi von Moonshot geschickt habe. Die seien dann an Anthropics KI weitergeleitet worden. Allein von diesem KI-Anbieter seien zwischen Mai und Juli mehr als 23 Millionen Interaktionen bei Anthropic beobachtet worden.
Solch ein Vorgehen will Anthropic auch beim Rivalen Deepseek beobachtet haben, hier geht es um rund 12 Millionen Interaktionen über einen Zeitraum von 14 Tagen. Die Vorwürfe könnten jetzt Zweifel an der Technik der chinesischen Anbieter schüren. Die sorgen immer wieder für Zweifel am Geschäftsmodell der Konkurrenz aus den USA, weil deutlich günstigere chinesische KI-Modelle augenscheinlich vergleichbar leistungsfähig sind. Aus den USA wird schon länger der Vorwurf erhoben, dass aus China in großem Umfang US-Angebote genutzt werden, um chinesische KI-Technik anzulernen.
Der Missbrauchsbericht von Anthropic umfasst noch zahlreiche weitere Beispiele, das PDF-Dokument ist über 150 Seiten lang. Es handle sich nicht um den typischen Missbrauch, sondern Beispiele für neuartige schädliche Aktivitäten, die man aufgedeckt habe. Man verö