// TAGESSCHAU WIRTSCHAFT — FINANZA
Unkontrollierbare Risiken: KI-Bosse in den USA wollen Entwicklung bremsen
Der Wettlauf um die Entwicklung von KI muss dringend verlangsamt werden, meint der Chef von Anthropic und fordert Regulierungen. Unterstützung bekommt er ausgerechnet von OpenAI-Chef Altman und Tech-Unternehmer Musk.
Ein ehemaliger Mitarbeiter der KI-Konzerne OpenAI und Anthropic, Jacob Coxon, hatte die Diskussion um die Risiken Künstlicher Intelligenz in den vergangenen Tagen in den USA wieder heftig angefacht. Coxon hatte Szenarien prophezeit, die die Menschheit auslöschen könnten, wie die Entwicklung von Biowaffen- und tödlichen Infrastruktur-Attacken.
Anthropic hatte in einem Sicherheitsbericht vergangene Woche selbst von Versuchen gesprochen, sein KI-Modell Claude für "böswillige Aktivitäten" zu nutzen, die etwa die Entwicklung biologischer Waffen unterstützen könnten.
Jetzt legte Anthropic-Chef Dario Amodei in einem Essay nach und pflichtete seinem Ex-Mitarbeiter Coxon grundsätzlich bei, wie er im Sender CNN ausführte. KI könnte sich so schnell weiterentwickeln, dass ein solches System in der Lage wäre, innerhalb von sechs bis zwölf Monaten das gesamte Internet zu übernehmen, mit Folgeschäden in Milliardenhöhe.
Wie gefährlich ist Künstliche Intelligenz wirklich?
mehr
Darum sei der richtige Weg, dass die Branche zusammenarbeite und den Wettlauf um die Entwicklung Künstlicher Intelligenz verlangsame. Andererseits dürfe man auch nicht zu zögerlich werden: Dann bestünde die Gefahr, dass die falschen Kräfte die Federführung der Entwicklung übernehmen würden.
Amodei fordert KI-Unternehmen auf, Leitplanken für ein "kontrolliertes Fortschreiten an der technologischen Spitzenfront" einzuführen - etwa eine Selbstverpflichtung, externe Prüfer mit umfassenden Zugriffsrechten im eigenen Haus zu beschäftigen. So etwas gäbe es beispielsweise schon in der Finanzbranche. Amodei betont, Regierungen - ob demokratisch oder nicht - sollten sich abstimmen, um gemeinsame Sicherheitsstandards zu etablieren.
Zustimmende Äußerungen zu seinen Vorschlägen kamen im Netz binnen kurzer Zeit von OpenAI-Chef Sam Altman und Tech-Unternehmer Elon Musk. Von der US-Regierung erwartet Amodei jetzt, dass sie gemeinsam mit der Branche dafür Sorge trage, KI-Sicherheit verbindlich zu machen.
Hintergrund
22.07.2026
Erstmals soll ein KI-System eigenständig aus einer Testumgebung ausgebrochen sein. Was steckt dahinter?
mehr