// COMPUTERBASE — MONDO
Notbremse für KI-Modelle: Anthropic will Stopp erst bei 1 Mrd. Dollar Schäden oder 50 Opfern
Wie die KI-Unternehmen angesichts der Agenten-Vorfälle reguliert werden sollen, wird in den USA derzeit hitzig diskutiert. Nun hat Anthropic ein Regelwerk vorgeschlagen, durch das Behörden Modelle blockieren könnten – allerdings mit enormen Hürden.
Von dem Entwurf berichtet Politico. Den Plänen von Anthropic zufolge könnte eine Behörde demnach die Freigabe oder den Einsatz eines Modells blockieren, wenn ein vorhersehbares und unmittelbares Risiko für Schäden von mehr als 1 Milliarde US-Dollar oder für mehr als 50 Tote oder Schwerverletzte besteht. Die Risiken beschränken sich auf drei Bereiche: Das Erstellen biologischer Waffen, den Kontrollverlust über ein Modell und Cyberattacken.
Laut Politico orientiert sich der Entwurf an kalifornischen KI-Gesetzen wie dem SB 53.
Kontrolliert werden sollen die KI-Labore dem Entwurf zufolge regelmäßig von externen Prüfern. Wenn diese Kontrolleure ein unmittelbares Risiko entdecken, müssen sie es innerhalb von 72 Stunden nach Abschluss der Prüfung der US-Handelsbehörde melden.
Die Handelsbehörde stellt dann einen Antrag vor Gericht. Am Ende sind es also Richter, die entscheiden, ob ein Modell blockiert wird. Andere Behörden dürften solche Beschlüsse nicht erlassen.
Im Sommer nutzte die Trump-Administration noch Exportkontrollregeln, um Fable 5 vom Markt zu nehmen und den Start von GPT-5.6 zu verzögern. Sowohl Anthropic als auch OpenAI waren mit der Vorgehensweise nicht zufrieden. Naheliegend ist also, dass Anthropic ein Regelwerk bevorzugt, das der US-Regierung weniger Spielraum gibt.
Der Gesetzentwurf beinhaltet laut Politico noch einige weitere Pflichten für KI-Entwickler. Dazu zählen das Erstellen von internen Sicherheitsrichtlinien, Transparenzberichten für neue Frontier-Modelle, Whistleblower-Schutz und das Melden von kritischen Sicherheitsvorfällen an die US-Handelsbehörde.
Wenn der Kongress so ein Gesetz beschließen sollte, würden einige KI-Gesetze der US-Bundesstaaten ersetzen. Auch ein Aspekt, der im Sinne von Anthropic ist. Vereinheitlichte Regeln sind eher im Sinne der Tech-Konzerne als ein rechtlicher Flickenteppich, bei dem sich die Vorgaben je nach Bundesstaat unterscheiden.
US-Präsident Donald Trump hat bislang keinerlei Interesse für eine striktere Regulierung der KI-Konzerne. Im Weißen Haus verständigte sich die US-Administration mit den Tech-Konzernen im September auf Vorgaben, die im Kern auf einer Selbstregulierung der Unternehmen basieren.
Diverse Kongressabgeordnete fordern aber striktere Regeln, die – wie im Fall des Senators Bernie Sanders – bis zu einem Bann von Superintelligenz-Systemen reichen. Andere arbeiten aber an Entwürfen, die striktere Regeln und eine bessere Aufsicht vorsehen.