// TAGESSCHAU AUSLAND — MONDO
Was ein Notschalter für KI bringen könnte
Die Entwicklung von KI verläuft rasant. Rufe nach Regulierungen werden laut - und nach einem sogenannten Notschalter. Doch wie könnte das funktionieren - und vor allem: Wer dürfte ihn betätigen?
Ein Notschalter für Künstliche Intelligenz klingt erstmal ziemlich einfach und sinnvoll. Die Idee: ein Modell oder einen KI-Agenten, der gefährlich wird, einfach abschalten. In der Praxis könnte das deutlich schwieriger sein, sagen Experten.
KI-Politikforscher Miles Brundage betont die Schwierigkeiten bei diesem Vorhaben. Wenn zum Beispiel in ein paar Jahren alle möglichen Krankenhäuser KI verwendeten und man feststelle, dass mit dem neuesten Modell etwas nicht in Ordnung sei, könnte das Abschalten bereits zum Problem werden, so Brundage im Gespräch mit dem US-Sender Bloomberg. In einem solchen Fall könnten möglicherweise Menschen sterben und das Abschalten damit kaum mehr eine Option sein.
FAQ
14.09.2026
Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine Debatte um schärfere Regeln entbrannt.
mehr
Auch technisch ist die Frage, ob das Abschalten von einzelnen Datenzentren ausreichen würde - das könnte bestenfalls wohl bei begrenzten Problemen funktionieren. Oder ob es eine Hardware-Lösung zum Beispiel direkt auf den verwendeten Chips bräuchte.
KI-Sicherheitsforscher Mark Nitzberg von der Universität Berkeley sagte beim Sender CNBC: "Jeder Chip könnte so geliefert werden, dass er jede Minute einen bestimmten Code braucht und wenn der Code nicht kommt, dann arbeitet der Chip nicht mehr."
Der Wettlauf um die Entwicklung von KI muss dringend verlangsamt werden, meint Anthropic-Chef Amodei.
mehr
Eine weitere wichtige Frage: Wer entscheidet darüber, ob der Notschalter tatsächlich aktiviert wird? Viele Experten und Politiker wollen diese Entscheidung nicht den Unternehmen überlassen.
Der KI-Pionier Geoffrey Hinton geht noch einen Schritt weiter. Er gibt sich wenig optimistisch, dass das Konzept auch dann noch funktionieren würde, wenn KI erstmal schlauer sei als Menschen, betont er beim US-Sender CNN. KI könne sehr überzeugend sein- und werde den Verantwortlichen einreden, es gebe keinen Grund zum Abschalten.