// TAGESSCHAU AUSLAND — MONDO
Tech-Bosse warnen UN-Sicherheitsrat vor KI
Die Chefs der größten US-amerikanischen KI-Firmen OpenAI und Anthropic, Altman und Amodei, warnen weiter vor ihrer eigenen Technologie. Vor dem UN-Sicherheitsrat boten beide an, an stärkerer Regulierung mitzuwirken.
Um den Anwesenden im UN-Sicherheitsrat klarzumachen, wie schnell sich Künstliche Intelligenz (KI) entwickelt, blickt OpenAI-Chef Sam Altman ziemlich genau drei Jahre zurück. Damals sei KI "ganz ok" beim Lösen von Grundschul-Matheaufgaben gewesen. Ein Jahr später konnte sie bereits mit Oberstufenschülern mithalten.
Vergangenen Sommer erreichte die KI von OpenAI das Niveau einer Goldmedaille bei einem der renommiertesten Mathematikwettbewerbe. Heute sei sie sogar in der Lage, sogenannte Millennium-Probleme zu lösen.
FAQ
14.09.2026
Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine Debatte um schärfere Regeln entbrannt.
mehr
Das Risiko, das Sam Altman sieht: "KI könnte sich so schnell weiterentwickeln, dass kein Mensch mehr folgen oder eingreifen kann, wenn nötig." Außerdem sieht der Chef von OpenAI die Gefahr einer Machtkonzentration bei einigen wenigen Unternehmen oder Ländern.
Auch Dario Amodei, Chef des KI-Unternehmens Anthropic, sieht diese Gefahren. Er warnt zusätzlich vor dem Missbrauch durch Terroristen, die mithilfe von KI biologische Waffen bauen könnten. "Bei unsachgemäßem Umgang könnte Künstliche Intelligenz zum Risiko für die gesamte Menschheit werden", warnt Amodei weiter.
Die Forderungen nach Regulierungen für KI werden laut - auch ein sogenannter Notschalter wird diskutiert.
mehr
Dass die großen KI-Unternehmen inzwischen selbst vor ihrer Technologie warnen, findet Silicon-Valley-Experte Tom Ford begrüßenswert. Er vermutet allerdings, dass das nicht ganz uneigennützig geschieht: "Ich nehme das denen schon ab, dass sie da ernsthafte Bedenken haben und es ein paar überraschende Ergebnisse gab, die sie transparent an die Öffentlichkeit bringen wollen", sagt Ford.
Aber: "Zum anderen wollen sie aber auch die Richtung vorgeben. Sie wollen nicht ertappt werden und dann letztlich mit rechtlichen Maßnahmen konfrontiert werden, sondern sie wollen da natürlich mitmachen und mitgestalten."