// TAGESSCHAU WIRTSCHAFT — FINANZA
Macht- und Gewinnstreben gefährden KI-Sicherheit
Seit Monaten warnen Experten: KI ohne Kontrolle schadet, könnte letztlich die Menschheit gefährden. Doch die Idee globaler Regeln für mehr Sicherheit droht an Macht- und Gewinnstreben zu scheitern.
Autonome KI-Agenten und -Modelle, die aus ihren abgesicherten Umgebungen ausgebrochen sind und reale Systeme im Internet angegriffen haben: Solche Unfälle mit Künstlicher Intelligenz (KI) sollen zwar nur bei Tests vorgekommen sein. Aber es gab sie in den vergangenen Monaten laut KI-Anbietern OpenAI oder Anthropic offenbar vermehrt.
Manche wittern dahinter Marketing - ein öffentliches Schaulaufen darum, wer die intelligenteste KI entwickelt hat. Silja Vöneky, Professorin für Völkerrecht und Rechtsethik an der Albert-Ludwigs-Universität Freiburg, dagegen sagt im Science Media Center: "KI-basierte extreme Risiken und die Warnungen selbst im Jahr 2026 noch als 'Marketing' abzutun, ist meines Erachtens extrem fahrlässig."
Es gebe keine vergleichbar machtvolle Technologie, die so wenig und so unzureichend in ihren Hochrisikobereichen reguliert sei wie Hochrisiko-KI-Modelle, so die Expertin. Nun haben die Chefs der größten US-amerikanischen KI-Firmen vor dem UN-Sicherheitsrat vor den Risiken der Technologie gewarnt.
Die Chefs der größten US-amerikanischen KI-Firmen OpenAI und Anthropic warnen weiter vor ihrer eigenen Technologie.
mehr
Drastische Warnungen einzelner Wissenschaftler, dass KI-Modelle die Menschheit schon bald auslöschen könnten, halten die meisten Fachleute zwar für übertrieben. Aber Barbara Engels vom Institut der deutschen Wirtschaft (IW) Köln findet die grundsätzlichen Sicherheitsbedenken nachvollziehbar. "Der gefährliche Wettlauf um immer leistungsfähigere KI-Systeme ist real", sagt sie gegenüber der ARD-Finanzredaktion.
"Unternehmen stehen unter hohem Wettbewerbsdruck und haben deshalb einen Anreiz, schneller mit einem Modell auf den Markt zu gehen, als es vielleicht für gründliche Tests und Sicherheitsvorkehrungen sinnvoll wäre", so Engels. Deshalb brauche es möglichst weltweit verbindliche Sicherheitsanforderungen und unabhängige Prüfungen von KI-Systemen.
Rechtsprofessorin Vöneky meint: "Rechtlich verbindlich können KI-Hochrisikomodelle durch nationales Recht, EU-Recht oder Völkerrecht reguliert und eingehegt werden."
Immer wieder gab es sicherheitsrelevante Vorfälle. So versuchten KI-Systeme in andere Systeme zu gelangen.
mehr
KI-Expertin Engels verweist auf erste Ansätze: "Wir haben in der EU mit der KI-Verordnung durchaus schon eine Regulierung, die sich Hochrisikosysteme anschaut. Das Problem ist, dass diese Regulierung nochmal verschoben wurde auf das nächste Jahr."