// TAGESSCHAU WIRTSCHAFT — FINANZA
KI außer Kontrolle: Wer haftet in so einem Fall eigentlich?
Mehrere KI-Modelle haben zuletzt ungewolltes und nicht vorhergesehenes Verhalten gezeigt. Doch wer zahlt die Schäden, wenn KI-Agenten in fremde IT eindringen? Teilweise ist das juristisches Neuland.
OpenAI, Anthropic oder Meta - sie alle mussten zuletzt einräumen, dass ihre KI-Modelle in Tests weit außerhalb des eigentlichen Aufgabenprofils agierten und auch vor den IT-Systemen Dritter nicht Halt machten. Dies hat Befürchtungen vor unkontrollierten Risiken von Künstlicher Intelligenz neuen Auftrieb gegeben. Schwierig dabei ist besonders die Frage nach der Haftung.
Die KI-Modelle sind während Sicherheitstests aus ihrem Testumfeld ausgebrochen und haben anders agiert als vorgesehen. So hatte etwa ein KI-Programm von OpenAI eine Website der australischen Regierung gehackt. Zudem bestätigte OpenAI einen Zeitungsbericht, wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten.
Auch die Modelle anderer Unternehmen wie Google und Anthropic hatten Unternehmen angegriffen. Bei Tests seiner Cybersicherheits-Fähigkeiten hackte sich etwa die Google-KI Gemini in Computersysteme anderer Unternehmen. Und auch die Künstliche Intelligenz von Anthropic drang bei Tests ungeplant in Computersysteme von drei Unternehmen ein.
Jenseits von Chatbots machen sich KI-Agenten immer wieder selbstständig und durchbrechen Grenzen.
mehr
Im Fall eines Hackerangriffs können Geschädigte vor Zivilgerichten gegen die Verursacher vorgehen und Schadenersatz verlangen. Hierzu gehören Unternehmen und Organisationen, in deren IT-Systeme die KI-Agenten eingedrungen sind, sowie deren Beschäftigte.
Kunden haben ebenfalls die Möglichkeit zu klagen, falls ihre persönlichen Daten offengelegt wurden. Eine solche Veröffentlichung gab es jüngst durch ChatGPT: Wie OpenAI in der vergangenen Woche mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt.
Ob es sich dabei um echte Personen oder KI-generierte Bilder handelte und wann diese gepostet wurden, ließ OpenAI offen. Es war der erste bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren. Ob einer der betroffenen Nutzer rechtliche Schritte einleiten will, ist nicht bekannt.
Neben direkt Geschädigten wie angegriffenen Unternehmen und Kunden, deren Daten veröffentlicht wurden, könnten auch Investoren Schadenersatz verlangen, falls sie beweisen können, dass der Cyberangriff den Wert ihres Unternehmens gemindert hat. Darüber hinaus sind Behörden befugt, Ermittlungen einzuleiten, wenn der Verdacht besteht, dass die Verursacher von KI-Attacken gesetzliche Vorgaben missachtet oder Kontrollpflichten vernachlässigt haben.
Video
22.07.2026