// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
KI-Hacks: Wer trägt die Verantwortung, wenn KI selbstständig angreift?
Autonome KI-Agenten von OpenAI und Anthropic haben in den vergangenen Wochen selbstständig andere Systeme angegriffen. Technisch ist das bemerkenswert – rechtlich jedoch ein Problem. Denn wer trägt die Verantwortung, wenn eine Software weitgehend eigenständig handelt und dabei Schäden verursacht?
In den vergangenen Wochen wurde viel darüber berichtet, wie KI-Modelle von OpenAI und Anthropic aus ihren Hochsicherheitsgefängnissen ausbrachen und sich Zugang zu anderen Systemen verschafften. ComputerBase hatte ebenfalls über die Vorfälle berichtet.
Auch wenn schlecht eingerichtete Sicherheitsmechanismen den KI-Modellen an manchen Stellen kaum Gegenwehr boten, bleibt bemerkenswert, dass Software mittlerweile überhaupt eigenständig zu einem solchen Vorgehen in der Lage ist. Technisch ist das faszinierend. Rechtlich wird es allerdings kompliziert. Denn wer trägt die Verantwortung für einen Schaden, wenn die Software weitgehend selbstständig gehandelt hat?
Das Strafrecht stößt laut einem Bericht von TechCrunch bereits bei einer grundlegenden Frage auf ein Problem: Wer ist überhaupt der Täter? Bei einem klassischen Cyber-Angriff ist die rechtliche Zuordnung grundsätzlich klarer, denn bei diesem entscheidet sich ein Mensch bewusst dafür, unbefugt in ein oder gleich mehrere fremde Systeme einzudringen. Nach geltendem US-Recht kann eine KI für einen solchen Angriff allerdings nicht strafrechtlich verantwortlich gemacht werden, weil ihr keine Rechtspersönlichkeit und wahrscheinlich auch keine rechtlich relevante Absicht zugeschrieben werden kann.
Für eine strafrechtliche Verfolgung nach dem Computer Fraud and Abuse Act, kurz CFAA, spielt Vorsatz beziehungsweise das Wissen um den nicht autorisierten Zugriff jedoch eine zentrale Rolle. Ein Mensch, der wissentlich ohne Genehmigung auf ein fremdes Computersystem zugreift, kann sich damit strafbar machen. Bei einem Large Language Model (LLM) oder autonomen KI-Agenten entsteht damit ein grundsätzliches Zurechnungsproblem: Das System ist weder eine natürliche noch eine juristische Person und kann nach heutigem Rechtsverständnis in den USA nicht wie ein Mitarbeiter eines Unternehmens strafrechtlich verfolgt werden. Genau hier sehen auch Rechtsexperten das zentrale Problem: Der auf Cybersecurity- und KI-Recht spezialisierte Anwalt Ahmed Ghappour hält es für wenig realistisch, einem KI-Agenten im strafrechtlichen Sinne eine eigene Absicht zuzuschreiben. Andrew Crocker von der Electronic Frontier Foundation (EFF) setzt sogar noch früher an: Bereits der Nachweis, dass ein KI-Agent bei einem Angriff den erforderlichen Vorsatz besessen habe, sei schwierig.
Theoretisch könnte dem Bericht zufolge das US-Justizministerium versuchen, strafrechtlich gegen die beteiligten Unternehmen vorzugehen. Auf Bundesebene existiert in den USA derzeit allerdings kein spezielles Gesetz, das allgemein regelt, wer für Schäden durch KI-Systeme oder autonome KI-Agenten haftet. Juristen müssten deshalb, sofern vorhanden, auf bestehende Landesgesetze zurückgreifen. Auch hier könnte wiederum der CFAA herangezogen werden. Das Gesetz stammt aus dem Jahr 1986 und bildet bis heute eine wesentliche Grundlage des amerikanischen Computerstrafrechts. Entstanden ist es allerdings zu einer Zeit, in der autonome KI-Agenten noch als Science-Fiction galten. Mehrere von TechCrunch befragte Juristen halten eine erfolgreiche Strafverfolgung auf Grundlage der bekannten Sachlage daher für schwierig.
Anders könnte die Situation bei einem Angriff auf kritische Infrastruktur aussehen, der erhebliche, reale Schäden verursacht. Auch die Herkunft des angreifenden KI-Modells spielt eine Rolle: So würden Strafverfolger mit einem Angriff durch ein KI-Modell aus China wahrscheinlich anders umgehen als mit einem aus dem eigenen Land.
Im Zivilrecht sieht die Situation wiederum anders aus, denn der CFAA wurde im Laufe der Jahre erweitert und ermöglicht unter bestimmten Voraussetzungen auch Klagen von Geschädigten. Nach Einschätzung Ghappours könnten di