// HEISE ONLINE — HARDWARE & GADGET
KI-Bescheide ohne menschliches Zutun in Österreich
Amtliche Bescheide ganz ohne Beamte, erstellt von einer KI. Das wird in Österreich legalisiert. Zudem ziehen Chatbots in die Amtsstuben ein.
Behörden sollen erstinstanzliche schriftliche Bescheide mittels automatischer Regeln oder sogar Künstlicher Intelligenz (KI) ausstellen, ohne dass ein Mensch je einen Blick darauf geworfen hätte. Das gilt auch für bestimmte Verwaltungsstrafen. Entsprechende Gesetzesnovellen hat der Nationalrat, Österreichs direkt gewählte Parlamentskammer, am Mittwoch mit den Stimmen der Regierungskoalition aus ÖVP, SPÖ und NEOS beschlossen. „Wir lassen einen technologieoffenen Rahmen, in dem neue technische Möglichkeiten, unter klaren rechtsstaatlichen Regeln, eingesetzt werden können‟, sagte ÖVP-Nationalratsabgeordneter Wolfgang Gerstl in der Debatte.
Voraussetzung für vollautomatisierte Entscheidungen ist, dass die „Sache im Hinblick auf den maßgeblichen Sachverhalt, die zu lösenden Rechtsfragen und den Stand der Technik für eine vollständig automatisierte schriftliche Erledigung geeignet‟ ist, formuliert es der neue $18a des Allgemeinen Verwaltungsverfahrensgesetzes 1991 (AVG) schwammig. „Jede Verwaltungseinheit hat das für sich selbst zu entscheiden‟, setzte Gerstl auseinander. Und die Erläuterungen halten fest, dass Computer selbst dann selbsttätig entscheiden dürfen, wenn unbestimmte Gesetzesbegriffe „Ermessen oder Beurteilungsspielräume‟ eröffnen.
Eine weitere Voraussetzung ist, dass „der Behörde ein bestimmender Einfluss auf den Vorgang der vollständig automatisierten schriftlichen Erledigung zukommt‟. Gemeint sind aber gerade nicht Kontrollen der einzelnen Rechtsakte durch einen Organwalter, sondern nur Stichproben. Zudem braucht es eine dokumentierte Testphase, die grundsätzliche Möglichkeit, einzugreifen, sowie die „hinreichende technische Nachvollziehbarkeit des eingesetzten Systems‟. Letzteres meint laut Erläuterungen, dass klar sein muss, welche Daten zum Training der KI verwendet wurden.
Zudem darf die KI demnach nicht selbstlernend sein. Jede Änderung von Normen oder jede neue Rechtsprechung erfordert also neues Training, eine neue Testphase, und einen neuen Beschluss des Behördenleiters, wofür die neu trainierte KI einzusetzen ist.
Die Opposition ist nicht angetan. Für die FPÖ kritisierte Abgeordneter Markus Tschank die neuen Vorschriften als „zu unbestimmt, zu weitreichend und verfassungsmäßig fragwürdig‟. Menschliche Einschätzung könne nicht durch KI ersetzt werden. Für die Grünen beklagte Abgeordneter Süleyman Zorba, dass Verantwortung für Fehler ungeklärt sei und nicht das Parlament, sondern die jeweilige Behörde bestimme, wo Automatisierung zum Einsatz komme.
Auf vollautomatisch erstellten schriftlichen Bescheiden prangt dann auch kein Name einer verantwortlichen Person mehr. Stattdessen muss die Behörde darauf hinweisen, dass der Rechtsakt vollautomatisch erstellt wurde. Sofern es sich um keine Strafverfügung handelt, können Betroffene zwei Wochen lang Vorstellung erheben, mit oder ohne Begründung, was den Bescheid außer Kraft setzt. Damit möchte Österreich Artikel 22 der Datenschutzgrundverordnung Genüge tun, der Bürgern das Recht gewährt, gerade keinen vollautomatischen rechtlichen Entscheidungen unterworfen zu werden. Die Behörde kann dann, wenn sie möchte, einen ganz neuen Bescheid erlassen – aber nur durch einen Menschen. In Berufungsverfahren sind vollautomatische Bescheide nicht vorgesehen.
Verwirrender Weise nutzt der Gesetzgeber hier das Wort Vorstellung. Traditionell beschreibt der juristische Begriff der Vorstellung ein remonstratives Rechtsmittel. Dabei wird der angefochtene Rechtsakt nicht durch die übergeordnete Instanz überprüft: Vielmehr muss die selbe Instanz, die die angefochtene Entscheidung getroffen hat, ermitteln. Dann kann sie ihre Entscheidung abändern oder darauf beharren, was in der Regel den Weg zur Berufung an eine übergeordnete Behörde eröffnet.
Nur wenn die Behörde nach Vorstellung kein Ermittlungsverfahren durchführt, tritt der Bescheid außer