// TAGESSCHAU WIRTSCHAFT — FINANZA
Australien will nach Hackerangriff strengere Regeln für KI-Firmen
Ein KI-Sicherheitsvorfall hat kürzlich einen Schock in Australien ausgelöst - jetzt reagiert die Regierung: Die Regeln für KI-Entwickler sollen verschärft werden. Auch im Strafrecht werden Änderungen geprüft.
Australien will die Sicherheitsvorschriften für KI-Entwickler verschärfen. Die Regierung reagiert damit auf einen schwerwiegenden Hackerangriff durch einen KI-Agenten auf eine Regierungswebsite im Juni.
Nach einer Untersuchung des Vorfalls wurden 18 Empfehlungen ausgesprochen, die die Regierung nach Angaben von Premierminister Anthony Albanese vollständig umsetzen will. "Unsere Aufgabe ist es, dafür zu sorgen, dass wir die Entwicklung der Künstlichen Intelligenz gestalten - und nicht die Künstliche Intelligenz uns", sagte der Regierungschef.
Immer wieder gab es sicherheitsrelevante Vorfälle. So versuchten KI-Systeme in andere Systeme zu gelangen.
mehr
Konkret soll eine KI-Aufsichtsbehörde eingerichtet werden, die Sicherheitskontrollen überwachen und bei Verstößen drastische Sanktionen verhängen kann. Außerdem sollen mögliche Änderungen des Strafrechts geprüft werden, um schwerwiegendes Fehlverhalten im Zusammenhang mit Künstlicher Intelligenz besser ahnden zu können.
Die neuen Vorgaben sollen sicherstellen, dass KI-Unternehmen mögliche Gefahren frühzeitig erkennen, ihre Systeme besser absichern und bei Problemen transparent handeln. Es soll verpflichtend werden, Sicherheitsvorfälle im Bereich KI zu melden.
Auch die Kontrolle durch unabhängige Experten und die Veröffentlichung von Sicherheitskonzepten sollen verpflichtend werden. "Das Gesetz muss einer sich sehr schnell verändernden Welt voraus sein und in einigen Fällen aufholen", erklärte Albanese.
Im Fokus der Konferenz steht die Frage, wie Deutschland und Europa bei KI wettbewerbsfähig bleiben können.
mehr
Die Maßnahmen gehen auf einen Sicherheitsvorfall im Juni zurück: Ein autonomer KI-Agent des Unternehmens OpenAI hatte unbefugt ein australisches Regierungsportal gehackt, das unter anderem Statistiken über die staatliche Krankenversicherung des Landes bereitstellt.
Die Webanwendung hatte dem Agenten mehrfach den Zugriff verwehrt - dieser setzte sich aber darüber hinweg und fand schließlich selbst einen Weg ins System. Dabei konnte er auch auf nicht öffentliche Dateien zugreifen. Nach bisherigen Erkenntnissen sollen jedoch keine persönlichen Informationen abgegriffen worden sein.