// TAGESSCHAU AUSLAND — MONDO
EU-Richtlinie in Kraft: Wie sich die EU gegen KI-Gefahren wappnet
Ein Vorfall bei OpenAI hat es kürzlich gezeigt: Künstliche Intelligenz kann sich selbstständig machen. Von heute an gelten in Europa neue Regeln für Unternehmen. Dabei geht es auch um KI-generierte Bilder, Videos und Audios.
Wo steht Künstliche Intelligenz eigentlich aktuell? So zumindest sieht es der reichste Mann der Welt: KI hat den Menschen in fünf Jahren überholt, sagt Unternehmer Elon Musk nach dem spektakulären Vorfall, bei dem erstmals ein KI-Agent bei einem Sicherheitstest ausgebrochen ist und eigenständig ein anderes Unternehmen gehackt hat.
Diese KI außer Rand und Band gehört OpenAI-Chef Sam Altman. "Wir haben Singularität bereits erreicht", sagt er - also den Moment, wo KI die menschliche Intelligenz übertrifft. Und wie um das zu bestätigen, meldet nun auch die US-Firma Antrophic, dass ihr KI-Modell bei Tests ungeplant in Systeme von Unternehmen eingebrochen ist.
Interview
22.07.2026
Ein KI-Modell von OpenAI ist in Computersysteme einer anderen Firma eingedrungen. Experte Kipker ist nicht überrascht.
mehr
In Europa wiederum soll das KI-Gesetz solche Fälle verhindern, so zumindest die Theorie. In der Praxis beobachtet das KI-Büro der Kommission die in der EU tätigen Modelle, abgestuft nach Risikoklassen. Die nächste Stufe der Gesetzgebung gibt ihnen nun härtere Durchgriffsrechte, wenn die Risikoanalyse der KI-Firmen nicht ausreicht.
Den größten nächsten Schritt allerdings geht Europa jetzt in Sachen Transparenz. Eine gute Nachricht für viele User, die sich nicht wirklich fit fühlen darin, echte Bilder von KI-Material zu unterscheiden. So geht es zum Beispiel Befragten in Köln: "Ich fühle mich einfach nicht fit genug!", sagt eine Frau. Ein anderer Mann: "Die KI-Bilder sind meistens zu schön, zu ideal - und das macht mich schon misstrauisch." Ein weiterer Passant meint: "Manchmal bin ich schon verwundert, wie schnell sich das entwickelt hat, dass man es quasi immer hinterfragen muss, ob es KI ist."
Die EU will KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes verbieten.
mehr
Mit der nächsten Stufe des KI-Gesetzes gilt jetzt: Deepfakes - also veränderte Bilder, Audios und Videos - müssen sichtbar oder hörbar gekennzeichnet werden. Das gilt für öffentlich relevante, also zum Beispiel politische Inhalte, wie auch die zuletzt viel diskutierten sexualisierten Deepfakes.
Und dazu ist zum Beispiel der Hinweis: "Ich bin ein KI-Chatbot" - zum Beispiel beim Dialog mit Kunden im Chat oder am Telefon, wenn Bild und Content-Generatoren eingesetzt werden oder synthetische Stimmen - nun keine Kür mehr, sondern Pflicht.