// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Blick ins Heft c’t 17/2026: KI-Fakes sicher erkennen
Mit gesundem Sprachgefühl kommt man KI-Texten heute nicht mehr auf die Schliche. Deshalb macht die EU nun aus einem Suchproblem eine Dokumentationspflicht.
Einige von Ihnen mögen womöglich nichts mehr über KI lesen (und manchmal gehts mir auch so). In diesem Fall geht es aber gar nicht um die KI selbst, sondern dass man künstliche Texte, Fotos und Töne künftig als solche sofort erkennen soll.
Die Unterscheidung ist per se gar nicht so einfach, vielleicht haben Sie auch schon den einen oder anderen Bildertest gemacht, in dem Sie auf „KI“ oder „echt“ tippen mussten – und sind bei gut gemachten künstlichen Bildern ebenso grandios gescheitert wie ich.
Seit Anfang August sollten solche Spielereien theoretisch obsolet sein, denn die EU verlangt jetzt klarere Kennzeichnungen für KI-Inhalte. Am Wort „klarere“ haben Sie wahrscheinlich schon erkannt: robuste Wasserzeichen für Texte, Bilder und Töne bleiben schwierig. Wir haben uns deshalb angeschaut, was funktioniert, wo die Erkennung noch scheitert und wer für die Kennzeichnung verantwortlich ist.
Hat diesen Text ein menschlicher Autor geschrieben oder doch ein KI-Chatbot? Noch vor wenigen Monaten hätten Sie diese Frage wohl mit Ihrem gesunden Sprachgefühl beantworten können. Heute fällt selbst Experten die Unterscheidung immer schwerer. Große Sprachmodelle schreiben flüssig, fehlerarm und stilistisch flexibel.
Wenn sich KI-generierte Inhalte nicht zuverlässig erkennen lassen, drängt sich eine andere Frage auf: Müssen sie dann nicht schon bei ihrer Entstehung als solche kenntlich gemacht werden? Viele Politiker glauben, der Malaise mit einem Etikett nach dem Motto „Achtung: KI“ beikommen zu können. Die EU ersetzt nun die Frage „Kann man es erkennen?“ durch die schwierigere Frage „Wer muss es wann und wie kenntlich machen?“
Dienste wie Pangram, Copyleaks oder Winston AI versprechen, Texte als menschlich oder KI-generiert einzustufen. Für Bilder und Videos existieren ähnliche Angebote, hinzu kommen Forschungsprojekte.
Ein Text verrät bislang nicht von sich aus, ob ihn ein Mensch geschrieben oder ein Sprachmodell formuliert hat. Er enthält lediglich Merkmale, die auf das eine oder andere hindeuten können. Dasselbe gilt für Audiodateien, Bilder und Videos. Ein KI-Detektor ermittelt seine Aussagen deshalb immer anhand von Wahrscheinlichkeiten, kann aber keine Tatsachen belegen. Wie problematisch das in der Praxis ist, hat sich an Schulen und Hochschulen gezeigt, die schriftliche Arbeiten mit KI-Detektoren überprüfen wollten. Schnell stellte sich heraus, dass viele Detektoren auch vollständig von Menschen verfasste Arbeiten als KI-generiert einstuften. Im Bildbereich sieht es kaum besser aus.
Deshalb entsteht ein Hase-und-Igel-Rennen: Während KI-Modelle immer überzeugendere Texte, Bilder und Videos generieren, versuchen Detektorhersteller, neue Erkennungsmerkmale zu finden. Einen dauerhaften Vorsprung kann bislang keine Seite für sich verbuchen.
Die EU-KI-Verordnung definiert all jene Pflichten zur KI-Transparenz, die nun auf Anbieter und Nutzer von KI-Generatoren in Europa zukommen. Sie verpflichtet diejenigen, die KI-Systeme entwickeln oder beruflich einsetzen, Informationen über die Entstehung der Inhalte bereitzustellen. Aus einem nachträglichen Suchproblem wird damit eine Dokumentationspflicht.