// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
Markierte KI-Texte: ChatGPT folgt Claude bei Erkennung per Wasserzeichen
OpenAI plant, künftig auch ChatGPT-Texte mit unsichtbaren Wasserzeichen zu markieren, Anthropic nutzt solch ein Verfahren bei neuen Claude-Modellen bereits seit Anfang August. Die Kennzeichnung steckt in der Wortwahl und soll auch Kopiervorgänge überstehen, kann den Einsatz einer KI aber nicht zweifelsfrei belegen.
Seit Anfang August greifen Vorgaben des bereits im März 2024 beschlossenen EU AI Act, die maschinenlesbare Kennzeichnungen für KI-generierte Inhalte vorsehen. Anthropic zählte zu den ersten großen Anbietern, die darauf reagierten: Neue Claude-Modelle, die seit dem 2. August 2026 in der EU erscheinen, unterstützen entsprechende Markierungen bereits zum Start. Eingeführt hat Anthropic die Technik allerdings weltweit und nicht ausschließlich für die EU. Da die Umsetzung auf Modellebene erfolgt, greift sie neben der Claude-App auch über die API und weitere Dienste. Mittlerweile arbeitet das Unternehmen außerdem daran, ältere Modelle mit der Kennzeichnung auszustatten. Die erwartbare Diskussion brachte sowohl Kritik als auch Zustimmung hervor.
Für die Kennzeichnung setzt Anthropic bei Claude auf zwei unterschiedliche Verfahren. Von der künstlichen Intelligenz erzeugte Texte erhalten ein unsichtbares, direkt eingebettetes Wasserzeichen. Bei unterstützten Dateien wie Bildern ergänzt der Anbieter stattdessen signierte Herkunftsinformationen nach dem C2PA-Standard. Diese Content Credentials geben Aufschluss über Herkunft und Verarbeitung einer Datei und können Hinweise auf nachträglich vorgenommene Veränderungen liefern.
Bei Texten basiert das Wasserzeichen dagegen auf der Funktionsweise von Sprachmodellen, die fortlaufend Wahrscheinlichkeiten für das jeweils nächste Wort berechnen. Für die Kennzeichnung werden einige gleichwertige Formulierungen geringfügig bevorzugt, während andere eine niedrigere Gewichtung erhalten. Über längere Texte hinweg entsteht auf diese Weise ein statistisches Muster, das für Leser unsichtbar bleibt. Nach Angaben von Anthropic kommen dabei weder versteckte Zeichen noch zusätzliche Tokens zum Einsatz; Inhalt, Qualität und Lesbarkeit sollen unverändert bleiben. Informationen, mit denen sich ein Text einer bestimmten Person, Organisation oder Unterhaltung zuordnen ließe, enthält das Wasserzeichen ebenfalls nicht.
Ein vergleichbares Prinzip will nun auch Konkurrent OpenAI für ChatGPT einsetzen, berichtet Tagesschau.de. Zur Erkennung wird demnach ein geheimer Schlüssel benötigt, der festlegt, auf welche Weise die Wahrscheinlichkeiten während der Texterzeugung beeinflusst wurden. Eine Veröffentlichung dieses Musters würde es ermöglichen, die Kennzeichnung gezielt zu entfernen oder umgekehrt fremden Texten hinzuzufügen.
Grenzen setzt der Technik unter anderem die Textlänge. Waldemar Berchtold, Gruppenleiter für Multimedia-Sicherheit am Fraunhofer-Institut für Sichere Informationstechnologie in Darmstadt, erklärt gegenüber dem SWR, dass Einbettung und Erkennung erst bei Texten mit ungefähr 200 bis 300 Wörtern zuverlässig funktionieren. Umfangreichere nachträgliche Umformulierungen verändern zugleich das statistische Muster. Zwar soll auch Anthropics Verfahren Kopiervorgänge und leichte Änderungen überstehen, einen eindeutigen Nachweis für die Verwendung von Claude kann es jedoch nicht erbringen. Detektoren können deshalb letztlich lediglich eine Wahrscheinlichkeit ausgeben. Schlägt ein solches System an, bedeutet das zudem nicht zwangsläufig, dass ein Text vollständig von einer KI erzeugt wurde: Bereits Korrekturen oder stilistische Verbesserungen könnten dafür ausreichen, selbst wenn der Verfasser den Ursprungstext selbst geschrieben hat. Als forensischer Beweis lässt sich das System somit nur schwer nutzen.
Neben der Erfüllung regulatorischer Anforderungen bringen Wasserzeichen den KI-Anbietern auch noch einen weiteren Vorteil. Sie ermöglichen es, eigene KI-generierte Inhalte zu erkennen und zu verhindern, dass diese unbemerkt als vermeintlich von Menschen erstelltes Material erneut in Trainingsda