// TAGESSCHAU WIRTSCHAFT — FINANZA
Wasserzeichen markieren bald auch KI-Texte von ChatGPT
Stammt dieser Text von einer Künstlichen Intelligenz? Aufschluss geben können Wasserzeichen, die KI-generierte Texte markieren. OpenAI hat das nun für ChatGPT angekündigt.
Seit Anfang August gilt ein neues Gesetz des EU AI-Acts, das von Maschinen lesbare Kennzeichnungen für KI-generierte Inhalte fordert. KI-Anbieter wie Anthropic und Google haben entsprechende Wasserzeichen angekündigt oder nutzen sie teilweise schon.
Wer heute im Netz unterwegs ist, liest sehr wahrscheinlich jeden Tag KI‑Texte - ohne es zu merken. Chatbots schreiben Produktbeschreibungen, Bewerbungen, Uni-Hausarbeiten, sogar politische Stellungnahmen. Wasserzeichen für KI-Texte sollen künftig kenntlich machen, ob ein Text von einer Maschine stammt.
Beim Einbau eines Wasserzeichens wird eine Besonderheit der Sprache genutzt: Häufig gibt es mehrere Formulierungen für denselben Inhalt, etwa "Ich gehe heute ins Kino" statt "Ich möchte heute ins Kino gehen". In diesen sprachlichen Freiräumen kann die KI bei der Texterzeugung unauffällig gesteuert werden.
Immer mehr mutmaßlich KI-generierte Kinderbücher tauchen bei Amazon auf.
mehr
Normalerweise berechnet das Modell für jedes mögliche nächste Wort eine Wahrscheinlichkeit und "würfelt" dann, welches gewählt wird. Für das Wasserzeichen wird dieser Wahrscheinlichkeitswürfel leicht "gezinkt": Bestimmte Alternativwörter, die den Sinn nicht verändern, werden minimal bevorzugt, andere minimal benachteiligt. So entsteht ein statistisches Muster im Text, das für Leserinnen und Leser nicht sichtbar ist.
Diese leichte Veränderung wird für jedes Wort neu berechnet, deswegen bleiben die Veränderungen über den ganzen Text unsichtbar. Die Anpassung der KI-Texte sind sowohl für Menschen als auch Maschinen selbst mit langem Nachrechnen nicht zu erkennen. Ob ein Text ein solches Wasserzeichen trägt, lässt sich später nur erkennen, wenn man den geheimen "Schlüssel" kennt, der beschreibt, wie genau der "Würfel" manipuliert wurde.
Warum das so ist, erklärt Waldemar Berchtold, Gruppenleiter für Multimedia Sicherheit am Fraunhofer Institut für Sichere Informationstechnologie in Darmstadt: "Wenn es jeder nachvollziehen kann, kann er das Wasserzeichen entfernen, kann es sozusagen rückgängig machen, und er kann auch ein Wasserzeichen erzeugen."
Anthropic will Texte seines Chatbots Claude mit einem unsichtbaren Wasserzeichen versehen.
mehr
Berchtold gibt zu Bedenken, dass Wasserzeichen auch technische Einschränkungen haben. Zum einen müsse ein Text eine bestimmte Länge haben, damit die Wasserzeichentechnologie funktioniere. Erst ab einer Länge von ca. 200 bis 300 Wörtern funktioniere es gut, Wasserzeichen zu verstecken und zu erkennen, sagt der Forscher. Probleme gebe es zum anderen, wenn man den Text verändert: "Weil ich auch die Ausgabe verändere und meinen Stil wieder reinbringe, und damit quasi auch die Spur des KI-Generators - des Wasserzeichens - verwische."