// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
WTF: Anthropic sagt, sein Wasserzeichen funktioniere. Vielleicht. Manchmal.
Die EU will Kennzeichnung von KI-Inhalten, Anthropic befolgt die Forderung mit Verspätung. Ohne Prüfmöglichkeit und weltweit. WTF?
(Bild: Stockinq/Shutterstock.com, Bearbeitung: heise medien)
Seit zwei Wochen gilt die Kennzeichnungspflicht für mit künstlicher Intelligenz generierte Inhalte in der Europäischen Union, und schon hat Anthropic reagiert. Es ist ja nicht so, dass seit fünf Jahren bekannt wäre, dass da eine Regulierung kommt. Falls Sie Ironie bis Sarkasmus noch nicht bemerkt haben: Dies ist eine WTF-Meldung, das gehört dazu.
Selten hatte sich ein Unternehmen wie Claude-Herausgeber Anthropic solche Häme so sehr verdient, da sind wir bei heise online nicht allein – dazu gleich mehr. Schon die Art, wie die KI-Firma, die angeblich auch das gefährlichste KI-Modell der Welt entwickelt, ihre Kennzeichnung kommuniziert, ist schlicht stümperhaft. Das Highlight steckt in der Antwort in den FAQs zur Kernfrage, die Anthropic auch wörtlich so stellt: „Was belegt ein Wasserzeichen eigentlich?“
Die Antwort, mit menschlicher Intelligenz übersetzt: „Ein Wasserzeichen kann nur bestimmen, dass Claude wahrscheinlich an irgendeinem Punkt mit dem Inhalt zu tun hatte. Es kann nicht zwischen ‚Claude hat das geschrieben‘ und ‚Claude hat das bearbeitet‘ unterscheiden.“
Also, wie in der Überschrift zugespitzt: Vielleicht funktioniert das manchmal. Und nicht mal die beiden Grundfunktionen des Textgenerators könne irgendein Tool unterscheiden. Ein solches Tool gibt es übrigens noch nicht, das steht auch im Blog von Anthropic: „bald“ soll es ein API zur Erkennung des Wasserzeichens geben. Heißt also: Vertrau mir, Bruder, das Ding ist schon im Text drin, du kannst es aber nicht sehen. Kommt garantiert noch! Und, jetzt wieder wörtlich, an den „Details dieser Umsetzung“, arbeite man derzeit noch. Selbst, ob das API dann öffentlich zugänglich wird, sagt das Unternehmen noch nicht.
Ein klassisches, in Papier eingebrachtes Wasserzeichen soll man übrigens auch gar nicht auf den ersten Blick sehen können, aber es muss möglich sein. Bei Anthropics Kennzeichnung für Text ist das bisher aber gar nicht möglich. Und damit ist das Wasserzeichen, so überhaupt vorhanden, schlicht nutzlos. Wie das denn generell funktionieren soll – die Basis ist Googles zwei Jahre altes Konzept SynthID – wurde in der letzten heise show schon erklärt. Für Bilder setzt Claude andere Verfahren ein.
Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Was man Anthropic nicht unbedingt vorwerfen kann, ist die Verwendung des Begriffs „Wasserzeichen“. Der ist seit Jahren dummerweise auch für digitale Inhalte üblich, und die Kennzeichnung war bisher oft leicht zu entfernen. Aber das Wasserzeichen im Papier ist an ein Medium gebunden: Du kannst Geldscheine illegal noch so gut drucken können, solange du das richtige Papier mit Wasserzeichen und anderen Spezialitäten nicht hast, fällt die Fälschung sofort auf. Text ist, copy, paste, an nichts gebunden.