// HEISE ONLINE — HARDWARE & GADGET
Hirschhausen zu Deepfake-Problematik.: „Wie lange wollen wir da noch zugucken?“
KI-generierte Deepfakes mit bekannten Ärzten und Medienpersönlichkeiten verbreiten sich. Sie machen es schwer, echte Infos von Betrug zu unterscheiden.
Andreas Arntzen, CEO des Wort & Bild Verlags, Dr. Eckart von Hirschhausen und Anna-Lena von Hodenberg von HateAid
KI-generierte Deepfakes mit bekannten Ärztinnen, Ärzten und Medienpersönlichkeiten werden zunehmend genutzt, um fragwürdige Gesundheitsprodukte glaubwürdig wirken zu lassen. Für Nutzerinnen und Nutzer wird es damit schwieriger zu erkennen, ob ein Video, eine Stimme oder ein angebliches Expertenzitat echt ist – oder Teil einer betrügerischen Werbekampagne.
„Was auf uns zukommt, ist so viel größer als das, über das wir momentan diskutieren. Und ich glaube, dass es ein riesiges gesellschaftliches Thema sein wird […]. Es ist nicht nur gesundheitsgefährdend, sondern auch demokratiegefährdend“, sagte Andreas Arntzen, Vorsitzender der Geschäftsführung der Wort & Bild Verlagsgruppe, bei einer Diskussionsrunde zur Initiative #StopMedFakes der Apotheken Umschau.
Ein bekanntes Gesicht, eine vertraute Stimme oder ein vermeintlich medizinisch fundierter Rat reichen oft aus, um einer Anzeige Glaubwürdigkeit zu verleihen. Genau darauf setzen Anbieter zweifelhafter Abnehmprodukte, Nahrungsergänzungsmittel und angeblicher Wundermittel. Sie verwenden Bilder, Namen und Stimmen bekannter Ärztinnen, Ärzte, Journalistinnen oder Wissenschaftsjournalisten, um den Eindruck zu erwecken, ein Produkt sei medizinisch geprüft oder öffentlich empfohlen worden.
Oft handelt es sich um manipulierte Inhalte: Ausschnitte aus echten Interviews werden in neue Zusammenhänge gesetzt, Bilder nachbearbeitet oder Stimmen mit Künstlicher Intelligenz imitiert. Die Personen, die darin zu sehen oder zu hören sind, haben das beworbene Produkt häufig nie getestet, empfohlen oder überhaupt erwähnt.
Das Problem ist damit nicht nur ein Fall von Identitätsmissbrauch, sondern Teil eines skalierbaren Werbe- und Betrugsmodells: Mit automatisiert erzeugten Anzeigen, Zielgruppenansprache und täuschend echt wirkenden Landingpages lassen sich Fakes schnell vervielfältigen und ausspielen. Damit wird eine Unterscheidung schwieriger, die lange selbstverständlich schien: Ist das, was ich sehe, echt? Hat diese Person das wirklich gesagt? Ist das eine journalistische Information, Werbung – oder gezielte Täuschung?
Arntzen zufolge gehe es nicht um wenige isolierte Anzeigen oder um einen einzelnen unseriösen Online-Shop. Gesundheitsbezogene Falschinformationen erreichten über soziale Netzwerke, Suchmaschinen und digitale Werbeumfelder ein großes Publikum. Mit den technischen Fortschritten bei KI-generierten Bildern, Videos und Stimmen wachse zudem die Geschwindigkeit, mit der solche Inhalte produziert und verbreitet werden könnten.
Wer eine große Reichweite habe, müsse verständlich erklären, wie Gesundheitsfakes funktionieren und warum sie gefährlich werden können. Aufklärung sei dabei auch Teil des Verbraucherschutzes. Die Folgen betreffen nicht nur Personen, deren Gesicht oder Stimme missbraucht wird. Wer ein vermeintliches Wundermittel bestellt, kann Geld verlieren, möglicherweise gesundheitsschädliche Produkte einnehmen oder eine wirksame Behandlung verzögern beziehungsweise abbrechen. Die Grenze zwischen einem unseriösen Verkaufsversprechen und einem realen Gesundheitsrisiko kann dabei schnell verschwimmen.
Dr. Julia Fischer, Ärztin und Medfluencerin, berichtete von gefälschten Anzeigen, in denen ihr Gesicht für angebliche Abnehmprodukte eingesetzt wurde. Darin würden teils spektakuläre Studienergebnisse angepriesen oder bekannte Persönlichkeiten als vermeintliche Unterstützer präsentiert. Die Absurdität mancher Zusammenstellungen sei auf den ersten Blick erkennbar, sagte Fischer. Zugleich zeige die Verbreitung solcher Inhalte, dass sie bei vielen Menschen dennoch funktionieren. Das liege auch daran, dass Gesundheitsfragen selten rein sachlich entschieden würden. Krankheit, Übergewicht, Schmerzen oder die Angst vor ein