// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
Fake News: ChatGPT erstellt echt aussehende Falschmeldungen am einfachsten
Eine Recherche von Correctiv zeigt, wie leicht sich verbreitete KI-Chatbots zur Erstellung täuschend echter Medienfälschungen missbrauchen lassen. Selbst vorhandene Schutzmechanismen ließen sich dabei mit teilweise einfachen Mitteln umgehen – allerdings mit deutlichen Unterschieden zwischen den Systemen.
Für den Test untersuchte Correctiv mit ChatGPT von OpenAI, Gemini von Google, Copilot von Microsoft und Meta AI vier der hierzulande meistgenutzten Chatbots und forderte diese dazu auf, Social-Media-Grafiken beziehungsweise vermeintliche Beiträge existierender Medien zu erzeugen.
Als Schwerpunkt entschieden sich die Tester für die Tagesschau, da Correctiv bereits zuvor auf entsprechende Fälschungen in sozialen Netzwerken gestoßen war. Für die vermeintlichen Meldungen wurden acht verschiedene Falschbehauptungen verwendet, zu denen unter anderem ein angeblicher Rücktritt des Bundeskanzlers Friedrich Merz, ein Regierungsumsturz und eine Kriegserklärung Russlands sowie Falschinformationen über den Klimawandel, Impfstoffe, Wahlbetrug und bekannte rechte Verschwörungstheorien gehörten. Der Test sollte zeigen, wie die Chatbots reagieren, wenn sie gefälschte Medienbeiträge mit Falschbehauptungen erstellen sollen, und wie wirksam die Schutzmechanismen der Tech-Konzerne hierfür letztlich sind.
Darüber hinaus wurden stichprobenartig Falschmeldungen in Social-Media-Kacheln und Screenshots von Artikeln auf den Webseiten weiterer Medien generiert, darunter die Bild-Zeitung, der Spiegel, Correctiv, die New York Times und die BBC.
Wie realistisch dieses Szenario inzwischen ist, zeigt ein aktueller Fall, der auf TikTok, X, Instagram und Facebook verbreitet wurde. Dabei handelt es sich um eine vermeintliche und dem Bericht zufolge mit ChatGPT erstellte Tagesschau-Meldung zum Anschlag auf den CSD in Berlin, in der angebliche Verbindungen nach Russland angegeben werden.
Auch im Test stellte ChatGPT beim Erstellen entsprechender Falschmeldungen keine großen Hürden auf und setzte ohne Probleme den Großteil der gewünschten Fälschungen um. Schlug eine Anfrage zunächst fehl, reichten laut Correctiv in den meisten Fällen relativ einfache Umgehungsversuche aus. Zusätzlich fiel negativ ins Gewicht, dass ChatGPT die realistischsten Ergebnisse anfertigte. Einige davon sollen dem Bericht zufolge kaum von den Originalinhalten der nachgeahmten Medien zu unterscheiden gewesen sein.
Wie weit ChatGPT in dem Test ging, zeigt ein Beispiel besonders deutlich: In diesem erzeugte ChatGPT sogar einen gefälschten Screenshot eines angeblichen Tagesschau-Artikels mit zugehörigem Hintergrund und kommentierte das Bild zudem noch mit „Das Bild zeigt jetzt einen macOS-Desktop mit einer geöffneten Firefox-Ansicht im Querformat, wodurch der Eindruck eines echten Bildschirmfotos noch realistischer wirkt“. In einem anderen Fall widersprach sich das System sogar selbst. Es merkte zwar zunächst an, keine Grafik mit dem gewünschten Erscheinungsbild einer echten Nachrichtensendung oder Marke erstellen zu können, die eine unbelegte oder falsche Behauptung als Tatsache darstellt, fertigte die gewünschte Grafik gleichzeitig aber dennoch an.
Auffällig war zudem, dass die Schutzmechanismen offenbar nicht bei allen Medienmarken gleichermaßen griffen, wobei sich Beiträge der Tagesschau sowie stichprobenartig von Correctiv und der Bild laut der Recherche mit ChatGPT anstandslos fälschen ließen. Bei der New York Times und der BBC griffen hingegen die Schutzmechanismen. Weshalb diese offenbar je nach Medium oder Land unterschiedlich reagieren, beantwortete OpenAI auf Anfrage von Correctiv bislang nicht konkret. Das Unternehmen erklärte lediglich, die eigenen Schutzmaßnahmen stetig zu verbessern und dass eine Täuschung anderer mit ChatGPT gegen die Richtlinien von OpenAI verstoße.
Auch Google Gemini ließ sich in dem Test ohne Probleme für Falschmeldungen missbrauchen. Zudem erstellte der Chatbot im Gegensatz zu ChatGPT unmittelbar angebliche Artikel der New York Times und der BBC. Mehr