// HEISE ONLINE — MODA & SOCIETÀ
Bildgenerator mit KI in Google Earth erzeugte zu viele Fake News
Eine kurzfristig in Google Earth aktive KI-Funktion hatte ermöglicht, beliebige Bilder zu generieren. Das Potential für Fake News war groß.
Google hat eine Funktion in Google Earth deaktiviert, die KI-generierte Bilder erzeugen konnte. Die Bilder waren zwar nicht öffentlich und hatten einen KI-Hinweis, aber Journalisten war es gelungen, diese Hinweisschranke zu umgehen. So entstanden echt wirkende Screenshots wie ein umgekippter Eiffelturm, eine im Boden versunkene Pyramide von Gaza oder ein öffentlicher Park vor dem Weißen Haus.
Der Earth-Hersteller begründet den Rückzug damit, dass „Leute Screenshots von generierten Bildern teilen, die anscheinend unsere Richtlinien verletzten“. Es gäbe zwar viele Geospatial-Experten, die die Funktion für sinnvolle Zwecke einsetzen, trotzdem sieht sich Google gezwungen, eine Version mit „strengeren Sicherungen“ zu erarbeiten.
Gestartet hatte Google die KI-Funktion mit dem hauseigenen Modell Nano Banana erst vor zwei Tagen, am 30. Juli, um beispielsweise antike Stätten dreidimensional wiederzuerwecken, Bauprojekte zu visualisieren und Informationsebenen zuzufügen. Journalisten der BBC war es jedoch schnell gelungen, die obligatorischen Warnhinweise zu unterdrücken, oft einfach mit dem Hinweis an Nano Banana, dass das Bild echt sei.
Die BBC zitiert den Datenjournalisten und Fake-News-Experten Henk van Ess, dass es mit der KI-Funktion möglich sei, nicht existierende Atommeiler im Iran, ein Flüchtlingscamp nahe der US-Grenze oder einen Bombenkrater neben einem Krankenhaus in Gaza zu zeigen – Fake News mit erheblicher politischer Sprengkraft im seriösen Gewand von Google.
Auch von der BBC eingesetzte KI-Erkennungs-Tools fielen in einigen Fällen auf die Fälschungen herein.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.
Mehr erfahren.