// HEISE ONLINE — MOBILE & WEB
KI-Update kompakt: Mythos-Sperre, Nudifier-Verbot, Propaganda, iPhone
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Die US-Regierung hat am Wochenende die Anthropic-Modelle Fable 5 und Mythos 5 unter einer Exportkontrolldirektive gesperrt. Verhandlungen mit dem Hersteller laufen, eine Einigung steht aus. Auslöser war ein Bericht einer Sicherheitsabteilung von Amazon, der einen vermeintlichen Jailbreak des Modells Fable beschrieb.
Die Cybersicherheitsexpertin Katie Mosuris, die den Bericht eingesehen hat, widerspricht dieser Darstellung. Das Modell habe schlicht die Aufforderung "fix the Code" befolgt und einen Patch entworfen, den Menschen danach manuell prüften. Genau das solle KI in der Cybersicherheit leisten, argumentiert Mosuris. Andernfalls blieben mächtige Werkzeuge allein Angreifern vorbehalten. Ein weiterer Faktor für die Sperre soll ein chinesischer Zugriff auf das vollständige Mythos-Modell gewesen sein. Washington hält bislang an der Maßnahme fest.
Über 200 Menschenrechtsorganisationen, darunter Amnesty International, fordern den sofortigen Stopp von KI-Systemen in militärischen Tötungsketten. Sie warnen vor einer Zukunft, in der Algorithmen über Leben und Tod entscheiden. Ein Bericht des New Scientist nennt einen ersten bestätigten Fall: Vollautonome Drohnen sollen im "Terminator-Modus" eigenständig feindliche Soldaten getötet haben, ohne menschliche Kontrolle.
Auch in Gaza, im Libanon und im Iran sind automatisierte Systeme zur Überwachung und Zielgenerierung im Einsatz. Die Organisationen sprechen von "Massenabfertigung", die Angriffe im Minutentakt autorisiere. In der Kritik stehen Google, Microsoft und OpenAI, die Milliarden mit Militäraufträgen verdienen. Gefordert werden strenge Regeln, um den Ausbau autonomer Waffensysteme zu stoppen.
Die niederländische Verbraucherschutz-Stiftung SOMI hat Meta verklagt. Sie wirft dem Konzern vor, Beiträge und Kommentare aus Facebook und Instagram unter falschen Angaben zum KI-Training zu nutzen. Meta erwecke den Eindruck, die Daten flössen in die Llama-Sprachmodelle. Tatsächlich landeten sie im Werbeoptimierungssystem GEM. Verarbeitet würden zudem Daten von Personen ohne Konto sowie von Minderjährigen.
SOMI fordert mindestens 1.000 Euro Schadenersatz pro Betroffenem plus 100 Euro für jeden Monat seit Mai 2025. Für Jugendliche soll der Mindestbetrag im Erfolgsfall das Dreifache, für Kinder das Fünffache betragen. Auch Personen ohne Facebook- oder Instagram-Konto können sich der Sammelklage anschließen.
Das Europaparlament hat mit großer Mehrheit neue Regeln gegen pornografische Deepfakes beschlossen. Verboten sind KI-Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen. Auch Apps, die intime Bereiche identifizierbarer Personen oder sexuell eindeutige Handlungen ohne Einwilligung zeigen, sind untersagt. Anbieter dürfen Bild- oder Videogeneratoren in der EU nur vertreiben, wenn technische Schutzvorkehrungen die Erstellung solchen Materials verhindern.