// HEISE ONLINE — MONDO
KI-Update: KI-Fehlalarm, US-Kriegsverbrechen, Anthropic, AAIF, Eigene KI-Sprache
Das „KI-Update“ liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Im Frühjahr eskalierte im Nahen Osten beinahe ein Konflikt zwischen den USA und China, ausgelöst durch einen fehlerhaften KI-Text. Laut einem CNN-Bericht speiste ein US-Geheimdienstanalyst Informationen über ein chinesisches Frachtschiff in einen Chatbot ein. Der KI-generierte Bericht behauptete, das Schiff habe Atomwaffentechnik an Bord. Diese Schlussfolgerung landete in einem geheimdienstlichen Dossier, ohne dass ihr KI-Ursprung noch kenntlich war.
Das US-Militär vertraute dem Bericht und wurde tätig. Flugzeuge waren bereits in der Luft, Soldaten bereit, das Schiff zu entern. Erst in letzter Minute prüfte jemand das Dossier erneut, erkannte den KI-Ursprung und stoppte den Einsatz. Ein Entern hätte mit hoher Wahrscheinlichkeit scharfe Reaktionen Chinas ausgelöst. Der Fall führt vor Augen, wie riskant es ist, sich unkoordiniert auf halluzinierende KI zu verlassen.
Auch beim US-Angriff auf eine iranische Grundschule Ende Februar spielte ein KI-gestütztes Zielsystem eine zentrale Rolle. Eine unabhängige UN-Ermittlungskommission stuft den Angriff als mögliches Kriegsverbrechen durch bedingten Vorsatz ein, nicht als Kollateralschaden. Das Gelände war klar als Schule erkennbar, doch die US-Militärs verließen sich auf veraltete Zieldatenbanken und versäumten die vorgeschriebene Zielüberprüfung. Mindestens 156 Menschen starben, darunter über 120 Kinder.
Bloomberg zeigt die Fehlerkette im Detail. Die veralteten Daten, in denen die Schule noch als Stützpunkt der Revolutionsgarden geführt wurde, liefen in Palantirs Militärplattform Maven Smart Systems ein. Maven priorisiert Ziele für Angriffslisten. Die Analysten vertrauten offenbar darauf, dass das System widersprüchliche Daten selbstständig meldet, wofür es gar nicht gebaut war. Nach dem Angriff rüstete Palantir stillschweigend nach: Neue Funktionen prüfen Datenquellen nun auf Plausibilität und schlagen bei Widersprüchen Alarm.
US-Präsident Donald Trump will die KI-Entwicklung weiter beschleunigen und weist Warnungen vor existenziellen Risiken zurück. Auf „Truth Social“ schrieb er, das Wachstum der Branche werde nicht behindert. Die USA lägen vor China und dem Rest der Welt, und das solle so bleiben. Zuletzt hatten Firmen wie Anthropic und OpenAI dafür plädiert, die Entwicklung abzubremsen, nachdem ihre Modelle für automatisierte Cyberangriffe missbraucht wurden.
Trump kündigte eine „AI Force“ gegen schädliche Auswirkungen von KI an und will einen KI-Sonderbeauftragten benennen. Die Sorgen um KI nannte er pauschal einen „Schwindel“. Zugleich schätzt er, KI könne künftig bis zu ein Viertel des US-Bruttoinlandsprodukts ausmachen. Die Technologie verbreitet sich rasant: Laut Umfragen von Epoch AI und Ipsos stieg der Anteil der Erwachsenen, die KI fast täglich nutzen, zwischen März und August von 8 auf 19 Prozent.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.