// HEISE ONLINE — MONDO
KI-Update kompakt: KI-Warnungen, Microsoft, Apple, Drohnenentwicklung
Das „KI-Update“ liefert dreimal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Rufe nach einer Pause bei der KI-Entwicklung häufen sich, obwohl Washington und Peking sie zurückweisen. Neu sind solche Warnungen nicht. Seit den Anfängen generativer KI fordern Forscher Moratorien oder warnen vor unkontrollierbarer Macht. Diesmal aber schlägt die Debatte höhere Wellen. Zwei Gründe scheinen dafür zu sorgen: Vor einigen Wochen ging eine Attacke auf HuggingFace durch die Medien, bei der eine KI sich verselbstständigt und eigenständig einen Hack durchgeführt haben soll. Kurz darauf kündigte ein Anthropic-Mitarbeiter, und am Wochenende forderten fast alle großen KI-CEOs gemeinsam, die Entwicklung zu verlangsamen. Das Thema erreichte so Titelblätter und Lokalfernsehen.
Ob diesmal wirklich etwas geschieht, bleibt offen. Die Chancen scheinen aber größer als zuvor, weil die Öffentlichkeit stärker beteiligt ist. Google, OpenAI und Anthropic sprechen seit Juli über Sicherheits-Selbstverpflichtungen. Solche Zusagen können echter Vorsorge dienen oder nur strengere Gesetze abwenden und Konkurrenten den Markteintritt erschweren. Auch die EU könnte aktiv werden, mit anderem Hebel als die USA, wo die Firmen sitzen. China und Trump wollen in wenigen Tagen sprechen. Ein Grund für die amerikanische Ablehnung ist die Sorge, sonst China das Feld zu überlassen.
Die spanische Datenschutzbehörde meldet den ersten Cyberangriff durch einen KI-Agenten. Das auf einem bekannten Sprachmodell basierende System suchte autonom nach Schwachstellen, meldete sich erfolgreich an und fand weitere Lücken. So konnte es personenbezogene Daten verändern und auf Rechnungen zugreifen.
Die Behörde sieht darin eine neue Qualität von Angriffen, weil der Agent selbstständig plant und handelt. Gegen die hohe Geschwindigkeit solcher Attacken sind manuelle Abwehrstrategien machtlos. Unternehmen müssen ihre Risikoanalysen anpassen und ihre IT-Sicherheit stärker automatisieren.
TV-Hersteller LG reagiert auf Vorwürfe zum Tracking durch seine Smart-TVs. Die Stellungnahme klingt defensiv, gibt aber Einblick, wie Werbung am Fernseher funktioniert. Für die automatische Inhalteerkennung (ACR) nutzt LG nach eigenen Angaben nur Audio-Schnipsel, keine Videoaufnahmen. Damit lagen die Forscher von Gamers Nexus womöglich falsch, die von Screenshots gesprochen hatten. Die Audioschnipsel verarbeite ein interner Audio-Prozessor. Die Sprachsteuerung aktiviert man über die Mikrofontaste der Fernbedienung oder mit „Hi LG“.
Den Vorwurf, das Gerät zeichne auch Gespräche aus der Umgebung auf, dementiert LG nur schwach. Während die Spracherkennung aktiv sei, könnten Gespräche in der Nähe in den Resultaten auftauchen. Gamers Nexus warnte vor Gefahren, etwa wenn Angreifer den Fernseher hacken. LG räumt ein, kein vernetztes Produkt sei je vollständig vor Sicherheitslücken gefeit. Durch die ACR-Funktion scheint das Tor für Angriffe allerdings weit offen zu stehen.
Microsoft hat einen Verhaltenskodex für seine eigenen MAI-Modelle veröffentlicht. Er soll künftig Training und Kontrolle bestimmen und steht über Regeln von Betreibern und Wünschen von Nutzern. Die zentrale Vorgabe: Menschliche Kontrolle hat Vorrang. Dafür will Microsoft notfalls auf Leistung oder Autonomie verzichten. KI-Chef Mustafa Suleyman sagte dem Magazin The Information, was nicht sicher sei, solle man nicht bauen.