// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update kompakt: KI-Kennzeichnungspflicht, Nudifyer, AlphaFold, Granola
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Am 1. August wird Artikel 50 des AI Acts wirksam. Damit müssen KI-generierte Bilder, Texte und Töne in der EU gekennzeichnet werden. Bei Verstößen drohen hohe Bußgelder. Heise-Justiziar Joerg Heidrich sieht die Grundidee sinnvoll, hält die Umsetzung aber für schlecht gemacht. Das Gesetz definiere den Begriff Deepfake sehr weit: Alles, was man für echt halten könne, sei es ein Strand, eine Katze oder ein Mensch, falle darunter. Zahlreiche Ausnahmen machten die Anwendung im Alltag zum Rätselraten.
Heidrich bezweifelt zudem die Wirksamkeit gegen manipulative Inhalte. Russische Desinformationsbüros würden ihre Bilder kaum freiwillig kennzeichnen. Da Nutzer sich an das Label gewöhnten, hielten sie ungelabelte Fälschungen erst recht für echt. Wer Bilder nicht selbst erzeuge, sondern von Dritten übernehme, sei nach dem Wortlaut ohnehin nicht kennzeichnungspflichtig. Eine technische Kennzeichnung in den Metadaten hätte Heidrich gereicht.
Die Bundesnetzagentur wird zur zentralen Behörde für die Durchsetzung der EU-KI-Verordnung in Deutschland. Sie fungiert als Marktüberwachung, nationale Anlaufstelle und Beschwerdestelle. Zuständig ist sie für KI in Funkanlagen, kritischer Infrastruktur, Personalwesen und Bildung sowie für Transparenzpflichten und verbotene Praktiken.
Zur Innovationsförderung richtet die Behörde ein KI-Reallabor ein, das kleineren Unternehmen kontrollierte Testumgebungen bietet. Ein KI-Service-Desk mit Online-Werkzeugen zur Risikoeinschätzung ergänzt das Angebot.
Das KI-Modell Claude Mythos von Anthropic hat mathematische Schwachstellen in kryptografischen Algorithmen entdeckt. Konkret entwickelte es einen verbesserten Angriff auf das Signaturverfahren HAWK, einen Kandidaten für einen quantensicheren Standard. Zusätzlich konstruierte das Modell eine neue Attacke auf eine reduzierte Version des Advanced Encryption Standard, kurz AES. Das System arbeitete weitgehend eigenständig in einem Verbund mehrerer KI-Agenten.
Die HAWK-Schwachstelle fand Mythos in 60 Stunden, obwohl menschliche Experten das Verfahren zuvor zwei Jahre lang geprüft hatten. Die Rechenkosten pro Angriff lagen bei rund 100.000 US-Dollar. Da beide Verfahren noch Standard-Kandidaten sind, haben die Ergebnisse laut Anthropic keine unmittelbaren Folgen für heutige Systeme. Nach Angaben von Anthropic haben beide Ergebnisse keine unmittelbaren Auswirkungen auf heutige Systeme. HAWK wird bislang nicht genutzt, und der Angriff auf AES betrifft nur eine abgeschwächte Version, nicht das vollständige Verfahren.
Beim Ausbruch aus seiner Testumgebung in der vergangenen Woche griff OpenAIs Modell weitere Software an. Neben Hugging Face kompromittierte das System auch einen Kunden von Modal, einem Anbieter für KI-Infrastrukturdienste. Es nutzte eine Lücke im Code des Kunden aus, ohne die Modal-Plattform selbst zu gefährden.