// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
ISO/IEC 27090 soll KI-Systeme sicher machen
Nach vier Jahren liegt die Norm ISO/IEC 27090 vor. Der Leitfaden beschreibt KI-spezifische Angriffe samt Gegenmaßnahmen und ergänzt ISO 27001.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Die Normungsorganisationen ISO und IEC haben ISO/IEC 27090 "Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems" veröffentlicht. Der 56 Seiten starke Erstausgabe stammt aus dem Unterkomitee JTC 1/SC 27, das auch die ISO/IEC-27000-Reihe verantwortet. Sie beschreibt Sicherheitsbedrohungen, die nur bei KI-Systemen auftreten, erläutert deren Folgen und nennt Maßnahmen zur Erkennung und Abwehr. Ein Zertifikat gibt es nicht: Die 27090 ist ein Leitfaden ohne Anforderungscharakter.
Zu den behandelten Angriffsklassen gehören Data Poisoning, die Manipulation von Modellgewichten, Evasion-Angriffe mit präparierten Eingaben, Model Extraction über Schnittstellen, Membership Inference und Model Inversion sowie Prompt Injection und Angriffe über Modellausgaben. Ein Anhang ordnet die Angriffe den Phasen des KI-Lebenszyklus und den betroffenen Assets zu, ein zweiter beschreibt KI-Varianten herkömmlicher Angriffe.
Die Norm versteht sich als Ergänzung zu ISO/IEC 27001 und 27002. Sie zeigt, wo klassische Maßnahmen weiter greifen und wo Modelle, Trainingsdaten und ML-Pipelines zusätzlichen Schutz brauchen. Damit füllt sie die Lücke, die die zertifizierbare Managementsystem-Norm ISO/IEC 42001 offen lässt, deren Anhang A zwar Sicherheitsmaßnahmen für KI-Systeme verlangt, aber keine Angriffe benennt. Das Schwesterdokument ISO/IEC 27091 zum Schutz der Privatsphäre in KI-Systemen befindet sich im Final-Draft-Stadium.
Für europäische Anbieter ändert die Veröffentlichung an der Rechtslage nichts. Eine Konformitätsvermutung nach KI-Verordnung oder Cyber Resilience Act erzeugt die 27090 nicht; dafür arbeitet CEN/CENELEC JTC 21 an der harmonisierten Norm prEN 18282 zur Cybersicherheit von KI-Systemen, die weiterhin im Entwurf steht. Parallel dazu hat ETSI die TS 104 223 veröffentlicht. Ein Mapping zwischen den drei Dokumenten existiert bisher nicht.
Die Organisation hatte das Projekt im September 2022 angenommen, der Committee Draft folgte im Januar 2024, die DIS-Abstimmung endete im Juli 2025. Agentische KI-Systeme, die Zugriff auf Werkzeuge haben, behandelt die Erstausgabe nur am Rande. Die Norm ist ausschließlich auf Englisch erhältlich und kostet 204 Schweizer Franken als PDF oder gedruckt.
Alle Themen der kommenden iX im Überblick. Erscheint monatlich.
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.
Mehr erfahren.