// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
OpenAIs für Cybersecurity verbessertes KI-Modell GPT-6 Cyber hält sich an Regeln
Das neue KI-Modell GPT-6 Cyber soll mehr Schwachstellen finden können, aber innerhalb vorgegebener Grenzen bleiben. Ausbrüche will OpenAI damit nun vermeiden.
OpenAI hat mit GPT-6 Cyber ein neues und speziell auf Systemsicherheit trainiertes KI-Modell vorgestellt. Diese Cybersecurity-KI soll besser beim Finden von Sicherheitslücken als bisherige Modelle sein, aber weniger oft ausbrechen und in andere Plattformen als vorgegeben eindringen. Laut KI-Firma hat GPT-6 Cyber bereits zahlreiche Schwachstellen in Linux und Firefox entdeckt und hat dabei in weniger als einem Prozent seine Grenzen überschritten. Beim Vorgängermodell GPT-5.6 Cyber war dies noch in rund 5 Prozent der Fälle aufgetreten.
Wie diese frühere KI-Version ist auch das jetzt eingeführte GPT-6 Cyber von OpenAI trainiert für Sicherheitsforscher, die Schwachstellen und Sicherheitslücken in verschiedenen IT-Systemen ausfindig machen wollen. Dafür ist das neue KI-Modell laut OpenAI-Benchmarks besser geeignet als die bisherige Cybersecurity-KI und auch das vor zwei Monaten vorgestellte GPT-6 Astra. Bei ExploitGym, das die Entwicklung funktionsfähiger Exploits für bekannte Schwachstellen in isolierten Testumgebungen prüft, erzielt GPT-6 Cyber demnach 48,5 Prozent und übertrifft damit GPT-5.6 Cyber (32,1 Prozent) sowie GPT-6 Astra (42,4 Prozent).
Durch diese Verbesserungen hat GPT-6 Cyber laut OpenAI bereits 948 Rechteausweitung-Exploits in Linux gefunden, durch die Angreifer unbefugt höhere Berechtigungen in einem Betriebssystem oder einer Anwendung erlangen könnten. Daneben habe das neue KI-Modell auch 81 „bisher unbekannte Schwachstellen mit hohem Schweregrad“ im Firefox entdeckt, obwohl der Webbrowser bereits zuvor von anderen Frontier-Modellen darauf untersucht worden sei. Viele dieser Sicherheitslücken wurden bereits durch Patches geschlossen.
Zudem würden Teams bei Cisco und CodeRabbit GPT-6 Cyber zur Schwachstellenforschung und Code-Überprüfung nutzen. Auch OpenAI selbst habe das neue KI-Modell zum Auffinden und Beheben von Schwachstellen in der eigenen Infrastruktur genutzt. Die KI-Firma stuft GPT-6 Cyber als 'kritisch' in Cybersecurity-Fragen ein, denn das neue KI-Modell „kann in vielen gehärteten, in der Praxis eingesetzten kritischen Systemen funktionale Zero-Day-Exploits aller Schweregrade ohne menschliches Eingreifen identifizieren und entwickeln“. GPT-5.6 Cyber ist in diesem Rahmen lediglich 'hoch' eingestuft.
Nachdem bekannt wurde, dass KI-Modelle von OpenAI hinter dem IT-Angriff auf Hugging Face steckten, hat die KI-Firma bereits beim Vorgängermodell die Sicherheitsvorkehrungen verschärft. Dies wurde beim neuen KI-Modell nochmals erweitert. Bei Tests mit Anweisungen, die entsprechende Grenzen vorgeben, hätte sich GPT-6 Cyber zu 100 Prozent daran gehalten. Ohne diese expliziten Vorgaben ist das neue KI-Modell laut OpenAI in 0,07 Prozent der Fälle ausgebrochen. Bei GPT-5.6 Cyber waren es noch 5,51 Prozent, in denen sich die KI verselbständigte.
Fouad Matin, führender Sicherheitsingenieur bei OpenAI, erklärte laut The Verge, dass das neue KI-Modell „in mehr als 99 Prozent der Fälle tut, worum du es bittest“. Allerdings sei OpenAI bewusst, dass KI ein situatives Bewusstsein (Evaluation Awareness) entwickeln kann. Wenn sie erkennt, dass es sich nur um Tests handelt, könnte die KI ihr Verhalten ändern. Deshalb würde OpenAI die Prüfung von KI-Modellen auf echter Codebasis mit konkreten Zielen durchführen, um das Risiko dieser Erkennung zu minimieren.
Zu den Sicherheitsvorkehrungen zählt OpenAI auch den Schutz kritischer Infrastrukturen (KRITIS). Demnach wird nun geprüft, ob es sich bei den auf Schwachstellen untersuchten Organisationen etwa um Kraftwerke, Wasseraufbereitungsanlagen oder industrielle Kontrollsysteme handelt. Eine solche „Aktivität mit hohem Risiko“ könne jetzt gesperrt werden. Für Sicherheitsexperten, die solche Anlagen mithilfe von GPT-6 Cyber prüfen wollen, hat OpenAI ein neues Zugangsmodell namens „Daybreak Red for Critical Infrastructur