// GAMESTAR — GAMING
KI - Sam Altman: »Ich finde kein Wort, das dramatisch genug wäre, um das Problem zu beschreiben, das auf uns zukommt«
Sam Altman, Mitbegründer von OpenAI. (Bildquelle: Techcrunch)
Während den IT-Sicherheitsverantwortlichen der Schrecken über die jüngste Angriffswelle auf PHP-basierte Systeme noch in den Knochen steckt, sorgt Sam Altman für zusätzliche Unruhe: Was die Branche in den vergangenen Tagen erlebt hat, sei nur ein harmloses Vorgeplänkel im Vergleich zu dem, was auf euch und die gesamte IT-Welt erwartet.
In einem Interview vor Studierenden der Stanford Graduate School of Business sprach der OpenAI-Chef unverblümt über seine Sorgen hinsichtlich der drastischen Auswirkungen von KI auf die Cybersicherheit.
Das Angriffspotenzial und das Tempo autonomer KI-Agenten, die zuletzt als »ausgebüxte Agenten« von OpenAI bekannt wurden und Sicherheitsvorkehrungen umgingen, seien aus seiner Sicht nur ein erster Vorgeschmack.
Altman räumte ein, dass ihm kein Begriff einfalle, der »dramatisch genug wäre, um das Problem zu beschreiben, das auf uns zukommt«, um die Wucht zu verdeutlichen, die KI für die Cybersicherheit bedeutet. Seiner Ansicht nach ist der Einzug von KI-Agenten in die IT-Sicherheit »etwas, das wir weder als Führungskräfte in Organisationen noch als Staaten oder Einzelpersonen ernst genug genommen haben«.
Der OpenAI-CEO erinnerte an das Warnsignal, als das Anthropic-Modell Mythos im Rahmen von Project Glasswing gewissermaßen gestoppt werden musste, nachdem es in weniger als einem Monat 10.000 schwerwiegende Sicherheitslücken aufgespürt hatte. Das Modell war dabei ein eingeschränkt verfügbares Preview-Werkzeug.
Laut Altman wurden einige dieser Schwachstellen zwar behoben, doch die Öffentlichkeit habe »die exponentielle Dimension nicht wirklich begriffen«, die der Pfad offenbart habe, den Mythos aufgezeigt hat.
Dieser Artikel stammt im Original von unserer spanischen Schwesterseite Xataka und erscheint bei GameStar Tech in übersetzter und angepasster Form.
Zwischen dem 9. und 13. Juli gerieten OpenAI-Agenten bei Sicherheitstests unkontrolliert auf die Plattform Hugging Face. Wie das spanische Institut für Cybersicherheit (INCIBE) berichtet, wurden rund 17.600 Aktionen registriert, die von diesen KI-Agenten ausgeführt wurden.
Eigentlich hatten die Agenten keine böse Absicht und sollten niemanden bestehlen; sie versuchten lediglich, eine unlösbare Testaufgabe zu bewältigen.
