// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
OpenAI Astra: Neues KI-Modell ist selbst OpenAI zu gefährlich
OpenAI zieht bei seinem kommenden KI-Modell Astra vorerst die Sicherheitsbremse. Interne Tests zeigen derart große Fortschritte bei Programmierung und Cybersecurity, dass der Entwickler die höchste Risikostufe „Critical“ nicht mehr ausschließen kann. Aktivitäten ohne entsprechend verschärfte Sicherheitsmaßnahmen wurden pausiert.
Auslöser sind interne Evaluierungen von Astra aus den vergangenen Tagen. Das kommende Modell habe deutliche Fortschritte beim agentischen Programmieren und bei Cybersecurity-Aufgaben gezeigt. Zusammen mit Einschätzungen von Experten seien die Ergebnisse inzwischen stark genug, dass OpenAI eine Einstufung auf der höchsten Cyber-Risikostufe seines Preparedness Framework nicht mehr ausschließen könne.
Was sich hinter „Critical“ verbirgt, definiert OpenAI vergleichsweise konkret. Ein Modell erreicht die Stufe demnach etwa dann, wenn es ohne menschliche Unterstützung funktionsfähige Zero-Day-Exploits sämtlicher Schweregrade für zahlreiche gehärtete reale Systeme identifizieren und entwickeln kann. Ebenfalls darunter fällt die Fähigkeit, ausgehend lediglich von einem übergeordneten Angriffsziel eigenständig neuartige Cyberangriffe gegen gehärtete Ziele zu planen und vollständig auszuführen.
Dass Astra diese Fähigkeiten tatsächlich besitzt, behauptet OpenAI allerdings ausdrücklich nicht. Die bisherigen Ergebnisse seien vielmehr gut genug, um ein Erreichen dieser Stufe derzeit nicht ausschließen zu können. Weitere Benchmarks und Untersuchungen sollen Klarheit schaffen. Zum Vergleich: GPT-5.6 Sol wurde von OpenAI zuvor lediglich mit der darunterliegenden Risikostufe „High“ bewertet.
Bis die Fähigkeiten besser beurteilt werden können, verschärft OpenAI die Sicherheitsvorkehrungen. Dazu zählen isolierte Testumgebungen, ein eingeschränkter Netzwerk- und Werkzeugzugriff, eine stärkere Verschlüsselung und Absicherung der Modellgewichte sowie zusätzliche Überwachungsmechanismen und Sandboxing. Interne Aktivitäten mit Astra, die diese Anforderungen noch nicht erfüllen, wurden pausiert.
Darüber hinaus überwacht OpenAI nach eigenen Angaben sämtliche agentischen Anwendungen von Astra auf riskante Aktionen und Fehlverhalten. Das gilt sowohl beim Training als auch bei Evaluierungen. Die eingesetzten Systeme analysieren dabei auch die internen Gedankengänge des Modells und sollen bei riskantem Verhalten eine Sicherheitsüberprüfung auslösen sowie den Vorgang gegebenenfalls unterbrechen. Zusätzlich will OpenAI mit Regierungsbehörden und ausgewählten Organisationen für KI-Sicherheit zusammenarbeiten, um Astras Fähigkeiten weiter zu testen.
Welche Rolle Astra künftig im Produktportfolio spielen wird und wann eine Veröffentlichung geplant ist, verrät OpenAI bislang nicht. Dass es sich nicht lediglich um ein experimentelles Nebenprojekt handelt, steht jedoch fest: Das Unternehmen bezeichnet Astra als eines seiner kommenden Modelle und an anderer Stelle ausdrücklich als sein „nächstes großes Modell“.
Einen Eindruck von dessen Fähigkeiten hatte OpenAI bereits Anfang August gegeben. Eine interne Astra-Version erzielte dem Unternehmen zufolge neue Ergebnisse bei zehn offenen beziehungsweise langjährigen Problemen aus Mathematik und theoretischer Informatik. Die Themen reichen von hochdimensionaler Geometrie und Kodierungstheorie bis zu Quantenkomplexität und Gitterkryptografie. Die eigentlichen mathematischen Argumente seien dabei vom KI-System erzeugt und anschließend mit menschlicher Unterstützung für Veröffentlichungen aufbereitet worden.
OpenAI zufolge hätten die dafür benötigten Token bei den aktuellen API-Preisen von GPT-5.6 Sol lediglich rund 2.000 US-Dollar gekostet. Wann Astra außerhalb des Unternehmens eingesetzt werden kann, bleibt offen. Vorher steht für OpenAI zunächst die Frage im Raum, wie weit die Fähigkeiten des Modells im Cyberbereich tatsächlich reichen – und unter welchen Sicherheitsvorkehrungen es überhaupt betrieben werden kann.
Ganz ungelegen dürfte OpenAI die Diskussion um die Fähigkeiten von Astra al