// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
OpenAI löst Preparedness-Team für KI-Risiken auf
OpenAI hat sein Preparedness-Team aufgelöst, das KI-Modelle auf katastrophale Risiken prüfen sollte. Die Aufgaben werden auf bestehende Teams verteilt.
OpenAI hat sein Preparedness-Team aufgelöst. Die Einheit war dafür zuständig, KI-Modelle auf schwerwiegende und potenziell katastrophale Risiken hin zu untersuchen – wie zum Beispiel das Risiko, dass sie bei der Entwicklung biologischer, chemischer oder nuklearer Bedrohungen helfen könnten. Oder eigenständig Hugging Face hacken könnten, wie es vergangenen Monat geschah. Das Preparedness-Team ist bereits das dritte spezialisierte Sicherheitsteam, das der ChatGPT-Hersteller auflöst.
Wie die Financial Times berichtet, werden die Verantwortlichkeiten des aufgelösten Teams auf bestehende Fachabteilungen verteilt. Dylan Scandinaro, der das Preparedness-Team erst seit Februar 2026 leitete, soll sich künftig mit den Sicherheits-Implikationen von „rekursiv selbstverbessernder KI“ beschäftigen – also Systemen, die ihre eigenen Fähigkeiten nutzen, um nachfolgende KI-Generationen zu entwickeln und zu beschleunigen.
Die Auflösung reiht sich in ein Muster ein: Bereits im Mai 2024 wickelte OpenAI sein Superalignment-Team ab, nachdem dessen Leiter Jan Leike das Unternehmen verlassen hatten. Leike kritisierte damals, OpenAI ignoriere Sicherheit zugunsten „glänzender Produkte“. Anschließend wurde auch das AGI-Readiness-Team aufgelöst, das bewerten sollte, wie gut OpenAI und die Welt auf KI auf menschlichem Intelligenzniveau vorbereitet sind.
Parallel zu der Umstrukturierung haben weitere Führungskräfte aus dem Bereich Sicherheit und Ethik das Unternehmen verlassen: Ethik-Leiterin Chloé Bakalar ging im Juli nach weniger als einem Jahr bei OpenAI – sie war offenbar die einzige explizit für Ethik zuständige Person im Unternehmen. Auch Chief Futurist Josh Achiam und Safety-Chef Johannes Heidecke haben erst vor Kurzem das Unternehmen verlassen.
Eine offizielle öffentliche Stellungnahme des Unternehmens liegt bislang nicht vor.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.
Mehr erfahren.