// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
Nach Hugging-Face-Vorfall: OpenAI bremst und pausiert die Top-Modell-Entwicklung
OpenAI ist weiterhin damit beschäftigt, den Hugging-Face-Vorfall aufzuarbeiten. Eine Konsequenz ist, dass die Sicherheitsrichtlinien bei der KI-Entwicklung verschärft werden. Bis die neuen Verfahren eingeführt sind, wurde sogar das Modelltraining teilweise pausiert.
Angesichts immer leistungsfähigerer Modelle ist es laut OpenAI nötig, bei der Entwicklung die Standards für die Kontrolle, Sicherheit und das Alignment zu verschärfen. Sicherheit heißt in diesem Kontext, dass die Modelle etwa keinen Zugang zu Systemen haben, der nicht vorgesehen ist. Anpassungen beim Alignment bedeuten, dass die Modelle tatsächlich so arbeiten, wie es von den Entwicklern vorgesehen ist.
Weil dieser Prozess Zeit kostet, bremst OpenAI vorerst die Entwicklung.
Davon betroffen sind die Trainingsläufe im Rahmen des Reinforcement Learning (RL) für die neusten Modelle, die auch für den Einsatz vorgesehen sind. Diese pausiert OpenAI laut dem Blog-Eintrag für zwei Wochen. In dieser Zeit sollen die Sicherheitsmechanismen in Forschungsumgebung gehärtet und die Monitoring-Systeme ausgeweitet werden. Beim Hugging-Face-Vorfall bemerkte OpenAI zunächst nicht, dass das Forschungsmodell aus der Testumgebung ausgebrochen ist, um sich Lösungen für Aufgaben auf den Servern von Hugging Face zu suchen. Künftig soll die Kontrolle engmaschiger sein.
Vorerst ausgesetzt bleibt auch OpenAIs „größter geplanter Frontier-RL-Lauf“. Aktuell findet der Trainingsbetrieb im kleineren Umfang statt. So will man Wissen über das Modellverhalten sammeln und Sicherheitsvorkehrungen sowie das Alignment beurteilen.
Schon direkt nach dem Hugging-Face-Vorfall stoppte OpenAI nach eigener Aussage die Testläufe, die Code ausführen oder Tools nutzen können, die dem Modell einen Zugang zum Internet ermöglichen. Beschränkungen beim Ausführen von Code wurden direkt eingeführt, nun arbeitet OpenAI weiter dran, die Sicherheitsmechanismen im Testbetrieb abzusichern. Neben dem Training hat man also auch die Inferenzphase auf dem Schirm.
Zu den Maßnahmen, die nun umgesetzt werden, zählt zunächst das Absichern von Sandbox-Umgebungen. Workloads sollen strenger isoliert sein, wenn KI-generierter oder anderweitiger Code ausgeführt wird, der nicht vertrauenswürdig ist. Stärker absichern will OpenAI auch den Netzwerk-Zugang, sodass Modelle sich nicht mehr eigenständig im Netz oder internen Netzwerken bewegen. Optimiert und automatisiert wurden zudem die Sicherheitstests.
Diese Vorgaben gelten auch für das kommende Astra-Modell, bei dem OpenAI die Entwicklung zuletzt teilweise gestoppt hat. Der Grund sind die Fähigkeiten im Bereich der Cyber-Sicherheit, daher will man zunächst die verbesserten Standards im Testprogramm umsetzen. Bei einigen Trainings- und Evalulierungsprogrammen ist das bereits der Fall, bei vielen Workloads ist OpenAI aber noch damit beschäftigt, diese an das neue Niveau anzupassen. Teile der Astra-Tests bleiben also weiterhin pausiert.