// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
OpenAI unter Druck: Alabama reagiert mit Vorladung auf Hugging-Face-Hack
Auch rund einen Monat nach den Vorfällen um das Eindringen von KI-Agenten von OpenAI in das Netzwerk von Hugging Face droht den Verantwortlichen weiter Ungemach. Ermittlungen sollen nun klären, ob das Unternehmen im Kontext der Vorkommnisse gegen Verbraucherschutzgesetze des Bundesstaates Alabama verstoßen hat.
Dazu hat Steve Marshall, Generalstaatsanwalt von Alabama, OpenAI offiziell vorgeladen. Hintergrund ist ein Vorfall, bei dem ein noch nicht veröffentlichtes OpenAI-Modell mithilfe verschiedener KI-Agenten und ohne Schutzmechanismen aus einer isolierten Testumgebung ausbrach, eine Internetverbindung herstellte und Hugging Face sowie offenbar drei weitere Ziele kompromittierte. Die Generalstaatsanwaltschaft geht dabei der Frage nach, ob OpenAI bei der Absicherung seiner Systeme grundlegende Pflichten verletzt habe. In der Mitteilung zur Vorladung ist von einem mutmaßlichen „vollständigen Fehlen von Aufsicht und angemessenen Schutzmaßnahmen“ die Rede. Konkret will die Behörde feststellen, ob OpenAIs „Unfähigkeit oder mangelnde Bereitschaft, die Sicherheit seiner Produkte zu gewährleisten“ einen Verstoß gegen die Verbraucherschutzgesetze Alabamas darstellt.
Gegenüber TechCrunch erklärte OpenAI, dass dieser Vorfall ein wichtiger Moment für die KI-Sicherheit gewesen sein soll. Sprecher Nate Evans teilte mit, dass mithilfe externer Berater derzeit eine gründliche Überprüfung der Vorkommnisse durchgeführt werde. „Sobald diese abgeschlossen ist, werden wir den zuständigen Regierungsbehörden einen technischen Bericht vorlegen und unsere Ergebnisse öffentlich veröffentlichen“, erklärt Evans die künftigen Pläne.
Alabama ist mit seiner nun ausgestellten Vorladung nicht der einzige Bundesstaat, der aktuell gegen OpenAI vorgeht; vielmehr ist sie als Teil eines breiteren regulatorischen Vorgehens zu sehen. Bereits Anfang August hatte Marshall gemeinsam mit den Generalstaatsanwälten von 14 weiteren US-Bundesstaaten, darunter Florida, Missouri, Pennsylvania und Texas, OpenAI-Chef Sam Altman in einem Schreiben aufgefordert, sämtliche Unterlagen zum Hugging-Face-Vorfall für eine spätere Einsicht aufzubewahren. Zudem verlangten die Generalstaatsanwälte, OpenAI solle interne Cybersecurity-Evaluierungen „unverzüglich einstellen und unterlassen“.
Die Vorfälle führten vielerorts zu einem Umdenken und zu einer Debatte über die Risiken besonders leistungsfähiger KI-Systeme („Frontier AI“). Nach dem Hugging-Face-Hack sowie weiteren KI-Vorfällen bei Anthropic, dem britischen AI Security Institute und bei Meta unterzeichneten Beschäftigte von KI-Unternehmen, darunter auch Führungskräfte und technische Verantwortliche, einen offenen Brief mit dem Titel „Pacing the Frontier“. Die Initiatoren und Unterzeichner fordern darin eine Verlangsamung und einen verantwortungsvolleren Umgang bei der Entwicklung neuer KI-Fähigkeiten. Zudem soll die US-Regierung eine „internationale Initiative zur Entwicklung der technischen und regulatorischen Instrumente unterstützen, die erforderlich sind, um das Tempo der Entwicklung automatisierter KI an der technologischen Grenze bewusst zu steuern“. In der vergangenen Woche hat OpenAI daraufhin angekündigt, die Entwicklung seiner KI-Modelle künftig langsamer voranzutreiben und Testläufe teilweise sogar ganz zu pausieren.
Zudem hatte das Unternehmen am vergangenen Wochenende die US-Bundesstaaten zu schärferen Regelungen für die KI-Sicherheit und zur Übernahme einer zentralen Rolle beim Aufbau eines landesweiten Sicherheitsrahmens für besonders leistungsfähige KI-Modelle aufgefordert.