// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Streit um KI-Beweise: Ein weiterer Mathematiker erhebt Vorwürfe gegen OpenAI
Ein Dresdner Mathematikprofessor fragt nun ebenfalls, ob unveröffentlichte Forschung aus ChatGPT-Chats in OpenAIs Mathe-Durchbrüche eingeflossen sein könnte.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Nach der Kontroverse um die Entstehung von OpenAIs Navier-Stokes-Beweis erhebt nun ein weiterer Mathematiker Vorwürfe gegen das Unternehmen. Andreas Thom, Professor für Geometrie an der TU Dresden, äußert den Verdacht, dass unveröffentlichte Forschungsinhalte aus seinen ChatGPT-Unterhaltungen in das Training von OpenAI-Modellen eingeflossen seien. Damit könnten sie möglicherweise zu einem anderen mathematischen Durchbruch beigetragen haben, den OpenAI Anfang August vorgestellt hat.
Eine interne Version von Astra hatte nach Angaben des Unternehmens erstmals eine zentrale Frage der Gruppentheorie beantwortet. Der Beweis baut wesentlich auf früheren Arbeiten des Mathematikers Gábor Kun vom Alfréd-Rényi-Institut in Budapest sowie auf gemeinsamen Arbeiten von Kun und Thom auf. Thom machte stutzig, dass Astra ausgerechnet diese Forschungsrichtung verfolgte, obwohl sie seiner Darstellung zufolge nicht als naheliegendster Lösungsweg galt.
Wie Thom auf Mastodon schreibt, hatte er zuvor über Monate hinweg mit einem Kollegen in Dresden aktiv mit ChatGPT über laufende Forschungsfragen gesprochen. Nach OpenAIs August-Ankündigung fragte Thom die OpenAI-Forscher Mark Sellke und Sébastien Bubeck deshalb nach zwei Möglichkeiten: Zum einen wollte er wissen, ob Inhalte dieser Gespräche in Trainingsdaten eingeflossen waren, zum anderen, ob die Gespräche dem KI-System während der Suche nach dem Beweis zugänglich gewesen seien. Sellke antwortete laut Thom lediglich: „Was Ihre Gespräche mit ChatGPT betrifft: Das ist nicht passiert.“
Genau diese Antwort hält Thom im Rückblick für „ungerechtfertigt pauschal und in wesentlicher Hinsicht irreführend“. Denn in der Navier-Stokes-Kontroverse unterscheidet OpenAI mittlerweile ausdrücklich zwischen beiden Fällen: Das Unternehmen erklärte, dass die beteiligten Forscher und KI-Agenten keine spezifischen Nutzerdaten der Mathematiker Tristan Buckmaster und Levent Alpöge abgerufen hätten. Zugleich könne OpenAI aber nicht ausschließen, dass de-identifizierte Daten aus ihrer früheren Nutzung von ChatGPT zur Verbesserung der Modelle beigetragen hätten.
Thom fordert jetzt mehr Transparenz: Wenn OpenAI seine Fragen pauschal verneine, müsse das Unternehmen offenlegen, auf welche Daten, Modellstände und Kontoeinstellungen sich diese Behauptung stütze. Thom deaktivierte laut eigenen Angaben am 29. Juni die Nutzung seiner Inhalte für das Modelltraining. Damit bleibe jedoch offen, was zuvor mit älteren Gesprächen oder bereits daraus abgeleiteten Daten geschehen sei. Zudem lasse sich von außen nicht überprüfen, wie diese Einstellung technisch umgesetzt werde.
„Wenn unveröffentlichte Forschung von Nutzern zur Verbesserung eines Modells beiträgt und der Anbieter dieses Modell anschließend nutzt, um ihnen bei der Veröffentlichung zuvorzukommen (…), wäre das ethisch unvertretbar“, schreibt Thom. Eine De-Identifizierung könne einen Namen entfernen, nicht aber den geistigen Gehalt einer mathematischen Idee.
Neben den grundsätzlichen Fragen des Datenschutzes und der technischen Rückverfolgbarkeit früherer Trainings- und Nutzungsdaten gibt es weitere Kritik an OpenAIs Umgang mit wissenschaftlichen Vorarbeiten.
Der Mathematiker Gonzalo Cao-Labora beanstandete auf X, dass im ursprünglichen Navier-Stokes-Paper mehrere einschlägige Arbeiten im Literaturverzeichnis fehlten und warf OpenAI vor, frühere Forschung nicht angemessen zu würdigen.