Ein zweiter Mathematiker hat OpenAI öffentlich unethisches und „unehrliches“ Verhalten in Bezug auf die Daten hinter seinen gefeierten mathematischen Durchbrüchen vorgeworfen und erklärt, das Unternehmen habe nicht nachweisen können, dass seine privaten Interaktionen mit ChatGPT nicht zu den Ergebnissen beigetragen hätten, die letzten Monat mit großem Getöse bekannt gegeben wurden.

In einer Reihe von Beiträgen zu Mastodon, über die The Verge am Mittwoch berichtete, äußerte der Mathematiker Andreas Thom Bedenken, dass Gespräche, die er und seine Kollegen vor der Ankündigung von OpenAI mit ChatGPT führten, zum Erfolg des Modells beigetragen haben könnten. Seine Intervention erfolgte nur wenige Tage, nachdem der Mathematikprofessor der New York University Tristan Buckmaster öffentlich in Frage gestellt hatte, ob die Modelle von OpenAI von seiner eigenen Verwendung des Codex-Tools des Unternehmens profitiert hätten – und verwandelte damit einen Moment des Triumphs für das Labor in einen anhaltenden Streit über die Herkunft der Trainingsdaten. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.

Vom Durchbruch zur Gegenreaktion

Im August gab OpenAI bekannt, dass sein System zehn bedeutende Ergebnisse in Mathematik und theoretischer Informatik hervorgebracht habe, die jeweils mit maschinenverifizierten Lean-Beweisen überprüft wurden – ein Meilenstein, über den diese Website damals berichtete, neben der angeblichen Lösung eines Millennium-Preis-Problems des Unternehmens. Eines der zehn Ergebnisse belegte die Existenz sogenannter nicht-sophischer Gruppen, eine seit langem offene Frage in der Gruppentheorie.

Dieses Ergebnis steht im Mittelpunkt der neuen Kontroverse. Laut The Verge räumte OpenAI ein, dass der Beweis stark auf früheren Arbeiten von Thom und seinem Mathematikkollegen Gábor Kun aufbaute – und nach Kritik aus Mathematikkreisen, weil sie ihre jüngsten Beiträge zunächst nicht anerkannt hatten, änderte das Unternehmen stillschweigend seinen Beitrag.

Für Thom warf die Anerkennung eine unangenehme Frage auf: Wie kam das Model dazu, seine und Kuns Techniken so detailliert zu beherrschen?

Die Frage, die Thom sagt, blieb unbeantwortet

Thom sagte, er sei beeindruckt von „OpenAIs detaillierter Beherrschung unserer Techniken“, die seiner Meinung nach zu diesem Zeitpunkt weder die offensichtlichsten noch die vielversprechendsten Lösungswege seien. Er schrieb E-Mails an die OpenAI-Forscher Sébastien Bubeck und Mark Sellke – letzterer ebenfalls Statistiker in Harvard – und fragte, ob seine Interaktionen mit ChatGPT „Teil der Trainingsdaten oder für den Argumentationsprozess zugänglich“ gewesen seien und daher zum Ergebnis beigetragen haben könnten.

Die Antwort, die er erhielt, befasste sich nur mit der Frage, ob auf seine Gespräche direkt zugegriffen werden konnte, nicht mit der Frage, ob sie in die riesigen Datenpools gelangt waren, die zum Trainieren und Verbessern der Unternehmensmodelle verwendet wurden. „Eine solche Einschränkung, Erklärung oder ein solcher Beweis wurde nicht gegeben“, schrieb Thom. „Ich halte das gelinde gesagt für Unehrlichkeit.“

In einer von The Verge zitierten Nachfolge verschärfte er den Vorwurf: „Sellkes kategorische Antwort war zumindest ungerechtfertigt weit gefasst und im Wesentlichen irreführend; rückblickend war sie schlichtweg unehrlich.“

Bei Thoms Argument geht es weniger darum, was OpenAI getan hat, als vielmehr darum, wer die Beweislast trägt. Forscher seien nicht in der Lage, die Schulungspipeline des Unternehmens zurückzuentwickeln, sagte er. „Dafür verfügt nur OpenAI über die relevanten Daten“, schrieb er. Wenn das Unternehmen also leugnen möchte, dass Benutzerdaten zu seinen Ergebnissen beigetragen haben, liegt die Verantwortung bei OpenAI, dies zu beweisen, indem es die relevanten Datensätze offenlegt und klarstellt, wie es Kundeninteraktionen nutzt.

OpenAIs vorsichtige Ablehnungen

Der Streit spiegelt den Umgang des Unternehmens mit seinem behaupteten Navier-Stokes-Durchbruch wider, an dem Buckmaster laut The Verge persönlich mit dem Anthropic-Forscher Levent Alpöge gearbeitet hatte. In dem Blogbeitrag, in dem dieses Ergebnis bekannt gegeben wurde, erklärte OpenAI: „Wir (die Forscher und die Agenten) haben ihre Arbeit auf keine Weise gesehen, bis sie sie öffentlich veröffentlicht haben – insbesondere wurde auf keine spezifischen Benutzerdaten zugegriffen, um dieses Problem zu lösen.“

In demselben Beitrag wurde jedoch ein indirekter Kanal eingeräumt: „Obwohl dies unwahrscheinlich ist, können wir nicht ausschließen, dass anonymisierte Daten, die aus der Nutzung unserer Produkte stammen, zur Verbesserung unserer Modelle beigetragen haben.“

Für Thom ist diese Unterscheidung das ganze Problem. „Die De-Identifizierung kann einen Namen entfernen; sie entfernt jedoch nicht den intellektuellen Inhalt einer mathematischen Idee“, schrieb er. OpenAI reagierte nicht sofort auf die Bitte von The Verge um einen Kommentar.

Er fügte hinzu, dass es „ethisch nicht vertretbar“ wäre, wenn von Benutzern bereitgestellte nichtöffentliche Forschungsergebnisse dazu beitragen würden, Modelle zu verbessern, mit denen das Unternehmen dann dieselben Benutzer zur Veröffentlichung drängte – ohne Zustimmung, ordnungsgemäße Offenlegung oder Quellenangabe.

Ein Schauer über die Mathematik

Die Umstände des Millennium-Preis-Vorstoßes haben wenig dazu beigetragen, die Nerven zu beruhigen. OpenAI gab an, das Problem weiterverfolgt zu haben, nachdem im Internet Gerüchte zu hören waren, dass andere Forscher große Fortschritte gemacht hätten – und damit die Akademiker effektiv zu einem Ergebnis gebracht hätten, auf das sie jahrelang hingearbeitet hatten.

Zahlreiche Forscher sagten gegenüber The Verge, sie befürchten, dass ein solches Verhalten die Mathematik in einen noch geheimeren Zustand versetzen werde, wenn Mathematiker zu der Überzeugung gelangen, dass selbst Gerüchte über einen bevorstehenden Durchbruch einen Wettlauf gegen einen gut ausgestatteten Technologieriesen entfachen könnten, der nach Ruhm strebt. Die entsprechende Berichterstattung von The Verge – „Der hinterlistige mathematische Durchbruch von OpenAI lässt die Wissenschaft erschauern“ – spiegelte die Stimmung in der Branche wider.

Die Episode kommt zu einem heiklen Zeitpunkt für KI-Unternehmen und die Forschungsgemeinschaften, mit denen sie zunehmend in Konflikt geraten. Was auch immer die Vorzüge eines einzelnen Ergebnisses sein mögen, die von Thom beschriebene Asymmetrie ist struktureller Natur: Labore können Benutzerinteraktionen in großem Umfang erfassen, während die Personen, die diese Daten generieren, keine Möglichkeit haben, zu prüfen, was erfasst wurde. Solange die Unternehmen ihre Schulungspipelines nicht für die Prüfung öffnen oder strenge, überprüfbare Firewalls zwischen Kundengesprächen und Modelltraining einführen, wird jede „Wir haben Ihre Daten nicht verwendet“-Aussage ein implizites Sternchen tragen – und jeder Durchbruch wird von Mathematikern und zunehmend auch von Forschern in anderen Bereichen begleitet, die nach Beweisen fragen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →