Zusammenfassung:
Der Mathematikprofessor der New York University, Tristan Buckmaster, gab am Dienstag drei Beweise bekannt, darunter ein vorläufiges Ergebnis, das auf ein großes ungelöstes Problem in der theoretischen Mathematik hinweist. Er beschuldigte OpenAI außerdem, relevante Fortschrittsinformationen eingeholt zu haben, bevor seine Forschung veröffentlicht wurde, und nutzte seine riesigen Rechenressourcen, um zunächst einen vollständigen Beweis zu veröffentlichen.
Die diesmal beteiligten Navier-Stokes-Existenz- und Glätteprobleme sind eines der sieben „Millennium Prize Problems“, die vom Clay Mathematics Institute mit einer Belohnung von 1 Million US-Dollar aufgestellt wurden. Die Navier-Stokes-Gleichung wird in der Strömungsmechanik häufig verwendet, die theoretische Forschung ist jedoch noch unzureichend. OpenAI veröffentlichte später einen vollständigen Beweis für das Existenz- und Glätteproblem von Navier-Stokes, und Buckmasters Entdeckung hatte zuvor Schritte in Richtung dieses Problems unternommen. Laut OpenAI verbrauchte diese einwöchige Arbeit insgesamt
300 Milliarden Output-Token
——Bezogen auf die aktuellen Astra-Tarife entspricht dies22,5 Millionen US-Dollar
Berechnungskosten.OpenAI wurde vorgeworfen, den Sprint erst gestartet zu haben, als es über den Fortschritt informiert wurde
„Um ehrlich zu sein, gibt es noch einen weiteren Teil der Geschichte, von dem ich mir sehr wünschte, dass ich mich nicht darum kümmern müsste“, schrieb Buckmaster in einer Erklärung. Als er und Alpöge ihre eigene Forschung abschlossen, erfuhren sie, dass „Informationen über unsere Fortschritte an OpenAI weitergegeben wurden“. Nachdem sie OpenAI kontaktiert hatten, sagte die andere Partei, sie habe einen vollständigen Beweis für das Kernproblem erhalten. Doch auf die Frage, wann OpenAI mit der Erforschung dieses Problems begann und wie viel Arbeitskraft es investierte, wurden die Antworten der Gegenpartei zunehmend vage.„Es stellte sich heraus, dass bereits ein ganzes Team mit einem unglaublichen Rechenaufwand an dem Problem arbeitete … Letztendlich einigte man sich darauf, dass
der erste Hinweis innerhalb weniger Tage nach dem Eintreffen der Informationen über unsere Arbeit bei OpenAI eintraf
. „Buckmaster sagte.Wenn diese Aussage wahr ist, bedeutet das, dass das OpenAI-Team davon überzeugt war, dass die Forschungsrichtung von Buckmaster und Alpöge richtig ist, und beschlossen hat, die enormen Vorteile bei den Rechenressourcen zu nutzen, um zunächst einen formalen Beweis zu liefern. Die Ankündigung von OpenAI bestätigt einen Großteil des Zeitplans und weist insbesondere darauf hin, dass der jüngste Versuch am 1. September begann, nachdem Gerüchte bestanden hatten, dass „zwei Jahrtausend-Rätsel gelöst worden seien“. Die Ankündigung bestätigt auch laufende Gespräche mit Buckmaster und Alpöge.
Einzigartige Methoden und Signaturstreitigkeiten
Buckmaster sagte, dass Mathematiker das Problem zwar eingehend untersucht hätten, die spezifische Strategie, die er und seine Mitarbeiter verfolgten, jedoch weit vom Mainstream entfernt sei, was ihn zu der Frage veranlasste, warum OpenAI zur gleichen Zeit denselben Ansatz verfolgen würde.
„Der Weg zu Clays Problem über glättende Kräfte, Optionen c und d in Feffermans Aussage, ist der Weg, den Luis und Diego beschritten haben, und der Weg, den Levent und ich stillschweigend gewählt haben, um anzugreifen.“ Buckmaster schrieb: „Soweit ich weiß, arbeitet fast niemand an dieser Route. Dies ist keine Richtung, die erreicht werden kann, indem man dem Modell die Problemstellung übergibt und sich ein paar Tage Zeit nimmt.“
Obwohl Alpöge bei Anthropic angestellt ist, wurde diese Untersuchung nicht im Auftrag des Unternehmens durchgeführt. Daher verwendeten die beiden verschiedene Modelle und stützten sich hauptsächlich auf den Codex von OpenAI. Dennoch scheint die Beziehung von Alpöge zu Konkurrenzlaboren zu einem wunden Punkt für OpenAI geworden zu sein. Buckmaster sagte, Bubeck von OpenAI habe ihn gebeten, Alpöges Zuschreibung aus einem vorgeschlagenen Kompromiss zu streichen.
Als Buckmaster darauf bestand, die Kontroverse öffentlich zu machen, antwortete Bubeck: „Warum sollten Sie Ihre Karriere ruinieren?“ Buckmaster sagte, nachdem Buckmaster erwidert hatte, sagte Bubeck: „Wenn Sie nicht wollen, dass ich nett bin, muss ich nicht nett sein.“
Bedenken hinsichtlich der Trainingsdaten und die Reaktion von OpenAI
Buckmaster ist außerdem besorgt, dass Informationen über seine Arbeit OpenAIs eigene Problemlösungsbemühungen antreiben könnten, da er Codex bei der Erstellung von Projekten ausgiebig nutzt. OpenAI behält sich das Recht vor, Modelle mithilfe von Codex interaktiv zu trainieren, obwohl Benutzer dies ablehnen können. Wenn das OpenAI-Team ein Modell verwendet, das auf Buckmasters eigenem interaktiven Codex-Training basiert, ist es möglich, dass das Modell seine Arbeit „wiederholt“, wenn es mit ähnlichen Problemen konfrontiert wird.
OpenAI spielte in seiner Ankündigung die Möglichkeit des Speicherabrufs herunter: „Wir (Forscher und Agenten) haben keine ihrer Arbeiten gesehen, bevor sie öffentlich veröffentlicht wurden – und hatten insbesondere keinen Zugriff auf bestimmte Benutzerdaten, um dieses Problem zu verstehen.“ In der Ankündigung heißt es: „Obwohl es unwahrscheinlich ist, können wir nicht ausschließen, dass die Verwendung anonymisierter Daten, die von unserem Produkt generiert wurden, zur Verbesserung unseres Modells beigetragen hat. Unsere Beweise unterscheiden sich jedoch erheblich, und selbst die genauen Ergebnisse im Euler-Fall sind unterschiedlich (erzwungen vs. ungezwungen).“
Unabhängig von der Kontroverse dürfte die Angelegenheit die anhaltende Debatte über die Rolle der KI in der mathematischen Forschung und die spezifischen Beweggründe von OpenAI darin neu entfachen. Buckmaster scheint zu glauben, dass die beste Antwort darin besteht, so viele Forschungsinformationen wie möglich der Öffentlichkeit zugänglich zu machen.
Verwandte Artikel:
Das unveröffentlichte interne KI-Modell von OpenAI soll das Navier-Stokes-Gleichungsproblem lösen
Kommentare