Zusammenfassung:
Nachdem er auf heftigen Protest von fast 800 Mathematikern aus der akademischen Gemeinschaft gestoßen war, die einen offenen Brief unterzeichnet hatten, gab der Riese für künstliche Intelligenz OpenAI bekannt, dass er sein Sponsoring und seine Computerunterstützung für den AI Mathematics Hackathon (Mathathon) des California Institute of Technology (Caltech) offiziell zurückgezogen hat. Diesem Universitätswettbewerb, der ursprünglich für den 30. Oktober geplant war, wurde vorgeworfen, dass er strenge reine Mathematikforschung in eine Werbeshow für kommerzielle KI-Unternehmen verwandelt und viel ungeprüften akademischen Lärm erzeugt. Es löste einen seltenen Sturm der Gegenreaktion in hochrangigen akademischen Kreisen aus und löste auch bei Co-Sponsor Anthropic eine hitzige Debatte darüber aus, ob man bleiben oder bleiben sollte.
Die Hackathon-Veranstaltung mit dem Namen „Caltech Mathathon“ sollte ursprünglich von zwei KI-Spitzenlabors, OpenAI und Anthropic, mit insgesamt etwa 2 Millionen US-Dollar an Rechenleistungspunkten unterstützt werden. Ziel des Veranstalters ist es, teilnehmende Studenten und junge Forscher dazu zu bewegen, ungelöste offene mathematische Probleme zu lösen, indem sie schnelle Wörter in die fortschrittlichsten großen Grenzsprachmodelle der beiden Unternehmen eingeben. Nachdem der Aktivitätsplan jedoch bekannt gegeben worden war, wurde er von der akademischen Gemeinschaft sofort verurteilt. Aktuelle und ehemalige Mathematikwissenschaftler am Caltech übernahmen die Initiative und starteten einen öffentlichen Protestbrief, der schnell von bis zu 771 Mathematikern auf der ganzen Welt unterzeichnet wurde.
Der offene Brief kritisierte unverblümt, dass kommerzielle KI-Unternehmen äußerst seriöse reine Mathematikforschung als billige „Werbe- und Marketingmöglichkeiten“ nutzen, und warnte davor, dass solche Hackathon-Aktivitäten, die durch eine gewaltsame Stapelung der Rechenleistung gekennzeichnet sind, „sehr wahrscheinlich verheerenden Schaden für die Mathematikgemeinschaft anrichten.“ Die Wissenschaftler wiesen in dem Brief darauf hin, dass die sogenannten langen Beweise, die von großen Modellen generiert werden, oft voller „KI-Mathematikmüll (KI-Slop)“ sind, der konform zu sein scheint, in Wirklichkeit aber schwer zu überprüfen ist. Dies zwingt die akademische Gemeinschaft nicht nur dazu, viel wertvolle Peer-Review-Energie aufzuwenden, um manuell nach falschen Ergebnissen zu suchen, sondern stellt auch ein moralisches Risiko für Sponsoren dar, Rechenleistung zu nutzen, um die wahre Weisheit herausragender Studenten zu stehlen.
Angesichts des heftigen Widerstands der akademischen Gemeinschaft bestätigte Dan Roberts, Forschungsleiter bei OpenAI, öffentlich den Rückzug des Sponsorings und erklärte in den sozialen Medien, dass das Unternehmen zutiefst erkannt habe, dass der schnelle Fortschritt der KI im Bereich der Mathematik schwerwiegende Auswirkungen habe. Für die Zukunft hofft man auf einen intensiveren Dialog und eine intensivere Kommunikation mit der traditionellen Mathematikgemeinschaft, um diese Technologie zu integrieren und ihre gesellschaftlichen Auswirkungen zu vermitteln. Als Co-Sponsor hat Anthropic noch nicht positiv darauf reagiert, ob es seinen Rückzug weiterverfolgen wird. Sein Schweigen hat zu weiteren Vergleichen und Beobachtungen der akademischen Expansionspositionen der beiden Labore geführt.
Es ist erwähnenswert, dass dieser Sponsorenrückzug in einer sensiblen Phase erfolgt, in der die Glaubwürdigkeit kommerzieller KI-Giganten in der Mathematik-Community auf eine harte Probe gestellt wird. Zuvor war OpenAI in eine weit verbreitete Kontroverse verwickelt, weil es behauptete, die Existenz- und Glätteprobleme der Navier-Stokes-Gleichung durch die Zusammenarbeit von Zehntausenden von KI-Agenten 88 Stunden lang gelöst zu haben. Gleichzeitig wurde bekannt, dass die Agentur im Verdacht stand, einen Mathematiker der New York University unter Druck gesetzt zu haben, Co-Autoren mit anthropischem Hintergrund aus einer anderen wichtigen Mathematikarbeit zu entfernen, was einen erbitterten Kampf zwischen akademischer Ethik und der Zuschreibung räuberischer Ergebnisse auslöste.
Akademische Beobachter weisen darauf hin, dass die Mathematik schon immer der ultimative Prüfstein für die Messung logischen Denkens und formaler Genauigkeit war und dass sie auch das zentrale Schlachtfeld für KI-Labore im Wettbewerb um das Recht ist, über die Fähigkeiten von Modellen der nächsten Generation zu sprechen. Der Gruppenwiderstand, auf den der Caltech-Hackathon stößt, zeigt jedoch deutlich, dass es letztendlich schwierig sein wird, die tiefe Kluft der akademischen Legitimität zu überwinden, wenn Modellergebnisse auf rein technischer Rechenleistung und Öffentlichkeitsarbeit basieren, wenn sie von den strengen Verifizierungsnormen und dem gegenseitigen Vertrauen von Kollegen der traditionellen akademischen Gemeinschaft getrennt werden. Der erzwungene Rückzug von OpenAI ist nicht nur ein öffentlicher Reputationsrückschlag, sondern auch ein Weckruf für die Regeln der Zusammenarbeit zwischen der gesamten Branche der künstlichen Intelligenz und der harten wissenschaftlichen Forschung.
Kommentare