Zusammenfassung:
Die Spannungen zwischen OpenAI und der Mathematik-Community haben erneut eskaliert. Der Gewinner der Fields-Medaille, Terence Tao, hat kürzlich in seinem persönlichen Blog eine Stellungnahme der Association for Human Mathematics (AHM) erneut veröffentlicht, in der er OpenAI dafür kritisiert, dass es Forschungsnormen in der Mathematik-Community ignoriert, und Mathematiker auffordert, die Zusammenarbeit mit OpenAI einzustellen. Die Kontroverse geht auf eine Reihe mathematischer Forschungsmanuskripte zurück, die von OpenAI veröffentlicht wurden. Sein internes Modell versuchte, etwa 4.000 mathematische Probleme zu lösen, stellte schließlich Forschungsmaterialien mit 372 Ergebnissätzen zusammen und veröffentlichte einige Lean-Formalbeweiscodes.
Das Ausmaß der Ergebnisse wurde jedoch von der akademischen Gemeinschaft nicht einstimmig anerkannt. Für Mathematiker geht es nicht nur darum, ob der Beweis korrekt ist, sondern auch darum, ob die Ableitung verständlich ist, ob frühere Arbeiten vollständig zitiert werden und ob neue Methoden durch Peer-Diskussion in das bestehende Wissenssystem integriert werden können.
Eine formale Verifizierung kann die logische Ableitung überprüfen, sie kann jedoch nicht automatisch die manuelle Überprüfung der Aussagebedeutung, des Forschungsbeitrags und des akademischen Hintergrunds ersetzen. „Die Veröffentlichung von mehr als 700 Dokumenten auf einmal beweist nicht akademische Forschung, sondern Macht“, heißt es in der Erklärung.
Dana Moshkovitz, eine theoretische Informatikerin, die sich seit langem intensiv mit der einzigartigen Spielvermutung beschäftigt, studierte sofort die relevanten von OpenAI veröffentlichten Papiere und sagte, dass die Papiere voller unverständlicher Strukturen, unklarer Argumentationsschritte und verwirrender Literaturreferenzen seien. Scott Aaronson, ein theoretischer Informatiker an der University of Texas in Austin, beschrieb den Starttag von OpenAI als „die Apokalypse der Mathematik“.
Einige Internetnutzer glauben, dass die Ansichten von Terence Tao zu extrem sind und nicht die Entwicklung von Technologien blockieren sollten, die allen zugute kommen könnten. Bryna Kra, Mathematikerin an der Northwestern University, glaubt, dass von der KI erwartet wird, dass sie Forschern dabei hilft, Probleme zu erforschen, die in der Vergangenheit schwer zu lösen waren. Unternehmen sollten ihre Ergebnisse jedoch auf eine Weise veröffentlichen, die besser mit akademischen Standards übereinstimmt, damit Kollegen die Forschung überprüfen, verstehen und fortsetzen können.
Der Kern des Konflikts zwischen den beiden Parteien ist die Kluft zwischen der Geschwindigkeit, mit der KI Ergebnisse generiert, und dem menschlichen Verständnis. Traditionelle mathematische Forschung erfordert eine schrittweise Erläuterung von Beweisen und eine Verbesserung der Methoden durch Aufsätze, Seminare und Austausch mit Kollegen; Wenn kommerzielle Laboratorien Hunderte komplexer Manuskripte gleichzeitig veröffentlichen, können die Kosten für die anschließende Überprüfung, Überarbeitung und Wissensintegration auf die akademische Gemeinschaft abgewälzt werden. Forschungspläne, Veröffentlichungsrhythmen und Modellressourcen werden daher zunehmend von einer Handvoll Technologieunternehmen beeinflusst.
Diese Kontroverse entstand nicht plötzlich. Terence Tao hat zuvor zusammen mit 24 anderen Fields-Medaillengewinnern eine Erklärung unterzeichnet, in der er KI-Unternehmen warnt, dass die Verwendung mathematischer Probleme als Maßstab für Modellfähigkeiten den technologischen Wettbewerb von der ursprünglichen Absicht, Verständnis und Erkenntnisse in der mathematischen Forschung zu verfolgen, abweichen könnte.
Am 29. September gab die Beratergruppe für Mathematik und künstliche Intelligenz (AGMAI) Empfehlungen heraus, die sich eindeutig gegen hochmoderne KI-Labore aussprechen, die interne Modelle verwenden, die für die Außenwelt unzugänglich sind, um schwierige mathematische Probleme zu testen.
OpenAI gab an, dass diese Veröffentlichung auf den Empfehlungen von AGMAI basiert; AHM war der Ansicht, dass das Unternehmen die Kernprämisse der Empfehlungen ignorierte, und forderte die Mathematiker daher auf, die Zusammenarbeit mit OpenAI einzustellen. Darüber hinaus verlangt AGMAI von Laboren, die Veröffentlichung mathematischer Ergebnisse nicht als Marketinginstrument zur Förderung von Modellen zu nutzen. Zugehörige Veröffentlichungen sollten Informationen wie Modellnamen, Aufforderungswörter, Rechenleistungskosten und Fehleraufzeichnungen offenlegen.
Während die KI ihre wissenschaftlichen Forschungsleistungsfähigkeiten weiter verbessert, steht die Mathematikgemeinschaft nicht mehr vor der Frage, ob Maschinen Theoreme beweisen können, sondern auch vor der Frage, wer über die Richtung der Forschung entscheidet, wer die Kosten der Verifizierung trägt und wie sichergestellt werden kann, dass der technologische Fortschritt weiterhin der Anhäufung von Wissen dient.
Kommentare