Zusammenfassung:
OpenAI hat kürzlich die Einrichtung einer unabhängigen Beratergruppe bekannt gegeben, die sich aus Top-Mathematikern zusammensetzt, um OpenAI und andere KI-Unternehmen zum Zusammenhang zwischen künstlicher Intelligenz und mathematischer Forschung zu beraten. Die neue Organisation mit dem Namen Advisory Group on Mathematics and Artificial Intelligence (AGMAI) wird sich darauf konzentrieren, wie durch KI erzeugte mathematische Ergebnisse überprüft, veröffentlicht und verbreitet werden sollten und wie KI-Unternehmen langjährige akademische und berufliche Normen im Bereich der mathematischen Forschung befolgen sollten.
Dieser Schritt erfolgte, nachdem OpenAI kürzlich eine Reihe wichtiger mathematischer Ergebnisse bekannt gegeben hatte. In den letzten Monaten haben die KI-Modelle von OpenAI eine Reihe auffälliger Entwicklungen im Bereich der Mathematik vorgenommen. Allerdings haben auch die Art und Weise, wie relevante Ergebnisse veröffentlicht werden, sowie die Fragen der Zitierung und Zuordnung bestehender mathematischer Forschungsergebnisse zu weit verbreiteten Kontroversen in der Mathematikgemeinschaft geführt. Einige Mathematiker fragen sich, ob OpenAI vollständig versteht, wie mathematische Forschung funktioniert, und ob KI-Unternehmen die seit langem etablierten Normen der Zuschreibung, Priorität und akademischen Kommunikation in der Mathematik-Community respektieren.
AGMAI hat insgesamt neun Mitglieder, die von der Stanford University, der Harvard University, der Oxford University, der Cambridge University und anderen Institutionen kommen, darunter viele Spitzenwissenschaftler auf dem Gebiet der Mathematik und Gewinner der Fields Medal und des MacArthur „Genius Grant“. Gastgeber der Organisation ist das Institute for Advanced Study in Princeton, New Jersey, USA. Es war einst die Forschungsstätte berühmter Wissenschaftler wie Albert Einstein, John von Neumann und J. Robert Oppenheimer. Es ist auch eine der einflussreichsten akademischen Einrichtungen auf dem Gebiet der modernen Mathematikforschung.
OpenAI gab an, dass diese Organisation unabhängig bleiben wird und befugt ist, OpenAI proaktiv Vorschläge zu unterbreiten, auch wenn die relevanten Vorschläge nicht proaktiv von OpenAI vorgeschlagen werden. Die Beratergruppe kann auch offen über die Auswirkungen von KI auf den Bereich der Mathematik diskutieren und nach eigenem Ermessen entscheiden, ob sie ihre Empfehlungen veröffentlicht. OpenAI gab an, dass die Mitglieder der Beratergruppe keine Vergütung von OpenAI erhalten und die Mitgliederzusammensetzung selbst anpassen können.
Laut OpenAI wird die Beratergruppe dem Unternehmen dabei helfen, festzustellen, wie bedeutsam die neuen mathematischen Ergebnisse sind, die durch KI generiert werden, und Meinungen dazu abzugeben, wie die Veröffentlichung dieser Ergebnisse koordiniert werden kann und wie akademische und berufliche Normen für die mathematische Forschung eingehalten werden können. Darüber hinaus wird die Gruppe diskutieren, wie die KI-Tools von OpenAI die Mathematikforschung und den Mathematikunterricht besser unterstützen können.
OpenAI betont, dass der wahre Wert dieser Organisation davon abhängt, ob die Mitglieder unabhängige Urteile fällen und das Unternehmen in Frage stellen können. Mit anderen Worten: Die Beratergruppe unterstützt nicht nur die Forschungsergebnisse von OpenAI, sondern hofft auch, vor der Veröffentlichung der Ergebnisse unabhängige Meinungen aus der Mathematik-Community abzugeben.
Nach der Bekanntgabe dieser Vereinbarung gibt es jedoch immer noch viele Fragen in der Mathematik-Community. Das erste ist, wie genau diese neun Mitglieder ausgewählt wurden. Simon Machado, Forscher an der Eidgenössischen Technischen Hochschule Zürich, glaubt, dass es im gesamten Prozess noch viele undurchsichtige Aspekte gibt. Laut der Einleitung auf der offiziellen AGMAI-Website kontaktierte OpenAI zunächst einige Mathematiker in der Hoffnung, ein externes Beratungsgremium einzurichten; Nach Gesprächen mit OpenAI beschlossen diese Mathematiker schließlich, eine unabhängige Organisation zu gründen und luden andere Mitglieder ein, sich anzuschließen. Wer jedoch ursprünglich von OpenAI kontaktiert wurde und wie die verbleibenden Mitglieder identifiziert wurden, wurde nicht vollständig bekannt gegeben.
Martin Hairer, Mitglied der Beratergruppe, veröffentlichte später einen Artikel, um die zahlreichen Zweifel im Zusammenhang mit dem Gründungsprozess dieser Organisation zu erläutern. Er sagte, dass künstliche Intelligenz einen tiefgreifenden Einfluss auf die mathematische Forschung gehabt und eine Reihe von Problemen mit sich gebracht habe, wie z. B. die Zuordnung von Ergebnissen, Forschungsprioritäten und die Frage, ob Menschen die von der KI generierten mathematischen Ideen wirklich verstehen. Daher wäre es für die Mathematik-Community unrealistisch, einen völlig kontaktlosen Ansatz mit KI-Laboren zu verfolgen und diese Unternehmen einfach zu ignorieren.
Hairer betonte insbesondere, dass die Gründung der Beratergruppe zwar auf den Kontakt mit OpenAI zurückzuführen sei, jedoch nicht alle neun Mitglieder direkt von OpenAI kontaktiert worden seien und die letztendlich gegründete Organisation unabhängig von OpenAI und anderen führenden KI-Unternehmen sei. Über die normalen Vertraulichkeitsanforderungen hinaus unterzeichnen Mitglieder keine Vereinbarungen, die ihre öffentliche Meinungsäußerung einschränken, und erhalten keine finanzielle Entschädigung von OpenAI. Für technische und organisatorische Unterstützung stützt sich die Organisation vor allem auf das Institute for Advanced Study in Princeton.
Hairer sagte, dass das wichtigste Ziel der Beratergruppe darin besteht, die Interessen der gesamten Mathematik-Community so weit wie möglich zu vertreten. Er räumte auch ein, dass es für neun Mathematiker offensichtlich unmöglich sei, ein vollständiger Vertreter der gesamten mathematischen Gemeinschaft zu sein, aber er glaubte, dass alle Mitglieder diese Verantwortung sehr ernst nahmen und sich nach Treu und Glauben und unabhängigem Urteilsvermögen beteiligen würden.
Die geringe Größe des Beratungsgremiums gibt noch weiteren Anlass zur Sorge. Die moderne Mathematik ist hochspezialisiert und es gibt oft sehr offensichtliche Wissensbarrieren zwischen verschiedenen Bereichen. Selbst die besten Mathematiker der Welt sind möglicherweise nicht in der Lage, KI-Ergebnisse in einem anderen hochspezialisierten Bereich zu beurteilen. Daher sind einige Mathematiker besorgt darüber, ob nur neun Spitzenwissenschaftler das gesamte mathematische Forschungsfeld abdecken können, das KI umfassen könnte.
Francesco Fournier-Facio, neuer Professor für Mathematik an der Heriot-Watt-Universität in Schottland, sagte, er habe eine gemischte Haltung gegenüber der Beratergruppe. Einerseits glaubt er, dass die Möglichkeit, KI-Unternehmen mehr mit Mathematikern zu kommunizieren, offensichtlich dazu beitragen wird, den Status quo zu verbessern; Andererseits stellt er auch die Frage, ob diese Organisation, die aus einer kleinen Anzahl von Spitzenwissenschaftlern besteht, wirklich die große Anzahl von Mathematikforschern repräsentieren kann, die von der rasanten Entwicklung der KI betroffen sind. Er glaubt, dass die Organisation derzeit eher wie ein „Elfenbeinturm“ aus akademischen Spitzenpersönlichkeiten aussieht.
Ob die Beratergruppe in Zukunft das Vertrauen der mathematischen Gemeinschaft gewinnen kann, hängt weitgehend davon ab, welchen tatsächlichen Einfluss sie auf OpenAI haben kann. Es ist besonders erwähnenswert, dass OpenAI, als es die Einrichtung einer Beratergruppe ankündigte, auch eine erstaunliche Neuigkeit enthüllte: Ein neues Modell, das das Unternehmen entwickelt und das noch nicht offiziell veröffentlicht wurde und von dem zuvor behauptet wurde, es habe das Navier-Stokes-Millennium-Preis-Problem gelöst, hat mittlerweile mehr als 100 langfristig ungelöste mathematische Probleme gelöst, und diese Probleme sind auf eine Vielzahl unterschiedlicher Bereiche der Mathematik verteilt.
OpenAI hat zuvor angekündigt, dass das Modell ein weiteres Millennium-Preis-Problem angeht. Da KI-Modelle weiterhin neue mathematische Ergebnisse liefern, ist die Überprüfung, Verifizierung, Organisation und Veröffentlichung einer großen Anzahl von Forschungsergebnissen in kurzer Zeit zu einem echten Problem geworden. AGMAI gab auf seiner offiziellen Website an, dass eine der ersten Aufgaben, vor denen es derzeit steht, darin besteht, OpenAI bei der Koordinierung der Veröffentlichung einer großen Anzahl wichtiger mathematischer Ergebnisse zu unterstützen, die von internen KI-Modellen generiert werden.
Dies erklärt auch, warum diese Beratergruppe zu diesem Zeitpunkt gegründet wurde. In den letzten Monaten hätten die kontinuierlichen Durchbrüche von OpenAI auf dem Gebiet der Mathematik ein wichtiger Beweis für die Verbesserung der Fähigkeiten der künstlichen Intelligenz sein sollen, doch damit verbundene Ereignisse wurden von einer Reihe von Kontroversen begleitet. Einige Mathematiker glauben, dass OpenAI bei der Bekanntgabe seiner Ergebnisse den Beitrag früherer menschlicher Forschung zu KI-Ergebnissen nicht vollständig erläuterte und Zitations- und Prioritätsfragen nicht immer auf eine Weise behandelte, die der Mathematikgemeinschaft vertraut ist. Einige Forscher haben OpenAI sogar vorgeworfen, ihre Forschungsergebnisse zu nutzen, ohne sie angemessen zu würdigen.
Diese Kontroversen führten letztendlich dazu, dass einige Mathematiker sich fragten, ob OpenAI wirklich versteht, wie die mathematische Forschungsgemeinschaft funktioniert.
Kevin Buzzard, Professor für Mathematik am Imperial College London, fragte: Da es in den letzten Monaten viele öffentliche Diskussionen in der Mathematik-Community gab, wurden die Forderungen der Mathematiker nach einer Beteiligung der KI an der Mathematikforschung klar zum Ausdruck gebracht. Warum braucht OpenAI also ein Komitee, das sich aus den besten Mathematikern der Welt zusammensetzt, um diese Probleme zu verstehen? Seiner Ansicht nach besteht das Problem nicht darin, dass es der Mathematik-Community an Menschen mangelt, die schwierige Theoreme lösen können, sondern darin, dass KI-Unternehmen die Disziplin der Mathematik und die Regeln der Mathematik-Forschungsgemeinschaft selbst besser verstehen müssen.
AGMAI sammelt derzeit Input aus der Mathematik-Community, unter anderem durch den Austausch mit anderen Mathematikern, öffentliche Feedback-Formulare und auf Diskussionsplattformen wie Proofs and Prompts. Diese Plattformen haben sich in letzter Zeit zu wichtigen Treffpunkten für die Diskussion über die Auswirkungen künstlicher Intelligenz in der Mathematik-Community entwickelt.
Gleichzeitig gehen die Probleme, mit denen OpenAI konfrontiert ist, weit über die Frage hinaus, wie man ein paar Artikel veröffentlicht. Da KI beginnt, selbständig mathematische Ergebnisse zu produzieren, die schon lange nicht mehr gelöst wurden, müssen die grundlegendsten Fragen der mathematischen Forschung, wie „Wer hat was zuerst entdeckt“, „Wer sollte die Signatur erhalten“ und „Welche menschliche Forschung lieferte die Grundlage für die Endergebnisse“, neu definiert werden.
Dies ist auch eine zentrale Veränderung, die durch den aktuellen Einzug der KI in den Bereich der Mathematikforschung entsteht. Traditionelle mathematische Forschung stützt sich in der Regel darauf, dass Forscher ihre Arbeiten öffentlich veröffentlichen, frühere Arbeiten zitieren, Peer-Reviews durchführen und ständig auf vorhandenen Ergebnissen aufbauen. KI kann in sehr kurzer Zeit riesige Mengen vorhandenen Wissens lesen und verarbeiten und neue mathematische Ableitungen generieren. Wenn Menschen die Wege, auf denen die KI ein Ergebnis erzielt, nicht vollständig nachvollziehen können, werden herkömmliche Methoden zur Ergebniszuordnung und Prioritätsbeurteilung komplizierter.
Die jüngste Kontroverse um die Lösung des Navier-Stokes-Problems durch OpenAI hat dieses Problem besonders deutlich gemacht. OpenAI hat die relevante Kontroverse untersucht und festgestellt, dass ein von einem Mathematiker, der Codex verwendet, übermitteltes Eingabeaufforderungswort wahrscheinlich keinen Einfluss auf die Lösung des Problems durch das endgültige System haben dürfte. Allerdings beunruhigen solche Vorfälle einige Mathematiker immer noch. In Zukunft könnte es immer schwieriger werden, genau zu bestimmen, auf welcher Art menschlicher Forschung ein von KI erstelltes mathematisches Ergebnis basiert.
AGMAI-Mitglied Hairer gab außerdem zu, dass die Beratergruppe darauf achten muss, dass KI-Unternehmen die Meinungen der Beratergruppe entsprechend ihren eigenen PR-Bedürfnissen interpretieren oder nutzen könnten. Er glaubt jedoch, dass eine vollständige Verweigerung der Kommunikation mit KI-Unternehmen das Problem nicht lösen wird, nachdem KI unweigerlich Einzug in die mathematische Forschung gehalten hat. Anstatt die Mathematik-Community von der KI-Branche zu isolieren, sollten wir versuchen, eine Reihe von Grundregeln aufzustellen, die beide Seiten akzeptieren können.
Für OpenAI bedeutet die Gründung dieser Beratergruppe auch, dass das Unternehmen mit einer Realität konfrontiert wird, mit der es zuvor nicht vertraut war: Künstliche Intelligenz hat sich nach und nach von einem Hilfswerkzeug für die mathematische Forschung zu einem Forschungsteilnehmer entwickelt, der direkt neue mathematische Ergebnisse hervorbringen kann, und die traditionelle Mathematik-Community hat keine vorgefertigten Regeln für diesen Wandel aufgestellt.
In Zukunft muss AGMAI möglicherweise nicht nur klären, wann und wie die nächste Charge mathematischer OpenAI-Ergebnisse veröffentlicht werden soll, sondern auch, wie KI-generierte mathematische Ergebnisse signiert werden sollen, wie menschliche Forschung zitiert werden soll, wie die Unabhängigkeit der Ergebnisse bestätigt werden soll und welche Art von kooperativer Beziehung zwischen Mathematikern und KI-Systemen aufgebaut werden soll. Da OpenAI behauptet, dass sein neues Modell mehr als 100 seit langem ungelöste mathematische Probleme gelöst hat, verlagern sich diese Probleme schnell von theoretischen Diskussionen zu realen Problemen, denen man sich stellen muss.
Kommentare