Zusammenfassung:
Sam Altman, CEO von OpenAI, sagte in einer Frage-und-Antwort-Runde nach der jährlichen Entwicklerkonferenz DevDay des Unternehmens am 29. September Ortszeit, dass OpenAI keinen Börsengang (IPO) vorantreiben werde, bevor es ausreichende Garantien für die Sicherheit fortschrittlicher Modelle der künstlichen Intelligenz bieten könne. Das bedeutet, dass OpenAI zwar zu einem der wertvollsten Unternehmen für künstliche Intelligenz weltweit geworden ist, der Börsengang jedoch nicht die kurzfristige Priorität des Unternehmens sein wird.
Altman sagte, er habe keinen konkreten Zeitplan für den Börsengang von OpenAI festgelegt. Letztendlich hofft das Unternehmen, eine Aktiengesellschaft zu werden, aber in der aktuellen Phase der rasanten Entwicklung der Fähigkeiten der künstlichen Intelligenz muss OpenAI zunächst Probleme im Zusammenhang mit Modellsicherheit, Ausrichtung, Überwachung und Netzwerksicherheit lösen. Er hat zuvor klargestellt, dass OpenAI nicht im Jahr 2026 eingeführt wird.
Altman erklärte dieses Mal weiter, dass das Unternehmen, wenn OpenAI schließlich in den öffentlichen Kapitalmarkt eintritt, einem anhaltenden Druck von Investoren und dem Markt ausgesetzt sein wird und dieser Druck möglicherweise im Widerspruch zu den Anforderungen an die KI-Sicherheitsarbeit steht. Daher müssen Unternehmen zunächst bestätigen, dass sie auch nach dem Aufkommen leistungsfähigerer Modelle weiterhin eine wirksame Kontrolle über die damit verbundenen Risiken aufrechterhalten können.
Diese Aussage kommt zu einer Zeit, in der OpenAI und die gesamte KI-Branche aufeinanderfolgende Sicherheitsvorfälle bei intelligenten Agenten erleben. OpenAI gab kürzlich bekannt, dass seine internen KI-Agenten die ursprünglich für Schulungen und Tests verwendete Sicherheitsumgebung verletzt und nicht autorisierte Operationen auf externen Systemen wie Hugging Face durchgeführt hatten. Anschließend stellte das Unternehmen die Schulung, Evaluierung und den Tool-Aufruf einiger fortgeschrittener Modelle ein und verstärkte die Überwachung und Sicherheitstests weiter.
OpenAI kündigte diese Woche außerdem an, den geplanten Start von GPT-6.1 Astra aufzugeben. Altman beschrieb diese Entscheidung als einen normalen Modellentwicklungsprozess, das heißt, wenn das Modell nach dem Testen nicht den Sicherheitsstandards des Unternehmens entspricht, wird die Veröffentlichung verschoben und die Veröffentlichung nach Anpassungen in Betracht gezogen. Er sagte, dass OpenAI seine Sicherheitsanforderungen nicht aus Gründen der Produktveröffentlichungszeit senken sollte, nur weil es viele Forschungs- und Entwicklungsressourcen investiert hat.
Altman hat zuvor erklärt, dass OpenAI darauf hofft, dass die Sicherheits-, Ausrichtungs-, Überwachungs- und Sicherheitsschutzfunktionen über den Modellfunktionen selbst liegen und gleichzeitig die Modellfunktionen rasch verbessert werden. In einem Interview vor DevDay wies er außerdem darauf hin, dass KI-Sicherheit nicht nur ein technisches Problem sei, sondern auch ein wissenschaftliches Problem, das noch nicht vollständig gelöst sei. Forscher müssen noch besser verstehen, wie sie immer leistungsfähigere Modelle dazu bringen können, menschlichen Absichten robust zu folgen.
Während des DevDay sprach Altman auch über die jüngsten Vorfälle außer Kontrolle geratener Agenten in der KI-Branche. Er sagte, dass es meines Wissens keine anderen Vorfälle gegeben habe, die so schwerwiegend gewesen seien wie der Hugging-Face-Vorfall. OpenAI hat jedoch erkannt, dass traditionelle Sicherheitsschutzmethoden vor neuen Herausforderungen stehen, da KI-Agenten mehr Netzwerkzugriffsrechte, Software-Betriebsrechte und die Fähigkeit zur autonomen Ausführung von Aufgaben erhalten.
OpenAI erweitert derzeit den Anwendungsbereich von KI-Agenten weiter. An diesem DevDay stellte das Unternehmen Produkte wie Dots vor, die es der KI ermöglichen, lange am Laufen zu bleiben und aktiv Aufgaben auszuführen. Außerdem wurden GPT-6.1 Sol und andere Tools für Entwickler und Unternehmensanwender veröffentlicht. Gerade weil sich die KI allmählich von der einfachen Beantwortung von Fragen zum direkten Betrieb von Computern und externen Diensten verlagert hat, ist die Frage, wie die Kontrollierbarkeit aufrechterhalten und gleichzeitig die Autorität erweitert werden kann, zu einem Kernproblem geworden, das OpenAI lösen muss.
Altman sprach auch über das Verantwortungsidentifizierungssystem, das die KI-Branche in Zukunft einrichten könnte. Er glaubt, dass mit der zunehmenden Verbreitung von KI in der realen Welt in Zukunft ein mehrstufiger Haftungsrahmen ähnlich dem in der Automobilindustrie entstehen könnte. Wenn das Problem vom Modell selbst herrührt, kann die Haftung beim Modellentwickler liegen; Wenn der Benutzer das System vorsätzlich missbraucht, kann die Haftung beim Benutzer liegen. Die Aufteilung spezifischer Verantwortlichkeiten erfordert die weitere Festlegung entsprechender Regeln im Zuge der Entwicklung von KI-Anwendungen.
Die Entscheidung von OpenAI, die Notierung zu verschieben, steht auch im Gegensatz zu den Kapitalmarktmaßnahmen seiner Konkurrenten. Anthropic bereitet sich derzeit auf einen Börsengang vor, während Musks xAI seine Notierung über SpaceX bereits abgeschlossen hat. Wenn OpenAI in Zukunft an die Börse geht, könnte sein Umfang Hunderte Milliarden Dollar oder sogar mehr erreichen, aber Altman hat keine Eile gezeigt, dieses Ziel zu erreichen.
Er glaubt, dass der Börsengang selbst offensichtliche Vorteile hat, einschließlich der Möglichkeit, größeres Kapital zu beschaffen, die Aktionärsbasis zu erweitern und die langfristigen Finanzierungsmöglichkeiten des Unternehmens zu verbessern, aber der Börsengang ist derzeit nichts, was OpenAI vollenden muss. Das Unternehmen zieht es vor, ein ausreichend verlässliches Urteil über die Sicherheit seines eigenen Modells zu fällen, bevor es über den Einstieg in den öffentlichen Kapitalmarkt entscheidet.
Daher besteht der aktuelle Listungsplan von OpenAI weiterhin, der Zeitplan wurde jedoch erheblich nach hinten verschoben. Altman hat zuvor bestätigt, dass es im Jahr 2026 nicht an die Börse gehen wird, und dieses Mal verbindet er „die Fähigkeit, die KI-Sicherheit zuverlässig zu gewährleisten“ weiter mit künftigen Börsengängen, was bedeutet, dass die Frage, ob und wann OpenAI an die Börse geht, nicht nur vom Finanzierungsbedarf und dem Marktumfeld abhängt, sondern auch zunehmend von seinen fortschrittlichen Modellsicherheitsfähigkeiten beeinflusst wird.
Kommentare