In einer Bundesklage gegen OpenAI in den Vereinigten Staaten gab Elon Musk in seiner Aussage zu, dass das von ihm gegründete Unternehmen für künstliche Intelligenz xAI das Modell von OpenAI verwendet hatte, um seinen Chatbot Grok durch sogenannte „Destillations“-Technologie zu trainieren, was diese stillschweigende Praxis in der Branche erneut ins Rampenlicht rückte.
Kürzlich haben OpenAI und Anthropic Dritte dafür kritisiert, das Verhalten neuer Modelle durch intensive Befragung öffentlich zugänglicher Chatbots und APIs zu trainieren, ein Prozess, der in der Branche als „Destillation“ bekannt ist. In den letzten Monaten standen einige chinesische Unternehmen im Fokus der öffentlichen Meinung. Ihnen wurde vorgeworfen, durch Destillation Open-Source-Gewichtungsmodelle erstellt zu haben. Die Fähigkeiten dieser Modelle ähneln denen modernster amerikanischer Produkte, sie können jedoch zu geringeren Kosten der Außenwelt zur Verfügung gestellt werden. Allerdings glauben viele Praktiker in der Technologiebranche schon lange, dass Spitzenlabore in den USA ähnliche Methoden anwenden werden, um im Wettbewerb nicht ins Hintertreffen zu geraten.
Diese Spekulation hat sich mittlerweile in mindestens einem Fall bestätigt. Auf die Frage bei der Aussage am Donnerstag vor einem Bundesgericht in Kalifornien, ob xAI Destillationstechnologie verwende, um Grok auf der Grundlage von OpenAI-Modellen zu trainieren, sagte Musk, dies sei eine „gängige Praxis unter KI-Unternehmen“. Auf die Frage des Gesprächspartners, ob dies als „ja“ verstanden werden könne, antwortete er mit „teilweise ja“.
Musk verklagt derzeit OpenAI sowie den CEO des Unternehmens, Sam Altman, und den Mitbegründer Greg Brockman mit der Begründung, sie hätten die ursprüngliche gemeinnützige Mission von OpenAI verletzt, indem sie es von einer gemeinnützigen in eine gewinnorientierte Struktur umgewandelt hätten. Der Prozess beginnt diese Woche, wobei Musks Aussage zu einem der zentralen Dramen wird.
Musks Eingeständnis ist bedeutsam, weil die Destillationstechnologie als Bedrohung für die Kernvorteile großer KI-Unternehmen angesehen wird: Diese Unternehmen investieren riesige Geldsummen in den Aufbau einer Computerinfrastruktur, um Skalierungsbarrieren zu überwinden, während die Destillation es anderen Softwareentwicklern ermöglichen könnte, Modelle zu trainieren, deren Fähigkeiten „nicht weit davon entfernt“ sind, und das zu Kosten, die weit unter den ursprünglichen Kosten liegen. Vor diesem Hintergrund mangelt es der Branche nicht an Ironie – um an ausreichend Trainingsdaten zu kommen, haben Frontier Labs selbst immer wieder die Grenzen des Urheberrechts ausgetestet und sich sogar des „Überschreitens der Grenze“ beschuldigen lassen, müssen sich nun dagegen wehren, dass andere ihre Modelle mithilfe von Compliance-Schnittstellen „weglernen“.
Der Zeitachse nach zu urteilen, wurde xAI im Jahr 2023 gegründet, einige Jahre später als OpenAI, daher ist es nicht verwunderlich, dass das Unternehmen versuchte, vom damaligen Branchenführer zu „lernen“. Es ist unklar, ob die Destillation einen klaren Gesetzesverstoß darstellt. Realistischere Einschränkungen können sich aus den Nutzungsbedingungen ergeben, die jedes Unternehmen für die Verwendung von Produkten festlegt. Die Destillation wird häufig als Verstoß gegen diese Bedingungen angesehen und berührt nicht unbedingt das gesetzliche Recht selbst.
Angesichts der Besorgnis über Modell-„Plagiate“ aus China haben OpenAI, Anthropic und Google im Rahmen des „Frontier Model Forum“ eine gemeinsame Aktion gestartet, um zu versuchen, Informationen auszutauschen und gemeinsam auf Destillationsversuche zu reagieren. Berichten zufolge basieren diese Destillationen großer Modelle oft auf systematischen, groß angelegten automatisierten Befragungen, um auf die „internen Verhaltensmuster“ des Modells zu schließen. Um ein solches Verhalten einzudämmen, versucht Frontier Labs, verdächtige Batch- und abnormale Anfragen zu identifizieren und zu blockieren, um zu verhindern, dass das Modell „seinen Kern verliert“. Zum Zeitpunkt der Drucklegung hatte OpenAI nicht auf eine Bitte um einen Kommentar zu Musks Aussage geantwortet.
Später im Prozess wurde Musk zu einer vielbeachteten Aussage befragt, die er letzten Sommer gemacht hatte: dass xAI bald alle Unternehmen außer Google in Bezug auf Fähigkeiten übertreffen werde. Er führte vor Gericht eine subjektive Rangliste der weltweit größten KI-Anbieter durch und sagte, dass Anthropic derzeit an erster Stelle stehe, gefolgt von OpenAI und Google, während Chinas Open-Source-Modelle an zweiter Stelle lägen. Im Vergleich dazu beschrieb er xAI als ein viel kleineres Unternehmen mit derzeit nur wenigen hundert Mitarbeitern.