Zusammenfassung:
Während US-amerikanische Unternehmen für künstliche Intelligenz wie OpenAI und Anthropic chinesischen Unternehmen weiterhin vorwerfen, fortschrittliche Technologien durch „Modelldestillation“ zu kopieren, hat Garry Tan, CEO von Y Combinator, einem bekannten US-Startup-Beschleuniger, öffentlich eine völlig andere Meinung geäußert. Er sagte, dass, wenn es nach ihm ginge, in der Frage der Destillation „nichts unternommen“ würde, und glaubte, dass der derzeitige Regulierungsschwerpunkt nicht auf der Bekämpfung der Destillation liegen sollte.
Garry Tan machte die obige Aussage während eines Interviews während der jährlichen Demo Day-Veranstaltung von Y Combinator. In den letzten Monaten hat sich die Modelldestillation zu einem der umstrittensten Themen in der globalen KI-Branche entwickelt. Unter Destillation versteht man die Verwendung der von einem leistungsfähigeren Modell der künstlichen Intelligenz generierten Ausgabe, um ein kleineres oder weniger leistungsfähiges Modell zu trainieren. In einigen Fällen ist dieser Prozess möglicherweise nicht vom ursprünglichen Modellentwickler autorisiert, sodass er von einigen führenden KI-Unternehmen als Bedrohung für geistige Eigentumsrechte und kommerzielle Interessen angesehen wird.
Derzeit hat Anthropic chinesische Unternehmen wie Dark Side of the Moon, DeepSeek und MiniMax öffentlich beschuldigt, ihre Modelle angeblich für Destillationsschulungen zu nutzen. OpenAI geht davon aus, dass ein Teil der Modellarchitektur von DeepSeek von den Ausgabeergebnissen seiner Modelle der Serien GPT-4 und GPT-4o entlehnt sein könnte oder aus ihnen stammen könnte. Gleichzeitig haben die US-amerikanische National Security Agency, die Cybersecurity and Infrastructure Security Agency und das FBI kürzlich gemeinsam eine Cybersicherheitswarnung herausgegeben, in der relevante Verhaltensweisen als Sicherheitsrisiken aufgeführt werden, die Aufmerksamkeit erfordern.
Garry Tan befürwortet jedoch keine strengeren Beschränkungen bei der Destillation. Seiner Meinung nach sollten sich die Regulierungsbehörden wirklich darauf konzentrieren, ein gesundes Gleichgewicht zwischen Open-Weight-Modellen und hochmodernen Closed-Source-Modellen herzustellen, anstatt Destillationspraktiken einfach zu verbieten oder hart gegen sie vorzugehen. Seiner Ansicht nach wird die Existenz eines offenen Modells der Popularisierung von Technologie und der Verbreitung von Innovationen förderlich sein, solange das führende Modell noch über ausreichende Leistungsvorteile und Preisaufschläge verfügen kann, um den Fortbestand seines Geschäftsmodells zu ermöglichen.
Er sagte, dass der Idealzustand darin bestehen sollte, dass das Open-Weight-Modell mehr Entwicklern und Unternehmen Freiheiten und Nutzungsmöglichkeiten bietet, während das Spitzenmodell aufgrund seiner Technologieführerschaft seinen kommerziellen Wert beibehält. Obwohl dieses Gleichgewicht sehr fragil und so schwierig ist wie eine Gratwanderung, ist es dennoch der lohnenswerteste Entwicklungspfad, den die Branche verfolgen kann.
Ein weiterer Hintergrund für die Destillationskontroverse sind die seit langem bestehenden Urheberrechtsprobleme in der Branche der künstlichen Intelligenz. Viele Kritiker weisen darauf hin, dass auch Unternehmen wie OpenAI und Anthropic beim Training ihrer eigenen Modelle mit Fragen zur unbefugten Nutzung von Nachrichtenberichten, Büchern und anderen urheberrechtlich geschützten Inhalten konfrontiert waren. Die New York Times hatte zuvor OpenAI und Microsoft verklagt und ihnen vorgeworfen, ohne Erlaubnis Nachrichteninhalte zum Trainieren von Modellen zu nutzen; Viele Autoren haben wegen ähnlicher Probleme auch Klagen gegen Anthropic eingereicht. Garry Tan glaubt, dass dies die ethische Haltung der Industrie zur Destillation erschwert.
Zusätzlich zum Thema Modellwettbewerb bleibt Garry Tan auch hinsichtlich der derzeit aufkommenden „KI-Weltuntergangstheorie“ vorsichtig. Da einige Forscher im Bereich der künstlichen Intelligenz in jüngster Zeit öffentlich ihre Besorgnis über das Risiko geäußert haben, dass fortgeschrittene KI außer Kontrolle gerät, hat die gesellschaftliche Diskussion über die existenziellen Risiken künstlicher Intelligenz erheblich zugenommen. Aber Tan ist der Meinung, dass die Branche den Problemen, die bereits aufgetreten sind oder in der Realität auftreten werden, mehr Aufmerksamkeit schenken sollte, anstatt sich auf Science-Fiction-Katastrophenszenarien einzulassen.
Risiken im Bereich der Netzwerksicherheit sind seiner Ansicht nach derzeit die drängendste Herausforderung. Wenn KI-Systeme beispielsweise für Cyber-Angriffe, das Eindringen in die Infrastruktur oder automatisierte Verbrechen eingesetzt werden, sind sie weitaus lohnender, Ressourcen zu priorisieren als das entfernte Szenario einer Ausrottung der Menschheit durch KI. In Bezug auf Themen wie Auswirkungen auf die Beschäftigung und Veränderungen in der Wirtschaftsstruktur ist er davon überzeugt, dass diese Auswirkungen zwar real sind, sich aber in den nächsten Jahrzehnten eher allmählich manifestieren und nicht in kurzer Zeit ausbrechen.
Es ist erwähnenswert, dass Y Combinator trotz der eskalierenden Debatte um die Sicherheit künstlicher Intelligenz und den Modellwettbewerb weiterhin stark auf die KI-Branche setzt. Von den 196 Startups, die an diesem Demo Day vorgestellt wurden, hatten 149 einen Bezug zu maschinellem Lernen und künstlicher Intelligenz und machten mehr als drei Viertel aller Projekte aus, was den hohen Optimismus der Agentur für die zukünftige Entwicklung künstlicher Intelligenz widerspiegelt.
Analysten glauben, dass Garry Tans Aussage eine weitere Stimme im Silicon Valley darstellt. Im Gegensatz zu hochmodernen Modellentwicklern, die sich für einen stärkeren Schutz und eine Begrenzung der Verbreitung von Technologien einsetzen, legt diese Fraktion Wert auf offene Ökologie, uneingeschränkten Wettbewerb und die Demokratisierung von Technologien. Da sich die KI-Branche weiterhin rasant weiterentwickelt, wird erwartet, dass Debatten über „Destillation“, Open-Source-Modelle, nationale Sicherheit und geistiges Eigentum in den nächsten Jahren weiterhin wichtige Themen im globalen Bereich der künstlichen Intelligenz werden.
Kommentare