Zusammenfassung:
In einem Interview am Dienstagabend Ortszeit kritisierte Jensen Huang, CEO von Nvidia, Anthropics Vorschlag zur kartellrechtlichen Ausnahmeregelung für KI-Sicherheit, der darauf abzielt, gemeinsam die Entwicklung hochmoderner KI-Modelle zu verlangsamen, und widerlegte Argumente, dass künstliche Intelligenz die Menschheit innerhalb eines Jahrzehnts ausrotten könnte.
Huang Renxun machte die oben genannten Bemerkungen in einem Interview mit Jim Cramer, einem bekannten amerikanischen Finanzmoderator. Zuvor veröffentlichte Anthropic-CEO Dario Amodei am vergangenen Samstag einen Artikel, der eine hitzige Diskussion über die Sicherheit künstlicher Intelligenz auslöste. Amodei schlug vor, dass führende KI-Labore zusammenarbeiten sollten, um „das Tempo der Entwicklung modernster Technologien zu kontrollieren“, was bedeutet, dass die Entwicklung fortschrittlicher Modelle absichtlich verlangsamt wird, um den Unternehmen mehr Zeit für Tests und Sicherheitsschutz zu geben. Amodei sagte, die Arbeiten könnten eine staatliche Koordinierung oder Ausnahmen von relevanten Kartellvorschriften erfordern.
Huang Renxun stimmt zu, dass KI-Unternehmen auf Sicherheitsprobleme achten müssen, ist jedoch der Meinung, dass Unternehmen diese Probleme selbst lösen sollten.
Huang Renxun sagte: „Einige Leute denken, dass wir neue Gesetze, neue Kartellvorschriften oder neue Regulierungsvorschriften einführen müssen, um diesen Unternehmen die Möglichkeit zu geben, vor der Markteinführung von Produkten grundlegende technische Arbeiten durchzuführen und Forschung und Entwicklung zu standardisieren. Das ist völlig unnötig. Wir verfügen bereits über ausreichende gesetzliche und behördliche Bestimmungen, um die Zuverlässigkeit und Funktionalität von Produkten sicherzustellen.“
In dem Artikel schlug Amodei einen dreistufigen Plan vor, um das Tempo der Modellentwicklung zu verlangsamen: Der erste Schritt besteht darin, externe Sicherheitsgutachter in jedes KI-Labor zu entsenden. Der zweite und dritte Schritt sind jeweils eine demokratische, globale Zusammenarbeit im Hinblick auf Sicherheitsstandards und „die Festlegung von Grenzen für die Geschwindigkeit der uneingeschränkten KI-Entwicklung“. „Einige kollaborative Methoden, die das Tempo der technologischen Entwicklung effektiv regulieren können, stoßen auf rechtliche Hindernisse und erfordern staatliche Unterstützung.“
Es entstehen rechtliche Probleme, weil führende KI-Labore Konkurrenten sind und die von ihnen auf den Markt gebrachten Modelle Konkurrenzprodukte sind. Das Sherman Antitrust Act der Vereinigten Staaten verbietet es Wettbewerbern grundsätzlich, Vereinbarungen zu treffen, die den Wettbewerb unangemessen einschränken, und bestimmte kooperative Verhaltensweisen (einschließlich Vereinbarungen zur Begrenzung der Produktproduktion) können illegal sein. Wenn sich konkurrierende KI-Entwicklungsunternehmen gemeinsam auf die Entwicklungs- oder Veröffentlichungsgeschwindigkeit neuer Modelle einigen, entstehen potenzielle rechtliche Risiken.
Huang Renxun sagte, dass Modellentwickler die Möglichkeit hätten, die Sicherheit von Produkten zu gewährleisten, bevor sie auf den Markt kommen.
„Sicherheit ist eine technische Frage, und das Testen ist auch eine technische Frage.“ Huang Renxun sagte: „Wir sollten Produkte entwickeln und sie vollständig testen. Wenn das Produkt noch nicht die Release-Standards erreicht hat, verschieben Sie die Markteinführung und fahren Sie mit dem Testen und Optimieren fort, bis das Produkt ausgereift ist.“ NVIDIA ist ein wichtiger Lieferant von Anthropic und OpenAI, und NVIDIA selbst hat auch die Nemotron-Serie von Open-Source-Gewichtsmodellen entwickelt.
Der KI-Wahn hat Nvidia zum weltweit größten Chiphersteller und zum Unternehmen mit dem höchsten Marktwert gemacht. Relevante Vorschläge zur Verlangsamung der Entwicklung von Hochleistungsmodellen könnten Risiken für das zukünftige Wachstum von Nvidia darstellen.
Huang Renxun sagte gegenüber Cramer: „KI-Sicherheit ist ein echtes Problem. Die Entwicklung von Produkten, die auf der ganzen Welt sicher verwendet werden können, darf nicht unterschätzt werden. Unternehmen sollten so schnell wie möglich innovativ sein, aber sie dürfen keine Produkte mit Sicherheitsrisiken nur um der Innovation willen auf den Markt bringen.“
Huang widersprach auch den Warnungen, dass immer leistungsfähigere Modelle der künstlichen Intelligenz eine existenzielle Bedrohung für die Menschheit darstellen würden.
Er sagte: „Die Menschheit wird im Jahr 2030 nicht aussterben. Es gibt so viele Menschen auf der Welt, die künstliche Intelligenz richtig entwickeln werden. Wir werden verschiedene Sicherheitsmaßnahmen einführen und verschiedene Technologien für Sicherheit und Schutz erfinden.“
Verwandte Artikel:
Huang Renxun forderte eine Lockerung der externen Aufsicht über KI und sagte, dass die Branche in der Lage sei, die Sicherheit unabhängig zu gewährleisten
Kommentare