Zusammenfassung:
Die Debatte in der Branche der künstlichen Intelligenz darüber, ob die Entwicklungsgeschwindigkeit verlangsamt werden sollte, nimmt rasant zu, und China ist in den Mittelpunkt dieser Diskussion gerückt. Dario Amodei, CEO von Anthropic, erklärte kürzlich öffentlich, dass, wenn die Welt versucht, eine Geschwindigkeitsbegrenzung für die Entwicklung künstlicher Intelligenz festzulegen, das größte praktische Problem nicht die Technologie selbst sei, sondern der Umgang mit der Möglichkeit, dass Konkurrenten wie China weiter beschleunigen werden.
Amodei machte die obige Aussage in einem Interview mit den Medien. Vor nicht allzu langer Zeit hatte er gerade einen langen Artikel veröffentlicht, der große Aufmerksamkeit erregte und die Branche der künstlichen Intelligenz aufforderte, die Geschwindigkeit der Verbesserung der Fähigkeiten modernster Modelle proaktiv zu verlangsamen, um mehr Zeit für Sicherheitsforschung, Governance-Frameworks und Risikokontrolle zu gewinnen. Er glaubt, dass die Fortschritte bei Großmodellen in den letzten Jahren die Erwartungen vieler Menschen deutlich übertroffen haben, insbesondere nachdem der Trend zur Beteiligung künstlicher Intelligenz an der Forschung und Entwicklung künstlicher Intelligenz aufgekommen ist und sich die Verbesserung der technischen Fähigkeiten beschleunigt.
Als er jedoch über die praktische Umsetzbarkeit dieser Idee sprach, gab Amodei zu, dass China das „schwierigste Dilemma“ sei, mit dem der gesamte Plan konfrontiert sei. Er sagte, wenn sich nur einige Länder oder Unternehmen für eine Verlangsamung entscheiden, während andere Länder weiterhin beschleunigen, dann könnte die Partei, die aktiv verlangsamt, im Hinblick auf den technologischen Wettbewerb, die wirtschaftlichen Interessen und sogar militärische Vorteile im Nachteil sein.
Amodei glaubt, dass die internationale Gemeinschaft langfristig versuchen sollte, zusammenzuarbeiten, um eine Art „Geschwindigkeitsbegrenzungsmechanismus“ für die Entwicklung künstlicher Intelligenz zu etablieren, um ungeordneten Wettbewerb zu verhindern und technologische Fähigkeiten zu fördern, um die Sicherheitsgrenzen schnell zu durchbrechen. Er sagte aber auch, dass eine solche Zusammenarbeit äußerst schwierig sei, da die strategischen Vorteile, als Erster über fortgeschrittene Fähigkeiten im Bereich der künstlichen Intelligenz zu verfügen, enorm seien. Er gibt zu, dass er sich nicht einmal sicher ist, ob eine solche globale Koordinierung tatsächlich erreicht werden kann, glaubt aber dennoch, dass darauf hingearbeitet werden muss.
Diese Aussage kommt zu einer Zeit, in der Fragen der Sicherheit künstlicher Intelligenz anhaltende Aufmerksamkeit erhalten. Kürzlich haben eine Reihe von Forschern von Anthropic und OpenAI öffentlich Bedenken geäußert, dass die Entwicklungsgeschwindigkeit künstlicher Intelligenzsysteme den Fortschritt der Sicherheitsforschung übersteigt. Einige Forscher haben sogar davor gewarnt, dass das Risiko eines schwerwiegenden Kontrollverlusts in den kommenden Jahren höher sein könnte, als allgemein von der Öffentlichkeit angenommen wird.
Bevor Amodei seinen Aufruf zur Verlangsamung aussprach, hatte der Anthropic-Forscher Jacob Coxon bereits seinen Rücktritt angekündigt und den aktuellen Entwicklungsverlauf der KI-Branche öffentlich kritisiert. Er glaubt, dass große KI-Labore zu hohe Risiken eingehen und dass dieses Risiko Auswirkungen auf die gesamte menschliche Gesellschaft haben könnte.
Gleichzeitig hat die Geschwindigkeit der Entwicklung der chinesischen Industrie für künstliche Intelligenz in den letzten Jahren auch große Aufmerksamkeit seitens der US-amerikanischen Technologiebranche auf sich gezogen. In den letzten Monaten haben neue Modelle, die von einer Reihe chinesischer Unternehmen für künstliche Intelligenz herausgebracht wurden, den Abstand zu führenden amerikanischen Produkten weiter verringert und die Diskussionen im Silicon Valley über Veränderungen in der globalen KI-Wettbewerbslandschaft weiter intensiviert.
Gleichzeitig, als Amodei sprach, forderten chinesische Staats- und Regierungschefs auf dem BRICS-Gipfel die Einrichtung eines konsensbasierten globalen Governance-Rahmens für künstliche Intelligenz und unterstützten den Aufbau eines Open-Source-Kooperationssystems für künstliche Intelligenz. Dadurch wurde das Thema der Governance künstlicher Intelligenz schrittweise vom Bereich der Wissenschaft und Technologie auf die Ebene der internationalen Politik und Diplomatie ausgeweitet.
Analysten wiesen darauf hin, dass die Branche der künstlichen Intelligenz derzeit mit einem beispiellosen Widerspruch konfrontiert ist. Einerseits fordern immer mehr Unternehmen und Forscher eine stärkere Aufsicht und eine Verlangsamung des Ausbaus von Spitzenkompetenzen; Andererseits sind die Länder nicht bereit, in diesem als strategisch bedeutsam angesehenen Technologiewettlauf hinter ihren Konkurrenten zurückzubleiben.
Gleichzeitig bereiten sich zwei der führenden Unternehmen für künstliche Intelligenz in den USA, Anthropic und OpenAI, auf die Börsennotierung vor. Da die Aufmerksamkeit der Kapitalmärkte, der staatlichen Regulierung und der öffentlichen Meinung weiter zunimmt, wird die Debatte darüber, ob künstliche Intelligenz weiterhin mit voller Geschwindigkeit voranschreiten oder sich proaktiv verlangsamen sollte, in den kommenden Monaten voraussichtlich weiter eskalieren.
Für Amodei besteht der Kern des Problems nicht nur darin, ob die Technologie stärker werden kann, sondern auch darin, ob die menschliche Gesellschaft schnell genug entsprechende Regeln aufstellen kann, wenn die Technologie immer stärker wird. Unter allen praktischen Herausforderungen ist seiner Meinung nach der Umgang mit dem Wettbewerb im Zusammenhang mit China immer noch die komplexeste und am schwierigsten zu beantwortende in dieser globalen Diskussion über die Steuerung künstlicher Intelligenz.
Verwandte Artikel:
Anthropic wirft mehreren chinesischen KI-Unternehmen groß angelegte Destillation vor. Alibaba, Dark Side of the Moon und DeepSeek werden zig Millionen Interaktionen vorgeworfen
Kommentare