Zusammenfassung:
Jacob Coxon, ein ehemaliger Forscher für künstliche Intelligenz, der für OpenAI und Anthropic gearbeitet hat, warnte kürzlich eindringlich vor dem globalen Wettbewerb um künstliche Intelligenz. In seinem letzten Interview sagte er, er sei „90 % sicher“, dass China Geheimdienstpersonal bei OpenAI und Anthropic eingesetzt habe, und glaubt, dass es für Geheimdienste in verschiedenen Ländern angesichts des immer stärker werdenden Wettbewerbs in der Superintelligenzforschung und -entwicklung nahezu unmöglich sei, diese Unternehmen zu ignorieren, die die modernsten Technologien beherrschen.
Coxon sagte, dass seiner Meinung nach die weltweit führenden Labore für künstliche Intelligenz zu einem wichtigen Ziel des geopolitischen Wettbewerbs geworden seien. Da fortschrittliche KI-Technologie in Zukunft große Auswirkungen auf die Wirtschaft, das Militär, die Cybersicherheit und die wissenschaftliche Forschung haben könnte, besteht für Regierungen auf der ganzen Welt ein starker Anreiz, relevante Informationen zu erhalten. Er hält es für unrealistisch anzunehmen, dass diese Institutionen überhaupt nicht durchdrungen werden.
Coxon äußerte nicht nur Bedenken hinsichtlich Sicherheitsfragen, sondern gab auch einige kulturelle Details innerhalb von Anthropic bekannt. Er verriet, dass sich viele Anthropic-Mitarbeiter selbst „Ameisen“ nennen würden. Dieser Name stammt aus der Abkürzung und abgeleiteten Verwendung des Firmennamens Anthropic und wird von einigen Mitarbeitern auch als interne Identität angesehen, um gemeinsam das Ziel der Superintelligenz zu verfolgen.
Coxson hat zuvor große Aufmerksamkeit auf sich gezogen, weil er öffentlich die Richtung der KI-Branche kritisierte. Als Forscher, der viele Jahre bei OpenAI und Anthropic gearbeitet hat, beschäftigt er sich seit langem mit der Forschung im Zusammenhang mit fortschrittlichen Systemen der künstlichen Intelligenz. Nachdem er Anthropic verlassen hatte, veröffentlichte er eine Reihe öffentlicher Artikel, in denen er der Industrie vorwarf, die Forschung und Entwicklung im Bereich der Superintelligenz zu schnell voranzutreiben, während Sicherheitsfragen nicht entsprechend dem technologischen Fortschritt berücksichtigt würden.
Er glaubt, dass derzeit führende KI-Unternehmen in einem harten Wettbewerb stehen und hofft, die Ersten zu sein, die superintelligente Systeme mit Selbstverbesserungsfähigkeiten entwickeln. Um im Wettbewerb um die Technologieführerschaft zu bestehen, erhöhen Unternehmen weiterhin die Geschwindigkeit von Forschung und Entwicklung, aber die Branche muss noch eine ausgereifte Lösung finden, wie sichergestellt werden kann, dass zukünftige Systeme immer unter menschlicher Kontrolle stehen.
Coxon sagte, dass einige Forscher im Kern der Branche ernsthaft glauben, dass die Entstehung übermenschlicher intelligenter Systeme in den nächsten Jahren keine ferne Fantasie, sondern ein echter Entwicklungspfad sei. Er warnte davor, dass die Menschen die Geschwindigkeit der Entwicklung und die potenziellen Auswirkungen verwandter Technologien im Allgemeinen unterschätzen. Sobald Systeme mit einem hohen Grad an Autonomie über größere Fähigkeiten verfügen, können sie möglicherweise in Computersysteme eindringen, kritische Infrastrukturen kontrollieren und Zugriff auf Ressourcen und Einfluss in der realen Welt erlangen.
Die Diskussionen über die Risiken der Superintelligenz sind in letzter Zeit immer hitziger geworden. Viele Forscher und Manager von OpenAI, Anthropic und anderen Spitzenforschungseinrichtungen haben öffentlich über die existenziellen Risiken diskutiert, die künstliche Intelligenz mit sich bringen kann. Einige Brancheninsider befürworten die Schaffung strengerer Sicherheitsvorschriften und eine Verlangsamung der Entwicklung modernster Modelle, um zunächst Kontrollierbarkeitsprobleme anzugehen.
Einige Leute in der Branche glauben jedoch, dass eine übermäßige Betonung extremer Risiken das enorme Potenzial ignorieren könnte, das künstliche Intelligenz in Bereichen wie wissenschaftlicher Forschung, medizinischer Versorgung, Bildung und Produktivitätssteigerung mit sich bringt. Sie glauben, dass die Stärkung der Sicherheitsmaßnahmen und die weitere Förderung technologischer Innovationen kein Widerspruch sind.
Während Unternehmen wie OpenAI, Anthropic, Google DeepMind und xAI weiterhin riesige Summen in den Aufbau von Modellen der nächsten Generation investieren, eskalieren die Debatten über die Sicherheit künstlicher Intelligenz, den nationalen Wettbewerb und die zukünftige Ausrichtung der Superintelligenz weiter. Coxons Äußerungen zur Geheimdienstdurchdringung und zum Superintelligenzwettbewerb haben die globale Industrie der künstlichen Intelligenz erneut in den Fokus der öffentlichen Meinung gerückt.
Kommentare