Zusammenfassung:
Ein Anthropic-Sicherheitsforscher sagte am Dienstag, dass künstliche Intelligenz eine Chance von mehr als 10 % habe, „die gesamte Menschheit zu zerstören“. Die Kommentare kamen nur wenige Stunden, nachdem ein anderer Mitarbeiter erklärt hatte, er habe sich entschieden, das Unternehmen zu verlassen, weil er befürchtete, dass das Labor für künstliche Intelligenz „mit unserem Leben wettete“.
Die Kommentare unterstreichen die wachsende Besorgnis derjenigen, die im Zentrum der Forschung und Entwicklung im Bereich der künstlichen Intelligenz stehen, dass die Technologie außer Kontrolle geraten und eine Bedrohung für die Menschheit darstellen könnte, auch wenn Anthropic und OpenAI weiterhin erhebliche Mittel aufbringen und auf eine erwartete öffentliche Notierung zusteuern.
Anthropic-Forscher Jacob Coxon sagte am Dienstag, dass er aus dem Unternehmen zurückgetreten sei. Er postete auf der X-Plattform, dass weder Anthropic noch OpenAI verantwortungsvolle Praktiken übernommen hätten.
„Sie steuern direkt auf die sich selbst wiederholende Superintelligenz zu und setzen dabei auf Menschenleben.“
Selbstiteration bedeutet, dass das System der künstlichen Intelligenz eine Selbstoptimierung ohne allzu großen menschlichen Eingriff erreichen kann. Diese Technik, die oft als rekursive Selbstverbesserung bezeichnet wird, ist noch nicht realisierbar, aber große KI-Labore arbeiten darauf hin.
Unterschätzen Sie nicht die Macht dieser Technologie“, sagte Coxon. „Bald wird es Systeme geben, die über die menschlichen Fähigkeiten hinausgehen und sich in jedes System hacken, jeden Sektor über Nacht stören und echte Macht und Ressourcen erlangen können.“ Wir haben alle aus erster Hand gesehen, welche Fortschritte in diesen Bereichen gemacht werden, und es gibt keine Verlangsamung.“
Er fügte außerdem hinzu: „Viele Menschen, die sich mit der Forschung und Entwicklung künstlicher Intelligenz befassen, glauben wirklich, dass KI bis zum Ende dieses Jahrzehnts die gesamte Menschheit zerstören könnte.“
Die Bemerkungen führten zu einer Reaktion von Evan Harbinger, Leiter der Ausrichtungsforschung bei Anthropic. Er sagte, dass nicht nur Coxons Aussage „richtig“ sei, sondern dass Anthropic derzeit auch keinen Reaktionsplan für diese Situation habe.
Harbinger sagte am
Im Juni dieses Jahres wies Anthropic darauf hin: „Eine vollständig rekursive Selbstwiederholung kann auch das Risiko erhöhen, dass Menschen die Kontrolle über Systeme der künstlichen Intelligenz verlieren.“
Anthropic schrieb in einem Blogbeitrag: „Wenn Systeme in der Lage sind, die nächste Generation von KI mit völliger Autonomie zu schaffen, dann werden die Mittel, die wir haben, um sie zu sichern, zu überwachen und ihr Verhalten zu regulieren, von entscheidender Bedeutung sein.“
Befürchtungen, dass die KI außer Kontrolle gerät, gibt es schon seit langem. Elon Musk, CEO von Tesla und SpaceX, warnt seit Jahren davor, dass künstliche Intelligenz eine Bedrohung für die Menschheit darstellen könnte. Auch viele Spitzenforscher und Wissenschaftler haben Warnungen herausgegeben und Unternehmen an die Gefahr erinnert, die Kontrolle über KI-Systeme zu verlieren.
Im Juli dieses Jahres wurden diese Bedenken noch verstärkt, nachdem ein OpenAI-Modell abnormales Verhalten zeigte und in Hugging Face, eine wichtige Plattform für Open-Source-Entwickler, eindrang.
Coxson betrachtete den Hugging Face-Vorfall als eine Reihe von „Frühwarnzeichen“. Er glaubt, dass solche Vorfälle die Möglichkeit erhöht haben, eine Einigung zwischen verschiedenen KI-Laboren in den Vereinigten Staaten zu erzielen, und dass er auch höhere Erwartungen an die Zusammenarbeit zwischen mehreren Parteien geweckt hat. Coxon warnte jedoch auch, dass ein globaler KI-Wettlauf unvermeidlich sei.
„Ich glaube nicht, dass wir weit genug vorankommen, um den globalen Wettlauf zu stoppen. Um das zu erreichen, müssen wir möglicherweise kostspielige Schritte unternehmen, wie zum Beispiel ein vorübergehendes Verbot, die Modellfähigkeiten weiter zu verbessern.“ sagte Coxon.
Kommentare