Anthropic PBC, das sich seit vielen Jahren mehr als seine Mitbewerber auf die Sicherheit künstlicher Intelligenz konzentriert, hat nun sein Engagement für seine „Sicherheitsleitplanken“ gelockert. Dies ist einer der bisher dramatischsten politischen Veränderungen in der KI-Branche und spiegelt auch wider, dass eine Gruppe von Start-ups, die sich einst darauf konzentrierten, Menschen zu helfen, ihre Aufmerksamkeit auf Profit und Erfolg richtet.
In der 2023 veröffentlichten „Responsible Expansion Policy“ erklärte das Unternehmen, dass es die Entwicklung von KI, die Gefahren verursachen könnte, verschieben werde. Aber Anthropic hat seine Regeln in einem am Dienstag veröffentlichten Blogbeitrag aktualisiert und erklärt, dass es dies nicht mehr tun wird, wenn das Unternehmen der Ansicht ist, dass es keinen wesentlichen Vorteil gegenüber seinen Konkurrenten hat.
Anthropic schrieb in dem Artikel: „Das politische Umfeld hat sich dahingehend verlagert, dass die KI-Wettbewerbsfähigkeit und das Wirtschaftswachstum Priorität haben, während auf Bundesebene sicherheitsorientierte Diskussionen noch keinen nennenswerten Schwung bekommen haben.“
Die Anpassung kommt überraschend, da Anthropic seit langem versucht, sich durch seine Sicherheitshaltung von seinen Mitbewerbern abzuheben, da es mit OpenAI, Google von Alphabet und xAI von Elon Musk um die Vorherrschaft in einer von vielen als revolutionäre neue Technologie angesehenen Technologie konkurriert. Anthropic-CEO Dario Amodei, der zuvor bei OpenAI gearbeitet hatte, verließ das Unternehmen teilweise aufgrund von Bedenken, dass OpenAI sich mehr auf Kommerzialisierung und Geschwindigkeit als auf Sicherheit konzentrierte.
Beide Unternehmen drängen nun darauf, noch in diesem Jahr an die Börse zu gehen, um von der Begeisterung der Anleger für KI zu profitieren. Anthropic wurde kürzlich mit 380 Milliarden US-Dollar bewertet, während OpenAI Finanzmittel im Wert von mehr als 850 Milliarden US-Dollar aufnahm.
Ein Sprecher von Anthropic sagte: „Von Anfang an haben wir gesagt, dass die Geschwindigkeit der KI-Entwicklung und die Unsicherheit in diesem Bereich eine schnelle Iteration und Verbesserung von Richtlinien erfordern.“
Anfang des Monats sagte der leitende Sicherheitsforscher Mrinank Sharma, dass er Anthropic verlassen würde. „Ich stelle weiterhin fest, dass ich Bilanz über die Situation ziehe, in der wir uns befinden“, schrieb er in einem Brief an Kollegen, der auf der sozialen Plattform X veröffentlicht wurde.
„Die Welt ist in Gefahr“, schrieb er, „und zwar nicht nur durch KI oder biologische Waffen, sondern durch eine Reihe miteinander verbundener Krisen, die sich derzeit ereignen.“