Zusammenfassung:
Anthropic warnte Investoren, dass das offene Eintreten des Unternehmens für die Sicherheit durch künstliche Intelligenz (KI) es zum Ziel staatlicher Vergeltungsmaßnahmen machen könnte. Die Kommentare verdeutlichen die potenziell unverhältnismäßigen Auswirkungen staatlicher Risiken auf das zukünftige Geschäft von Anthropic nach wiederholten Spannungen mit der Trump-Regierung im vergangenen Jahr.
Anthropic sagte in seinem Börsengangsantrag, dass seine Haltung zur KI-Regulierung und die von Führungskräften des Unternehmens öffentlich geäußerten Ansichten das Unternehmen einem erheblichen staatlichen Druck aussetzen könnten.
Anthropic erwähnte in seinem Prospekt: „Wir haben mehr Aufmerksamkeit erhalten und werden möglicherweise auch weiterhin eine strengere Prüfung erhalten. Wir könnten von bestimmten Regierungsbehörden ins Visier genommen werden, auch wenn andere Unternehmen in ähnlichen Situationen nicht auf die gleiche Weise behandelt wurden.“
Im September traf Anthropic-CEO Dario Amodei zu einem Treffen im Weißen Haus ein.
Anthropics Auseinandersetzung mit der Trump-Administration geht auf einen Streit Anfang des Jahres darüber zurück, welche Sicherheitsvorkehrungen getroffen werden sollten, wenn das Pentagon die Technologie des Unternehmens nutzt. Anthropic war kürzlich mit Regierungsvertretern uneins darüber, ob sein hochmodernes Mythos-Modell sicher genug ist. CEO Dario Amodei hat eine koordinierte Verlangsamung der KI-Entwicklung unterstützt, um den Sicherheitsteams Zeit zu geben, mit den technologischen Fortschritten Schritt zu halten, eine Haltung, die Trump verärgert hat.
Investoren müssen nun die regulatorischen Risiken abwägen, mit denen Anthropic konfrontiert ist. Die Technologie des Unternehmens ist einfach zu bedienen und kann als alltägliches Verbraucherprodukt vermarktet werden, ist jedoch stark genug, um als Cyberwaffe und möglicherweise sogar als Katalysator für biologische Kriegsführung betrachtet zu werden und daher einer genaueren Prüfung zu unterliegen. Für Anthropic erhöhen die wiederholten Konflikte mit der Trump-Regierung die Unsicherheit, mit der die gesamte KI-Branche konfrontiert ist, um ein weiteres Risiko.
Sarah Kreps, Direktorin des Tech Policy Institute der Cornell University, sagte: „Für KI werden die Grenzen der Regierungsmacht immer noch schrittweise geklärt, manchmal durch direkte Konfrontation mit einzelnen Unternehmen. Für Investoren ist es schwierig, diese Unsicherheit zu bepreisen.“
Anthropic legte in seinem Prospekt eine Reihe negativer Auswirkungen offen, die die Regierung mit sich bringen könnte, und erwähnte eine Reihe vorgeschlagener Bundesgesetze, darunter die erzwungene Schließung von Modellen und sogar die Verstaatlichung von KI-Unternehmen. Anfang des Jahres brachten einige Beamte, darunter Vizepräsident Vance, die Idee ins Spiel, das Verteidigungsproduktionsgesetz aus der Zeit des Kalten Krieges zu nutzen, um Unternehmen zur Offenlegung von Informationen und zur Zusammenarbeit mit nationalen Sicherheitsbehörden zu zwingen. Bloomberg berichtete darüber.
Anthropic listete außerdem die Risiken auf, die staatliche Eingriffe für die KI-Entwicklungsbemühungen mit sich bringen können, einschließlich der Möglichkeit, dass Handelskontrollen dazu führen können, dass Unternehmen ausländische Kunden verlieren, und die möglichen rechtlichen Konsequenzen von Modellfehlverhalten. Anthropic sagte, das Unternehmen sei möglicherweise nicht in der Lage, die Maßnahmen der von ihm entwickelten Systeme „vollständig zu verstehen oder zu erklären“ und werde weiterhin auf regulatorische Maßnahmen drängen, die wiederum sein eigenes Geschäft behindern könnten.
Anthropic sagte: „Wenn die von uns befürworteten regulatorischen oder ähnlichen Maßnahmen ergriffen werden, werden wir auch diesen Maßnahmen unterliegen, und die neuen Vorschriften können unseren Compliance-Aufwand erhöhen, unsere Flexibilität bei der Produktentwicklung oder -bereitstellung einschränken, sich darauf auswirken, wie und wann wir neue Modelle entwickeln oder veröffentlichen, oder unser Wachstum auf andere Weise verlangsamen.“
Anthropic warnte außerdem davor, dass die von ihr entwickelte Technologie letztendlich eine Bedrohung für den Menschen darstellen könnte. Dies spiegelt die Befürchtungen vieler KI-Forscher im Silicon Valley vor katastrophalen Folgen wider, Befürchtungen, die Trump und seine Verbündeten als „Schwindel“ abgetan haben.
Im September fand der G20-Gipfel in Chapel Hill, North Carolina, statt. Ein Demonstrant hält vor der Innovationsministerkonferenz ein Schild gegen KI.
Das Unternehmen erklärte: „Wenn fortschrittliche KI-Systeme nicht unter angemessenen Sicherheitsvorkehrungen, Aufsicht und Sicherheitsmaßnahmen entwickelt, eingesetzt und betrieben werden, können sie katastrophale oder sogar existenzielle Risiken für die Menschheit darstellen.“
Anthropic sagte, seine jüngsten Bemühungen, KI-Modelle mit wissenschaftlicher Forschung zu kombinieren, könnten zu Beschränkungen führen, die die Entwicklung tödlicher biologischer Waffen verhindern sollen. Wird das Modell für Cyberangriffe missbraucht, droht Anthropic eine rechtliche Haftung und ein Reputationsschaden.
Die Trump-Administration ist nicht nur eine Regulierungsbehörde für Anthropic, sondern auch ein wichtiger Kunde der Produkte des Unternehmens, wodurch das Unternehmen noch stärker von Regierungsentscheidungen beeinflusst wird. Anthropic sagte, dass Einnahmen direkt aus Verträgen mit Regierungsbehörden in allen von IPO-Anträgen abgedeckten Zeiträumen etwa 1 % der Gesamteinnahmen ausmachten, wobei die Daten bis ins Jahr 2023 zurückreichen.
William Reinsch, ehemaliger Unterstaatssekretär des Büros für Industrie und Sicherheit des US-Handelsministeriums, sagte: „Die Situation von Anthropic ist etwas Besonderes, denn während der Trump-Regierung waren viele Handlungen sehr willkürlich und Anthropic wurde anders behandelt als andere Unternehmen.“
Matt Pearl, ehemaliger Direktor des Nationalen Sicherheitsrats des Weißen Hauses und jetzt Direktor des strategischen Technologieprogramms am Center for Strategic and International Studies, sagte: „Wir wissen nicht, zu welcher Art von Agentur Anthropic und andere führende KI-Unternehmen letztendlich werden werden. Ich habe noch nie eine solche Situation erlebt. Die endgültige Form eines großen Unternehmens und seine grundlegendste Beziehung zur Regierung befinden sich in einem so ungelösten Zustand.“
Kommentare