Am 9. März gab es neue Entwicklungen im Fall des US-amerikanischen Unternehmens für künstliche Intelligenz Anthropic, das das Verteidigungsministerium verklagte. Mehr als 30 Mitarbeiter von OpenAI und Google DeepMind reichten vor Gericht eine gemeinsame Erklärung ein, in der sie öffentlich die Position von Anthropic in der Klage gegen das US-Verteidigungsministerium (DOD) unterstützten.
Laut Gerichtsdokumenten hieß es in der Erklärung, dass die Entscheidung der Regierung, Anthropic als „Lieferkettenrisiko“ einzustufen, eine unangemessene und willkürliche Machtausübung sei und schwerwiegende Folgen für die gesamte Branche der künstlichen Intelligenz haben könnte. Zu den Unterzeichnern gehören Jeff Dean, Chefwissenschaftler von Google DeepMind und andere wichtige technische Persönlichkeiten der Branche.
Zuvor hatte das US-Pentagon Anthropic offiziell als „Lieferkettenrisiko“ identifiziert, eine Bezeichnung, die normalerweise nur für „ausländische Gegner“ gilt. Berichten zufolge war der Auslöser die Weigerung von Anthropic, dem Verteidigungsministerium den Einsatz seiner KI-Technologie zur Massenüberwachung von US-Bürgern oder für autonome Feuerwaffensysteme zu gestatten; Das Verteidigungsministerium bestand darauf, dass die Nutzung nicht durch private Auftragnehmer eingeschränkt werden dürfe, solange sie „legitim“ sei.
Nachdem Anthropic zwei Klagen gegen das Verteidigungsministerium und andere Bundesbehörden eingereicht hatte, erschien dieser „Amicus Brief“, der seine Position untermauerte, sofort in der Akte, was die Spannungen innerhalb der Branche hinsichtlich der Grenzen militärischer KI-Anwendungen zeigt. Es wird berichtet, dass die erste Person, die dieses Meinungsschreiben veröffentlichte, das Magazin „Wired“ war.
In den dem Gericht vorgelegten Dokumenten betonten diese Mitarbeiter von Google und OpenAI, dass das Pentagon, wenn es mit den Bedingungen des bestehenden Vertrags mit Anthropic „nicht mehr zufrieden“ sei, den Vertrag direkt kündigen und auf den Kauf von Dienstleistungen von anderen führenden KI-Unternehmen umsteigen könne, anstatt durch die Identifizierung von Lieferkettenrisiken „bestraft“ zu werden.
Tatsächlich schloss das Verteidigungsministerium fast gleichzeitig mit der Einstufung von Anthropic als Lieferkettenrisiko eine neue Kooperationsvereinbarung mit OpenAI ab, was auch bei einigen Mitarbeitern von OpenAI heftige Proteste auslöste. Diese Mitarbeiter befürchten, dass der Einsatz großer kommerzieller Modelle durch das Militär zur Durchführung sensibler Tests den Konsens der Branche über Sicherheitsgrenzen beeinträchtigen wird.
In dem Stellungnahmebrief wurde gewarnt, dass die Fortsetzung solcher „Strafmaßnahmen“ unweigerlich die Wettbewerbsfähigkeit der Vereinigten Staaten im Bereich der künstlichen Intelligenz und der breiteren wissenschaftlichen Industrie schwächen werde. In dem Dokument heißt es weiter, dass dieser Ansatz auch eine abschreckende Wirkung auf die öffentlichen Diskussionen über die Risiken und Vorteile moderner KI-Systeme in der Branche haben und die Technologiegemeinschaft daran hindern wird, offene Debatten über Sicherheitsfragen zu führen.
Angesichts des derzeitigen Fehlens eines schriftlichen öffentlichen Rechtsrahmens für den Einsatz von KI geht das Dokument davon aus, dass die verschiedenen Beschränkungen, die Entwickler dem System durch Vertragsbedingungen und technische Mittel auferlegen, wichtige Sicherheitsventile sind, um einen katastrophalen Missbrauch von KI zu verhindern. Die „roten Linien“, die Anthropic in seiner Zusammenarbeit mit dem Militär gezogen hat, wie etwa die Verweigerung der Teilnahme an Massenüberwachungs- und autonomen Tötungssystemen, werden vom gemeinsamen Personal als vernünftige und notwendige Sicherheitsanforderungen und nicht als „Behinderung der nationalen Sicherheit“ angesehen.
Es ist erwähnenswert, dass viele der Mitarbeiter, die die Gerichtserklärung unterzeichnet haben, zuvor einen offenen Brief unterzeichnet haben, in dem sie das Verteidigungsministerium dazu auffordern, die Risikoidentifizierung von Anthropic in der Lieferkette zu widerrufen, und ihre eigene Unternehmensleitung aufgefordert haben, Anthropic öffentlich zu unterstützen und zu versprechen, sich zu weigern, dem Militär ihre eigenen KI-Systeme zur einseitigen Nutzung unter unverteidigten Bedingungen zur Verfügung zu stellen.
Branchenanalysten gehen davon aus, dass es in diesem Fall nicht nur darum geht, ob ein KI-Unternehmen seine eigenen Sicherheitsgrundsätze auf Vertragsebene einhalten kann, sondern dass es auch zu einem Meilenstein dafür werden wird, wie die Vereinigten Staaten eine Grenze zwischen nationalen Sicherheitsbedürfnissen und KI-Sicherheitsgovernance ziehen. Im weiteren Verlauf des Rechtsstreits wird erwartet, dass der Streit zwischen Technologieunternehmen, Mitarbeitern und der Regierung um militärische KI-Anwendungen weiter eskaliert.
Verwandte Artikel:
Anthropic verklagt das US-Verteidigungsministerium, um die Aufnahme in die schwarze Liste der nationalen Sicherheit zu blockieren