Sam Altman, CEO des amerikanischen Unternehmens für künstliche Intelligenz OpenAI, erklärte kürzlich in einem internen Memo an die Mitarbeiter, dass das Unternehmen bei einer möglichen Zusammenarbeit mit dem US-Verteidigungsministerium (Pentagon) an derselben „roten Linie“ wie sein Konkurrent Anthropic festhalten werde: Es werde sich weigern, die eigene Technologie der künstlichen Intelligenz für Massenüberwachung oder vollständig autonome tödliche Waffensysteme einzusetzen.
Altman betonte in dem Memo, dass OpenAI weder technische Unterstützung für groß angelegte Überwachung leisten noch sich an der Entwicklung von Waffensystemen beteiligen werde, die autonom tödliche Angriffe bestimmen können. Dies steht in hohem Maße im Einklang mit dem Endergebnis, auf dem Anthropic in früheren Verhandlungen mit dem Pentagon bestanden hat. Die Weigerung von Anthropic, bei den beiden oben genannten Nutzungsarten Zugeständnisse zu machen, hat zu einem hochkarätigen und riskanten Spiel mit dem US-Verteidigungsministerium geführt.
Diese Aussage stellt die Gestaltung des Pentagons im Bereich der militärischen KI vor neue Unsicherheiten. Zuvor war das große Sprachmodell Claude von Anthropic das erste, das in einige der sensibelsten Geschäftsszenarien des US-Militärs integriert wurde, und galt als wichtiger Schritt für das Verteidigungsministerium, die militarisierte Anwendung modernster KI-Technologie zu fördern. Wenn OpenAI und Anthropic nun in wichtigen ethischen Grenzen konsequent bleiben und andere führende Unternehmen wie Google ähnliche Standpunkte vertreten, wird das Pentagon bei der Suche nach Alternativen auf größeren Widerstand gegen Verhandlungen und Technologieerwerb stoßen, insbesondere beim Einsatz von Allzweck-Großmodellen in hochsensiblen Militärmissionen.
Die technische und ethische Debatte über militärische KI verschärft sich zwischen US-amerikanischen Technologieunternehmen und Regierungsbehörden. Einerseits hofft das US-Verteidigungsministerium, allgemeine künstliche Intelligenz zu nutzen, um die Analyse von Nachrichtendiensten, die Kampfführung und die Entscheidungsfindung auf dem Schlachtfeld zu verbessern und sogar automatisierte Anwendungen auf höherer Ebene zu erforschen. Andererseits suchen viele führende KI-Unternehmen nach einem Gleichgewicht zwischen Geschäftsmöglichkeiten und ethischer Verantwortung und versuchen, die Verbreitung von Technologie in sensiblen Bereichen wie Massenüberwachung und autonomen tödlichen Waffen durch die Festlegung „roter Linien“ einzuschränken.
Altmans Aussage gilt als klare Positionierung eines weiteren Schlüsselakteurs zum Endergebnis der militärischen KI, nachdem die Differenzen zwischen dem Pentagon und Anthropic öffentlich wurden. Wenn Mainstream-Unternehmen vor dem Hintergrund der stark konzentrierten KI-Industrie in den Vereinigten Staaten einen Konsens über ethische Grenzen erreichen, wird dies tiefgreifende Auswirkungen auf den Weg und das Tempo des künftigen Erwerbs und Einsatzes allgemeiner KI-Fähigkeiten durch das Militär haben. Es könnte auch weitere Diskussionen und Spiele in den Vereinigten Staaten über militärische KI-Überwachung und internationale Regeln fördern.
Verwandte Artikel:
Anthropic bereitet sich auf den Rückzug aus einem 200-Millionen-Dollar-Verteidigungsvertrag vor, der US-Verteidigungsminister droht, die gemeinsame Nutzung von Technologie zu erzwingen
Das US-Verteidigungsministerium setzt eine öffentliche Frist für die uneingeschränkte Nutzung anthropischer KI-Tools