Das US-Verteidigungsministerium fordert mehrere führende Unternehmen für künstliche Intelligenz, darunter OpenAI und Anthropic, dazu auf, in kommerziellen Bereichen weit verbreitete generative KI-Tools mit militärisch geheimen Netzwerken zu verbinden und regelmäßige Nutzungsbeschränkungen für normale Benutzer in diesen Umgebungen aufzuheben oder deutlich zu lockern.
Nach Angaben von mit der Angelegenheit vertrauten Personen erklärte Emil Michael, Chief Technology Officer des Verteidigungsministeriums, am Dienstag bei einer Veranstaltung im Weißen Haus mehreren Führungskräften von Technologieunternehmen, dass das Ziel des Militärs darin bestehe, diese hochmodernen KI-Modelle sowohl auf nicht klassifizierten als auch auf geheimen Informationssystemen laufen zu lassen. Ein ungenannter Beamter sagte, das Pentagon fördere „den Einsatz modernster KI-Fähigkeiten auf allen geheimen Ebenen“.
Der Schritt ist Teil laufender Verhandlungen zwischen dem Pentagon und mehreren generativen KI-Unternehmen darüber, wie die Vereinigten Staaten künstliche Intelligenz auf künftigen Schlachtfeldern einsetzen werden; In diesen Szenarien sind Drohnenschwärme, Roboter und Cyberangriffe Teil des Kriegsbildes geworden. Es wird erwartet, dass Michaels Aussage die scharfe Debatte zwischen „dem Wunsch des Militärs, KI mit möglichst wenigen Einschränkungen einzusetzen“ und „Technologieunternehmen, die versuchen, Nutzungsgrenzen für ihre eigenen Werkzeuge festzulegen“ weiter verschärfen wird.
Derzeit entwickeln viele KI-Unternehmen maßgeschneiderte Tools für das US-Militär, die meisten Produkte können jedoch nur in nicht klassifizierten Netzwerken eingesetzt werden, die für das tägliche Militärmanagement verwendet werden. In einer geheimen Umgebung sind nur einige der Produkte von Anthropic über Drittkanäle erhältlich, und die Regierungen sind weiterhin verpflichtet, die Nutzungsrichtlinien des Unternehmens einzuhalten. Die geheimen Netzwerke des Militärs werden in der Regel für sensiblere Aufgaben wie die Planung von Kampfeinsätzen oder die Zielerfassung von Waffen eingesetzt. Es ist unklar, wie und zu welchem Zeitpunkt das Pentagon plant, Chatbot-ähnliche KI-Systeme vollständig in diese Netzwerke einzubetten.
Militärbeamte hoffen, die leistungsstarken Fähigkeiten der generativen KI zur Informationsintegration und -induktion nutzen zu können, um die Entscheidungsfindung und Situationsanalyse zu unterstützen. Forscher warnen jedoch davor, dass selbst die fortschrittlichsten Modelle Fehler machen und sogar Informationen „erfinden“, die vernünftig klingen, in Wirklichkeit aber falsch sind; Sobald solche Fehler in einem hochsensiblen und geheimen Kampfumfeld auftreten, können die Folgen fatal sein.
Um Risiken so weit wie möglich zu reduzieren, verfügen die meisten KI-Unternehmen über integrierte Sicherheitsmechanismen in den Modellen und verlangen von ihren Kunden die Einhaltung einer Reihe von Nutzungsrichtlinien. Einige Pentagon-Beamte haben diese externen Beschränkungen jedoch kritisiert und argumentiert, dass das Militär das Recht haben sollte, kommerzielle KI-Tools entsprechend seinen eigenen Bedürfnissen einzusetzen und zu nutzen, solange es mit US-Recht vereinbar ist.
Diese Woche hat OpenAI eine Vereinbarung mit dem Pentagon getroffen, die es dem Militär erlaubt, seine Tools, einschließlich ChatGPT, in einem nicht klassifizierten Netzwerk namens „genai.mil“ zu verwenden; Die Plattform wurde mehr als 3 Millionen Mitarbeitern des Verteidigungsministeriums zur Verfügung gestellt. Im Rahmen der Vereinbarung stimmte OpenAI zu, viele der üblichen Beschränkungen des Netzwerks für die öffentliche Nutzung aufzuheben, einige Sicherheitsvorkehrungen bleiben jedoch bestehen. Google, im Besitz von Alphabet, und xAI, gegründet von Musk, haben zuvor ähnliche Vereinbarungen getroffen.
OpenAI sagte in einer Erklärung, dass diese Zusammenarbeit derzeit nur für die nicht vertrauliche Nutzung über „genai.mil“ bestimmt sei. Um auf dieser Grundlage auf andere Umgebungen (z. B. vertrauliche Netzwerke) auszuweiten, muss eine neue oder überarbeitete Vereinbarung unterzeichnet werden.
Im Vergleich zu OpenAI ist der Verhandlungsprozess von Anthropic mit dem Pentagon angespannter und schwieriger. Führungskräfte des Unternehmens haben den Militärbeamten klar gemacht, dass sie nicht wollen, dass ihre Technologie für autonome Waffenangriffe oder groß angelegte Überwachung in den Vereinigten Staaten eingesetzt wird. Zu den Produkten von Anthropic gehört der Chatbot „Claude“.
Ein Anthropic-Sprecher sagte, das Unternehmen sei „verpflichtet, die Führungsrolle der USA im Bereich der KI zu behaupten und die US-Regierung bei der Reaktion auf ausländische Bedrohungen zu unterstützen, indem es den Kampfflugzeugen modernste KI-Fähigkeiten zur Verfügung stellt.“ Der Sprecher sagte, dass Claude in zahlreichen nationalen Sicherheitsmissionen der US-Regierung eingesetzt wurde und dass das Unternehmen einen „produktiven Dialog“ mit dem „Kriegsministerium“ darüber führe, wie die entsprechende Zusammenarbeit weiter vorangetrieben werden könne.
Auf Anordnung von Präsident Donald Trump treibt das US-Verteidigungsministerium seine Pläne voran, seinen Namen in Kriegsministerium zu ändern, vorbehaltlich gesetzgeberischer Maßnahmen des Kongresses.