Laut MIT Technology Review plant das US-Verteidigungsministerium einen großen Wandel: den Aufbau einer streng vertraulichen Trainingsumgebung für Unternehmen im Bereich der generativen künstlichen Intelligenz, damit diese militärische Versionen großer Modelle anhand geheimer militärischer Geheimdienstdaten trainieren können. Dies bedeutet, dass Modelle, die ursprünglich nur in einer vertraulichen Umgebung „gelesen“ und „Fragen beantwortet“ haben, vertrauliche Daten in Zukunft möglicherweise direkt als Trainingsmaterial verwenden und so sensible Informationen in das Modell selbst „schreiben“.
Einige generative KI-Modelle, wie etwa Claude von Anthropic, werden bereits in geheimen Umgebungen eingesetzt, um Fragen zu beantworten und Analysen zu unterstützen, auch zu iranischen Zielen. Allerdings verarbeiten diese Modelle derzeit nur vertrauliche Informationen basierend auf vorhandenen Fähigkeiten und werden die Daten nicht zum Trainieren und Aktualisieren der Modelle selbst wiederverwenden. Wenn das Modell anhand geheimer Daten trainiert werden kann, wird erwartet, dass es bei der Ausführung spezifischer militärischer Aufgaben genauer und effizienter ist, es wird jedoch auch beispiellose Sicherheitsrisiken mit sich bringen.
Ein ungenannter US-Verteidigungsbeamter sagte, dass die Schulung des benutzerdefinierten Modells des Militärs anhand geheimer Daten seine Leistung und Zuverlässigkeit bei bestimmten Missionen voraussichtlich erheblich verbessern werde. Der Plan kommt inmitten der wachsenden Nachfrage nach leistungsfähigeren KI-Modellen im US-Militär: Das Pentagon hat Vereinbarungen mit OpenAI und Musks xAI getroffen, um seine Modelle in einer geheimen Umgebung laufen zu lassen, und verfolgt eine neue Strategie der künstlichen Intelligenz, die darauf abzielt, das US-Militär als Reaktion auf den eskalierenden Konflikt mit dem Iran in eine „KI-orientierte Kampftruppe“ zu verwandeln. Zum Zeitpunkt der Drucklegung hat das Pentagon diesen Trainingsplan noch nicht offiziell kommentiert.
Laut zwei Personen, die mit den relevanten Betriebsmodi vertraut sind, wird die obige Schulung in einem für geheime Projekte zertifizierten Rechenzentrum durchgeführt, wo eine bestimmte Version des KI-Modells mit geheimen Daten in derselben sicheren Umgebung gepaart wird. Nach Angaben des Verteidigungsbeamten verbleibt das Dateneigentum zwar beim US-Verteidigungsministerium, in seltenen Fällen kann es jedoch auch Mitarbeitern von KI-Unternehmen gestattet werden, auf die vertraulichen Daten zuzugreifen, wenn das entsprechende Personal über die entsprechende Sicherheitsfreigabe verfügt. Bevor das Pentagon tatsächlich klassifizierte Daten anspricht, plant es, diese zunächst anhand nicht klassifizierter Daten, beispielsweise kommerzieller Satellitenbilder, zu testen, um tatsächliche Verbesserungen der Genauigkeit und Wirksamkeit des trainierten Modells zu bewerten.
Das US-Militär nutzt seit langem eine ältere Generation von Computer-Vision-Modellen, um Objekterkennung auf Bildern und Videos durchzuführen, die von Drohnen und Aufklärungsflugzeugen gesammelt wurden, und hat Unternehmen im Rahmen von Regierungsverträgen damit beauftragt, Algorithmen auf der Grundlage solcher Daten zu trainieren. In den letzten Jahren sind auch nach und nach dedizierte große Sprachmodelle und Chatbot-Versionen für Regierungsszenarien aufgetaucht, wie etwa Claude Gov von Anthropic, das mehrsprachige Fähigkeiten und den Einsatz in einer sicheren Umgebung in den Vordergrund stellt. Allerdings ist diese Aussage von Verteidigungsbeamten das erste Mal, dass klar offenbart wurde, dass Unternehmen wie OpenAI und xAI, die groß angelegte Sprachmodelle entwickeln, möglicherweise direkt von der Regierung angepasste Modelle auf vertraulichen Daten trainieren.
Aalok Mehta, ehemaliger Leiter der KI-Politik bei Google und OpenAI und jetzt Direktor des Wadhwani AI Center des Center for Strategic and International Studies (CSIS), wies darauf hin, dass die tatsächliche Verwendung vertraulicher Daten zum Trainieren von Modellen im Vergleich zum bloßen „Lesen und Antworten“ in einer vertraulichen Umgebung neue Risiken mit sich bringt. Er glaubt, dass das größte Problem darin besteht, dass die durch das Modelltraining aufgenommenen vertraulichen Informationen in Zukunft „wieder auftauchen“ können, wenn sie von verschiedenen Benutzern abgefragt oder aufgerufen werden. Dies ist besonders gefährlich, wenn eine Reihe von Modellen über mehrere Dienste oder Dienste mit unterschiedlichen Sicherheitsstufen und unterschiedlichen Informationsanforderungen hinweg gemeinsam genutzt werden.
Mehta sagte beispielsweise, dass, wenn ein Modell Zugang zu hochsensiblen menschlichen Informationen hätte, etwa zur Identität eines verdeckten Agenten, diese Informationen versehentlich an einen anderen Teil des Militärs „durchgesickert“ werden könnten, wenn das Modell von einem anderen Teil des Militärs verwendet würde, der keinen Zugriff hatte. Dies würde nicht nur ein lebensgefährliches Risiko für Geheimdienstmitarbeiter und Frontpersonal darstellen, es wäre auch technisch schwierig, es absolut zu verhindern, insbesondere wenn dasselbe Modell von mehreren Einheiten genutzt wird. Im Gegensatz dazu glaubt er, dass es relativ einfacher ist, vertrauliche Informationen innerhalb des Militärs zu „sperren“ und zu verhindern, dass sie ins offene Internet oder in KI-Unternehmen zurückfließen.
Derzeit hat die US-Regierung einige relevante Infrastrukturen aufgebaut: So hat beispielsweise das Sicherheitsunternehmen Palantir mehrere Großaufträge zum Aufbau eines Sicherheitssystems für die Regierung erhalten, das Fragen und Antworten zu vertraulichen Themen beantworten kann, ohne die Informationen an KI-Unternehmen zurückzugeben. In diesen Systemen können Beamte Modelle zu geheimen Inhalten befragen, während die Daten auf eine kontrollierte Umgebung beschränkt sind. Die Anwendung derselben Sicherheitsarchitektur auf Schulungen und nicht nur auf Schlussfolgerungen und die Beantwortung von Fragen bleibt jedoch eine neue technische und verwaltungstechnische Herausforderung.
Im Januar dieses Jahres veröffentlichte Verteidigungsminister Pete Hegseth ein Memo, in dem er dazu drängte, die Einführung weiterer KI-Fähigkeiten im gesamten Verteidigungssystem zu beschleunigen und damit die Rennstrategie des Pentagons in diesem Bereich zu fördern. Generative KI wurde im tatsächlichen Kampf eingesetzt, beispielsweise zur Einstufung potenzieller Ziele und zur Bereitstellung von Vorschlägen für vorrangige Angriffe. Es wurde auch bei Verwaltungsarbeiten wie dem Verfassen von Verträgen und dem Organisieren von Berichten eingesetzt. Aus Sicht des Verteidigungssektors könnten viele Aufgaben, die ursprünglich von menschlichen Analysten ausgeführt wurden, in Zukunft auf stärkere KI-Modelle angewiesen sein, was aber auch bedeutet, dass den Modellen große Mengen vertraulicher Daten zugänglich gemacht werden müssen.
Mehta sagte, das Militär möchte möglicherweise, dass die KI einige subtile Urteile erlernt, die stark auf Erfahrung beruhen, wie beispielsweise das Erkennen extrem subtiler Hinweise in Bildern wie ein leitender Analyst oder das Herstellen komplexer Verbindungen zwischen neu gewonnenen Informationen und historischen Informationen. Zu diesem Zweck können die umfangreichen und mehrsprachigen Text-, Audio-, Bild- und Videodaten der Geheimdienste als Quellen für Schulungsmaterial dienen. Er betonte jedoch auch, dass es schwierig sei, der Außenwelt zu erklären, welche spezifischen Aufgaben eine Schulung zu vertraulichen Daten erfordern, da das Verteidigungsministerium einen starken Anreiz habe, seine spezifischen Fähigkeiten geheim zu halten, und nicht möchte, dass andere Länder die technologischen Grenzen der Vereinigten Staaten in diesem Bereich genau verstehen.
In den Augen der Außenwelt ist der Schritt des Pentagons nicht nur eine Reaktion auf die Bedürfnisse an vorderster Front, sondern auch eine risikoreiche Technologiewette: Sobald vertrauliche Informationen tief in großen Modellen verankert sind, wird das Militär automatisierte Analyse- und Entscheidungshilfefähigkeiten erhalten, die weit über die traditioneller Systeme hinausgehen. Es wird jedoch auch mit neuen Sicherheitsrisiken wie übermäßigem Modellspeicher, versehentlichen Lecks und verschwommenen Zugriffsgrenzen konfrontiert sein. Derzeit versuchen US-Verteidigungsbehörden, durch die Einrichtung hochisolierter sicherer Rechenzentren, strenger Zugangskontrollen und mehrschichtiger und individuell angepasster Modellbereitstellungsmethoden ein Gleichgewicht zwischen „Erlangung eines militärischen Vorteils“ und „Kontrolle von Sicherheitsrisiken“ zu finden, das in der Praxis noch nicht vollständig getestet wurde.