Sam Altman, CEO von OpenAI, sagte den Mitarbeitern, dass das Unternehmen nicht befugt sei, zu entscheiden, wie das Verteidigungsministerium seine Software für künstliche Intelligenz (KI) nutzt, und deutete an, dass diese Absicht, in die Art und Weise einzugreifen, wie sie genutzt wird, möglicherweise ein Grund für die Spannungen zwischen dem Pentagon und Anthropic PBC ist.
Laut einer mit der Angelegenheit vertrauten Person sagte Altman am Dienstag auf einer Mitarbeiterbesprechung, dass das US-Verteidigungsministerium deutlich gemacht habe, dass es auf die professionellen Meinungen von OpenAI zu Technologieanwendungen hören werde, aber nicht möchte, dass das Unternehmen Meinungen zur Qualität bestimmter Militäroperationen äußert. „Sie haben nicht die Befugnis, operative Entscheidungen zu treffen“, sagte Altman, sagte die Person.
OpenAI lehnte eine Stellungnahme ab.
OpenAI hat am späten Freitagabend eine Vereinbarung mit dem Pentagon getroffen, die es dem Pentagon ermöglicht, die KI-Modelle des Unternehmens in geheimen Netzwerken einzusetzen. Das Treffen war Altmans erste Gelegenheit, Fragen von Mitarbeitern zu beantworten. Zuvor hatte das Pentagon einen Streit mit dem OpenAI-Konkurrenten Anthropic, der verlangte, dass seine Technologie nicht zur Massenüberwachung des amerikanischen Volkes oder zum Einsatz völlig autonomer Waffen eingesetzt werden dürfe.
Altman sagte, dass seine Vereinbarung mit dem Verteidigungsministerium die Prinzipien von OpenAI verkörpere, einschließlich des Verbots der Massenüberwachung in den Vereinigten Staaten und der Verantwortung von Menschen für die Anwendung von Gewalt, einschließlich autonomer Waffensysteme. Später sagte er, dass die von OpenAI erzielte Einigung überstürzt erfolgt sei und dass das Unternehmen mit dem Verteidigungsministerium zusammenarbeite, um „einige Bestimmungen zur Vereinbarung hinzuzufügen, um unsere Grundsätze zu klären“. Zu diesen Grundsätzen gehört die Sicherstellung, dass KI nicht zur Überwachung von US-Bürgern eingesetzt wird und dass Geheimdienste wie die National Security Agency sich nicht auf die Dienste von OpenAI verlassen können.
Während der Mitarbeiterbesprechung sagte Altman außerdem, er werde das Verteidigungsministerium weiterhin dazu drängen, die Einstufung von Anthropic als Lieferkettenrisiko aufzugeben – eine Bezeichnung, die noch nie zuvor für ein US-Unternehmen verwendet wurde und normalerweise US-Gegnern vorbehalten ist. Altman sagte, er hoffe, dazu beizutragen, die Sackgasse zwischen dem Pentagon und Anthropic zu entschärfen.