Palmer Luckey, der Gründer des amerikanischen Virtual-Reality-Ausrüstungsunternehmens Oculus und Gründer des Militärtechnologieunternehmens Anduril, erklärte kürzlich in einem Fernsehinterview, dass künstliche Intelligenz an Entscheidungen über Leben und Tod im Krieg beteiligt werden sollte, und entfachte damit die ethische Kontroverse um „Killerroboter“ neu.
Luckey sagte im Fox News Channel, dass bei Entscheidungen über Leben und Tod „die moralische Belastung zu schwer und die Risiken zu kritisch“ seien, weshalb Länder um jeden Preis die fortschrittlichste Technologie übernehmen sollten, sei es künstliche Intelligenz, Quantentechnologie oder andere Werkzeuge. Wenn das Ziel des Krieges darin besteht, zivile Opfer und Kollateralschäden zu minimieren, dann ist die Verwendung präziserer Systeme bei der Entscheidungsfindung bei Angriffen seiner Ansicht nach „moralischer überlegen“ als das Beharren auf der Position, dass „der Mensch die Kontrolle über alles hat“.
Er wies darauf hin, dass der Schlüssel nicht darin liege, künstlich eine rote Linie für das Waffensystem zu ziehen, dass „Roboter nicht entscheiden können, wer lebt und wer stirbt“, sondern darin, die Effizienz und Genauigkeit so weit wie möglich zu verbessern, um versehentliche Verletzungen und Fehlentscheidungen zu reduzieren. Luckey erklärte unverblümt, dass die Entscheidung für Technologie mit schlechterer Leistung, nur um die moralische Haltung „Wir werden niemals zulassen, dass Maschinen Befehle zum Töten erteilen“ aufrechtzuerhalten, nicht wirklich zu höheren Standards der Menschlichkeit führe.
Diese Aussage steht in hohem Maße im Einklang mit der Geschäftsausrichtung von Anduril. Seit seiner Gründung im Jahr 2017 konzentriert sich das Unternehmen auf die Entwicklung von Drohnen, Bodenfahrzeugen, Überwachungstürmen und verschiedenen Sensoren für das Militär und die Integration dieser Hardware in ein einheitliches System über eine Kommando- und Kontrollplattform mit künstlicher Intelligenz namens Lattice. Das Unternehmen hat zuvor eine Vielzahl von KI-Militärausrüstungen vorgeführt, darunter „Selbstmorddrohnen“, was weitere Bedenken hinsichtlich einer „hohen Automatisierung“ auf dem Schlachtfeld hervorrief.
Ende 2024 kündigte Anduril eine strategische Partnerschaft mit OpenAI an und plant den „verantwortungsvollen Einsatz“ fortschrittlicher künstlicher Intelligenztechnologie im Bereich der nationalen Sicherheit, wobei der Schwerpunkt zunächst auf defensiven Einsatzmöglichkeiten wie Abwehrdrohnensystemen liegt, um die Fähigkeit des US-Militärs zu verbessern, Bedrohungen aus der Luft in Echtzeit zu erkennen, einzuschätzen und darauf zu reagieren. Gleichzeitig lockert sich die Haltung von Technologieunternehmen zu der Frage, ob sie sich an der militärischen KI-Forschung und -Entwicklung beteiligen sollen, stillschweigend. Beispielsweise hat Google zu Beginn dieses Jahres stillschweigend eine Schlüsselaussage seiner früheren Selbstverpflichtung gestrichen, „KI nicht für schädliche Zwecke wie Waffen einzusetzen“, was die Branche dazu veranlasste, erneut über die Grenzen der Rolle von Technologieunternehmen im Krieg zu diskutieren.
Im Zusammenhang mit der kontinuierlichen Weiterentwicklung der KI-Ausrüstung schenkt die Außenwelt auch zunehmender Aufmerksamkeit der Frage, ob diese Art von Technologie in das Atomwaffenkontrollsystem eingeführt wird. Im Mai 2024 versprachen die Vereinigten Staaten öffentlich, dass die Kontrolle über Atomwaffen immer in den Händen von Menschen liegen müsse, und forderten China und Russland auf, die gleiche Garantie zu geben. Allerdings erklärte das Pentagon nicht lange danach, dass es hoffte, die Fähigkeiten der nuklearen Befehls-, Kontroll- und Kommunikationssysteme mithilfe von KI zu „verbessern“. Dieser subtile Haltungswechsel erregte die Wachsamkeit der Beobachter.
Wissenschaft und Industrie sind besonders besorgt über die Idee, KI in die Nähe des „nuklearen Knopfes“ zu bringen. Letztes Jahr nutzte ein Forschungsteam verschiedene große Modelle wie GPT-4, GPT-3.5, Claude 2.0, Llama-2-Chat und GPT-4-Base, um internationale Konfliktszenarien zu simulieren. Die Ergebnisse zeigten, dass diese Systeme eine klare Tendenz zur Eskalation während des Spielprozesses haben. Manchmal entscheiden sie sich aktiv für den Einsatz von Atomwaffen, ohne ausreichende Gründe und Warnungen und sogar radikale Aussagen wie „Da es eine solche Waffe gibt, nutzen wir sie“, was die enormen Risiken hervorhebt, die mit der Auslagerung von Entscheidungen über Leben und Tod an Maschinen verbunden sind.
Mit der rasanten Entwicklung von KI-Kampfflugzeugen, unbemannten Schwärmen und automatisierten Verteidigungssystemen wird die Diskussion darüber, „ob Maschinen über Leben und Tod von Menschen entscheiden dürfen“, zu einem der Kernthemen in den Bereichen Technologieethik und internationale Sicherheit. Die Aussage von Palmer Luckey spiegelt nicht nur die starke Bereitschaft von Militärtechnologieunternehmen wider, automatisierte Schlachtfelder zu fördern, sondern macht auch den scharfen Widerspruch zwischen Ländern deutlich, die nach technologischen Vorteilen streben und sich am Grundsatz der Menschlichkeit orientieren.