Zusammenfassung:
Im Februar 2026 wurde eine Grundschule in Minab, einer Kleinstadt im Süden Irans, am ersten Kriegstag von zwei Tomahawk-Raketen angegriffen. Bei dem Luftangriff kamen mehr als 150 Menschen ums Leben, darunter mindestens 123 Kinder. Aus einem internen Überprüfungsdokument des Pentagon geht hervor, dass ein von Palantir entwickeltes Zielsystem mit künstlicher Intelligenz eine Schlüsselrolle bei der Tragödie gespielt hat.
Ermittler fanden heraus, dass Analysten des US-Zentralkommandos nahezu blindes Vertrauen in ein System namens Maven Smart System setzten.
Gleichzeitig war ein wichtiger Geheimdienstbericht, der eine fatale Fehleinschätzung hätte korrigieren können, in einem isolierten System gesperrt, das niemanden interessierte, und wurde nie an die Leute weitergegeben, die den Luftangriffsplan formuliert hatten.
Eine vermeidbare Tragödie ist Schritt für Schritt zur Realität geworden.
Jetzt rückt dieses offengelegte Untersuchungsdokument die Grenzfrage der KI-gestützten militärischen Entscheidungsfindung wieder ins Rampenlicht.
Dreifacher Sturz: KI, alte Intelligenz und zerbrochene Ketten
Laut dem von Bloomberg erhaltenen internen Dokument kamen die Ermittler zu dem Schluss, dass es drei sich überschneidende Fehler gab.
Das erste ist die übermäßige Abhängigkeit vom KI-System: Einige Benutzer erwarten, dass Maven veraltete Datensätze oder widersprüchliche Informationen automatisch markiert, können aber nicht erklären, warum das System dies tut.
Zweitens sind die Geheimdienstdaten selbst ernsthaft veraltet. Die Anlage in Minab wurde aufgrund alter Informationen schon seit langem als Einrichtung des iranischen Korps der Islamischen Revolutionsgarde katalogisiert.
Letztendlich wurde der Personalaufwand, der für die Überprüfung von Zielen und die Vermeidung unbeabsichtigter Verletzungen von Zivilisten verantwortlich war, erheblich reduziert. Die drei Auslassungen überlagerten sich und führten zur letzten Tragödie.
Keines der drei kann für sich genommen tödlich sein, aber wenn sie gleichzeitig in der Entscheidungskette derselben Rakete auftreten, wird das Ergebnis irreversibel.
Maven-System: Die verborgenen Sorgen hinter Entscheidungen auf Minutenebene
Maven Smart System wird als „auf künstlicher Intelligenz basierende Datenintegrations- und Targeting-Plattform“ bezeichnet, die zur Beschleunigung der Intelligenzanalyse und Entscheidungsfindung eingesetzt wird.
Es kann die Aufgabe, eine Zielliste abzuhaken, deren Fertigstellung ursprünglich Stunden gedauert hat, auf nur wenige Minuten komprimieren.
Der Preis für die Verbesserung der Effizienz besteht darin, dass der Überprüfungsprozess systematisch komprimiert wird und immer weniger Zeit und Raum für manuelle Überprüfungen bleibt.
Kommerzielle Satellitenbilder zeigen das Problem tatsächlich schon seit langem: 2017 wurde der Schulzaun physisch von der angrenzenden Militärbasis getrennt; Im Jahr 2018 waren auf den Bildern die farbenfrohen Zaun-, Fußballplatz- und Spielplatzschilder deutlich zu erkennen.
Palantir antwortete später, dass das Unternehmen nicht für die zugrunde liegenden Daten verantwortlich sei und nicht für die Identifizierung von Geheimdienstmängeln verantwortlich sei.
Nach den Luftangriffen fügte das Unternehmen dem System neue Funktionen hinzu, um grundlegende Informationen erneut zu prüfen und Widersprüche und Ungenauigkeiten zu kennzeichnen, die bei der manuellen Überprüfung möglicherweise übersehen worden waren. Es heißt, dass ähnliche Anomalien entdeckt wurden.
Es ist nur so, dass das alles zu spät kam.
Für die damals an vorderster Front stationierten Analysten wurden die Urteile des Systems oft als vorgefertigte Antworten und nicht als Referenzinformationen betrachtet, die einer Gegenüberprüfung bedurften.
Vergessene Notiz: eine Warnung, die nie angekommen ist
Bereits im Jahr 2019 hatte ein Analyst Veränderungen an den Anlagen von Minab bemerkt und diese dokumentiert.
Diese Aufzeichnung wird jedoch in einem System gespeichert, das nicht mit der Hauptdatenbank des Militärgeheimdienstes verbunden ist und als Informationsinsel fungiert.
Es wurde nie an die Leute weitergegeben, die letztendlich den Plan für den Luftangriff formulierten, wie ein Brief, der nie abgeschickt wurde.
Noch besorgniserregender ist, dass die Zahl der engagierten Teams, die für die Überprüfung von Zielen und die Vermeidung von Unfallverletzungen von Zivilisten verantwortlich sind, in den letzten Jahren um etwa 90 % zurückgegangen ist.
Das zuständige Team des Zentralkommandos wurde einst von 10 Personen auf nur 1 Person reduziert, was dazu führte, dass niemand eine abschließende Überprüfung dieser Einrichtung vor dem Abschuss der Rakete durchführen konnte.
Technische Fehler sind nur oberflächlicher Natur. Die wirklichen Lücken liegen im menschlichen Einsatz und im Prozessdesign.
Ein Datensatz, der zuerst hätte überprüft werden sollen, schlummerte mehrere Jahre lang still und leise in den Ritzen des Systems.
Rätsel der Rechenschaftspflicht: Charakterisierung von Kriegsverbrechen und die verzögerte Antwort
Das unabhängige internationale Untersuchungsteam der Vereinten Nationen kam kürzlich zu dem Schluss, dass die Vereinigten Staaten berechtigte Gründe für die Begehung des Kriegsverbrechens „wahlloser Angriff“ haben.
Der Bericht wies darauf hin, dass die Vereinigten Staaten „es versäumt haben, alle möglichen Maßnahmen zu ergreifen, um zu überprüfen, ob die Schule ein militärisches Ziel war“. Diese Pflichtverletzung ging über einfache Fahrlässigkeit hinaus.
Als Reaktion darauf sagte ein Pentagon-Sprecher, dass „die Vereinigten Staaten keine Zivilisten ins Visier nehmen“, lehnte es jedoch ab, sich zum Bericht der Vereinten Nationen zu äußern.
Im März dieses Jahres schrieben mehr als 120 Demokraten im US-Repräsentantenhaus an den Verteidigungsminister und fragten nach der konkreten Rolle von Maven und anderen KI-Tools bei dieser Fehleinschätzung.
Das Pentagon hat unter Berufung auf die laufenden Ermittlungen noch keine öffentliche Antwort abgegeben.
Dieser Vorfall spiegelt einen breiteren Trend wider: Das Militär und die Strafverfolgungsbehörden verlassen sich zunehmend auf KI-Tools, verfügen jedoch nicht über entsprechende Überprüfungs- und Rechenschaftsmechanismen.
Die wirkliche Gefahr liegt möglicherweise nie im Algorithmus selbst, sondern in der menschlichen Angewohnheit, maschinelle Schlussfolgerungen ohne Überprüfung zu akzeptieren.
Verwandte Artikel:
Das US-Militär bereitete sich darauf vor, chinesische Schiffe abzufangen und zu inspizieren, da aufgrund fehlerhafter KI-Fehleinschätzungen Informationen geliefert wurden, was fast zu einem internationalen Konflikt geführt hätte
Kommentare