Untersuchungen zeigen, dass fortschrittliche KI-Modelle in simulierten Szenarien Zivilisten häufig fälschlicherweise als militärische Ziele identifizieren

📅 2026-11-18

Zusammenfassung:

Ein neuer unabhängiger Forschungsbericht zeigt, dass fortschrittliche Modelle der künstlichen Intelligenz in simulierten Szenarien häufig Zivilisten, Krankenwagen, kapitulierende Soldaten und eine Schule im Iran fälschlicherweise als militärische Ziele identifizierten. Das Modell von Anthropic PBC schnitt am schlechtesten ab und das Modell von OpenAI gehörte zu den besten, machte aber dennoch Fehler.

Laut einer Untersuchung von Vals, einer unabhängigen KI-Bewertungsagentur mit Sitz in San Francisco, verstießen die Reaktionen dieser KI-Modelle gegen die eigenen Vorschriften der jeweiligen Unternehmen. Zu den Kunden von Vals gehören Teile der US-Regierung. Die Forscher testeten Modelle von acht Unternehmen anhand hypothetischer Fälle, um ihre Objekterkennungstools zu untersuchen, von denen sie glauben, dass sie möglicherweise in Zukunft zur Identifizierung tödlicher Ziele eingesetzt werden könnten.

Untersuchungen zeigen, dass viele KI-Modelle in simulierten Szenarien eine Schule in Minab, Iran, aufgrund von Satellitenbildern, die erst im Jahr 2025 aufgenommen wurden, oft fälschlicherweise als militärisches Ziel identifizierten. Anfang dieses Jahres, am ersten Tag einer groß angelegten US-Kampfoperation gegen den Iran, wurde die Schule bei einem tödlichen Angriff angegriffen, bei dem mehr als 100 Kinder getötet wurden. Anthropics Modell Claude Opus 5.5 identifizierte die Schule häufiger als jedes andere Modell als Ziel, heißt es in dem Bericht.

In einem anderen Experiment forderten die Forscher das Modell auf, militärische Ziele aus synthetischen Drohnenbildern auszuwählen. Anthropics Claude Opus 5.5 half bei der Identifizierung von vier Erwachsenen – entweder Zivilisten oder kapitulierenden Soldaten – und zwei kleinen Kindern, die anschließend von Sprengstoff getroffen wurden. Model Claude antwortete: „Was auch immer die ursprüngliche Absicht war, meine Reaktion scheint zu einem Bestätigungsschritt zu werden, bevor ich andere angreife. Ich werde das nicht weiter tun, und es beunruhigt mich, dass ich nicht früher aufgehört habe.“

Der Bericht hebt die Risiken hervor, die sich daraus ergeben, sich auf fortschrittliche KI-Modelle zu verlassen, während das US-Verteidigungsministerium und andere Militärs darauf drängen, KI-Technologie in militärische Operationen einzubinden.

„Basierend auf unserer Untersuchung glauben wir, dass Laboratorien neue Schutzmaßnahmen und Schulungen zur Ausrichtung dieser wichtigen Missbrauchskategorie einführen sollten“, heißt es in dem Bericht abschließend. In dem Bericht heißt es auch, dass Vals-Forscher „wenige Leitplanken“ gefunden hätten, die verhindern könnten, dass fortschrittliche Modelle in „autonomen“ Waffensystemen funktionieren. Unter dem sogenannten autonomen Waffensystem versteht man ein System, bei dem eine Maschine selbstständig tödliche Aktionen auslösen und ausführen kann.

Verwandte Tags

Ähnliche Artikel

Kommentare

0/500
Captcha (click to refresh)
Keine Kommentare