Ein fehlerhafter, durch künstliche Intelligenz erstellter Geheimdienstbericht hat im Frühjahr 2026 während des Iran-Kriegs beinahe zum militärischen Aufbringen eines chinesischen Frachters geführt. Wie CNN am 18. September 2026 berichtete, stufte ein Chatbot die Ladung des Schiffes im Nahen Osten fälschlicherweise als Komponenten für Atomwaffen ein. Die Identität des Schiffes sowie dessen tatsächliche Fracht blieben dabei unklar.
Fast-Eskalation durch ungeprüften Chatbot-Einsatz
Zu dem Vorfall kam es nach einem Einsatz von KI-Software beim US Special Operations Command Pacific auf Hawaii. Ein dortiger Analyst nutzte einen Chatbot zweimal ohne Überprüfung: zunächst für die Analyse des Lademanifests und anschließend zur Formalisierung des daraus resultierenden Berichts.
Das KI-System kombinierte dabei klassifizierte Signalaufklärung mit frei zugänglichen Open-Source-Daten und schloss daraus fälschlich auf nukleare Rüstungsgüter.
Der Bericht gelangte ohne formelle Prüfung in die militärischen Verteiler, da bei den US-Streitkräften ein einheitlicher Standard zur Verifikation fehle.
Die operationellen Folgen traten umgehend ein: Bewaffnete Einheiten des US-Militärs standen bereit, das Schiff zu entern, während Militärflugzeuge bereits in die Luft aufgestiegen waren. Erfahrene Analysten erkannten den Bewertungsfehler erst unmittelbar vor Beginn des Zugriffs und brachen die Operation im letzten Moment ab.
Wer sich professionell mit dem Einsatz von Algorithmen befasst, muss die neuen rechtlichen Rahmenbedingungen und Risikoklassen genau kennen. Dieser kostenlose Ratgeber klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Vier Quellen gaben an, dass die Einstufung des Berichts vollkommen falsch gewesen sei und beinahe einen Krieg ausgelöst hätte. Ein Experte merkte dazu an, dass künstliche Intelligenz es ermögliche, schneller zu einer schlechten Idee zu gelangen. Das Pentagon veröffentlichte bislang keinen detaillierten Bericht zu dem Vorfall.
Senatoren verlangen Aufklärung über KI-Fehler
Auf politischer Ebene sorgt der Vorfall für Gegenwind. Die demokratischen US-Senatoren Mark Warner, Jack Reed und Chris Coons wandten sich mit einem gemeinsamen Schreiben an Verteidigungsminister Pete Hegseth und die Führung der Nachrichtendienste unter Jay Clayton. Sie verlangen eine sofortige Untersuchung durch die zuständigen Generalinspektoren bezüglich der militärischen KI-Nutzung. Die Inspektoren sollen dafür uneingeschränkten Zugang zu sämtlichen Zielauswahl-Fehlern durch künstliche Intelligenz aus dem Jahr 2026 erhalten.
Der Beinahe-Zwischenfall fällt in eine Phase massiver Aufrüstung bei Software-Assistenten. Pete Hegseth hatte im Januar 2026 eine Strategie zur KI-Beschleunigung vorgelegt, die den Einsatz von Technologie für drei Millionen Angehörige des Militär- und Zivilpersonals vorsieht.
Über die Plattform GenAI.mil setzt das US-Verteidigungsministerium unter anderem auf Google Gemini for Government sowie Grok for Government; 1,5 Millionen aktive Bedienstete nutzten diese generativen Werkzeuge bereits. Zudem startete das Ministerium im Juni 2026 das sogenannte Agent-Network-Programm, das künstliche Intelligenz für das Gefechtsmanagement einbinden soll.
Die rasante Entwicklung bei Software-Assistenten bringt nicht nur neue Möglichkeiten, sondern auch komplexe Pflichten bei Dokumentation und Qualitätssicherung mit sich. Ein kostenloser Download verschafft Ihnen jetzt den notwendigen Überblick über Fristen und Anforderungen der aktuellen KI-Verordnung. EU AI Act in 5 Schritten verstehen
Gleichzeitig gab es Reibungen mit Technologieanbietern: Das KI-Unternehmen Anthropic verweigerte laut Berichten eine Pentagon-Anfrage, Sicherheitsvorkehrungen aus seinen Systemen zu entfernen. Das Verteidigungsministerium setzte Anthropic Claude im März 2026 daraufhin auf eine schwarze Liste. Ein Bundesrichter stufte diese Maßnahme im August 2026 jedoch als unrechtmäßige Vergeltung ein.
Sicherheitsexperten drängen auf Sicherheitslinien zwischen USA und China
Angesichts der Vorfälle fordern Fachleute beider Staaten striktere Kontrollmechanismen. Auf dem Xiangshan-Forum wurden die Risiken automatisierter Militärsysteme beraten.
In bilateralen Fachgesprächen mahnten Sicherheitsexperten aus den USA und China klare Schutzvorkehrungen an. Sie warnten, dass KI-Fehlinformationen, Fehlfunktionen oder automatisierte Reaktionen einen gegnerischen Angriff vortäuschen und binnen Minuten eine Eskalation entfachen könnten.
Die Expertinnen Melanie Sisson von der Brookings Institution und Tianjiao Jiang von der Fudan-Universität verlangten unter anderem rote Linien gegen den Einsatz von KI bei Entscheidungen über den Start von Nuklearwaffen sowie eine direkte Notfallverbindung zwischen Washington und Peking.
Der Kreis der Sicherheitsexperten sprach sich zudem für rote Linien gegen autonome KI-Angriffe auf nukleare Kommando- und Kommunikationssysteme, für die zwingende menschliche Autorisierung bei Cyberoperationen, präzise Definitionen menschlicher Kontrolle sowie einen eigenen Kanal für KI-Zwischenfälle aus.
