Angesichts der zunehmenden militärischen Nutzung künstlicher Intelligenz haben UN-Generalsekretär António Guterres und die Präsidentin des Internationalen Komitees vom Roten Kreuz (IKRK), Mirjana Spoljaric Egger, eine dringende Warnung vor autonomen Waffen ausgesprochen.
Beide Spitzenvertreter fordern die internationale Gemeinschaft auf, ein verbindliches Abkommen zu schließen, um die Kontrolle über tödliche Waffensysteme sicherzustellen. Auslöser für den gemeinsamen Vorstoß ist ein folgenschwerer Drohnenangriff in der Ukraine, bei dem ein KI-gesteuertes System eigenständig über den Einsatz tödlicher Gewalt entschieden haben soll.
Der Vorfall in Saporischschja als Wendepunkt
Hintergrund der aktuellen Forderungen ist ein Ereignis vom 6. Juli 2026 in der Region Saporischschja. Berichten der New York Times zufolge kam bei Kampfhandlungen eine russische Drohne zum Einsatz, die mit einer experimentellen künstlichen Intelligenz ausgestattet war. Das System wählte sein Ziel – in diesem Fall Propantanks – laut den vorliegenden Informationen vollständig autonom aus.
Bei der daraus resultierenden Explosion kamen drei Zivilisten im Alter von 19, 41 und 48 Jahren ums Leben. Der Vorfall gilt als eines der ersten dokumentierten Beispiele, bei denen eine Maschine ohne unmittelbares menschliches Eingreifen über ein Angriffsziel entschied und dabei zivile Opfer forderte.
UN und IKRK nehmen diesen Vorfall zum Anlass, um auf die ethischen und rechtlichen Gefahren hinzuweisen, die von Systemen ausgehen, die eigenständig Ziele identifizieren und bekämpfen können.
Wer sich mit den neuen regulatorischen Rahmenbedingungen für künstliche Intelligenz befasst, findet in diesem Leitfaden alle wichtigen Informationen zu Risikoklassen und Dokumentationspflichten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Technische Grundlagen der autonomen Zielauswahl
Die technologische Basis für derartige Operationen wird durch Fortschritte im Bereich der sogenannten Edge-KI ermöglicht. Analysen ergaben, dass die im Vorfall vom 6. Juli eingesetzte Drohnentechnologie mit speziellen Hardware-Komponenten ausgestattet war, um die notwendige Rechenleistung für die autonome Zielerkennung direkt an Bord zu erbringen.
Dabei sollen Nvidia Jetson Orin Module verwendet worden sein. Diese Prozessoren sind speziell für KI-Anwendungen in kompakten Endgeräten konzipiert und erlauben es, komplexe Algorithmen zur Bildverarbeitung und Entscheidungsfindung ohne dauerhafte Verbindung zu einem zentralen Server auszuführen. Diese technologische Autonomie erschwert nach Ansicht von Experten die menschliche Aufsicht und Verantwortlichkeit im Moment der Schussauslösung erheblich.
Die rasanten technologischen Entwicklungen bringen nicht nur ethische, sondern auch neue rechtliche Anforderungen für Organisationen und Entwickler mit sich. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko eingestuft werden und was jetzt konkret zu tun ist. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Forderung nach internationaler Regulierung
UN-Generalsekretär Guterres und IKRK-Präsidentin Spoljaric Egger betonten in ihrer Stellungnahme, dass die technologische Entwicklung die geltenden rechtlichen Rahmenbedingungen zu überholen drohe. Sie warnten davor, dass Maschinen nicht über Leben und Tod entscheiden dürften.
Ein völkerrechtlich bindendes Abkommen müsse klare Grenzen setzen, um sicherzustellen, dass die Entscheidungsgewalt über den Einsatz von Waffen stets in menschlicher Hand verbleibe.
Die Organisationen fordern nun eine schnelle diplomatische Reaktion, um eine weitere Eskalation durch unregulierte autonome Waffensysteme zu verhindern. Der Vorfall in Saporischschja verdeutliche die dringende Notwendigkeit, internationale Standards zu etablieren, bevor der Einsatz solcher experimenteller KI-Systeme in bewaffneten Konflikten zur Norm werde.
