Internationale Beobachter warnen vor einer weltweiten Revolution bei der Entwicklung autonomer Waffensysteme. Der technologische Wandel hin zu Systemen, die ohne menschliches Eingreifen Ziele identifizieren, auswählen und bekämpfen können, löst erhebliche moralische sowie sicherheitspolitische Bedenken aus.
Vor diesem Hintergrund beginnen am 16. November 2026 im Rahmen der UN-Waffenkonvention in Genf Verhandlungen zur Regulierung sogenannter tödlicher autonomer Waffensysteme.
Experten sehen die internationale Gemeinschaft unter erheblichem Handlungsdruck. Jean-Marc Rickli vom Geneva Centre for Security Policy stuft die Verhandlungsagenda in Genf als sehr eng ein. Tödliche autonome Systeme seien in der Lage, Ziele vollständig autonom zu bekämpfen.
Das Ausmaß moderner Zielerfassung verdeutlichen Angaben Ricklis, wonach die Streitkräfte der Vereinigten Staaten in diesem Jahr im Konflikt gegen Iran bis zu 1.000 Ziele pro Tag attackiert haben. Auch die Organisation Amnesty wies darauf hin, dass entsprechende autonome Systeme bereits getestet und eingesetzt worden seien.
Bedenken hinsichtlich der Zuverlässigkeit äußerte unter anderem der Chef des KI-Unternehmens Anthropic, Dario Amodei, wonach hochentwickelte KI-Systeme derzeit noch nicht zuverlässig genug für den Einsatz in vollautonomen Waffen seien. Das chinesische Verteidigungsministerium hatte bereits im Januar autonome Drohnenschwärme als das neue Gesicht der Kriegsführung bezeichnet.
Klare rote Linien und völkerrechtliche Vorgaben gefordert
Die Führung der Vereinten Nationen dringt angesichts dieser Entwicklungen auf strikte Begrenzungen. UN-Menschenrechtschef Volker Türk formulierte vor den Verhandlungen drei Kernprioritäten.
Neben der dringenden Vereinbarung bindender internationaler Regeln verlangt er ein striktes Verbot von Systemen, die Menschen konstruktionsbedingt oder in der Praxis direkt angreifen, was er als rote Linie bezeichnete.
Zudem müsse der Mensch stets die Kontrolle behalten: Gewaltentscheidungen und militärische Handlungen müssten auf menschliche Akteure zurückführbar sein, während die Verantwortung bei Entwicklern, Betreibern und Nutzern verbleiben müsse.
Während die internationale Politik über ethische Grenzen von KI-Systemen debattiert, müssen Unternehmen bereits heute konkrete rechtliche Anforderungen erfüllen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Pflichten und Fristen, die durch aktuelle Regulierungen auf Organisationen zukommen. EU AI Act in 5 Schritten verstehen
Dieser Haltung schloss sich die UN-Menschenrechtssprecherin Shabia Mantoo in Genf an. Menschliches Urteilsvermögen müsse im Zentrum jeder Gewaltausübung stehen, da Maschinen den Wert menschlichen Lebens weder verstehen noch dafür rechenschaftspflichtig gemacht werden könnten.
Ohne ein wirksames Verbot drohe die Proliferation von Antipersonenwaffen bis hin zu nichtstaatlichen bewaffneten Gruppen sowie kriminellen Organisationen. Auch die Präsidentin des Internationalen Komitees vom Roten Kreuz, Mirjana Spoljaric, betonte in Genf, dass Kriege nicht von Maschinen geführt werden dürften.
Den Behauptungen, autonome Systeme ermöglichten eine humanere und präzisere Kriegsführung, trat sie entgegen: Die jüngste Technik habe in der Praxis zu wahlloser Zerstörung geführt, unter der vor allem die Zivilbevölkerung leide, während immer mehr Systeme autonom Ziele per Algorithmus bekämpfen.
Der technologische Fortschritt bringt nicht nur neue Möglichkeiten, sondern auch komplexe regulatorische Fragen zur Dokumentation und Risikobewertung mit sich. Erfahren Sie in diesem kostenlosen Report, welche Anforderungen an die Transparenz und Qualitätssicherung von KI-Systemen jetzt für Verantwortliche gelten. Kostenlosen Umsetzungsleitfaden zum AI Act sichern
Uneinigkeit über rechtlich bindende Regelungen
Die diplomatischen Positionen für die Verhandlungen bis zum 20. November 2026 gehen allerdings auseinander. Nach Angaben der Koalition Stop Killer Robots sprechen sich 130 Staaten für neue Regeln aus; zudem hatten 163 Länder eine entsprechende Resolution der UN-Generalversammlung unterstützt.
Eine Mehrheit der Staaten, darunter Frankreich und Deutschland, unterstützt die Schaffung eines rechtsverbindlichen Instruments. Frankreich verfolgt dabei den Ansatz, vollautonome Systeme zu untersagen, während teilautonome Varianten zulässig bleiben sollen.
Dagegen lehnt die britische Regierung einen rechtlich bindenden Vertrag über solche Systeme im Vorfeld der Genfer Gespräche ab. Das Außenministerium in London bestätigte diese Haltung zwar nicht offiziell, doch nach Angaben von Richard Moyes von der Nichtregierungsorganisation Article 36 strebt Großbritannien ein Mandat an, das sich explizit nicht auf ein völkerrechtliches Rechtsinstrument festlegt.