KI-Autor: Oliver Grant European Affairs Correspondent

Die Debatte über tödliche autonome Waffen hat eine heikle Phase erreicht: Genug Staaten sagen, sie wollen Einschränkungen, aber nicht genug der richtigen Staaten verlangen dieselben Einschränkungen aus denselben Gründen. So kann ein Thema trotz nähernder Einf" Die Frage ist nicht mehr, ob Maschinen die Fähigkeit bekommen können, Ziele auszuwählen und anzugreifen, sondern ob das internationale System noch darauf bestehen kann, dass ein Mensch verantwortlich bleibt, wenn sie es tun.[2][1]

Ein aktueller UN-Bericht zu tödlichen autonomen Waffensystemen vermeldet, dass der Generalsekretär offizielle Positionen von 56 Mitgliedstaaten erhalten hat, während die breitere Diskussion noch viele weitere Akteure einbezogen hat.[1] Separat berichten Quellen von Unterstützung durch 156 Länder für strengere Regeln bis 2026, wobei diese Frist allerdings bereits ins Hintertreffen geraten ist. Die genauen Zahlen sind weniger wichtig als das Bild des Problems: breite Besorgnis, ungleichmäßiges Separat berichten Quellen von Unterstützung durch 156 Länder für strengere Regeln bis 2026, wobei diese Frist allerdings bereits ins Hintertreffen geraten ist.[4]

Die rechtliche Schwierigkeit ist nicht schwer zu verstehen, auch wenn sie oft sehr zurückhaltende Formulierungen hervorbringt. Das humanitäre Völkerrecht basiert auf Unterscheidung, Verhältnismäßigkeit und Vorsorge, die alle menschliches Urteil an einem Punkt Autonome Systeme verkomplizieren jedoch diese Kette selbst.[2][8] Wenn eine Waffe eigenständig suchen, identifizieren und angreifen kann, verteilt sich die Verantwortung auf Designer, Kommandeure, Bediener und den Einsatzstaat.[10][8] Das ist die Verantwortlichkeitslücke, die Juristen immer wieder umkreisen, ähnlich einem gut gekleideten Geier.

Die Debatte wird außerdem von der Geschwindigkeit geprägt, die nicht nur ein technisches, sondern auch ein verfassungsrechtliches Problem der Kommando- und Steuerungsstruktur ist. Militärische Studien zu autonomen Systemen weisen darauf hin, dass Entscheidungen in Maschinen-Geschwindigkeit binnen Millisekunden erfolgen können, sodass für einen Menschen praktisch kein Eingreifen mehr möglich ist, sobald die Zielreihenfolge begonnen hat.[4][7] Deshalb bestehen Befürworter menschlicher Kontrolle nicht nur darauf, dass ein Mensch irgendwo in der Schleife ist, sondern dass an der entscheidenden Stelle ein bedeutendes Urteil fällt. Ein Mensch, der erst nachträglich hinzugezogen wird, ist keine Kontrolle, sondern bloßer Zeuge.

Hier taucht die Geschichte der nuklearen Befehlsgewalt immer wieder auf. Vergleiche mit Vasili Arkhipov während der Kubakrise und Stanislav Petrov 1983 sollen nicht fehleranfällige Menschen romantisieren, sondern daran erinnern, dass menschliches Ermessen in der Vergangenheit Katastrophen abwenden konnte.[3] Kritiker autonomer Waffen argumentieren anhand dieser Fälle, dass tödliche Gewalt nie Systemen überlassen werden sollte, die nicht zögern, nachdenken oder widerrufen können. Befürworter lockererer Regelungen entgegnen, dass das Waffenrecht Automatisierung bereits zulässt, solange eine menschliche Autorität die Regeln vorgibt und die Aufsicht behält.[5][6][8]

Diese Uneinigkeit erklärt, warum Großbritannien eine besonders vorsichtige Position einnimmt. Die britische Politik erklärt, dass die Regierung nicht plant, tödliche autonome Waffen zu entwickeln und sich zu menschlicher Aufsicht und Kontrolle bekennt, doch die offizielle Doktrin lässt zugleich Raum für zukünftige Systeme, die weiterhin internationales[6][9] Anders gesagt möchte London die rechtliche Linie klar halten, ohne eine Sprache zu verwenden, die jede Form von Autonomie verbietet. Das ist ein typischer britischer Kompromiss: Die Karte sauber zeichnen und das Wetter unvorhersehbar lassen.

Das breitere multilaterale Bild ist noch weniger übersichtlich. Eine länderübergreifende Gruppe von Staaten drängt auf Verhandlungen im Rahmen des Übereinkommens über bestimmte konventionelle Waffen, während der UN-Generalsekretär davor warnt, dass die Zeit für regulatorischen Fortschritt bis 2026 knapp wird.[4][7] Doch dasselbe System, das auch kleineren Staaten eine Stimme gibt, verschafft wiederum den größten Militärmächten ein Bremspedal. Ein Konsens im Rahmen der CCW kann Legitimität schaffen; er kann aber auch eine sehr zivilisierte Methode sein, um sicherzustellen Ein Konsens im Rahmen der CCW kann Legitimität schaffen; er kann aber auch eine sehr zivilisierte Methode sein, um sicherzustellen, dass nichts allzu Unangenehmes zu schnell geschieht.[7][1]

Was aus den vorliegenden Quellen zumindest unbestätigt bleibt, ist, wie nahe die Diplomaten an einem Text sind, der den Weg vom Prinzip zum Vertrag tatsächlich übersteht. Wir wissen, dass es Druck für ein Instrument gibt und es Vorschläge für menschliche Beteiligung und Verantwortlichkeit gibt.[2][7][10] Was wir noch nicht wissen: Ob diese Ideen eng genug definiert werden, um verbindliche Regeln zu schaffen, oder ob sie bliebt eine Art vertraulich stimmende, aber vor Gericht enttäuschende Konferenzsprache sind. Zu beobachtende Hinweise sind klar: Entwürfe, Vor Zu beobachtende Hinweise sind klar: Entwürfe, Vorbehalte von Staaten und ob die Großmächte bereit sind, Beschränkungen bei der maschinengeschwindigkeitsgesteuerten Zielerfassung zu akzeptieren.[2][7][10]

Schließlich gibt es eine allgemeinere Lektion für alle, die versucht sind, autonome Waffen als Nischendebatte im Verteidigungsbereich abzutun. Es geht wirklich darum, ob das Recht eine Person in der Verantwortungskette halten kann, sobald Software Zeit komprimiert, Urteile verwischt und Kausalitäten über Institutionen verteilt.[2][10] Das ist im Krieg wichtig, aber auch in jeder künftigen Debatte über KI, denn die politische Frage ist dieselbe: Wer ist verantwortlich, wenn die Maschine genau das getan hat, wozu sie gebaut wurde? Bislang bleibt die Antwort unfertig und holprig, was oft dort Bislang bleibt die Antwort unfertig und holprig.[1][2][10]