Autonome Waffensysteme und menschliche Kontrolle - Einleitung
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
NR. 31 APRIL 2021 Einleitung Autonome Waffensysteme und menschliche Kontrolle Konsens über das Konzept, Unklarheit über die Operationalisierung Anja Dahlmann / Elisabeth Hoffberger-Pippan / Lydia Wachs Menschliche Kontrolle ist das zentrale Element, das ferngesteuerte, unbemannte Waffensysteme von sogenannten letalen autonomen Waffensystemen (LAWS) unter- scheidet. Während ein recht breiter Konsens besteht, dass der Mensch auch weiterhin eine maßgebliche Rolle bei der Entscheidung über eine Tötung mit militärischen Mitteln haben muss, gibt es nach wie vor Unklarheit darüber, wie dieses Prinzip der menschlichen Kontrolle konkret ausgestaltet, sprich operationalisiert werden kann. Dies ist ein Grund, warum die internationalen Verhandlungen über LAWS stocken. Die ausbleibende Verständigung über ein Regelwerk hat Folgen für internationale Rüstungsprojekte wie das Future Combat Air System (FCAS), für die Vergabe von Gel- dern aus dem Europäischen Verteidigungsfonds (EDF) und für die Zusammenarbeit in der Nato. Deutschland kann die Operationalisierung des Grundsatzes der mensch- lichen Kontrolle sowohl national als auch international stärker vorantreiben. Tödliche Waffensysteme, bei denen der Anders als bei bisherigen Verboten, Mensch nicht über die Zielauswahl und die beispielsweise Streumunition oder Brand- Art der Zielbekämpfung entscheidet, so- waffen, lassen sich LAWS nicht über eine genannte LAWS, bringen rechtliche und Definition der Waffenkategorie regulieren, ethische Probleme mit sich, denn bei ihrem denn autonome Funktionen sind bei ganz Einsatz fehlt es an einer angemessenen unterschiedlichen Plattformen und in ver- menschlichen Kontrolle. teilten Systemen möglich. Auch das Krite- Zwar gibt es schon heute Waffensysteme, rium der Technologie, die sich hinter die- die automatisiert Ziele bekämpfen, zum sen Funktionen verbirgt, eignet sich nicht Beispiel Nahbereichsverteidigungssysteme, gut für eine Verbotsdefinition, da sich die die anfliegende Flugkörper abwehren. Hier Technologie im Laufe der Zeit verändern hat jedoch vorab ein Mensch das Ziel hin- wird und Schlagworte wie Künstliche Intel- reichend klar bestimmt, und die Waffe kann ligenz (KI) selbst recht unbestimmt sind. nur in einem sehr begrenzten Einsatz- Eine Lösung könnte die Formulierung des kontext verwendet werden. Internationalen Komitees vom Roten Kreuz
Grafik 1
(IKRK) bieten: Demnach sind autonome rückhalten und eine Regelung auf der inter-
Waffensysteme (AWS) solche, bei denen in nationalen Ebene abwarten wollen. Zudem
der Zielauswahl und -bekämpfung kein stellen die unterschiedlichen Vorstellungen
weiterer menschlicher Eingriff nötig ist. Ein zur menschlichen Kontrolle auch ein Hin-
AWS ist damit ein Waffensystem ohne dernis für die Interoperabilität von Verbün-
menschliche Kontrolle in den kritischen deten und für die Vereinbarung internatio-
Funktionen, nämlich der Zielauswahl und naler Rüstungskontrollregeln dar.
des damit einhergehenden Angriffs auf ein Zahlreiche Staaten entwickeln Waffen-
legitimes militärisches Ziel. Eine Regulie- systeme mit autonomen Funktionen. Zum
rung von LAWS dürfte dementsprechend Teil fügen sich diese auch in neue Führungs-
am ehesten über das Gebot menschlicher konzepte ein. Sowohl innerhalb der EU als
Kontrolle herbeizuführen sein, denn für die auch innerhalb der Nato werden gegen-
rechtliche und ethische Bewertung eines wärtig Systeme entwickelt, die eine Heraus-
Waffensystems kommt es in erster Linie auf forderung für den Primat der menschlichen
den Einfluss an, den der Mensch bei seiner Kontrolle darstellen.
Verwendung ausübt. So haben sich Deutschland, Frankreich
Darüber, dass der Mensch eine gewisse und Spanien noch nicht darüber verstän-
Steuerungskompetenz behalten muss, sind digt, welche Anforderungen an autonome
sich in Deutschland wie auch international Funktionen im Future Combat Air System
viele politische und militärische Akteure (FCAS) zu stellen bzw. welche Grenzen des
einig. Wie genau diese ausgestaltet sein kann selbständigen Agierens hier zu setzen sind.
und soll, ist aber umstritten. Die unter- Innerhalb der Nato könnte es beispielsweise
schiedlichen Vorstellungen sind ein Pro- zu Konflikten kommen, wenn die USA in
blem auch für das Beschließen nationaler gemeinsamen Einsätzen stark automati-
Regelungen, da sich die Staaten angesichts sierte Operationen durchführten, die
der eher stockenden internationalen Ent- Deutschland für rechtlich und ethisch pro-
wicklung und der nach wie vor bestehen- blematisch hält. Unterschiedliche Vorstel-
den Uneinigkeiten auch innerstaatlich zu- lungen zum Wirkungsradius von AWS und
SWP-Aktuell 31
April 2021
2
fehlende Rüstungskontrollregeln könnten Operationalisierung der menschlichen Kon-
darüber hinaus Rüstungsdynamiken, etwa trolle und für Regulierungsoptionen weiter-
zwischen China, Russland und den USA, zuentwickeln. Dies kann mit Blick auf die
entfachen. CCW geschehen, aber auch im Rahmen der
Nato und der EU und auf nationaler Ebene.
Die CCW als Kristallisationspunkt
für die Debatte über menschliche Unterschiedliche Konzepte zur
Kontrolle Mensch-Maschine-Interaktion in
der GGE
Die oben genannten Unklarheiten werden
im Rahmen der Konvention über bestimm- Zahlreiche GGE-Mitglieder sprechen sich
te konventionelle Waffen (Convention on für die Verwendung des Konzepts der »(be-
Certain Conventional Weapons, CCW) be- deutsamen) menschlichen Kontrolle« aus.
sonders deutlich. Die Übereinkunft hat zum In einem gemeinsamen Papier bekräftigten
Ziel, Waffen, die übermäßige Leiden ver- Belgien, Brasilien, Deutschland, Irland,
ursachen, zu beschränken oder zu verbie- Luxemburg, Mexiko, Neuseeland und Öster-
ten. Seit 2014 sprechen Vertreterinnen und reich die Notwendigkeit dieses Ansatzes.
Vertreter der Vertragsstaaten und der Zivil- Sie fordern, dass die Grundlagen für die
gesellschaft dort auch über LAWS, seit 2017 menschliche Kontrolle bei der Zielauswahl
in einer Gruppe von Regierungsexperten und -bekämpfung bereits in der Entwick-
(Group of Governmental Experts, GGE), der lungsphase gelegt werden.
alle CCW-Staaten angehören. Die deutsche Deutschland setzt sich für eine inter-
Delegation besteht aus Repräsentanten und nationale Ächtung von AWS ein, »die der
Repräsentantinnen des Verteidigungsminis- Verfügung des Menschen entzogen sind«.
teriums und – federführend – des Aus- Dies muss dem Wortlaut nach jedoch kein
wärtigen Amtes. rechtlich verbindliches Verbot sein. Die
Die GGE hat das Mandat, Elemente eines deutsche GGE-Delegation definierte mensch-
normativen und operativen Rahmenwerks liche Kontrolle zuletzt dahingehend, dass
zu erarbeiten, also einer Vorstufe zu einem die bedienende Person ausreichende Kennt-
rechtsverbindlichen CCW-Protokoll. Ob es nisse über das System, die Umgebung des
zu einem neuen Protokoll kommt, ist noch Ziels und die sich aus diesen Faktoren er-
offen und erscheint unter anderem an- gebende Wechselwirkung habe. Eine kon-
gesichts der Opposition der USA und Russ- stante physische Kontrolle sei nicht zwin-
lands eher unwahrscheinlich (siehe Grafik 1). gend geboten. Dennoch sollte die bedienen-
Ein Baustein des Rahmenwerks sind die de Person darauf vertrauen können, dass
elf unverbindlichen Leitprinzipien, auf die das System in der intendierten Art – und
sich die CCW-Staaten 2019 verständigt damit im Rahmen des Rechts – agiere. Das
haben. In diesen Grundsätzen bekräftigen erforderliche Maß an menschlicher Kon-
die Vertragspartner unter anderem die trolle bemesse sich an den Fähigkeiten des
essentielle Rolle der Mensch-Maschine-Inter- Systems und dem operativen Kontext. Eine
aktion. Dies ist der Oberbegriff für verschie- ähnliche Position nimmt die EU ein, deren
dene Konzepte, mit denen die GGE-Teil- Delegation, vertreten durch den Auswärti-
nehmerstaaten die Art des menschlichen gen Dienst, innerhalb der GGE aktiv mit-
Einflusses auf die Steuerung von Waffen- wirkt. Das Europäische Parlament fordert
systemen beschreiben. Derzeit sind die ein Verbot von LAWS und die Wahrung der
GGE-Treffen pandemiebedingt ausgesetzt, menschlichen Kontrolle. Zudem schließt
während Forschung und Entwicklung im das vorläufige Konzept des Europäischen
Bereich KI und Autonomie voranschreiten. Verteidigungsfonds (EDF) die Förderung von
Umso wichtiger ist es, dass Deutschland die Waffen aus, die die Ausübung der mensch-
Pause nutzt, um seine Konzepte für eine lichen Kontrolle untergraben.
SWP-Aktuell 31
April 2021
3Auch Russland und China haben sich wenn Automatisierung dabei nicht Ziel, son-
im Rahmen der GGE prinzipiell für die Un- dern Mittel zum Zweck ist, spielt mensch-
abdingbarkeit menschlicher Kontrolle über liches Entscheiden – verglichen mit heu-
autonome Waffensysteme ausgesprochen. tigen Führungskonzepten und Planungs-
Ob China an diesem Prinzip tatsächlich zyklen – hier eine weit geringere Rolle.
festhält, ist angesichts seiner militärischen Insgesamt wird deutlich, dass die Teil-
Bestrebungen bei Techniken der KI fraglich. nehmerstaaten der GGE recht unterschied-
Russland hat angemerkt, dass die Ausdiffe- liche Vorstellungen davon haben, welche
renzierung des Konzepts den Staaten selbst Mensch-Maschine-Interaktion angemessen
überlassen sein soll. Eine Erarbeitung uni- ist. Dennoch gibt es Gemeinsamkeiten. So
verseller Standards hält es für nicht ziel- sollten die Aktionen von Waffensystemen
führend. Im Gegensatz dazu hat sich die für einen (oder mehrere) Menschen vorher-
Bewegung blockfreier Staaten nicht nur für sehbar und den Anwendern zurechenbar
eine Verpflichtung zur menschlichen Kon- sein. Die Art des menschlichen Einflusses
trolle im Waffeneinsatz ausgesprochen; sie wird von diversen Faktoren während der
fordert auch, diese Verpflichtung, verbun- gesamten Entwicklung und Nutzung des
den mit einem Verbot von LAWS, rechtlich Systems bestimmt. Der Einfluss muss nicht
zu verankern. die Form einer direkten Steuerung anneh-
Die USA ziehen hingegen das Konzept men, sich aber mindestens in gewissen Ein-
der »angemessenen menschlichen Beurtei- griffsmöglichkeiten ausdrücken. Über die
lung« (judgment) vor und lehnen die Formel genaue Ausgestaltung der Mensch-Maschine-
von der »menschlichen Kontrolle« ab. Letzt- Interaktion besteht gleichwohl noch Ge-
lich gehe es um die effektive Übertragung sprächsbedarf.
der Intention des Kommandeurs auf das
Gefecht. Gerade dies könne durch auto-
nome Funktionen und automatisierte Infor- Gründe für menschliche Kontrolle
mationsgewinnung und -verarbeitung sogar über den Gewalteinsatz
gefördert werden. Menschliche Kontrolle –
hier allerdings verstanden als direkter, Die Verpflichtung zur Aufrechterhaltung
manueller Eingriff – könne hingegen für menschlicher Kontrolle beim Einsatz von
die Durchführung einer Militäroperation Waffen ist bisher nicht Gegenstand eines
hinderlich sein. Der Fokus der USA liegt völkerrechtlichen Vertrags, auch wenn
eher auf der Kontrolle von Effekten, also das Prinzip schon im Zusammenhang mit
der Überprüfung der Wirkungen militäri- Chemiewaffen und Antipersonenminen
scher Schläge. Außerdem betonen die USA diskutiert wurde. Dennoch lässt sie sich
mögliche Vorteile autonomer Funktionen, zumindest mittelbar aus dem humanitären
während andere Länder, zum Beispiel Völkerrecht ableiten.
Deutschland, tendenziell auf die Gefahren Das Gebot der menschlichen Kontrolle
schauen und den Entscheidungsprozess kann sich beispielsweise aus dem Unter-
engmaschiger regulieren wollen. Besonders scheidungsgrundsatz ergeben. Dieser ver-
anschaulich wird die amerikanische Posi- pflichtet die Konfliktparteien, zwischen
tion durch das neue Führungskonzept Joint Zivilisten und Kombattanten zu unterschei-
All-Domain Command and Control (JADC2). den und militärische Angriffe nur gegen
Dieses zielt darauf ab, durch einen vernetz- militärische Ziele durchzuführen. Der Grund-
ten Datenaustausch der unterschiedlichen satz der Verhältnismäßigkeit wiederum
Teilstreitkräfte und eine KI-basierte Daten- verpflichtet Konfliktparteien, im Falle eines
auswertung ein integriertes Lagebild in Angriffs auf ein legitimes militärisches Ziel,
Echtzeit zu generieren, das frühzeitig auf bei dem auch mit Schäden an der Zivilbevöl-
Bedrohungen hinweist, effiziente Reak- kerung zu rechnen ist, darauf zu achten,
tionsmöglichkeiten vorschlägt und damit dass der zu erwartende konkrete und un-
Entscheidungszyklen beschleunigt. Auch mittelbare militärische Vorteil die Schäden
SWP-Aktuell 31
April 2021
4an der Zivilbevölkerung übertrifft. Zudem Ergebnisse erzielt wurden, die deren Ein-
verpflichtet das Vorsichtsprinzip Konflikt- satz rechtfertigen. Eine Verletzung der
parteien unter anderem dazu, einen Angriff Würde wäre demnach gerechtfertigt, wenn
zu beenden, wenn sich herausstellt, dass zahlreiche Leben gerettet wurden. Wenn
das angegriffene Ziel kein militärisches ist. man jedoch der in der deutschen Recht-
In vielen Szenarien ist fraglich, ob LAWS sprechung verbreiteten deontologischen
diesen Vorgaben entsprechend eingesetzt Sichtweise folgt und außerdem annimmt,
werden können, da juristische Abwägungen dass eine zu starke Automatisierung der
in dynamischen Situationen ein Kontext- Zielauswahl die Menschenwürde verletzt,
verständnis voraussetzen, zu dem Maschi- wäre die Verwendung autonomer Waffen
nen nicht imstande sind. Diese können je- wohl keine Option für die Bundeswehr.
doch den Menschen durch Datensammlung Schließlich gibt es auch aus militärischer
und Datenaufbereitung dabei unterstützen. Sicht ein Interesse, die Effekte von Angrif-
Auch die Frage nach individueller und fen kontrollieren zu können, um das Mis-
staatlicher Zurechenbarkeit und Verantwort- sionsziel zu erreichen. Eine Eskalation von
lichkeit steht im Raum. Während zahl- Konfliktsituationen aufgrund unvorherseh-
reiche Stimmen in der Literatur im Hin- barer Aktionen des Waffensystems ist un-
blick auf den Einsatz von LAWS von mög- erwünscht. Daher ist auch aus einem rein
lichen Verantwortungslücken sprechen, militärischen Blickwinkel die menschliche
sehen andere Fachleute weniger Probleme Kontrolle im Entscheidungsprozess un-
und verweisen auf das Konzept der Befehls- abdingbar, wobei zu diskutieren ist, wann
verantwortung, eine Kategorie des humani- und in welcher Form der Mensch seinen
tären Völkerrechts. Demzufolge sind mili- Einfluss geltend macht (siehe Grafik 2). Da-
tärische Befehlshaber immer für die Recht- mit zeigt sich, dass bei der Ausgestaltung
mäßigkeit des von ihnen angeordneten des Konzepts der menschlichen Kontrolle
Waffeneinsatzes verantwortlich, und zwar der weitere militärische Entscheidungs-
unabhängig davon, ob ein AWS zur An- prozess und der Angriff selbst, aber auch
wendung gelangt. Dem ist allerdings ent- die technischen Gegebenheiten in den Blick
gegenzuhalten, dass eine Verantwortungs- genommen werden müssen.
zurechnung nur sinnvoll ist, wenn die
durch ein AWS erzielten Effekte durch den
Befehlsverantwortlichen vorhergesehen Lösungsansätze für die Operatio-
werden können. nalisierung der menschlichen
Darüber hinaus spielen bei der Ausgestal- Kontrolle
tung des Grundsatzes der menschlichen
Kontrolle auch ethische Fragen eine Rolle. Eine zentrale Frage in der Diskussion über
So hat das Argument Gewicht, dass bei solch die Operationalisierung menschlicher Kon-
schwerwiegenden Entscheidungen wie trolle lautet: Kontrolle worüber und durch
jener zu einem militärischen Schlag immer wen? So kann man den Fokus auf den enge-
ein Mensch, der den Angriff durchführt bzw. ren Zielkreislauf richten und die Kontrolle
den Einsatz leitet, sein Gewissen belasten während des Angriffs oder zumindest un-
muss. Zudem kommt es darauf an, dass die mittelbar davor ansetzen. Kontrolle kann
Zielperson nicht zu einem beliebigen Daten- aber auch im größeren Prozess der Ziel-
punkt degradiert und so in seiner Würde auswahl oder gar im Produktzyklus des
verletzt wird. Dieser deontologischen Ethik Waffensystems zum Tragen kommen. Eine
steht eine eher utilitaristische Perspektive noch weitere Perspektive ist der Blick auf
gegenüber, die ausschließlich auf die die Effekte des Angriffs. Eine abschließende
Effekte des Waffeneinsatzes blickt. Hier ist Lösung der Frage, wann die menschliche
also nicht die Frage, ob eine ethische Ab- Kontrolle umgesetzt werden muss, drängt
wägung stattfand, sondern ob durch den sich also nicht auf, doch gibt es Konzepte,
Einsatz autonomer Waffensysteme bessere menschliche Kontrolle so zu operationali-
SWP-Aktuell 31
April 2021
5Grafik 2
Quellen: UNIDIR, The Human Element in Decisions about the Use of Force, 2020, S. 4; ; iPRAW, Focus on Human Control, 2019, S. 12, .
sieren, dass diese zentralen Aspekte ein- erhalten; er spricht aber nicht gegen den
bezogen werden. Ansatz der »meaningful human control«.
Die Nichtregierungsorganisation (NGO) So orientiert sich auch das Internationale
Article 36, ein Mitglied der internationalen Komitee vom Roten Kreuz (IKRK) an einem
Campaign to Stop Killer Robots, prägte den ähnlichen Konzept. Das IKRK betont, dass
Begriff »meaningful human control« und menschliche Kontrolle eine Voraussetzung
machte ihn zu einem wichtigen Baustein für die Umsetzung des humanitären Völ-
der CCW-Gespräche. Demnach muss ein kerrechts ist. Notwendige Elemente dieser
Mensch (oder müssen mehrere Menschen) Kontrolle seien eine gewisse zeitliche und
nicht nur in den Prozess der Zielauswahl räumliche Nähe zwischen letzter mensch-
eingebunden sein, der menschliche Einfluss licher Entscheidung und Waffenwirkung.
muss auch eine bestimmte Qualität haben. Zudem müssten die Aktionen des Waffen-
Dies sei noch nicht dadurch gewährleistet, systems für den Nutzer vorhersehbar sein.
dass ein Mensch lediglich den Angriff frei- Das vom Auswärtigen Amt finanzierte
gibt, nachdem er automatisiert gefilterte International Panel on the Regulation of
Informationen erhalten hat, denn damit ist Autonomous Weapons (iPRAW), in dem die
der Mensch nicht wirklich in den Entschei- Autorinnen federführend mitarbeiten, baut
dungsprozess eingebunden. Kritiker wenden auf der Definition des IKRK auf und leitet
allerdings ein, dass diese Forderung zu weit daraus Mindestanforderungen ab: Demnach
geht, da schon heute viele Informationen besteht menschliche Kontrolle aus zwei Ele-
gefiltert und automatisiert bei militärischen menten, nämlich dem Situationsverständ-
Entscheidern einträfen. Dieser Sachverhalt nis und der Eingriffsmöglichkeit mindes-
ist sicher zu berücksichtigen, um ein diffe- tens eines Menschen. Beide Vorgaben müs-
renziertes Bild menschlicher Kontrolle zu sen bereits im Design des Waffensystems
SWP-Aktuell 31
April 2021
6berücksichtigt werden (control by design) und Verständnis bei der Anwendung der Waffe
während der Nutzung erfüllbar sein (control ausreichend Gewicht zugemessen wird. So
in use). Die menschliche Kontrolle kann sich sind viele sinnvolle Anwendungen von KI
auf den engeren Prozess der Zielauswahl auf und Automatisierung denkbar und auch
taktischer Ebene beziehen, sollte aber auch bereits im Einsatz. Hinzu kommt, dass
schon bei früheren Entscheidungsschritten eine moderne, vernetzte Kriegsführung auf
zum Tragen kommen (siehe Grafik 2). Datensammlung und Datenauswertung
All diesen Anforderungskatalogen ist aufbaut. Im Fokus stehen also vielmehr ein
implizit gemeinsam, dass nur eine formel- kritischer Umgang mit den technischen
hafte Annäherung an den Begriff der Möglichkeiten und ein ständiges Hinter-
menschlichen Kontrolle möglich ist, es aber fragen, welche Rolle der Mensch spielt und
keine abschließende Definition gibt, die aus operativer, rechtlicher und ethischer
sich für alle Einsatzszenarien eignet. Die Sicht spielen sollte. So kann die Kombina-
jeweils angemessene Ausgestaltung des tion von an sich unproblematischen Assis-
Konzepts hängt von drei Faktoren ab, die tenzsystemen und automatisierten Schrit-
den operativen Kontext umreißen: (1) Para- ten bei der Zielauswahl zu einem schlei-
meter, wie die Vorgaben für das Ziel und chenden Verlust menschlicher Kontrolle
der Zeitrahmen des Angriffs, (2) die Um- führen.
gebung des militärischen Ziels, (3) die Mit einem relativ simplen Verbot, wie es
Mensch-Maschine-Interaktion. Diese drei zum Beispiel bei Streumunition und ande-
Faktoren bedingen sich gegenseitig. Wenn ren Waffenkategorien möglich war, ist es
zum Beispiel von einem Angriff auf ein legi- darum nicht getan. Das Besondere an dem
times militärisches Ziel Zivilpersonen be- Fokus auf die Mensch-Maschine-Interaktion
troffen sein könnten (Ziel) und das Waffen- ist, dass hier nicht die Anzahl oder Reich-
system über Tage hinweg in einem großen weite einer bestimmten Waffe begrenzt
Gebiet eingesetzt wird (Umgebung), sollte werden soll, sondern es Regeln für den
die Mensch-Maschine-Interaktion recht eng militärischen Entscheidungsprozess bedarf.
sein, damit militärische Entscheider auf Auch wenn sich die Aufmerksamkeit der
unvorhergesehene Ereignisse reagieren und »humanitären Abrüstung« häufig auf die
ihre rechtlichen Abwägungen anpassen Art der Nutzung einer Waffe richtet, ist dies
können. So benötigt ein Waffensystem, das doch ein neuartiger Ansatz. Die Regulie-
auf offener See Flugkörper abwehren soll, rung von AWS über ein Gebot der mensch-
wohl eine weniger engmaschige Über- lichen Kontrolle birgt darum einige kon-
wachung als eines, das an Land Kombattan- zeptionelle Herausforderungen, erscheint
ten von Grenzübertritten abhalten soll. Bei aber nicht unmöglich.
bereits in Nutzung befindlichen Waffen- Eine Regulierung im CCW-Rahmen
systemen wie dem deutschen MANTIS, die könnte ein allgemein formuliertes Gebot
unter die oben genannte Definition von enthalten. Die Anwendung autonomer
AWS fallen, käme man also in vielen Kon- Funktionen würde dadurch stark begrenzt,
texten zu dem Ergebnis, dass es auch im was ein Verbot für LAWS – verstanden als
Modus ohne menschliche Eingriffe ausrei- Waffensystem ohne ausreichende menschli-
chend menschlicher Kontrolle unterliegt. che Kontrolle – bedeuten würde. Details
zum Verhältnis von menschlicher Kontrolle
und operativem Kontext könnten beispiels-
Empfehlungen weise in Best-Practices-Sammlungen und
anderen, rechtlich unverbindlichen Doku-
Die Diskussion über die Operationalisie- menten behandelt werden.
rung der menschlichen Kontrolle bei AWS Ein zentrales Problem ist allerdings, dass
zielt nicht darauf ab, technische Unter- beispielsweise die USA und andere Nato-
stützung für menschliche Entscheidungen Mitglieder sowie Russland und vermutlich
zu beschränken, solange menschlichem auch China einer rechtlich verbindlichen
SWP-Aktuell 31
April 2021
7Regulierung nicht zustimmen würden. nische Entwicklungen nicht zu früh be-
Deutschland bleiben daher drei Möglich- grenzen wollten. Jedoch könnte sich das
keiten: Erstens könnte es die Verabschie- Parlament für ein Gebot menschlicher
dung eines verbindlichen Dokuments ohne Kontrolle aussprechen, denn hier scheint
diese Staaten – also außerhalb der CCW – sich fraktionsübergreifend ein Konsens
vorantreiben. Damit würde jedoch die abzuzeichnen.
Chance vertan, durch einen normativen Daran anschließen könnten sich ent-
Rahmen Rüstungsdynamiken zumindest sprechende Formulierungen zur militä-
ein wenig einzuschränken. rischen Nutzung von KI in der KI-Strategie
Zum Zweiten könnte Deutschland diese der Bundesregierung und eine klare Posi-
© Stiftung Wissenschaft Pattsituation einfach akzeptieren und in tionsbestimmung von Seiten der Bundes-
und Politik, 2021 Kauf nehmen, dass es keine internationale wehr. Dabei ist insbesondere zu klären,
Alle Rechte vorbehalten Regelung zu LAWS und menschlicher Kon- in welchem Verhältnis menschliche Kon-
trolle gibt. Dies wäre jedoch keine sinnvolle trolle und die denkbare Notwendigkeit zum
Das Aktuell gibt die Auf-
Option, denn zumindest innerhalb der EU Kämpfen bei Maschinengeschwindigkeit
fassung der Autorinnen
wieder. und auch der Nato bedarf es eines gemein- (Fight-at-Machine-Speed und Deploy-at-Machine-
samen Konzepts. So verlangen zum einen Speed) stehen sollten, ein Dilemma, das ein
In der Online-Version dieser die Richtlinien des EDF menschliche Kon- Arbeitspapier des Amtes für Heeresentwick-
Publikation sind Verweise trolle, ohne dass geklärt wäre, nach welchen lung bereits problematisiert. In diesem Kon-
auf SWP-Schriften und
Kriterien das Vorliegen dieser Bedingung text wäre auch zu erörtern, wie sich eine
wichtige Quellen anklickbar.
geprüft wird. Dies schafft Unklarheiten bei Verpflichtung zur Gewährleistung mensch-
SWP-Aktuells werden intern der Vergabe von Mitteln. Zum anderen setzt licher Kontrolle auf Deutschlands Verteidi-
einem Begutachtungsverfah- die Weiterentwicklung des FCAS eine fran- gungs- und Bündnisfähigkeit auswirkt, wenn
ren, einem Faktencheck und zösisch-spanisch-deutsche Verständigung andere Staaten eine stärkere Automatisie-
einem Lektorat unterzogen. über den Grad der essentiellen mensch- rung ihrer Waffensysteme und Entschei-
Weitere Informationen
lichen Kontrolle voraus. dungsprozesse akzeptieren und Deutsch-
zur Qualitätssicherung der
SWP finden Sie auf der SWP- Drittens könnte Deutschland den Ver- land angriffen. Auch in diesem Fall wären
Website unter https://www. handlungsprozess in Genf über politisch jedoch rechtliche und ethische Grenzen
swp-berlin.org/ueber-uns/ sanftere und weniger spannungsgeladene sowie Möglichkeiten der Rüstungskontrolle
qualitaetssicherung/ Mechanismen weiter beleben. Es könnte zu berücksichtigen.
beispielsweise die Verabschiedung nicht Auch der Koalitionsvertrag der nächsten
SWP
Stiftung Wissenschaft und
verbindlicher Dokumente fördern, auf die Bundesregierung könnte neben bzw. an-
Politik detailliertere Ausgestaltung der Leitprinzi- stelle einer Ächtung autonomer Waffen-
Deutsches Institut für pien der GGE hinwirken und so seiner auch systeme die Notwendigkeit menschlicher
Internationale Politik und in anderen Bereichen praktizierten Vermitt- Kontrolle über den Gewalteinsatz bekräfti-
Sicherheit lerrolle nachkommen. Gleichzeitig könnte gen und dieses Prinzip zu einem zentralen
es mit diesem Ansatz auch wichtige Staaten Prüfstein zukünftiger Waffenentwicklun-
Ludwigkirchplatz 3–4
10719 Berlin wie die USA, Russland und China eher an gen machen. Mit solchen Leitlinien im
Telefon +49 30 880 07-0 Bord holen und zu Zugeständnissen be- Gepäck könnte die deutsche Delegation in
Fax +49 30 880 07-100 wegen. der GGE noch klarer auftreten und in der
www.swp-berlin.org Deutschland könnte die internationale internationalen Gemeinschaft das humani-
swp@swp-berlin.org
Normentwicklung zudem national auf ver- täre Völkerrecht durch die Ausgestaltung
ISSN (Print) 1611-6364
schiedenen Wegen voranbringen. Ein Ver- des Konzepts der menschlichen Kontrolle
ISSN (Online) 2747-5018 bot von LAWS fand im Bundestag keine weiter stärken.
doi: 10.18449/2021A31 Mehrheit, da verschiedene Fraktionen die
fehlende Definition beklagten und tech-
Anja Dahlmann ist Wissenschaftlerin in der Forschungsgruppe Sicherheitspolitik und leitet dort das Projekt »The Inter-
national Panel on the Regulation of Autonomous Weapons« (iPRAW). Dr. Elisabeth Hoffberger-Pippan ist Wissenschaftlerin
in der Forschungsgruppe Sicherheitspolitik und für iPRAW. Lydia Wachs ist Forschungsassistentin in diesem Projekt.
iPRAW wird aus Mitteln des Auswärtigen Amtes finanziert, ist ein unabhängiges Gremium und setzt sich aus Forscherinnen
und Forschern aus verschiedenen Fachdisziplinen zusammen.
SWP-Aktuell 31
April 2021
8Sie können auch lesen
