Please choose your desired language:

Killerroboter

Überlegungen zum zukünftigen Umgang mit automatisierten Waffensystemen

Neuer Termin: 27.01.2020 - 29.01.2020

Thema

Autonome Waffen, die weitgehend selbstständig im Kampfgeschehen zu Land, zu Wasser und in der Luft agieren können, sind längst keine Science-Fiction mehr. Wie das autonome Fahren den Straßenverkehr revolutioniert, so gelten autonome Waffen als wahrscheinliches Szenario für zukünftige militärische Auseinandersetzungen. Die mit dieser Entwicklung einhergehenden Eskalationsgefahren und das Risiko neuartiger Rüstungswettläufe macht es notwendig über internationale Regulierungen bereits jetzt nachzudenken. Wie kann Rüstungskontrolle von autonomen Waffen konkret beginnen und gelingen?

Rückblick

Wie kann Rüstungskontrolle in diesem Bereich konkret beginnen und gelingen? Antworten und Empfehlungen auf diese Fragen haben 70 Teilnehmende einer internationalen Tagung in Loccum vom 27. bis 29. Januar gegeben – unter Ihnen maßgebliche Expert*innen aus den Bereichen Wissenschaft, Zivilgesellschaft, Diplomatie, Wirtschaft, Völkerrecht und Militär.

Dieser Loccumer Report fasst in aller Kürze die wichtigsten Ergebnisse der Tagung zusammen. Die hier dargelegten Perspektiven spiegeln nicht unbedingt die Ansichten aller teilnehmenden Personen und Institutionen wieder.

 

Schneller, weiter, riskanter – Worin begründet sich das militärische Interesse an autonomen Waffensystemen?

Insgesamt befinden sich autonome Waffensysteme derzeit noch im Entwicklungsstadium. Es existieren bisher wenige Modelle, die heute bereits militärisch eingesetzt werden – darunter bspw. die Anti-Radardrohne „harpy“. Das militärische Interesse an diesen Systemen ist jedoch groß. Drei technische Eigenschaften dieser Waffensysteme sind dafür besonders ausschlaggeben. Erstens verfügen Roboter – im Gegensatz zum Menschen – über die Fähigkeit, auch bei großen Informationsmengen schnelle Entscheidungen zu treffen. Der Einsatz von autonomen Waffensystemen würde die Geschwindigkeit von Militäroperationen somit deutlich erhöhen. Dies ist auf dem Schlachtfeld der Zukunft ein klarer Vorteil. Zweitens verfügen autonome Waffensysteme über einen entscheidenden Reichweitenvorteil. Zum einen können sie in Bereichen – beispielsweise in der Tiefsee, in großen Höhen oder im Welt- und Cyberraum – agieren, die für Menschen nicht oder kaum zugänglich sind. Da autonome Systeme keine Fernsteuerung und Funkverbindung benötigen, die in Kriegssituationen potenziell riskant und störungsanfällig ist, können sie zum anderen sehr tief im feindlichen Gebiet operieren und dadurch ihren Aktionsradius zusätzlich erhöhen. Drittens reduziert der Einsatz von autonomen Waffen eigene Truppenverluste insbesondere bei riskanten Militäraktionen.

 

Autonome Waffensysteme = eine tiefgreifende militärtechnologische Revolution

Aufgrund der erwarteten militärischen Vorteile wetteifern derzeit eine Reihe von Staaten – allen voran die USA und China – um Forschungs- und Entwicklungsvorsprünge. Daher geht die Mehrheit der internationalen Expert*innen, die auf der Loccumer Tagung zusammenkamen, mit Blick auf diese Vorgänge davon aus, dass wir am Anfang einer umfassenden militärtechnologischen Revolution stehen, die das Kriegsgeschehen der Zukunft tiefgehend verändern wird. Einige zogen sogar den – zugegebener maßen sehr gewagten – Vergleich zur Einführung des Schießpulvers heran.

 

„Flash Wars“ und Rüstungswettläufe – Warum autonome Waffensysteme sicherheitspolitische Instabilität bedeuten könnten?

Militärtechnologische Revolutionen bedeuten nicht notwendigerweise mehr Instabilität für die globalen Machtbeziehungen. Eine ganze Reihe von Expert*innen befürchten jedoch, dass dies bei autonomen Waffen der Fall sein dürfte. An den Finanzmärkten gibt es beim automatisierten Hochfrequenzhandel die Gefahr von sog. „flash crashs“ – starke Kurseinbrüche von wenigen Minuten bei denen in Kürze Aktienwerte in Milliardenhöhe vernichtet werden. Vergleichbare Vorgänge könnten auch in den internationalen Beziehungen auftreten, sog. „flash wars“, wenn Militärtechnologie weitreichend autonomisiert werden würde. Zudem könnte es im Bereich von autonomen Waffensystemen zu grassierenden Rüstungswettläufen kommen. In ersten Ansätzen zeichnen sich diese Entwicklungen bereits ab – so die Meinung der Expert*innen auf der Loccumer Tagung.

 

 „Dual use“ – Neue Proliferationsgefahren und asymmetrische Bedrohungen

Die fortschreitende Etablierung von autonomen Waffensystemen könnte auch zu verstärkten asymmetrischen Bedrohungen und einer neuen Proliferationsproblematik führen. Die Technologie für die Herstellung und den Einsatz autonomer Waffen sowie das einschlägige know-how kommt zu großen Teilen aus dem zivilen Bereich und der privaten Tech-Industrie, ist nicht exklusiv dem Militär vorbehalten und kann daher in erheblichen Maße über den freien Markt bezogen werden. Diese Konstellation – die von Expert*innen als „dual use“ Problematik bezeichnet wird – birgt die Gefahr, dass auch nicht-staatliche Akteure wie bspw. Terrorgruppen in die Lage versetzt werden, autonome Waffen einzusetzen.

 

Schwieriges Vorhaben – der Versuch der weltweiten Ächtung von autonomen Waffensystemen

Im Koalitionsvertrag verpflichtet sich die Bundesregierung darauf, autonome Waffensysteme weltweit zu ächten. Mit Blick auf das gesteigerte Interesse, das vor allem die großen Militärmächte an diesen Systemen haben, halten es die meisten Expert*innen jedoch für unwahrscheinlich, dass in absehbarer Zeit ein völkerrechtlicher Vertrag zur Regulierung autonomer Waffensysteme im Rahmen der UN-Waffenkonvention verabschiedet wird. Im Herbst 2019 hat sich die Genfer UN-Abrüstungskonferenz allerdings auf elf Leitprinzipien für den Umgang mit autonomen Waffen geeinigt. Bei der nächsten großen Konferenz in diesem Rahmen, die im November 2021 stattfinden wird, sollen diese Leitsätze konkretisiert werden. Die Bundesregierung will die Zeit bis 2021 nutzen, um Bausteine zu entwickeln, die später in einen solchen Vertrag einfließen könnten. Die abstrakten Prinzipien sollen zu einem rechtlichen und operativen Rahmenwerk weiterentwickelt werden. Als besonders große Schwierigkeit erweist sich dabei die Einigung auf eine verbindliche Definition von autonomen Waffensystemen. Diese müsste letztendlich an der sog. Mensch-Maschine-Beziehung ansetzten und die Frage beantworten, wie viel menschliche Kontrolle bei der Steuerung von autonomen Waffensystemen für die Mitglieder der UN-Waffenkonvention akzeptierbar ist.

 

Wie könnte Rüstungskontrolle autonomer Waffensysteme aussehen? Was sind die Schwierigkeiten?

Auch wenn ein völkerrechtlich verbindlicher Vertrag vorerst nicht erreicht werden kann, sei es dennoch wichtig, Ideen zu entwickeln, wie Rüstungskontrolle in diesem neuen militärtechnologischen Feld angewendet und adaptiert werden könne – so die Meinung der Expert*innen auf der Loccumer Tagung. Autonome Waffensysteme sind für die klassische Rüstungskontrolle allerdings herausfordern. Beispielsweise würden Rüstungskontrollbemühungen dadurch erschwert, dass es den meisten Systemen, die bisher existieren, von außen nicht anzusehen ist, ob sie nun tatsächlich autonom agieren oder lediglich ferngesteuert werden. Zudem spielt bei der Entwicklung von autonomen Waffensystemen die privatwirtschaftliche Tech-Industrie eine gewichtige Rolle weswegen zukünftige Regulierungsversuche nicht in herkömmlicher Weise ausschließlich staatliche Akteure einbinden können, sondern neue, inklusivere Formate entwickeln müssten. Abstrakt gesprochen erfordert die Rüstungskontrolle von autonomen Waffensystemen also eine Abkehr vom klassischen quantitativen Ansatz bei dem vorwiegend die Anzahl klar definierter Waffensysteme überwacht wird hin zu einem flexibleren, qualitativen Ansatz bei dem die Leistungsfähigkeit von bestimmten Funktionen in den Mittelpunkt gerückt wird.

Downloads

Passwortgeschützt:
  • LAWS_Follow Up
    Diese Datei ist passwortgeschützt

    Bitte geben Sie das Passwort ein:

    Das eingegebene Passwort ist falsch.

Programm

Montag, 27.01.2020
13:30 Uhr
Anreise der Teilnehmenden zum Stehkaffee

14:00 Uhr
Begrüßung und Eröffnung

Dr. Thomas Müller-Färber, Ev. Akademie Loccum

14:10 Uhr
Letale autonome Waffensysteme – Was ist das?

Dr. Marcel Dickow, Leiter, Forschungsgruppe Sicherheitspolitik, Stiftung Wissenschaft und Politik (SWP) und Leiter des “International Panel on the Regulation of Autonomous Weapons“ (iPRAW), Berlin

15:00 Uhr
Kaffee und Kuchen

15:30 Uhr
Wie werden sich autonome Waffensysteme zukünftig entwickeln?

Teil I: Technologische Einflussfaktoren. Wie beeinflusst der technologische Fortschritt in den Bereichen Künstliche Intelligenz, Robotik und Sensorik die zukünftige Entwicklung von autonomen Waffen?
Dr. Moa Peldan Carlsson, Emerging Military and Security Technologies Project, Stockholm International Peace Research Institute (SIPRI), Stockholm
Prof. Dr. Frank Ole Flemisch, Institutsleiter, Fraunhofer-Institut für Kommunikation, Informationsverarbeitung und Ergonomie (FKIE), Wachtenberg

17:00 Uhr
Kaffee- und Teepause

17:15 Uhr
Wie werden sich autonome Waffensysteme zukünftig entwickeln?

Teil II: Militärische Anforderungen und Bedarfe. Wie wird die zukünftige Kriegsführung die Entwicklung von autonomen Waffen beeinflussen?
Brigadegeneral Gerald Funke, Unterabteilungsleiter Planung I im Bundesministerium der Verteidigung (BMVg), Berlin
Dr. Jean-Christophe Noël, Associate Research Fellow, Security Studies Center, Institut Français Des Relations Internationales, (IFRI) Paris

18:30 Uhr
Abendessen

19:30 Uhr
Wirkung und Konsequenzen: Was ändert sich durch die Entwicklung und Anwendung von autonomen Waffensystemen – heute und morgen?

Welche Auswirkungen sind zu erwarten auf …

… die strategische Stabilität und das internationale Mächtegleichgewicht?
Dr. Frank Sauer, Senior Researcher, Bundeswehr Universität München

... das Völkerrecht?
Dr. Henning Lahmann, Senior Reseracher, Digital Society Institute (DSI), ESMT (European School of Management and Technology), Berlin

… die Friedensethik?
Ph.D. Peter Asaro, Associate Professor at the School of Media Studies at The New School, New York Co-Founder and Vice-Chair of the International Committee for Robot Arms Control (ICRAC), New York

21:00 Uhr
Ausklang auf der Galerie

Dienstag, 28.01.2020
08:15 Uhr
Morgenandacht (optional), anschl. Frühstück

09:30 Uhr
Das diplomatische Parkett: Was geschah bisher bei den UN-Diskussionen in Genf? Was ist zukünftig zu erwarten?

Botschafter Ljupčo Jivan Gjorgjinski, Vorsitzender der Regierungsexpertengruppen zu Letalen autonomen Waffensystemen, UNO, Convention on Certain Conventional Weapons (CCW), Geneva*
Mary Wareham, Koordinatorin, Campaign to Stop Killer Robots, Washington D.C.
Anja Dahlmann, International Security Research Division, German Institute for International and Security Affairs (SWP), Berlin

11:00 Uhr
Kaffee- und Teepause

11:15 Uhr
Auf der Suche nach Analogien: Welche Lehren lassen sich aus anderen Rüstungskontroll- und Rüstungsverbotsverträgen ziehen?

Einwürfe aus der Perspektive …

… des Biowaffenübereinkommens
Elisande Nexon, Senior Researcher, Fondation Pour La Recherche Stratégique (FRS), Paris

… der konventionellen Rüstungskontrolle
Oberst a. D. Wolfgang Richter, Forschungsgruppe Sicherheitspolitik, Stiftung Wissenschaft und Politik (SWP), Berlin

12:30 Uhr
Mittagessen

14:00 Uhr
Ideenworkshop: Wie kann Rüstungskontrolle von autonomen Waffen konkret beginnen und gelingen?

Ideen-Speeddating: Kurze Vorstellung und Diskussion von vier zentralen Bausteinen für zukünftige Regulierungsbemühungen

REGULATIONSPRINZIP: Wie lässt sich menschliche Kontrolle von LAWS operationalisieren?

Impuls von: Daniel Amoroso, Professor of International Law, Università di Cagliari
Kommentierung durch: Thea Riebe, Researcher, Technische Universität (TU) Darmstadt

TRANSPARENZ: Wie lässt sich Informationsaustausch und Vertrauensbildung organisieren?

Impuls von: Jürgen Altmann, Lecturer/Researcher, Department of Physics at Technische Universität Dortmund, Co-Founder of the German Research Association for Science, Disarmament and International Security (FONAS) and of International Committee for Robot Arms Control (ICRAC), Dortmund
Kommentierung durch: Olaf Theiler, Head, Future Analysis Branch, Bundeswehr Planning Office, Berlin

OFFENHEIT UND INKLUSION: Wie lassen sich wichtige Stakeholder integrieren?

Impuls von: Maaike Verbruggen, Researcher, International Security, Institute for European Studies, Vrije Universiteit Brussel
Kommentierung durch: Bernhard Koch, Deputy Director, Institute for Theology and Peace (ithf), Hamburg


PROLIFERATIONSPRÄVENTION: Wie kann Exportkontrolle sichergestellt werden?

Impuls von: Kolja Brockmann, Researcher, SIPRI Dual Use and Arms Trade Control Progamme, Stockholm International Peace Research Institute (SIPRI)
Kommentierung durch: Florian Keisinger, Airbus Defence and Space, Berlin

-
Am Ideenworkshop wirken u. a. mit

Jürgen Altmann, Lecturer/Researcher, Department of Physics at Technische Universität Dortmund, Co-Founder of the German Research Association for Science, Disarmament and International Security (FONAS) and of International Committee for Robot Arms Control (ICRAC), Dortmund
Daniel Amoroso, Professor of International Law, Università di Cagliari
Kolja Brockmann, Researcher, SIPRI Dual Use and Arms Trade Control Progamme, Stockholm International Peace Research Institute (SIPRI)
Reinhard Grünwald, Head, Assessment Project on Autonomous Weapons Systems, Office of Technology Assessment at the German Bundestag, Berlin
Anna Katharina Ferl, Peace Research Institute Frankfurt (PRIF/HSFK)
Ann-Sophie Fischer, Center for Security Studies (CSS), Zürich (invited)
Florian Keisinger, Airbus Defence and Space, Berlin
Bernhard Koch, Deputy Director, Institute for Theology and Peace (ithf), Hamburg
Wolfang Koch, Director, Frauenhofer Institute for Communication, Information Processessing and Ergonomics (FKIE)
Markus Höpflinger, Head, Research Project of “Unmanned Mobile Systems” Armasuisse, Federal Departement of Defence, Switzerland
Thea Riebe, Researcher, Technische Universität (TU) Darmstadt
Olaf Theiler, Head, Future Analysis Branch, Bundeswehr Planning Office, Berlin
Maaike Verbruggen, Researcher, International Security, Institute for European Studies, Vrije Universiteit Brussel

17:00 Uhr
Kaffee/Tee-Pause

17:15 Uhr
Szenarien-Workshop

18:30 Uhr
Abendessen

19:30 Uhr
Fortsetzung des Szenarien-Workshops

20:30 Uhr
Ausklang auf der Galerie

-

* vorläufige Zusage

Mittwoch, 29.01.2020
08:15 Uhr
Morgenandacht (optional), anschl. Frühstück

09:30 Uhr
Präsentation der Ergebnisse des Ideenworkshops

11:00 Uhr
Kaffee- und Teepause

11:15 Uhr
Wie weiter mit der Regulierung von autonomen Waffen?

Abschlussdiskussion mit Impuls von:
Botschafter Peter Beerwerth, Ständiger Vertreter bei der UN-Abrüstungskonferenz, Auswärtiges Amt, Berlin/Genf
Mary Wareham, Koordinatorin, Campaign to Stop Killer Robots, Washington D.C.
Anja Dahlmann, International Security Research Division, German Institute for International and Security Affairs (SWP), Berlin

12:30 Uhr
Mittagessen

13:20 Uhr
Abfahrt des Busses zum Bf. Wunstorf