Ethik Digital: Philosoph Nathan Wood über autonome Waffensysteme und digitale Ethik

Der Philosoph Nathan Wood forscht über Militärethik, Völkerrecht, autonome und KI-gestützte Systeme im Sicherheitsbereich und leitet seit 2024 das interdisziplinäre Projekt Militärtechnik und Ethik (MilEth) des Bundesministeriums für Bildung und Forschung. Im Podcast "Ethik Digital" spricht er mit Moderatorin Rieke C. Harmsen über digitale Ethik in autonomen Waffensystemen. 

Rieke C. Harmsen: Wie kommt man zu einem Thema wie Militärethik?

Nathan Wood: Ich bin Philosoph und Ethiker, das Thema Militär interessiert mich, weil es dort um komplexes menschliches Verhalten geht, wo man nicht so leicht sagen kann, was richtig und falsch ist. Ich denke: Wenn wir im Krieg nicht sehen, was richtig ist, dann haben wir keine Chance. Im Krieg gibt es natürlich viele graue Felder, wo wir nicht wissen, was richtig und falsch ist, aber es gibt auch ganz klare Linien, wo wir sagen: Halt, das geht gar nicht. Und ich habe mich immer schon für die technische Seite der Militärethik interessiert, weil es dort Neues und Spannendes gibt und krasse Fragen diskutiert werden.

Rieke C. Harmsen: Die Militärtechnik ist meist der Bereich, in dem viel investiert wird und sich schnell etwas ändert. In der Ukraine werden derzeit so viele Drohnen eingesetzt wie noch nie. Wie schätzen Sie die Situation ein – kommen wir mit ethischen Fragen überhaupt noch hinterher?

Nathan Wood: In der ethischen Forschung müssen wir aktuelle Themen im Auge behalten. Aber wir sollten daran denken, dass es viele Dinge gibt, die neu aussehen, aber nicht wirklich neu sind. In der Ukraine lesen wir viel über den Einsatz von Künstlicher Intelligenz in autonomen Systemen. Was wir aber dort sehen, sind hauptsächlich sogenannte First-Person-View-Drohnen. Diese werden von Menschen gesteuert und beruhen oft auf einer alten Technologie, wie wir bei diesem Spoofing und Jamming und diesem Katz-und-Maus-Spiel zwischen der Ukraine und Russland sehen können. Teilweise wurden sogar Drohnen eingesetzt, die an einem Draht hängen, weil diese nicht gespooft oder gejammt werden können. Manchmal ist die beste Technik die von vor 60 Jahren. 

Rieke C. Harmsen: In Ihren Publikationen kirtisieren Sie die Art und Weise, wie über autonome Waffensysteme gesprochen wird. Sie sagen, dass die Diskussionen in die Irre führen und dass es einen Hype gibt um Begriffe wie Killerroboter. Wie sollte die Diskussion denn geführt werden?

Nathan Wood: Der Hype kommt von zwei Seiten. Auf der einen Seite gibt es Firmen oder Start-ups, die unbedingt etwas verkaufen wollen und Künstliche Intelligenz deshalb hypen. Sie behaupten, damit werde die Wirtschaft schneller und profitabler oder das Gesundheitssystem werde auf einmal schlank und effektiv oder das Bildungssystem werde besser, ohne dass wir mehr Lehrer bräuchten. Im Militärbereich passiert genau das Gleiche, hier wird erklärt, es könnten Kosten oder Personal gespart werden. 

Der Hype kommt auch von den Kritikern von autonomen Waffensystemen, sie erklären die krassen Entwicklungen und sagen, da kommen die "Terminators", wir haben keine Erfahrungen und wissen nicht, was passieren wird. 

Faktisch vollzieht sich die Entwicklung von militärischen Systemen langsam, das meiste ist sehr ähnlich zu den Systemen, die es schon vor 10-15 Jahren gab. Dazu zählen Systeme wie Anti-Missile-Systeme oder Abwehrsysteme für Raketen oder Abwehrsysteme zum Schutz von Panzern. Die nicht neu, nicht krass und nicht etwas, bei dem wir neu denken müssen.

Wenn wir denken, es sei alles neu und wir bräuchten deshalb ein neues Gesetz, dann verlieren wir, was wir schon haben. Es ist wichtig, dass wir die Ähnlichkeiten sehen und erkennen, wo sich neue Systeme an alte Technologien anlehnen und schauen, was wir daraus lernen können. 

Rieke C. Harmsen: Und wo sehen Sie dann die größten Herausforderungen? 

Nathan Wood: Ich finde, es ist wichtig, die Unterschiede zu betrachten. Ein Beispiel für einen dieser realen Unterschiede ist das Thema Geschwindigkeit. Wir wissen, dass sich die Geschwindigkeit der Systeme in einem Krieg erhöhen wird. Die Systeme können schneller entscheiden. Das ist zunächst weder schlimm noch gut, sondern einfach ein Fakt. Wenn wir autonome Waffensysteme einsetzen, dann gibt es Entscheidungen, die in Maschinenzeit getroffen werden. Das birgt Risiken, und die müssen wir betrachten.

Menschen werden in die Entscheidungen von Maschinen, die wirklich autonom handeln, nicht eingreifen können, denn die würden zu schnell entscheiden. Aber das heißt nicht unbedingt, dass solche Systeme ein Problem sind. Sondern es bedeutet, dass wir im Voraus entscheiden müssen, welche maschinelle Handlung als problematisch gesehen wird, und wo wir beispielsweise wollen, dass die Maschine stoppt und fragt, was sie tun soll. Diese Entscheidung ist dann wichtig, wenn es darum geht, zu schauen, wer die Konsequenzen einer solchen Entscheidung trifft. 

Rieke C. Harmsen: Es geht da um die Frage nach der Verantwortung. Wer trägt die Verantwortung? Das Militär, die Entwickler, derjenige, der das Knöpfchen drückt, die politischen Entscheider?

Nathan Wood: Viele Kritiker fürchten, dass autonome Systeme oder KI-fähige Systeme die Entscheidung selber treffen. Wenn diese Systeme entscheiden, dann weiß man nicht, wer verantwortlich sein soll. Ein System entscheidet nicht einfach etwas. Es führt Prozesse durch, und diese Prozesse haben wir in das System hineinprogrammiert. Und die Systeme werden von einem Menschen eingesetzt, sie sind nicht einfach so da. Oft haben die Systeme auch nur eine kurze Laufzeit und können nur für Stunden oder einen Tag oder nur in einem begrenzten geografischen Raum genutzt werden. 

Es ist relativ klar, dass ein Mensch dafür verantwortlich ist, zu wissen, ob es in diesem Raum Zivilisten gibt oder ob es andere Gefahren gibt, die zu berücksichtigen sind. Wichtig ist also der Entscheidungsprozess, den ein Soldat durchführen muss. Und diesen haben wir mit jedem Waffensystem, das wir im militärischen Bereich nutzen. Mit der Nutzung und dem Einsatz kommen hunderte von Fragen auf, die den Menschen in die Verantwortung bringen. 

Und dann gibt es noch das Thema, dass ein System etwas macht, was man nicht erwartet. Was passiert, wenn etwas schief geht? Ist das dann ein Unfall? Selbst bei der simpelsten Munition kann es Dinge geben, die einfach nicht funktionieren. Wir müssen schauen, ob die Menschen verantwortungsvoll alle Systeme geprüft haben und durchdacht haben, was sie tun.