Von Dagmar Henn
Seit einigen Tagen macht eine Meldung die Runde, die bereits politische Wellen schlägt. Insbesondere der Erhard-Eppler-Kreis in Deutschland hat auf ihrer Grundlage gefordert, autonome Waffensysteme international zu verbieten.
Die Nachricht stammt vom britischen Magazin New Scientist, das zum Verlag der Daily Mail gehört, und wurde am 10. Juni unter dem Titel „Völlig autonome Drohnen haben erstmalig menschliche Soldaten getötet“ veröffentlicht. Schauplatz soll die Ukraine gewesen sein, und zwar vor zwei Jahren. Als Quelle wird Alexander Kochanowski genannt, der am Rande einer Veranstaltung in der ukrainischen Botschaft mit dem Magazin gesprochen haben soll: „spoke to New Scientist at a press event hosted by the Ukrainian embassy“.
Kochanowski, ein ehemaliger Profi-E-Gamer, ist nicht nur Geschäftsführer, sondern auch Inhaber des ukrainischen Drohnenherstellers AeroCenter. Seine zweisprachige Webseite deutet darauf hin, dass das Unternehmen nicht nur für den ukrainischen Markt produziert, sondern auch auf den internationalen Markt abzielt – etwa durch Lizenzverträge oder Koproduktionen, da ein direkter Export der Produkte nicht erlaubt ist. Auch wenn dies bisher über Absichtserklärungen und Verhandlungen nicht hinausgeht, ist das Interesse offensichtlich. Kochanowski, der Jahre in einem werbenahen Sport verbracht hat, dürfte genau wissen, wie man das Interesse potenzieller Kunden weckt. Seine Aussage ist daher mit Vorsicht zu genießen.
Doch selbst wenn diese konkrete Geschichte nicht wahr sein sollte, ist die Forderung, sich mit dem Thema auseinanderzusetzen und politische Schritte zu unternehmen, berechtigt. Denn es gibt mindestens einen dokumentierten Vorfall, der im Kern dieselbe Frage aufwirft: Darf eine Waffe eingesetzt werden, ohne dass ein Mensch die Entscheidung trifft und die Verantwortung dafür trägt? Sollte man eine solche Entwicklung nicht frühzeitig unterbinden?
Das Stichwort hierzu lautet „Lavender“. Es handelt sich um ein Programm der israelischen Armee, das Ziele für Drohnenangriffe in Gaza bestimmte. Grundlage waren Mobilfunkdaten, soziale Medien und ein Trackingprogramm namens „Where is Daddy“. Allerdings lieferte dies nur Indizien, und es stellte sich heraus, dass auch Polizisten oder Sanitäter auf diese Weise zu Zielen erklärt wurden.
Die vom Programm ermittelten Ziele wurden nicht weiter überprüft. Als dies bekannt wurde, hieß es laut Quellen, die einzige vorgeschriebene menschliche Prüfung vor der Bombardierung vermeintlicher „einfacher Kämpfer“ habe darin bestanden, sicherzustellen, dass das von der KI gewählte Ziel männlich und nicht weiblich war. Dies änderte jedoch nichts daran, dass viele Frauen und Kinder getötet wurden – die Drohnenangriffe zielten bevorzugt auf Wohnhäuser.
Der Einsatz von Lavender grenzte bereits an eine vollautomatische Tötung durch maschinelle Entscheidungen. Es fehlte nur noch die automatische Startfunktion für die Drohnen, da die menschliche Prüfung extrem oberflächlich war. Während die Geschichte der autonom tötenden Drohnen auf eine einzige, zudem persönlich interessierte Quelle zurückgeht, ist Lavender gut dokumentiert.
Beide Fälle – die ukrainische Geschichte und Lavender – erinnern an Cyberpunk-Geschichten, in denen Drohnen mit Gesichtserkennung die Helden jagen. Diese Vorstellung ist nicht mehr weit von der Realisierung entfernt; es bleibt nur die Frage, wie bewaffnet diese Drohnen sein dürfen und ob noch ein Mensch beteiligt ist, der zur Rechenschaft gezogen werden kann.
Die israelische Rüstungsfirma Elbit hat auf Messen bereits einen autonomen Kampfroboter namens M-RCV vorgestellt, der keiner externen Steuerung bedarf. Derartige Maschinen stehen also unmittelbar bevor. Selbst wenn man die Risiken einer eigenständig handelnden künstlichen Intelligenz außer Acht lässt, bleibt die Frage der menschlichen Verantwortung.
„Eine bloße Regulierung dieser Systeme genügt nicht. Wer sie zu kontrollieren versucht, statt sie zu ächten, eröffnet ein Wettrüsten, das zwangsläufig in die Katastrophe führt“, schreibt der Erhard-Eppler-Kreis in seinem Aufruf. „Eine FPV-Drohne – eine kleine, ferngesteuerte Drohne mit Live-Kamera für wenige hundert Euro – lässt sich mit einem entsprechenden Modul zur autonom tötenden Waffe aufrüsten. Deshalb bleibt allein die vollständige Ächtung dieser Waffenkategorie – so, wie sie bei biologischen und chemischen Waffen, bei Antipersonenminen und bei Streumunition gelungen ist.“
Ehrlicherweise muss man anmerken, dass viele dieser Ächtungen bedroht oder bereits gefallen sind. Die Ukraine hat Antipersonenminen und Streumunition häufig eingesetzt, darunter die berüchtigten Schmetterlingsminen, die von Kindern leicht für Spielzeug gehalten werden. Zudem wurden kürzlich Vermutungen über US-Biowaffenprogramme gleichsam offiziell bestätigt.
Dennoch – oder vielleicht gerade deshalb – wäre es überfällig, daran zu erinnern, dass solche Schritte durchaus gelingen können, wenn sie von Kontrollmechanismen begleitet werden. Im Bereich der Biowaffen wurden diese etwa von den USA über Jahrzehnte verhindert.
„Solange ein Mensch den letzten Befehl gibt“, schreibt der Eppler-Kreis, „bleibt im Töten ein Rest moralischer Gegenwart: Einer kann zögern, sich weigern, erkennen, dass dort ein Kind läuft und kein Feind. Autonome Systeme schneiden diesen Faden durch; sie verarbeiten nur noch Signale – Wärmebilder, Bewegungsmuster, Silhouetten – und Leben wird zur Klassifikation. Die Nutzung künstlicher Intelligenz zur eigenständigen Auswahl und Tötung von Menschen markiert damit einen zivilisatorischen Bruch, dessen langfristige Folgen für Krieg, Sicherheit und menschliche Kontrolle heute kaum absehbar sind.“
Die historische Erfahrung, etwa im Hitlerfaschismus, zeigt, dass die Zurücknahme des menschlichen Faktors und die weitgehende Entfernung persönlicher Verantwortung die Barbarei erleichtert. Das Opfer verliert sein Gesicht und wird zum bloßen Objekt oder zur Zahl. Die Technik schafft jene Dehumanisierung, die in den Vernichtungslagern der Nazis noch durch Kleidung und tätowierte Nummern hergestellt werden musste. Wäre Gaza so möglich gewesen, wenn israelische Soldaten jeder Familie und jedem Kind persönlich gegenübergestanden hätten – nicht durch das Zielfernrohr eines Gewehrs oder die Kameraoptik einer Drohne, sondern von Angesicht zu Angesicht?
Der Eppler-Kreis fordert, autonome Tötungssysteme als „eigenständige, völkerrechtlich verbotene Waffenkategorie“ zu behandeln, „den Massenvernichtungswaffen darin vergleichbar, dass sie sich jeder wirksamen Kontrolle entziehen, wenn auch nicht in ihrer Sprengkraft – und ihren Einsatz als Kriegsverbrechen zu kodifizieren.“
Die Bundesregierung solle sich in diesem Sinne einsetzen, so die aus der SPD hervorgegangene Gruppe, damit bis Ende dieses Jahres ein völkerrechtlich verbindliches Verbot über die UN erfolgen könne. Dies dürfte jedoch kaum geschehen, es sei denn, es gäbe starken gesellschaftlichen Druck.
Daran mag man zweifeln: Eine Anfang des Jahres von Politico durchgeführte Umfrage ergab, dass gerade in Deutschland jeder Dritte den Einsatz autonomer Systeme sogar besser findet als eine menschliche Entscheidung. Auf absurde Weise dominiert hier die Befürchtung, andernfalls selbst zum Täter zu werden. Zwar bestand noch keine Mehrheit, und 47 Prozent befürworteten weiterhin menschliche Entscheider, aber es belegt einen Verlust moralischer Maßstäbe – fünf Jahre zuvor hatten in Deutschland noch 70 Prozent Bedenken bei autonomen Waffensystemen.
Doch die menschliche Verantwortung schwindet nicht, sie verlagert sich nurimmer weiter nach vorne. Letzten Endes stimmt das ja auch – Verantwortung für menschenverachtende Handlungen haben, das sollten gerade wir Deutschen wissen, nicht nur jene, die sie ausführen, sondern auch jene, die sie geschehen lassen.
Mehr zum Thema – Kriegssimulationen: In 95 Prozent der Fälle griffen KIs zu Atomwaffen