Landroboter, Luftdrohnen und Systeme der künstlichen Intelligenz verändern bereits die Führung von Konflikten. Ihre Fähigkeit, zu beobachten, Informationen zu übermitteln und manchmal Ziele auszuwählen, beschleunigt die Operationen, wirft aber eine zentrale Frage auf: Welche Rolle bleibt dem Menschen, wenn militärische Entscheidungen von Maschinen getroffen werden? Von den ukrainischen Schlachtfeldern bis zu den europäischen Debatten über Souveränität und humanitäres Völkerrecht betrifft diese Entwicklung sowohl die Leistungsfähigkeit der Streitkräfte als auch die Sicherheit der Bevölkerung und die politische Verantwortung.
Ein rascher Wandel in der Führung von Konflikten
Die Robotisierung des Krieges gehört nicht mehr nur zu Zukunftsszenarien. Autonome Drohnen, unbemannte Landfahrzeuge und durch künstliche Intelligenz unterstützte Analysewerkzeuge werden bereits eingesetzt, um das Gelände zu überwachen, Material zu transportieren oder militärische Operationen zu unterstützen. Durch die Kombination von Luft- und Landsystemen können manche Streitkräfte inzwischen Geräte koordinieren, die weit von ihren Bedienern entfernt sind, und in besonders gefährlichen Gebieten handeln.
Der Krieg in der Ukraine veranschaulicht diese Beschleunigung. Berichte über Operationen an der Front im Donbass haben den koordinierten Einsatz von Luftdrohnen und Landrobotern aufgezeigt, die hinter den feindlichen Linien abgesetzt werden können. Eine solche Vorgehensweise hätte noch vor wenigen Jahren wie Science-Fiction gewirkt. Sie zeigt vor allem, dass sich Innovationen im Takt der Anforderungen auf dem Schlachtfeld verbreiten: Die Streitkräfte experimentieren, passen ihre Ausrüstung an und ziehen rasch Lehren aus den Einsätzen.
Diese Entwicklung bedeutet nicht zwangsläufig, dass die Soldaten verschwinden werden. Vielmehr verändert sie die Verteilung der Aufgaben und Risiken. Maschinen können einen Weg erkennen, Bilder übermitteln oder Lasten transportieren, während Militärangehörige weiterhin dafür zuständig sind, Ziele festzulegen, Informationen zu interpretieren und Entscheidungen zu treffen. Doch je autonomer die Systeme werden, desto schwieriger lässt sich die Grenze zwischen technischer Unterstützung und unabhängigem Handeln ziehen.
Von der Aufklärung zum Handeln: die wachsende Rolle von Algorithmen
KI-Software kann große Mengen an Bildern, Nachrichten und geografischen Daten verarbeiten, um als relevant eingestufte Elemente zu erkennen. In einem militärischen Kontext kann diese Fähigkeit dabei helfen, Bewegungen zu entdecken, Prioritäten festzulegen oder die Vorbereitung einer Operation zu beschleunigen. Sie wird als Möglichkeit dargestellt, Verzögerungen zu verringern und Personal zu unterstützen, das mit einer Informationsflut konfrontiert ist, die sich manuell nur schwer auswerten lässt.
Doch eine algorithmische Empfehlung ist keine von ihren Daten unabhängige Wahrheit. Die Qualität der Ergebnisse hängt von den bereitgestellten Informationen, ihrer Aktualität und der Art ab, wie das System entwickelt wurde. Falsche oder veraltete Daten können dazu führen, dass eine Person oder ein Gebäude irrtümlich als Ziel identifiziert wird. Und selbst wenn ein Werkzeug eine zutreffende Analyse liefert, versteht es nicht zwangsläufig den menschlichen Kontext, die Veränderungen vor Ort oder die Folgen eines Angriffs.
Diese Grenzen gewinnen besonders dann an Bedeutung, wenn Zielerfassungssysteme die Zeit verkürzen, die für die menschliche Überprüfung zur Verfügung steht. In jüngsten Konflikten hat der Einsatz von Softwarewerkzeugen zur Identifizierung und Klassifizierung von Zielen Besorgnis darüber ausgelöst, wie viel Raum dem Urteil der Bediener tatsächlich bleibt. Wenn die Bestätigung schnell oder routinemäßig erfolgt, kann menschliche Kontrolle dem Anschein nach fortbestehen, während sie praktisch einen Teil ihrer Wirksamkeit verliert.
Militärische Autonomie wirft ethische Fragen auf
Wer entscheidet über den Einsatz von Gewalt?
Die Autonomie eines Waffensystems kann Unterschiedliches bedeuten. Eine Maschine kann einer vorgegebenen Route folgen, Objekte erkennen oder Ziele vorschlagen, ohne zum Schießen befugt zu sein. Auf einer fortgeschritteneren Stufe könnte sie ein Ziel auswählen und bekämpfen, ohne dass unmittelbar ein Mensch eingreift. Diese Autonomiegrade bergen nicht dieselben Risiken: Besonders dringlich werden die ethischen und rechtlichen Fragen, wenn das System über den Einsatz tödlicher Gewalt entscheiden kann.
Die Frage lautet daher nicht nur, ob eine Maschine eine Aufgabe präzise erledigen kann. Es muss auch geklärt werden, wer die Regeln für ihren Einsatz festlegt, wer ihre Entscheidungen kontrolliert und wer für die Folgen einsteht. An der Verantwortung können mehrere Akteure beteiligt sein: politische Verantwortliche, die eine Operation genehmigen, Kommandeure, die ihre Parameter festlegen, die Entwickler der Systeme und die für deren Überwachung zuständigen Bediener. Die technische Komplexität darf diese Verantwortungskette nicht unsichtbar machen.
Die Grundsätze des humanitären Völkerrechts verlangen insbesondere, zwischen Kombattanten und Zivilisten zu unterscheiden, Angriffe verhältnismäßig zu führen und Vorsichtsmaßnahmen zu treffen, um Schäden zu begrenzen. Diese Pflichten setzen eine Einschätzung des Kontexts, der Unsicherheit und der möglichen Folgen voraus. Eine KI fällt jedoch kein moralisches Urteil im menschlichen Sinne: Sie wendet Modelle und zuvor festgelegte Kriterien an. Die Verantwortung dafür, die Einhaltung des Rechts sicherzustellen, bleibt daher eine politische und menschliche Frage.
Automatisierte Schusszonen und die Gefahr von Fehlern
Der Einsatz geografischer Zonen, in denen Systeme Ziele erkennen oder bekämpfen dürfen, wirft weitere Fragen auf. Eine automatisierte Schusszone kann für eine bestimmte militärische Situation vorgesehen sein, doch das Gelände verändert sich: Zivilisten können sich bewegen, eine Stellung kann ihre Funktion ändern oder eine Information kann ihre Gültigkeit verlieren. Eine auf veralteten Informationen beruhende Entscheidung kann dann unumkehrbare Folgen haben.
Geschwindigkeit ist zugleich einer der größten Vorteile dieser Technologien und eine ihrer Schwachstellen. Eine schnelle Analyse kann helfen, auf eine Bedrohung zu reagieren, sie kann aber auch die Zeit verkürzen, die für die Überprüfung von Daten, die Einholung einer Einschätzung oder den Verzicht auf einen Angriff zur Verfügung steht. Je stärker Operationen automatisiert werden, desto wichtiger ist es, Mechanismen für Überwachung, Unterbrechung und Nachverfolgbarkeit vorzusehen.
Auch ein übermäßiges Vertrauen in die Empfehlungen eines Systems stellt ein Risiko dar. Selbst ein erfahrener Bediener kann versucht sein, sich auf eine Maschine zu verlassen, die als schneller oder objektiver dargestellt wird. Ein Algorithmus kann jedoch Vorurteile reproduzieren, eine Situation falsch interpretieren oder durch manipulierte Daten getäuscht werden. Die Cyberkriegsführung fügt eine weitere Dimension hinzu: Netzwerke, Sensoren und Software können angegriffen, gestört oder gefälscht werden, mit unmittelbaren Folgen für die vor Ort getroffenen Entscheidungen.
Konflikte werden hybrid und digitalisiert
Fortschrittliche Maschinen treffen auf einfache Mittel
In heutigen Konflikten kommen ausgefeilte Technologien neben mitunter einfachen und kostengünstigen Mitteln zum Einsatz. Ein umgebautes kommerzielles Gerät kann dazu dienen, eine Stellung zu beobachten oder einen Angriff zu lenken, während komplexe militärische Systeme die Überwachung und Koordination übernehmen. Diese Kombination erklärt, warum technologische Überlegenheit allein keine Kontrolle über das Schlachtfeld garantiert.
Drohnen stehen besonders beispielhaft für diese Hybridisierung. Sie können zur Aufklärung, zur Übermittlung von Bildern, zur Störung der Kommunikation oder zur Unterstützung eines Angriffs eingesetzt werden. Ihr mitunter niedrigerer Preis im Vergleich zu den Ausrüstungsgegenständen, die sie bedrohen, zwingt die Streitkräfte dazu, ihre Verteidigung neu zu überdenken. Außerdem verbreitet sich das entsprechende Know-how rasch, denn auch Akteure mit begrenzten Ressourcen können leicht verfügbare Geräte für militärische Zwecke umrüsten.
Die Digitalisierung verändert zudem die Wahrnehmung des Risikos. Wenn ein Bediener ein System aus der Ferne steuert, ist er körperlich weniger gefährdet als ein Soldat vor Ort. Dieser Schutz kann Militärangehörigen das Leben retten, beseitigt aber nicht die Gewalt des Konflikts. Er kann die Gefahr auf die Zivilbevölkerung verlagern und die Entscheidungsträger von den konkreten Folgen ihrer Entscheidungen entfernen.
Die Rolle von Soldaten und Zivilisten
Roboter können in verseuchte Gebiete geschickt werden, gefährliche Routen überwachen oder bestimmte Transportaufgaben übernehmen. Dadurch können sie die Gefährdung von Soldaten durch unmittelbare Bedrohungen verringern. Dieser Schutz löst jedoch nicht die grundlegenden Fragen des Krieges: die verfolgten Ziele, die Verhältnismäßigkeit der Mittel, die den Zivilisten zugefügten Schäden und die Bedingungen für eine Rückkehr zum Frieden.
Der schrittweise Ersatz von Personal durch Maschinen kann auch das Verhältnis zwischen Gesellschaft und Konflikt verändern. Sind die Militärangehörigen weniger gefährdet, werden die Behörden möglicherweise weniger unmittelbar mit den menschlichen Kosten der Operationen konfrontiert. Das bedeutet nicht automatisch, dass sich leichter über einen Krieg entscheiden lässt, macht aber eine öffentliche Debatte über die Schwellen für einen Einsatz und die Folgen der Automatisierung notwendig.
Die menschliche Rolle beschränkt sich daher nicht darauf, vor einem Angriff auf einen Knopf zu drücken. Sie umfasst die Analyse der Umstände, die Fähigkeit zu zweifeln, die Berücksichtigung der Zivilbevölkerung und das Urteil darüber, ob die Handlung überhaupt angebracht ist. Eine Maschine kann eine Aufgabe mit hoher Geschwindigkeit ausführen; sie kann jedoch nicht allein entscheiden, ob die Fortsetzung einer Operation tatsächlich einem legitimen politischen Ziel dient.
Frankreich und Europa im technologischen Wettlauf
Souveränität und strategische Abhängigkeit
Der Wettlauf um Militärtechnologien wird von Mächten mit erheblichen finanziellen Mitteln und einem starken Technologiesektor dominiert. Die Vereinigten Staaten investieren massiv in KI und autonome Systeme. Auch China entwickelt diese Fähigkeiten weiter, wobei dieser Prozess häufig als weniger stark durch dieselben ethischen und regulatorischen Debatten eingeschränkt wahrgenommen wird. Russland wiederum richtet sich nach eigenen militärischen Prioritäten und verfolgt einen anderen Ansatz bei der Regulierung.
Für Frankreich und Europa steht zweierlei auf dem Spiel. Es gilt, Fähigkeiten zu entwickeln, die den Bedürfnissen der Streitkräfte entsprechen, zugleich aber auch eine vollständige Abhängigkeit von andernorts entwickelten Technologien zu vermeiden. Diese militärische Souveränität umfasst Ausrüstung, Software, Daten, Komponenten und das Fachwissen, das erforderlich ist, um sie weiterzuentwickeln. Die Abhängigkeit von ausländischen Systemen kann die Handlungsfreiheit einschränken oder sensible Informationen gefährden.
Europäische Forschung und Erprobung gibt es, doch sie müssen mit stärker fragmentierten Haushalten, anspruchsvollen Regulierungsrahmen und mitunter komplexer industrieller Zusammenarbeit zurechtkommen. Diese Einschränkungen sind nicht nur Hindernisse: Sie können auch dazu beitragen, Schutzvorkehrungen festzulegen und die militärische Entwicklung an demokratischen Werten auszurichten. Die Herausforderung besteht darin, zu verhindern, dass ethische Ansprüche zu einem technologischen Rückstand führen, der Europas Entscheidungsfähigkeit schwächen würde.
Innovationen vorantreiben, ohne auf Kontrollgrundsätze zu verzichten
Eine europäische Strategie kann darauf abzielen, leistungsfähige Systeme zu entwickeln und zugleich eine wirksame menschliche Kontrolle über tödliche Entscheidungen zu bewahren. Dafür muss klar definiert werden, was „menschliche Kontrolle“ je nach betroffener Funktion und operativem Kontext bedeutet. Eine echte Überwachung setzt voraus, dass die Bediener über verständliche Informationen und genügend Zeit zum Handeln verfügen und das System tatsächlich anhalten oder seine Funktionsweise ändern können.
Dazu gehört auch, Waffen vor ihrem Einsatz zu bewerten, ihr Verhalten in unterschiedlichen Situationen zu überprüfen und Entscheidungen zu dokumentieren, die mithilfe ihrer Empfehlungen getroffen wurden. Prüf- und Nachverfolgbarkeitsmechanismen können dabei helfen zu verstehen, wie ein System zu einer Operation beigetragen hat. Sie ersetzen die menschliche Verantwortung nicht, erschweren es aber, sie hinter einer Benutzeroberfläche oder einem Algorithmus verschwinden zu lassen.
In den internationalen Diskussionen über autonome Waffensysteme geht es genau darum, wie sich Risiken begrenzen und das humanitäre Völkerrecht wahren lassen. Dabei stehen sich mitunter das Streben nach einem umfassenden Verbot und der Ansatz gegenüber, den Einsatz durch Regeln einzuhegen. Unabhängig davon, welcher Rahmen gewählt wird, bleibt es schwierig, gemeinsame Verpflichtungen mit unterschiedlichen militärischen Interessen und einem sich beschleunigenden technologischen Wettbewerb in Einklang zu bringen.
Die Auswirkungen künstlicher Intelligenz über den militärischen Bereich hinaus verstehen
Die Debatten über autonome Waffen sind Teil einer umfassenderen Auseinandersetzung mit den Fähigkeiten und Grenzen künstlicher Intelligenz. Ihre Entwicklung betrifft Arbeit, Wirtschaft, Information und soziale Beziehungen und wirft zugleich Fragen nach der menschlichen Kontrolle über Systeme auf. In diesem Zusammenhang beleuchtet die Analyse zu Geoffrey Hintons Warnung vor der Entwicklung künstlicher Intelligenz die allgemeineren Sorgen darüber, welchen Platz diese Technologien in menschlichen Entscheidungen einnehmen könnten.
Im militärischen Bereich sind diese Fragen besonders dringlich, denn die Folgen können unmittelbar und unumkehrbar sein. Technologie kann die Fähigkeiten zur Aufklärung und zum Handeln stärken, beseitigt aber weder die Unsicherheit noch die Notwendigkeit eines Urteils. Je schneller und komplexer die Systeme werden, desto wichtiger ist es, ihre Grenzen zu verstehen, die Fähigkeit zur Kontrolle zu bewahren und eindeutig festzulegen, wer für ihren Einsatz verantwortlich ist.
Die Frage nach einem Krieg ohne Soldaten lässt sich daher nicht auf den physischen Ersatz von Kämpfern durch Roboter reduzieren. Sie betrifft die Art und Weise, wie Gesellschaften Krieg führen wollen, den Grad der Autonomie, der Maschinen zugestanden wird, und die Verantwortung der Menschen, die sie entwickeln, genehmigen und einsetzen. Welche Rolle dem Menschen zukommt, wird ebenso sehr von politischen und rechtlichen Entscheidungen abhängen wie von der technischen Leistungsfähigkeit der eingesetzten Systeme.
