Autonomie in Waffensystemen: Was die zivile KI-Ethik vom Militär lernen kann — und umgekehrt

Die zivile KI-Ethik-Debatte hat in den vergangenen Jahren Fragen entdeckt, die sie für neu hält: Wer trägt Verantwortung, wenn ein System eine Entscheidung trifft? Wie viel Autonomie darf man delegieren? Was heißt Kontrolle, wenn die Maschine schneller entscheidet, als der Mensch prüfen kann?

Keine dieser Fragen ist neu. Das Militär ringt seit Jahrhunderten mit ihnen, lange bevor es Computer gab. Denn eine Armee ist genau das: ein System, das Entscheidungsgewalt delegiert, unter Unsicherheit handelt und dabei irreversible Folgen produziert. Die Antworten, die militärische Führungslehre darauf entwickelt hat, wurden teuer bezahlt. Es wäre fahrlässig, sie zu ignorieren, nur weil sie aus einer Institution stammen, mit der die zivile Tech-Debatte wenig Berührung hat.

Zugleich gilt die Gegenrichtung: Das Militär selbst steht bei der Integration autonomer Systeme vor Verwerfungen, auf die seine eigenen Prinzipien noch keine Antwort haben. Wer behauptet, eine der beiden Seiten könne diese Debatte allein führen, hat sie nicht verstanden.

Ich schreibe diesen Text als Offizier mit sechzehn Dienstjahren und als jemand, der zivile KI-Systeme entwickelt. Ich schreibe ihn auf Prinzipienebene: keine Systeme, keine Einsätze, keine operativen Details. Die Prinzipien sind öffentlich, und um sie geht es.

§ 01Erste Lektion: Delegation löst Verantwortung nicht auf. Sie verdoppelt sie.

Das Fundament militärischer Führung ist ein Verantwortungsmodell, das der zivilen KI-Debatte fast vollständig fehlt. Wenn ein Kommandant einen Auftrag delegiert, gibt er Entscheidungsgewalt ab, aber keine Verantwortung. Der Untergebene trägt Verantwortung für die Ausführung; der Kommandant behält die Verantwortung für den Auftrag, die Mittelwahl, die Auswahl und Ausbildung des Untergebenen und die Bedingungen, unter denen dieser entscheidet. Verantwortung wird durch Delegation nicht kleiner. Sie wird mehr.

Übertragen auf KI: Wer ein autonomes System einsetzt, wird nicht dadurch entlastet, dass "das System entschieden hat". Er hat das System ausgewählt, seine Grenzen definiert, seine Ausbildung verantwortet — die Trainingsdaten, die Tests, die Freigabekriterien — und die Lage geschaffen, in der es entscheidet. Die in der Tech-Branche beliebte Redefigur, ein Fehler sei "vom Algorithmus" verursacht worden, ist in militärischer Logik schlicht Flucht vor der eigenen Führungsverantwortung. Kein Kommandant könnte sich mit dem Satz entlasten, sein Untergebener habe eben falsch entschieden, wenn er ihn schlecht ausgebildet, unklar beauftragt und ohne Aufsicht losgeschickt hat.

Die zivile KI-Governance sollte dieses Modell übernehmen, und zwar wörtlich: Für jedes eingesetzte System muss eine benennbare Person die Kommandantenverantwortung tragen. Für Auswahl, Grenzen, Ausbildung und Einsatzbedingungen. Nicht ein Gremium, nicht eine Abteilung, nicht "die Organisation". Eine Person mit Namen. Alles andere ist organisierte Verantwortungslosigkeit.

§ 02Zweite Lektion: Auftragstaktik statt Regelkatalog

Die meisten Versuche, KI-Systeme zu steuern, folgen dem Modell der Befehlstaktik: Man versucht, jedes zulässige und unzulässige Verhalten im Voraus zu spezifizieren. Das scheitert bei komplexen Systemen aus demselben Grund, aus dem es in der Kriegsführung gescheitert ist. Die Lage produziert immer Situationen, die der Regelkatalog nicht vorhergesehen hat.

Die deutschsprachige Militärtradition hat darauf eine Antwort entwickelt, die heute weltweit als Führungsphilosophie gilt: Auftragstaktik. Der Führende gibt nicht vor, wie zu handeln ist, sondern was erreicht werden soll und warum — die Absicht. Der Ausführende entscheidet im Rahmen dieser Absicht selbstständig, auch und gerade dann, wenn die Lage nicht dem Plan entspricht. Voraussetzung sind ein klar formulierter Zweck, definierte Grenzen des Handlungsspielraums und Vertrauen, das durch Ausbildung und Bewährung verdient wurde.

Das ist, bei Licht betrachtet, das präziseste verfügbare Modell für den Umgang mit lernenden Systemen: Absichtsformulierung statt Verhaltensspezifikation, harte Grenzen statt lückenloser Vorschriften, gestufte Autonomie nach nachgewiesener Verlässlichkeit. Die KI-Forschung diskutiert dieselben Ideen unter Begriffen wie Zielspezifikation und Alignment, meist ohne zu wissen, dass es zu diesem Problem zwei Jahrhunderte Doktringeschichte gibt, inklusive einer langen Liste dokumentierter Fehlschläge, aus denen man lernen könnte.

§ 03Dritte Lektion: Ethik, die nicht eingeübt ist, existiert nicht

Rules of Engagement sind operationalisierte Ethik: abstrakte Prinzipien wie Unterscheidung und Verhältnismäßigkeit, übersetzt in konkrete Entscheidungsregeln für konkrete Lagen. Verbindlich, beübt, überprüfbar. Man kann über einzelne Einsatzregeln streiten. Aber das Format ist der zivilen Praxis um Längen voraus: Dort enden Ethik-Prinzipien meist als PDF im Intranet, das niemand in eine einzige operative Entscheidungsregel übersetzt hat.

Der Unterschied liegt im Drill. Soldaten üben Entscheidungssituationen, bevor sie in ihnen stehen. Welches Entwicklungsteam übt den Fall, dass ein Modell kurz vor Release ein problematisches Verhalten zeigt und der Termin drängt? Welche Organisation hat für diesen Fall eine Regel, die vorher festgelegt wurde und nicht erst im Moment des Interessenkonflikts improvisiert wird? Ethik, die erst unter Druck formuliert wird, verliert gegen den Druck. Immer.

§ 04Die Gegenrichtung: Wo das Militär gefährlich hinterherhinkt

Es wäre bequem, hier zu enden. Aber die Übertragung läuft auch andersherum, und sie fällt unbequemer aus.

Erstens: Das gesamte militärische Verantwortungsmodell setzt voraus, dass zwischen Entscheidung und Wirkung ein Mensch steht, der Zeit zum Urteilen hat. Autonome Systeme, die im Maschinentempo agieren, unterlaufen genau diese Voraussetzung. Die Formel der internationalen Debatte dafür heißt "meaningful human control", bedeutsame menschliche Kontrolle. Das Wort bedeutsam trägt die ganze Last. Ein Mensch, der in Sekundenbruchteilen eine Maschinenempfehlung bestätigt, die zu prüfen er keine Zeit hat, kontrolliert nichts. Er dekoriert eine automatisierte Kette mit einer Unterschrift. Die Gefechtsfeldrealität moderner Konflikte, in denen Reaktionszeiten gegen null gehen, macht aus der menschlichen Aufsicht schleichend eine Fiktion, während die Doktrin vielerorts noch so tut, als wäre sie intakt.

Zweitens: Auftragstaktik funktioniert, weil der Untergebene die Absicht versteht, im vollen menschlichen Sinn: einschließlich Kontext, Ethos und der Fähigkeit zu erkennen, wann der Auftrag selbst überholt ist. Kein heutiges KI-System versteht Absicht in diesem Sinn. Es optimiert eine Spezifikation. Wer Auftragstaktik auf Maschinen überträgt, ohne diesen Unterschied ernst zu nehmen, delegiert an einen Untergebenen, der brillant ausführt und nichts begreift.

Drittens der Beschaffungsdruck: Wenn der Gegner autonome Systeme einsetzt, entsteht die Logik, nicht zurückstehen zu dürfen. Diese Logik ist real und lässt sich nicht wegmoralisieren. Aber sie erzeugt genau die Dynamik, unter der Prüfstandards erodieren — dieselbe Dynamik, die in der zivilen Industrie unfertige Modelle in den Markt drückt, nur mit anderen Konsequenzen. Gerade hier bräuchte es die diszipliniert langweilige Antwort des Militärs auf jedes neue Waffensystem: Erprobung, Zulassung, gestufte Einführung, Ausbildung vor Einsatz. Ob diese Disziplin dem Wettlauf standhält, ist die offene Frage dieses Jahrzehnts.

§ 05Folgerung

Drei Sätze, die beide Welten unterschreiben sollten:

Erstens: Für jedes autonome System trägt eine benennbare Person Kommandantenverantwortung. Zivil wie militärisch, ohne Ausnahme.

Zweitens: Autonomie wird gestuft und verdient, nicht pauschal gewährt. Der Nachweis geht dem Vertrauen voraus, nicht umgekehrt.

Drittens: Kontrolle, die nur auf dem Papier besteht, ist keine. Wer "menschliche Aufsicht" in seine Systeme schreibt, muss zeigen können, dass der Mensch in der realen Zeitlinie der Entscheidung tatsächlich urteilen kann. Sonst ist die Aufsicht eine Haftungsdekoration.

Die zivile KI-Ethik hat die besseren Foren und die breitere Debatte. Das Militär hat die älteren Narben und die härteren Formate. Getrennt werden beide scheitern: die eine an der Umsetzung, das andere am Tempo. Dieses Institut wird an der Naht arbeiten.