Von Yevgeny Bort
Vor unserer bevorstehenden Reise nach Warschau haben wir bei MEcoVEA e.V. einen Bericht für die Gespräche im Umfeld der OSZE vorbereitet. Er trägt den Titel – „Bevor wir der KI das Töten beibringen“. Es geht um Menschenwürde, Cybersicherheit und die Grenzen künstlicher Intelligenz im Krieg. Für MEcoVEA wird Juri Brunnmeier den Bericht als Referent vorstellen.
Vor wenigen Tagen las ich bei Manova den Artikel „Das smarte Töten“ unseres Kollegen Ilia Ryvkin. Er beschreibt eine Welt, in der Drohnen, Datenplattformen und Algorithmen den Krieg schneller und präziser machen sollen. Zugleich erinnert er an eine Tatsache, die in den Versprechen der Technologiebranche leicht verschwindet: Am Ende stehen immer noch Menschen im Schützengraben. Sie halten Stellungen, werden verwundet und sterben.
Sein Text berührt genau die Frage, die uns bei der Arbeit am Bericht beschäftigt hat. Der Mensch bleibt auf dem Schlachtfeld. Aber bleibt er auch Herr der Entscheidung, bevor geschossen wird?
Künstliche Intelligenz muss keine Waffe selbst abfeuern, um den Einsatz von Gewalt zu beeinflussen. Eine Software kann Informationen aus vielen Quellen zusammenführen, Objekte als mögliche Ziele einstufen und dem Menschen eine Empfehlung vorlegen. Wer am Bildschirm sitzt, sieht dann bereits ein von der Maschine geordnetes Bild der Wirklichkeit. Wenn für die Entscheidung nur Sekunden bleiben, kann aus menschlicher Kontrolle eine bloße Bestätigung werden.
Deshalb unterscheiden wir in unserem Bericht sorgfältig zwischen Datenanalyse, KI-gestützter Entscheidungshilfe und autonomen Waffensystemen. Palantir betrachten wir als öffentliches Beispiel dafür, wie Daten, Lagebilder und Entscheidungshilfen in einer digitalen Umgebung zusammenkommen. Daraus folgt keineswegs die Behauptung, eine konkrete Palantir-Plattform entscheide selbstständig über den Einsatz tödlicher Gewalt. Die entscheidende Frage lautet: Wie überprüfen wir eine Empfehlung, bevor aus ihr ein Befehl wird?
Wir schlagen dafür einen Grundsatz vor, den wir „technische Empathie“ nennen. Eine Maschine kann weder Mitgefühl empfinden noch ein moralisches Urteil fällen. Aber wir können sie so begrenzen, dass Unsicherheit nicht überspielt wird. Widersprechen sich Quellen, fehlen entscheidende Informationen oder sind Zivilisten und geschützte Objekte betroffen, muss die Anwendung zusätzliche Prüfung verlangen und gegebenenfalls die Verbindung zum Waffeneinsatz blockieren. Unser Leitsatz ist einfach: Wenn die notwendigen Bedingungen nicht bestätigt sind, schießt das System nicht.
Dazu gehört auch das, was wir im Bericht als „Recht zum Abschalten“ beschreiben. Gemeint ist keine einzelne rote Taste, mit der man eine ganze Plattform stilllegt. Es geht um die reale, überprüfbare Möglichkeit, einer KI rechtzeitig die Befugnis zu entziehen, eine Gewaltanwendung anzustoßen oder zu ermöglichen. Schutzfunktionen, Navigation oder Kommunikation können dabei weiterarbeiten. Zugleich muss später nachvollziehbar sein, welche Daten verwendet wurden, was das System empfohlen hat und welcher Mensch die Entscheidung traf. „Das hat der Algorithmus entschieden“ darf niemals die letzte Antwort sein.
In Warschau möchten wir deshalb über konkrete Grenzen sprechen: über menschliche Kontrolle, überprüfbare Entscheidungen und sichere Verfahren, mit denen sich ein gefährlicher Ablauf stoppen lässt. Die OSZE kann dazu beitragen, eine gemeinsame Sprache und Maßnahmen des Vertrauens zwischen Staaten zu entwickeln.
Ryvkins Artikel zeigt, dass die Technik den Menschen an der Front nicht verschwinden lässt. Unser Bericht stellt die nächste Frage: Wie sorgen wir dafür, dass der Mensch auch vor dem Schuss nicht verschwindet?
Der vollständige Artikel von Ilia Ryvkin ist bei Manova zu lesen: https://www.manova.news/artikel/das-smarte-toten
