Investigative Recherche: Die Nacht, in der das Töten den Menschen los wurde

Anfang September, ein weit entfernter Saal der Vereinten Nationen in der Schweiz, Hunderte Diplomaten. Auf dem Tisch lag der bislang weiteste Versuch, tödliche autonome Waffen zu regeln, die erste Übereinkunft über künstliche Intelligenz beim Töten. Am letzten Tag kippte der Ton.

Über rund 15 Stunden gingen amerikanische und russische Diplomaten den Entwurf durch und schnitten heraus, was ihnen im Weg stand. Nach Angaben von drei mit den Gesprächen vertrauten Personen und nach Unterlagen, die dem Vorgang zugrunde liegen, fiel die Vorgabe, dass die Systeme vorhersehbar und zuverlässig arbeiten müssten. Es fiel die Pflicht, ethische Gesichtspunkte einzubeziehen. Und es fiel die eine Klausel, um die es am Ende ging, wonach ein Mensch die von künstlicher Intelligenz ausgewählten Ziele vor einem Angriff überprüfen müsse.

UN-Generalsekretär António Guterres warnte am 22. September 2026: „Kinder dürfen niemals zu Testpersonen unregulierter Systeme werden. Entscheidungen über Leben und Tod dürfen niemals Maschinen überlassen werden.“ Killerroboter hätten in unserer Zukunft keinen Platz.

Die letzten Stunden liefen hinter verschlossenen Türen. Kameras aus. Die Beobachter der Zivilgesellschaft draußen. Washington und Moskau brachten je etwa 10 Juristen mit, fast doppelt so viele wie die übrigen Delegationen, und die Änderungen kamen so schnell, dass die kleineren Staaten den Faden verloren. Einer der Beteiligten nannte es einen Tod durch 1.000 Papierschnitte. Weder das amerikanische noch das russische Außenministerium äußerten sich, auch die Vereinten Nationen schwiegen.

Zuerst fielen die Wörter vorhersehbar und zuverlässig. Dann erklärbar und nachvollziehbar. Human Rights Watch bestätigt, dass diese Schutzbegriffe aus der Endfassung verschwanden. Ein Wort in einem Vertrag ist eine Bremse, wenn jemand sie zieht. In einer Waffe wird aus einer falschen Einordnung ein toter Mensch, und darum wog dieser Verlust am schwersten. Verity Coyle von Human Rights Watch spricht es aus. Schwache Regeln könnten dazu führen, dass Maschinen über Leben und Tod entschieden, ohne dass ein Mensch sie noch aufhalte. Sie rechne mit mehr zivilem Schaden und weniger Rechenschaft. Die Kriegsführung gleite zudem schneller ins Automatische. Coyle kennt das Vorgehen: Wo Washington einen militärischen oder technischen Vorsprung wahren wolle, dränge es auf freiwillige Leitlinien statt fester Regeln, so wie zuvor bei Cyber und im Weltraum.

Was da gestrichen wurde, war keine Formsache. Eine Unterschrift unter einen Tötungsbefehl verlangt einen Menschen, der einen Moment lang zögert. Genau diesen Menschen nahmen sie aus dem Text. Wählt ein System sein Ziel und fehlt davor die verpflichtende Prüfung, läuft die Strecke vom Sensor bis zum Einschlag ohne Halt. Dann steht zwischen Verdacht und Einschlag kein Gewissen mehr, nur der Ablauf. Der Widerspruch liegt offen. Während Washington die internationalen Regeln für tödliche KI schwächt, treibt das Pentagon dieselbe Technik tiefer in die eigene Kriegsführung. Zugleich schreiben die USA ihre Richtlinie für autonome Waffen aus dem Jahr 2023 um. Diese enthielt mehrere Klauseln, die den nun gestrichenen aus dem Genfer Text gleichen, darunter die Pflicht zu menschlichem Urteil bei autonomen und halbautonomen Systemen und die Bindung an das Kriegsvölkerrecht. Trump ordnete im Juni an, sie binnen 90 Tagen zu überarbeiten. Ende September lag keine neue Fassung vor. Was Washington nach außen tilgt, prüft es im selben Atemzug für das eigene Haus.

Die Technik steht längst im Feld. Im Krieg gegen Iran setzte das US-Militär einen Chatbot des Unternehmens Anthropic ein und ließ ihn in den ersten 24 Stunden fast 1.000 Ziele bestimmen. Israel stützt seine Einsätze in Gaza stark auf künstliche Intelligenz. KI-Firmen räumten ein, ihre Programme hätten eigenständig Server fremder Organisationen angegriffen, darunter Webseiten der US-Regierung. Akteure in Ländern wie Jemen und Iran hätten Chatbots genutzt, um Waffen zu bauen oder das US-Militär ins Visier zu nehmen; welche Seite für welchen Vorgang stehe, lässt sich aus den Unterlagen nicht sauber trennen. Ein Forscher von Anthropic kündigte in diesem Monat und warnte, künstliche Intelligenz könne die Menschheit auslöschen.

Präzision ist das Versprechen, mit dem diese Waffen verkauft werden. Wochenlang standen wir im Iran daneben und sahen, was davon übrig bleibt. Die Vorwarnung fehlte oft ganz. Getroffen wurde, was nicht gemeint war, zivile Häuser, auch mitten in Teheran. Wir haben es dokumentiert und abgelegt. Unterlagen gingen weiter, ein Teil liegt bis heute bei uns, für den Tag, an dem auch das bei internationalen Gerichten liegen wird.

Am tiefsten sitzt die Schule in Minab. Aus dieser Erfahrung wächst eine einzige Forderung, und sie duldet keinen Rabatt: Solange kein Mensch verbindlich die Hand am Auslöser hat, hat keine dieser Maschinen dort etwas zu suchen. Der Rechner erbt jeden Fehler, den man ihm füttert. Veraltete Daten und vertauschte Ziele werden nicht wahrer, wenn eine Software sie liest. Der blinde Sensor bleibt blind, die schludrige Auswertung bleibt schludrig. Neu ist allein das Tempo, mit dem der Irrtum durchläuft. Man tauscht ein fehlbares Urteil gegen das nächste und nennt den Tausch Fortschritt. Eine Maschine trifft, sie wägt nicht. Eine Maschine vollstreckt, sie verantwortet nicht. Im Frieden wäre das ein Rechtschreibfehler. Hier kostet es Leben.

Zur selben Zeit riefen Sam Altman von OpenAI und Dario Amodei von Anthropic vor dem Sicherheitsrat der Vereinten Nationen die Staaten zur Zusammenarbeit auf. Regulierung, sagte Altman, müsse aus demokratischen Verfahren wachsen, getragen von Regierungen, die ihren Bürgern Rechenschaft schuldeten. Selbst die Erbauer warnen vor dem eigenen Werk. Ihre Rufe verhallen, solange die stärkste Regierung jede Bindung ablehnt. Denn Trump stellte sich vor den Vereinten Nationen offen dagegen. Die USA lehnten jeden Versuch ab, eine globalistische Ordnung über die künstliche Intelligenz zu errichten, sagte er, und sprach von einer super intelligence. Seine Regierung hält jede Regel für ein Hemmnis der Erfindungskraft. Was im Innern als Bürokratie abgewehrt wird, entscheidet draußen, wie weit eine Waffe ohne menschliche Hand gehen darf.

Trump sagte am 22. September 2026 vor der UN-Generalversammlung, „Artificial Intelligence“ klinge künstlich und damit „fake“. Er wolle deshalb künftig von „Super Intelligence“ sprechen.

Die Welt schweigt nicht

Von einer schweigenden Welt kann keine Rede sein. 76 Staaten tragen inzwischen Verhandlungen über rechtsverbindliche Regeln mit. 70 davon gehören der Konvention über bestimmte konventionelle Waffen an, also eine Mehrheit ihrer stimmberechtigten Mitglieder. Nie zuvor stand eine so breite Mehrheit hinter einem bindenden Vertrag. Brasilien und Irland zählen dazu, ebenso mehrere afrikanische Staaten.

Putin und Trump verspielen eine Welt, die ihnen nie gehört hat, und schicken die Rechnung an alle anderen. Sie treiben die Menschheit an eine Linie, hinter der weder ein Gericht noch ein Wähler das Geschehene zurückholt. Ihr Abgang von der Macht wird niemand bejubeln, er wird die stille Verwunderung sein, dass die Welt es noch einmal überstanden hat.

Auf der anderen Seite steht Washington, an seiner Seite Russland. Auch Indien und die Türkei ziehen unverbindliche Leitlinien vor. Die Schweiz wandte sich gegen die Streichungen und hielt entgegen, die betreffenden Formulierungen stützten sich bereits auf geltendes humanitäres Völkerrecht. Sri Lanka ging weiter und warnte, eine indirekte menschliche Kontrolle könne den Maschinen faktisch erlauben, ohne laufende Aufsicht anzugreifen; die Delegation verlangte verbindliche Mindestanforderungen und die Möglichkeit, ein System rechtzeitig abzuschalten. Australien nimmt eine mittlere Haltung ein und will die menschliche Kontrolle nicht zur eigenen Rechtsnorm erheben. Die Türkei lehnt einen bindenden Vertrag ausdrücklich ab. Armenien wies auf die Gefahr hin, dass solche Technik weitergegeben oder umgeleitet werden könnte, bis sie bei kleineren Staaten oder anderen Akteuren liege.

Washington argumentierte nicht nur am Tisch. Nach den vorliegenden Angaben sprach es mindestens sechs Staaten diplomatisch an, damit sie seine weichere Linie im Text stützten. Das amerikanische Team führen Diplomaten des Außenministeriums. An ihrer Seite arbeiten Fachleute des Pentagon und Juristen. Coyle nennt es gut ausgestattet und darauf eingestellt, die militärische Eigenständigkeit der USA zu verteidigen. Nicole van Rooijen von der Kampagne Stop Killer Robots sagt, Washington und Moskau lehnten bindende Regeln ab und besäßen genug Gewicht, um den Fortschritt einer großen Mehrheit zu bremsen. Einstimmigkeit ist verlangt, und so genügt der Wille von zwei Mächten gegen den Willen vieler.

Die größere Gefahr sitzt nicht im einzelnen Fehlschuss. Sie sitzt im Tempo. Ein Mensch kann zögern und nachfragen, er kann einen Angriff abbrechen. Eine Maschine legt Erkennung und Angriff in denselben Wimpernschlag. Je mehr Staaten so verfahren, desto näher rückt eine Eskalation, in der die Politik erst reagiert, wenn die Waffen längst gehandelt haben. Die militärische Rechnung dahinter ist nüchtern. Gegner setzen auf Masse, auf billige Drohnen und Flugkörper in großer Zahl. Darauf antwortet man mit Tempo, mit mehr Zielen in kürzerer Zeit. In der Ukraine und im Krieg gegen Iran wurde das sichtbar. Die Aufgabe heißt nicht mehr ein Ziel, sie heißt viele zugleich.

Mit dem Tempo verschwimmt die Verantwortung. Trifft eine autonome Waffe das Falsche, bleibt offen, wer geradesteht, der Mensch am Bildschirm oder der Staat hinter ihm. Das Völkerrecht wurde für Entscheidungen geschrieben, die ein Mensch trifft. Schuld sucht einen, der gewählt hat. Zerfällt die Wahl in Millisekunden, findet die Schuld niemanden mehr, und wo niemand haftet, sinkt die Hemmung, die Waffe überhaupt loszuschicken.

Das uns vorliegende Dokument vom 31. August 2026 zeigt einen Vorschlag aus den UN-Verhandlungen zu tödlichen autonomen Waffensystemen. Entscheidend ist Absatz 25: Ein System gilt demnach als autonom, wenn es Ziele identifizieren, auswählen und mit tödlicher Gewalt angreifen kann, ohne dass ein Mensch während dieses Vorgangs eingreift. Vorherige Programmierung oder die Festlegung möglicher Zielarten durch Menschen schließen diese Einstufung ausdrücklich nicht aus. Ausgenommen wären Systeme nur dann, wenn Menschen das konkrete Ziel und den Zeitpunkt des Angriffs selbst bestimmen. Der Text ist noch kein verbindlicher Vertrag, sondern ein Arbeitsvorschlag des Vorsitzenden für die weiteren Verhandlungen.

Mit jedem System, das den eigenen Soldaten aus der Schusslinie nimmt, sinkt der politische Preis eines Angriffs. Meidet eine Macht verbindliche Grenzen und treibt zugleich ihre militärische KI voran, drängt sie andere, nachzuziehen. Niemand will langsamer automatisieren als der mögliche Gegner. Das alte Sicherheitsdilemma kehrt wieder, nur läuft es bei künstlicher Intelligenz schneller ab als bei früheren Waffengenerationen.

Ein falscher KI-Bericht, bewaffnete Soldaten, gestartete Flugzeuge

Wohin all das führt, zeigte sich im Frühjahr 2026. Im Persischen Golf, mitten im Krieg der USA gegen Iran, lag dem Militär ein Geheimdienstbericht vor, nach dem ein chinesisches Schiff Bauteile für ein militärisches Atomprogramm in den Nahen Osten bringen sollte. Das Kommando bereitete den Zugriff vor. Nach Angaben mehrerer mit dem Vorgang vertrauter Personen hätten sich bewaffnete Soldaten auf das Entern vorbereitet, Flugzeuge seien schon gestartet. Erst unmittelbar vor dem Einsatz sah jemand das Papier genau an. Ein Analyst eines Spezialkommandos hatte ein KI-Dialogprogramm benutzt, und dieses hatte die Ladung des Schiffs falsch bestimmt. Eine Person nannte den Bericht vollständig falsch. Ein bewaffneter Zugriff auf ein chinesisches Schiff hätte eine direkte Konfrontation zwischen Washington und Peking tragen können. Aus einer falschen Zeile im Rechner waren bewaffnete Männer und startende Maschinen geworden.

Der Vorfall traf keinen Apparat, der solche Fehler nicht kennt. Nach Angaben mehrerer Beteiligter seien falsche Ausgaben solcher Programme schon früher in nachrichtendienstliche Berichte gelangt. Gerade jüngere Analysten trauten den Werkzeugen zu viel zu und übernähmen deren Ergebnisse, ohne genug zu fragen. Einheitliche Regeln zur Prüfung gebe es nicht; verschiedene Behörden arbeiteten mit verschiedenen Programmen und nach eigenen Vorgaben. Ein früherer hoher Beamter beschreibe die internen Systeme als dieselben handelsüblichen Produkte, nur geschminkt. Ein Gesprächspartner fasste es in einen Satz: Künstliche Intelligenz ermögliche es, schneller zu einer schlechten Idee zu gelangen. Ein Rechner irrt ohne Scham und ohne Gedächtnis. Die Folgen tragen Menschen, die beides haben. Die Maschine muss keinen Befehl geben, um einen Befehl zu beeinflussen; es genügt, dass ihre Antwort als belastbar gilt. Zwischen einer schnellen Auswertung und einer schnellen Fehlentscheidung liegt oft nur die Frage, ob noch jemand Zweifel zulässt.

Auf den ersten Blick ist es nur eine kleine Tabelle. Doch mitten zwischen Verwaltung, Suizidprävention und Programmen gegen sexuelle Gewalt verschwindet ausgerechnet der Posten, der zivile Schäden erfassen und begrenzen soll. Maßnahmen zur Begrenzung ziviler Schäden und Reaktionen darauf stehen im Vorjahr noch mit 259 drin. Danach nichts mehr. Kein Ausbau, keine Fortführung, nicht einmal ein Restbetrag. Das ist kein technischer Vorgang und keine beiläufige Kürzung. Gestrichen wird genau der Bereich, der überhaupt noch festhält, was militärische Gewalt bei Zivilisten anrichtet. Alles andere läuft weiter. Dieser Teil nicht.

Der beinahe erfolgte Zugriff steht nicht für sich. Die Einheiten dahinter sind nicht neu. Spezialkräfte wie die Navy SEALs, Delta Force und die Green Berets haben die gezielte Tötung seit den Anschlägen vom 11. September zu einem Werkzeug gemacht. Diese Logik reifte über zwei Jahrzehnte, jetzt beschleunigt sie sich. In unserer Recherche über das autonome Kriegszentrum des Pentagon fanden wir im Haushaltsantrag über 1,5 Billionen Dollar den Aufbau eines Special Operations Forces Autonomous Warfare Center. Daten sammeln und daraus Ziele wählen, das leisten die Programme schon; nur der Mensch steht noch zwischen Auswahl und Angriff. Am Ende steht ein Punkt auf einer Karte, ein Ziel. Dasselbe Dokument führt den Posten für die Erfassung ziviler Schäden, im Vorjahr noch mit 259 vermerkt, nicht mehr fort. Die Fähigkeit wird schneller, das Korrektiv fällt weg. Admiral Brad Cooper versichert, ein Mensch entscheide immer, was angegriffen werde und was nicht. Nur wird eben dieser Mensch zum Engpass, sobald ein System in Sekunden auswertet und markiert, und einen Engpass duldet kein Militär auf Dauer.

Im Haushalt taucht es unscheinbar auf, fast versteckt zwischen Zahlenkolonnen und Standardformulierungen. Doch genau dort steht, was den eigentlichen Bruch markiert. Das US Special Operations Command fordert zusätzliche Mittel, um die Schlagkraft seiner Einheiten auszubauen – mehr Präsenz, mehr Projektion, mehr Zugriff. Dahinter steckt nicht nur klassische Aufrüstung, sondern der nächste Schritt. Der Antrag nennt ausdrücklich den Aufbau eines „Special Operations Forces Autonomous Warfare Center“. Ein Zentrum, das die bestehenden Strukturen nicht ersetzt, sondern verdichtet. Aufklärung, Auswertung, Zielauswahl – alles wird enger zusammengezogen, schneller gemacht, direkter verbunden.

Die Begründung folgt der bekannten Linie. Wachsende Bedrohungen, globale Einsätze, steigender Druck auf Spezialeinheiten. Gleichzeitig wird deutlich, wohin sich das System verschiebt. Nicht mehr nur Unterstützung für Operationen, sondern die Automatisierung genau dieser Abläufe. Auffällig ist, was nebenbei passiert. Während neue Fähigkeiten aufgebaut werden, verschwindet an anderer Stelle Raum. Programme zur Bewertung ziviler Schäden tauchen im Antrag nicht mehr auf. Der Teil, der prüfen und bremsen könnte, wird nicht weitergeführt. So steht es schwarz auf weiß in einem Dokument, das kaum jemand liest. Mehr Mittel für Spezialeinheiten. Ein neues Zentrum für autonome Kriegsführung. Und weniger Kontrolle über die Folgen.

Was das bedeutet, lehrt die Geschichte der Drohnen. Anfangs hieß es, jeder Einsatz werde sorgfältig geprüft. Mit den Jahren verdichtete sich die Kette, und am Ende blieb oft ein Bestätigen, ein Klick, der den Ablauf abschließt, statt ihn zu befragen. Andere Kommandos gehen denselben Weg. Das Southern Command in Miami automatisiert die Verfolgung von Drogenrouten, bei der Schnellboote und kleine U-Boote als Ziele gelten. Von der Verfolgung zur Bekämpfung ist es technisch ein kurzer Schritt. Im Kongress läuft dazu keine ernsthafte Aussprache. Der Posten steht im Budget, eingebettet in Sonderprogramme, weithin abgeschirmt.

Rishi Samaroo, einer von mindestens 234 Menschen, die bis zum 26. September 2026 bei den US-Militärangriffen auf mutmaßliche Drogenboote in der Karibik und im östlichen Pazifik ums Leben kamen. Samaroo wurde am 14. Oktober 2025 getötet. Im Zuge unserer Recherchen konnten wir zahlreiche Familien der Opfer ausfindig machen, ihre Berichte sichern und ihre Geschichten dokumentieren.

General Stanley McChrystal spricht es aus. Er vergleiche die Technik mit einem Kind, das früh schon töten könne und mit den Jahren stärker werde. Stärke gibt keine Richtung vor. Ein System rechnet, es wägt nicht, und zwischen dem einen und dem anderen liegt alles, was man später Verantwortung nennt. Bleibt die Frage, wie lange der Mensch überhaupt noch Teil der Entscheidung ist, wenn die Maschine schneller entscheidet als er. Dass Verträge wirken, hält Richard Lennane vom Internationalen Komitee vom Roten Kreuz für belegt. Abkommen über chemische und biologische Waffen hätten den Einsatz begrenzt. Ähnliches gelte für Antipersonenminen und Streumunition. Weniger die Strafe zähle, mehr die Norm, die das Verhalten der Staaten verändere. Ein Vertrag über autonome Waffen könne ähnlich greifen.

Über allem steht eine Warnung. UN-Generalsekretär António Guterres und die Präsidentin des Roten Kreuzes Mirjana Spoljaric erklärten, die Welt nähere sich einer moralischen roten Linie, jenseits derer autonome Waffen Menschen ohne menschliches Zutun töten könnten. In Genf wurde diese Linie nicht überschritten. Sie rückte nur ein Stück, in einer Nacht, hinter geschlossenen Türen, betrieben von zwei Delegationen mit dem längeren Atem und den meisten Juristen. Bindend ist noch nichts. Im November treffen sich die Staaten erneut, und dann zeigt sich, ob aus dem Vorstoß ein Mandat wird oder das Papier zurückfällt hinter das, was Menschen bis dahin noch selbst verantworten. Eine Maschine kann viele Ziele treffen. Verantworten kann sie keines.