Falscher KI-Bericht über Atomprogramm – Flugzeuge waren schon in der Luft, um ein chinesisches Schiff anzugreifen

Im Persischen Golf fehlten im Frühjahr offenbar nur noch wenige Schritte bis zu einer Operation, die zwischen den Vereinigten Staaten und China hätte eskalieren können. Mitten im Krieg der USA gegen Iran lag dem amerikanischen Militär ein Geheimdienstbericht vor, nach dem ein chinesisches Schiff Komponenten für ein militärisches Atomprogramm in den Nahen Osten bringen sollte. Der Bericht wurde ernst genommen. Das Kommando bereitete den Zugriff vor. Nach Angaben von zwei mit dem Vorgang vertrauten Personen hätten sich bewaffnete Soldaten darauf vorbereitet, an Bord zu gehen. Flugzeuge seien bereits gestartet. Insgesamt schilderten vier mit dem Vorgang vertraute Personen den Ablauf. Erst unmittelbar vor dem Einsatz wurde das Papier gründlicher geprüft. Genau dort fiel auf, worauf die ganze Operation gebaut war: Ein Analyst eines Spezialkommandos hatte ein KI-Dialogprogramm benutzt, und das hatte die Ladung des Schiffs falsch bestimmt.

Was das Programm an Bord zu erkennen glaubte, ließ sich nach den vorliegenden Informationen nicht feststellen. 1 mit dem Vorgang vertraute Person bezeichnete den Bericht als vollständig falsch. Er habe trotzdem beinahe einen Krieg ausgelöst, weil jeder bewaffnete Zugriff auf ein chinesisches Schiff das Risiko einer direkten Konfrontation zwischen Washington und Peking getragen habe. Aus einer falschen Zuordnung in einem Rechner waren reale Vorbereitungen geworden. Bewaffnete Menschen warteten. Flugzeuge waren in der Luft. Erst die späte Kontrolle stoppte den Vorgang, bevor aus einer erfundenen Frachtangabe ein militärischer Zwischenfall werden konnte. Der Irrtum entstand im Rechner. Seine Folgen hätten Menschen und Staaten getroffen.

Der Fall trifft auf einen Apparat, der künstliche Intelligenz möglichst schnell in seine Arbeit einbauen will. Pentagon und amerikanische Geheimdienste setzen solche Systeme bereits bei der Auswertung großer Mengen von Aufklärungsdaten ein. Auch bei der Auswahl möglicher Ziele sollen sie helfen. Für Haushaltsfragen werden sie ebenfalls genutzt, ebenso für die Logistik. Einheitliche Regeln zur Überprüfung der Ergebnisse existieren nach den vorliegenden Angaben bislang nicht. Verschiedene Behörden arbeiten mit unterschiedlichen Werkzeugen und nach unterschiedlichen Vorgaben. Ein früherer hochrangiger Regierungsbeamter, der mit den verwendeten Systemen vertraut sei, beschreibe die internen Programme als im Grunde dieselben kommerziellen Produkte, nur „geschminkt“. Die Technik bekommt damit einen amtlichen Anstrich. Ihre Fehler werden dadurch nicht klüger.

Nach Angaben mehrerer mit den Abläufen vertrauter Personen seien falsche Ausgaben solcher Systeme schon früher in nachrichtendienstliche Informationen gelangt. Der Vorgang im Persischen Golf war damit keine Begegnung mit einem völlig unbekannten Problem. Besonders junge Analysten neigten dazu, den Werkzeugen zu viel zuzutrauen, hieß es. Sie seien mit solchen Programmen vertraut und übernähmen deren Ergebnisse eher, ohne sie ausreichend zu hinterfragen. Genau hier wird Tempo zur Gefahr. Ein System liefert in Sekunden eine Antwort, für deren Folgen später Menschen geradestehen müssen. Zwischen einer schnellen Auswertung und einer schnellen Fehlentscheidung liegt mitunter nur die Frage, ob noch jemand Zweifel zulässt. Militärische Entscheidungen werden nicht harmloser, weil der erste Fehler auf einem Bildschirm entstand.

Der beinahe erfolgte Zugriff zeigt, wie wenig Abstand zwischen einer technischen Behauptung und bewaffneter Wirklichkeit liegen kann. Ein Analyst gibt Daten ein, ein Programm ordnet die Ladung falsch ein. Danach wandert der Bericht weiter und gewinnt mit jedem Schreibtisch Gewicht. Irgendwann stehen Soldaten bereit und Flugzeuge sind unterwegs. In diesem Fall kam die Prüfung noch rechtzeitig. Dass sie erst unmittelbar vor der Operation kam, ist der beunruhigende Teil. Ein Geheimdienstbericht ist kein Gedankenexperiment, sobald Menschen auf seiner Grundlage Waffen laden. Die Maschine muss keinen Befehl geben, um Einfluss auf einen Befehl zu nehmen. Dafür genügt, dass ihre Antwort als belastbar behandelt wird.

Ein Gesprächspartner brachte das Problem mit einem Satz auf den Punkt: Künstliche Intelligenz ermögliche es, schneller zu einer schlechten Idee zu gelangen. Genau das war hier geschehen. Das KI-Programm irrte sich über die Fracht eines chinesischen Schiffs, der Fehler wurde als Geheimdienstinformation behandelt, und das Militär begann mit konkreten Vorbereitungen. Nur die letzte Kontrolle verhinderte, dass die falsche Behauptung in eine bewaffnete Aktion überging. Zwischen Rechner und Krieg lag zuletzt keine große Theorie. Es lag eine verspätete Überprüfung. Der Abstand war klein genug, dass bereits Flugzeuge in der Luft waren.