Im Persischen Golf fehlten im Fr\u00fchjahr offenbar nur noch wenige Schritte bis zu einer Operation, die zwischen den Vereinigten Staaten und China h\u00e4tte eskalieren k\u00f6nnen. Mitten im Krieg der USA gegen Iran lag dem amerikanischen Milit\u00e4r ein Geheimdienstbericht vor, nach dem ein chinesisches Schiff Komponenten f\u00fcr ein milit\u00e4risches Atomprogramm in den Nahen Osten bringen sollte. Der Bericht wurde ernst genommen. Das Kommando bereitete den Zugriff vor. Nach Angaben von zwei mit dem Vorgang vertrauten Personen h\u00e4tten sich bewaffnete Soldaten darauf vorbereitet, an Bord zu gehen. Flugzeuge seien bereits gestartet. Insgesamt schilderten vier mit dem Vorgang vertraute Personen den Ablauf. Erst unmittelbar vor dem Einsatz wurde das Papier gr\u00fcndlicher gepr\u00fcft. Genau dort fiel auf, worauf die ganze Operation gebaut war: Ein Analyst eines Spezialkommandos hatte ein KI-Dialogprogramm benutzt, und das hatte die Ladung des Schiffs falsch bestimmt.<\/p>\n\n\n\n
Was das Programm an Bord zu erkennen glaubte, lie\u00df sich nach den vorliegenden Informationen nicht feststellen. 1 mit dem Vorgang vertraute Person bezeichnete den Bericht als vollst\u00e4ndig falsch. Er habe trotzdem beinahe einen Krieg ausgel\u00f6st, weil jeder bewaffnete Zugriff auf ein chinesisches Schiff das Risiko einer direkten Konfrontation zwischen Washington und Peking getragen habe. Aus einer falschen Zuordnung in einem Rechner waren reale Vorbereitungen geworden. Bewaffnete Menschen warteten. Flugzeuge waren in der Luft. Erst die sp\u00e4te Kontrolle stoppte den Vorgang, bevor aus einer erfundenen Frachtangabe ein milit\u00e4rischer Zwischenfall werden konnte. Der Irrtum entstand im Rechner. Seine Folgen h\u00e4tten Menschen und Staaten getroffen.<\/p>\n\n\n\n
Der Fall trifft auf einen Apparat, der k\u00fcnstliche Intelligenz m\u00f6glichst schnell in seine Arbeit einbauen will. Pentagon und amerikanische Geheimdienste setzen solche Systeme bereits bei der Auswertung gro\u00dfer Mengen von Aufkl\u00e4rungsdaten ein. Auch bei der Auswahl m\u00f6glicher Ziele sollen sie helfen. F\u00fcr Haushaltsfragen werden sie ebenfalls genutzt, ebenso f\u00fcr die Logistik. Einheitliche Regeln zur \u00dcberpr\u00fcfung der Ergebnisse existieren nach den vorliegenden Angaben bislang nicht. Verschiedene Beh\u00f6rden arbeiten mit unterschiedlichen Werkzeugen und nach unterschiedlichen Vorgaben. Ein fr\u00fcherer hochrangiger Regierungsbeamter, der mit den verwendeten Systemen vertraut sei, beschreibe die internen Programme als im Grunde dieselben kommerziellen Produkte, nur \u201egeschminkt\u201c. Die Technik bekommt damit einen amtlichen Anstrich. Ihre Fehler werden dadurch nicht kl\u00fcger.<\/p>\n\n\n\n
Nach Angaben mehrerer mit den Abl\u00e4ufen vertrauter Personen seien falsche Ausgaben solcher Systeme schon fr\u00fcher in nachrichtendienstliche Informationen gelangt. Der Vorgang im Persischen Golf war damit keine Begegnung mit einem v\u00f6llig unbekannten Problem. Besonders junge Analysten neigten dazu, den Werkzeugen zu viel zuzutrauen, hie\u00df es. Sie seien mit solchen Programmen vertraut und \u00fcbern\u00e4hmen deren Ergebnisse eher, ohne sie ausreichend zu hinterfragen. Genau hier wird Tempo zur Gefahr. Ein System liefert in Sekunden eine Antwort, f\u00fcr deren Folgen sp\u00e4ter Menschen geradestehen m\u00fcssen. Zwischen einer schnellen Auswertung und einer schnellen Fehlentscheidung liegt mitunter nur die Frage, ob noch jemand Zweifel zul\u00e4sst. Milit\u00e4rische Entscheidungen werden nicht harmloser, weil der erste Fehler auf einem Bildschirm entstand.<\/p>\n\n\n\n
Der beinahe erfolgte Zugriff zeigt, wie wenig Abstand zwischen einer technischen Behauptung und bewaffneter Wirklichkeit liegen kann. Ein Analyst gibt Daten ein, ein Programm ordnet die Ladung falsch ein. Danach wandert der Bericht weiter und gewinnt mit jedem Schreibtisch Gewicht. Irgendwann stehen Soldaten bereit und Flugzeuge sind unterwegs. In diesem Fall kam die Pr\u00fcfung noch rechtzeitig. Dass sie erst unmittelbar vor der Operation kam, ist der beunruhigende Teil. Ein Geheimdienstbericht ist kein Gedankenexperiment, sobald Menschen auf seiner Grundlage Waffen laden. Die Maschine muss keinen Befehl geben, um Einfluss auf einen Befehl zu nehmen. Daf\u00fcr gen\u00fcgt, dass ihre Antwort als belastbar behandelt wird.<\/p>\n\n\n\n
Ein Gespr\u00e4chspartner brachte das Problem mit einem Satz auf den Punkt: K\u00fcnstliche Intelligenz erm\u00f6gliche es, schneller zu einer schlechten Idee zu gelangen. Genau das war hier geschehen. Das KI-Programm irrte sich \u00fcber die Fracht eines chinesischen Schiffs, der Fehler wurde als Geheimdienstinformation behandelt, und das Milit\u00e4r begann mit konkreten Vorbereitungen. Nur die letzte Kontrolle verhinderte, dass die falsche Behauptung in eine bewaffnete Aktion \u00fcberging. Zwischen Rechner und Krieg lag zuletzt keine gro\u00dfe Theorie. Es lag eine versp\u00e4tete \u00dcberpr\u00fcfung. Der Abstand war klein genug, dass bereits Flugzeuge in der Luft waren.<\/p>\n\n\n\n