Die Maschinen suchen jetzt selbst nach den Schwachstellen – und die erste echte Warnung ist bereits da

Jahrelang klang es wie eine dieser futuristischen Warnungen aus Sicherheitskonferenzen, die man kurz liest und wieder vergisst. Irgendwann würden kriminelle Hacker künstliche Intelligenz nutzen, um eigenständig Sicherheitslücken zu finden, die bislang kein Mensch entdeckt hatte. Irgendwann würden Programme anfangen, selbst nach den Schwachstellen des Internets zu suchen. Genau dieser Punkt scheint jetzt erreicht zu sein. Google veröffentlichte am Montag einen Bericht, der in der Sicherheitsbranche für erhebliche Unruhe sorgt. Nach Angaben des Konzerns habe eine kriminelle Hackergruppe versucht, einen großangelegten Cyberangriff mit Hilfe eines KI-Modells vorzubereiten. Ziel war offenbar eine bislang unbekannte Sicherheitslücke in einem weit verbreiteten Open-Source-Verwaltungssystem. Solche Schwachstellen gelten in der Branche als besonders gefährlich, weil die Hersteller selbst noch nichts von ihnen wissen. Deshalb spricht man von sogenannten Zero-Day-Lücken.

Nach Darstellung von Google nutzten die Angreifer ein Modell, um die Schwachstelle nicht nur zu finden, sondern auch direkt für einen Angriff vorzubereiten. Genau davor warnen Sicherheitsforscher seit Jahren. Denn bisher galt die Suche nach solchen Lücken als extrem aufwendig. Oft arbeiteten spezialisierte Gruppen monatelang an einzelnen Systemen. Jetzt könnte ein Teil dieser Arbeit automatisiert werden. Besonders bemerkenswert ist dabei weniger die technische Seite als die Geschwindigkeit, mit der sich die Lage verändert. Noch vor wenigen Jahren galten Zero-Day-Lücken als seltene Ware, die auf illegalen Märkten Millionenbeträge erzielen konnte. Inzwischen sprechen Sicherheitsfirmen offen darüber, dass moderne KI-Systeme Schwachstellen in gigantischen Mengen aufspüren können.

Der Druck wurde zuletzt noch größer, nachdem das Unternehmen Anthropic sein neues Modell Mythos vorgestellt hatte. Laut Anthropic identifizierte das System tausende unbekannte Sicherheitslücken in großen Betriebssystemen und Internetbrowsern – darunter Fehler, die seit Jahrzehnten unentdeckt geblieben sein sollen. Gerade deshalb wurde das Modell nicht frei veröffentlicht, sondern nur ausgewählten Firmen und Behörden in den USA und Großbritannien zugänglich gemacht. Google erklärt, man habe den jüngsten Angriff rechtzeitig entdeckt. Die Sicherheitslücke sei geschlossen worden, bevor größerer Schaden entstanden sei. Die betroffene Software nennt der Konzern allerdings nicht. Auch die verantwortliche Hackergruppe bleibt offiziell unbekannt. Bekannt ist nur, dass der Angriff offenbar ein Python-Skript nutzte und darauf abzielte, Zwei-Faktor-Authentifizierung zu umgehen. Dafür hätten die Täter zusätzlich gültige Zugangsdaten wie Benutzernamen oder Passwörter benötigt.

John Hultquist von der Google Threat Intelligence Group spricht trotzdem von einer Zäsur. Es sei der erste greifbare Fall, bei dem man mit hoher Sicherheit davon ausgehe, dass künstliche Intelligenz aktiv zur Entdeckung und Vorbereitung einer bislang unbekannten Schwachstelle eingesetzt wurde. Wörtlich sagte er, dies sei vermutlich nur „die Spitze des Eisbergs“. Besonders beunruhigend ist dabei, wie Google den KI-Einsatz erkannt haben will. Laut dem Bericht enthielt der Code ungewöhnliche Erklärtexte und Formulierungen, die erfahrene menschliche Entwickler normalerweise nicht einbauen würden. Rob Joyce, ehemaliger Cybersicherheitsdirektor der NSA, erklärte dazu, KI-generierter Code hinterlasse inzwischen Spuren, die sich teilweise erkennen ließen – auch wenn Maschinen ihren Ursprung nicht offen kennzeichnen.

Während Regierungen noch darüber streiten, wie KI reguliert werden soll, verändert sich die Realität längst schneller als die politischen Debatten. Sicherheitsbehörden und Technologiekonzerne diskutieren inzwischen offen darüber, neue Modelle möglicherweise nur noch kontrolliert freizugeben. Hintergrund ist die Sorge, dass hochentwickelte Systeme nicht nur Forschern helfen, sondern gleichzeitig auch Cyberkriminellen Werkzeuge liefern, die früher nur Geheimdiensten oder spezialisierten Gruppen zur Verfügung standen. Das eigentliche Problem liegt aber tiefer. Das heutige Internet wurde über Jahrzehnte von Menschen gebaut – mit Fehlern, Kompromissen und Sicherheitslücken. Genau diese Altlasten treffen nun auf Systeme, die in Sekunden Millionen Zeilen Code analysieren können. Die Maschinen lernen nicht nur zu schreiben. Sie lernen inzwischen auch, wo bestehende Systeme verwundbar sind.

Noch wirkt vieles kontrollierbar. Google konnte den Angriff stoppen. Die Lücke wurde geschlossen. Doch genau darin steckt die eigentliche Warnung. Wenn dies tatsächlich erst der Anfang ist, dann verändert sich gerade das Kräfteverhältnis zwischen Verteidigung und Angriff im digitalen Raum. Nicht irgendwann in zehn Jahren. Sondern jetzt.