Google TIG meldet ersten KI-generierten Zero-Day-Exploit im Live-Betrieb

Die Google Threat Intelligence Group (GTIG) hat einen Bericht veröffentlicht, der das erste beobachtete Beispiel für den offensiven Einsatz von KI zur Ausnutzung von Zero-Day-Sicherheitslücken detailliert beschreibt. Dem Bericht zufolge hatte ein krimineller Bedrohungsakteur einen Zero-Day-Exploit mit Hilfe von KI entwickelt und plante ein Massenausnutzungsereignis. Die proaktive Gegenentdeckung durch GTIG konnte dessen Einsatz möglicherweise verhindern.

Wichtigste Erkenntnisse

• KI-generierter Zero-Day-Exploit: Zum ersten Mal identifizierte GTIG einen Bedrohungsakteur, der einen Zero-Day-Exploit einsetzte, der wahrscheinlich mit KI entwickelt wurde. Der Exploit war für die Massenausnutzung vorgesehen, wurde aber möglicherweise durch Googles Eingreifen neutralisiert.
• Staatlich gefördertes Interesse: Bedrohungsakteure aus der Volksrepublik China (PRC) und der Demokratischen Volksrepublik Korea (DPRK) haben großes Interesse an der Nutzung von KI zur Schwachstellenfindung gezeigt.
• KI-gestützte Malware: Mit Russland verbundene Akteure nutzen KI-gesteuerte Codierung, um polymorphe Malware und Verschleierungsnetzwerke zur Verteidigungsumgehung zu entwickeln. Die Malware PROMPTSPY veranschaulicht eine autonome Angriffsorchestrierung, bei der Systemzustände interpretiert werden, um dynamisch Befehle zu generieren.
• Autonome Malware: PROMPTSPY stellt einen Wandel hin zu autonomen Malware-Operationen dar, bei denen KI-Modelle operative Aufgaben auslagern, um skalierte und adaptive Aktivitäten zu ermöglichen.
• Angriffe auf die Lieferkette von KI: Gegner wie TeamPCP (auch bekannt als UNC6780) zielen auf KI-Umgebungen und Softwareabhängigkeiten ab, um ersten Zugriff zu erlangen, und wechseln dann zu breiteren Netzwerken für Ransomware und Erpressung.
• Verschleierter LLM-Zugriff: Bedrohungsakteure nutzen automatisierte Registrierungspipelines und Premium-Tier-Middleware, um Nutzungslimits für groß angelegten Modellmissbrauch zu umgehen.

Auswirkungen für Entwickler

Dieser Bericht unterstreicht, dass KI mittlerweile ein zweischneidiges Schwert ist: Gegner nutzen generative Modelle, um die Entwicklung von Exploits zu beschleunigen, während Verteidiger Werkzeuge wie Googles Big Sleep (KI-Agent zur Schwachstellenfindung) und CodeMender (automatische Fehlerbehebung) einsetzen können, um diesen Bedrohungen entgegenzuwirken. Die sichere Integration von KI-Komponenten ist entscheidend, da Angriffe auf die Lieferkette von KI-Software (Risiken durch unsicher integrierte Komponenten und schädliche Aktionen gemäß der SAIF-Taxonomie) häufiger werden.

Entwickler, die KI-Codierungsagenten einsetzen, sollten sich bewusst sein, dass dieselben Modelle, die Produktivitätssteigerungen ermöglichen, auch bewaffnet werden. Zu den Abwehrmaßnahmen gehören proaktive Schwachstellenscans, die Überwachung auf anomale KI-generierte Codemuster und die Sicherung von KI-Werkzeugen in der eigenen Lieferkette.