Google Threat Intelligence Group berichtet über ersten KI-entwickelten Zero-Day-Exploit, der 2FA umgeht
Die Google Threat Intelligence Group (GTIG) hat einen Bericht veröffentlicht, der einen besorgniserregenden Trend detailliert: Angreifer nutzen jetzt KI in nahezu jedem Bereich der Cyberkriminalität, einschließlich der Entwicklung von mindestens einem Zero-Day-Exploit von Grund auf. Bei dem Exploit handelt es sich um ein Python-Skript, das die Zwei-Faktor-Authentifizierung (2FA) in einem beliebten Open-Source-Web-basierten Systemadministrationstool umgeht. Laut GTIG weist der Code 'alle Anzeichen von KI-Nutzung' auf und missbraucht einen Logikfehler im Autorisierungsablauf.
GTIG stellt fest, dass aktuelle LLMs zwar immer noch 'Probleme haben, komplexe Unternehmenslogik zu navigieren', aber sie sind hervorragend im kontextuellen Denken. Diese Fähigkeit ermöglicht es ihnen, Quellcode zu lesen, die Absicht des Entwicklers mit der tatsächlichen Implementierung zu validieren und schnell unbedachte Grenzfälle zu identifizieren, die zu Schwachstellen führen.
Der Bericht hebt auch andere bösartige KI-Anwendungen hervor:
- Selbstmorphierende Malware: Malware, die ihren eigenen Quellcode modifizieren, Exploit-Payloads dynamisch erstellen und sogar Tarncode erzeugen kann, um der Erkennung zu entgehen.
- Gemini-gestützte Backdoors: Angreifer nutzen Googles Gemini-Modell, um Backdoors zu erstellen, obwohl spezifische Implementierungsdetails noch nicht bekannt gegeben wurden.
Die Ergebnisse deuten auf eine neue Ära der Cyberkriminalität hin, in der KI nicht nur die Bereitstellung von Exploits automatisiert, sondern auch die Entdeckung und Erstellung von Schwachstellen selbst. Der Zero-Day-Exploit ist besonders bemerkenswert, da er den ersten dokumentierten Fall eines vollständig KI-entwickelten Exploits darstellt, der 2FA umgeht.
Für Sicherheitsteams unterstreicht dies die Notwendigkeit, davon auszugehen, dass 2FA allein gegen KI-verstärkte Angreifer nicht ausreicht. Logikfehler in Authentifizierungsabläufen, insbesondere in Open-Source-Tools, werden zunehmend ins Visier genommen werden. Code-Review-Prozesse sollten automatisierte Reasoning-Checks integrieren, um solche Fehler vor der Bereitstellung zu erkennen.
📖 Read the full source: HN AI Agents
👀 Siehe auch
Claude Code Security Plugin: Integration von AppSec in den Entwickler-Workflow
Anthropic hat ein Sicherheitsleitfaden-Plugin für Claude Code veröffentlicht, das Schwachstellen während der Programmierung erkennt und behebt. Es steht allen Benutzern über den Plugin-Marktplatz zur Verfügung, nicht nur Enterprise. Diskutiert, ob dies ein leichter Assistent, eine ernsthafte AppSec-Ebene oder eine Brücke zu Claude Security wird.
OpenClaw-Sicherheitsansatz unter Verwendung von LLM-Router und zrok Private Sharing
Ein Entwickler teilt seinen Ansatz, OpenClaw und einen LLM-Router mit einem einzigen Befehl in einer VM+Kubernetes-Umgebung auszuführen, wobei Sicherheitsbedenken durch das Injizieren von API-Schlüsseln auf Router-Ebene und die Verwendung von zrok für privates Teilen anstelle traditioneller Messaging-App-Tokens adressiert werden.
FlyTrap-Angriff nutzt adversarische Schirme, um kamera-basierte autonome Drohnen zu kompromittieren.
Forscher der UC Irvine entwickelten FlyTrap, ein physisches Angriffsframework, das bemalte Regenschirme nutzt, um Schwachstellen in kamerabasierten autonomen Zielverfolgungssystemen auszunutzen. Der Angriff reduziert die Verfolgungsdistanzen auf gefährliche Werte und ermöglicht so das Einfangen von Drohnen, Sensorangriffe oder physische Kollisionen.
Das Problem uniformierter Wachen: Warum Agent-Sandboxen Identität brauchen, nicht nur Richtlinien
Die Openshell-Sandbox von Nemoclaw begrenzt Sicherheitsrichtlinien auf Binärdateien, sodass Malware dieselben Binärdateien wie der Agent nutzen kann ("Live-off-the-Land"). ZeroID, eine Open-Source-Identitätsschicht für Agenten, wendet Sicherheitsrichtlinien auf Agenten an, die durch sichere Identitäten geschützt sind.