Google berichtet, KI-gestützte Hacking-Angriffe hätten in drei Monaten industrielles Ausmaß erreicht

Die Bedrohungsforschungsgruppe von Google hat einen Bericht veröffentlicht, der detailliert beschreibt, dass KI-gestützte Hacking-Aktivitäten innerhalb von nur drei Monaten auf industrielles Niveau eskaliert sind. John Hultquist, der Chefanalyst der Gruppe, sagte: „Es herrscht ein Missverständnis, dass der KI-Schwachstellenwettlauf unmittelbar bevorsteht. Die Realität ist, dass er bereits begonnen hat.“

Kriminelle Gruppen und staatlich gesteuerte Akteure aus China, Nordkorea und Russland nutzen in großem Umfang kommerzielle Modelle – darunter Gemini, Claude und OpenAI-Tools – um Angriffe zu verfeinern und auszuweiten. Der Bericht hebt hervor, dass KI es Bedrohungsakteuren ermöglicht, Operationen zu testen, gegenüber Zielen auszuharren, bessere Malware zu entwickeln und Geschwindigkeit, Umfang und Raffinesse zu steigern.

Bemerkenswerterweise stand eine kriminelle Gruppe kürzlich kurz davor, eine Zero-Day-Schwachstelle für eine Massenexploit-Kampagne zu nutzen und schien ein KI-LLM zu verwenden, das nicht Anthropics Mythos war (Anthropic lehnte die Veröffentlichung ab, nachdem es Zero-Days in jedem großen Betriebssystem und Browser gefunden hatte). Der Bericht zeigt auch, dass Gruppen mit OpenClaw experimentieren, einem KI-Agent-Tool, das im Februar viral ging, weil es ungeschützte Autonomie bot – einschließlich des massenhaften Löschens von E-Mail-Postfächern.

Steven Murdoch, Professor für Sicherheitstechnik am University College London, kommentierte: „Deshalb gerate ich nicht in Panik. Im Allgemeinen haben wir ein Stadium erreicht, in dem die alte Methode der Fehlersuche verschwunden ist und alles LLM-gestützt sein wird.“

Separat warnte das Ada Lovelace Institute, dass Produktivitätsschätzungen, die staatliche KI-Investitionen antreiben, oft auf ungeprüften Annahmen beruhen und sich möglicherweise nicht in reale Ergebnisse wie bessere Dienstleistungen oder das Wohlbefinden der Arbeitnehmer übersetzen lassen.