Google signale que le piratage assisté par IA a atteint une échelle industrielle en trois mois

Le groupe de renseignement sur les menaces de Google a publié un rapport détaillant que le piratage assisté par l'IA a explosé à une échelle industrielle en seulement trois mois. John Hultquist, l'analyste en chef du groupe, a déclaré : « Il existe une idée fausse selon laquelle la course aux vulnérabilités liées à l'IA est imminente. La réalité est qu'elle a déjà commencé. »

Des groupes criminels et des acteurs liés à des États de Chine, de Corée du Nord et de Russie utilisent largement des modèles commerciaux, notamment Gemini, Claude et les outils d'OpenAI, pour affiner et étendre leurs attaques. Le rapport souligne que l'IA permet aux acteurs malveillants de tester des opérations, de persister contre leurs cibles, de développer de meilleurs logiciels malveillants et d'augmenter la vitesse, l'échelle et la sophistication.

Notamment, un groupe criminel était récemment sur le point d'exploiter une vulnérabilité zero-day pour mener une campagne d'exploitation massive et semblait utiliser un LLM d'IA qui n'était pas le Mythos d'Anthropic (qu'Anthropic a refusé de publier après avoir découvert des zero-days dans tous les principaux systèmes d'exploitation et navigateurs). Le rapport a également constaté que des groupes expérimentent avec OpenClaw, un outil agent d'IA devenu viral en février pour offrir une autonomie sans garde-fou, y compris la suppression massive de boîtes de réception.

Steven Murdoch, professeur d'ingénierie de la sécurité à University College London, a commenté : « C'est pourquoi je ne panique pas. En général, nous avons atteint un stade où l'ancienne méthode de découverte de bugs a disparu, et tout sera désormais assisté par LLM. »

Par ailleurs, l'Institut Ada Lovelace a mis en garde sur le fait que les estimations de productivité qui motivent les investissements gouvernementaux en IA reposent souvent sur des hypothèses non vérifiées et pourraient ne pas se traduire par des résultats concrets comme de meilleurs services ou un meilleur bien-être des travailleurs.