Google TIG signale la première exploitation zero-day générée par IA dans la nature

Le groupe Google Threat Intelligence (GTIG) a publié un rapport détaillant le premier cas observé d'utilisation offensive de l'IA pour l'exploitation de vulnérabilités zero-day. Selon le rapport, un acteur malveillant criminel avait développé une exploitation zero-day à l'aide de l'IA, planifiant un événement d'exploitation massive. La découverte proactive de GTIG pourrait avoir empêché son utilisation.

Principales conclusions

• Exploitation zero-day générée par l'IA : Pour la première fois, GTIG a identifié un acteur malveillant utilisant une exploitation zero-day probablement développée avec l'IA. L'exploitation était destinée à une exploitation massive mais a été potentiellement neutralisée par l'intervention de Google.
• Intérêt étatique : Des acteurs associés à la République populaire de Chine (RPC) et à la République populaire démocratique de Corée (RPDC) ont montré un intérêt significatif pour l'utilisation de l'IA dans la découverte de vulnérabilités.
• Logiciels malveillants augmentés par l'IA : Des acteurs liés à la Russie utilisent le codage basé sur l'IA pour développer des logiciels malveillants polymorphes et des réseaux d'obfuscation afin d'échapper à la défense. Le logiciel malveillant PROMPTSPY illustre l'orchestration autonome des attaques, interprétant les états du système pour générer dynamiquement des commandes.
• Logiciel malveillant autonome : PROMPTSPY représente un changement vers des opérations de logiciels malveillants autonomes, où les modèles d'IA déchargent les tâches opérationnelles pour une activité adaptative à grande échelle.
• Attaques sur la chaîne d'approvisionnement de l'IA : Des adversaires comme TeamPCP (alias UNC6780) ciblent les environnements d'IA et les dépendances logicielles pour un accès initial, puis se déplacent vers des réseaux plus larges pour des ransomwares et des extorsions.
• Accès obscurci aux LLM : Les acteurs malveillants utilisent des pipelines d'enregistrement automatisés et des intergiciels premium pour contourner les limites d'utilisation pour un abus à grande échelle des modèles.

Implications pour les développeurs

Ce rapport souligne que l'IA est désormais une arme à double tranchant : les adversaires exploitent les modèles génératifs pour accélérer le développement d'exploits, tandis que les défenseurs peuvent utiliser des outils comme Big Sleep de Google (agent IA pour la découverte de vulnérabilités) et CodeMender (génération automatique de correctifs) pour contrer ces menaces. L'intégration sécurisée des composants d'IA est cruciale, car les attaques sur la chaîne d'approvisionnement des logiciels d'IA (risques de composants intégrés non sécurisés et d'actions malveillantes selon la taxonomie SAIF) deviennent plus courantes.

Les développeurs utilisant des agents de codage IA doivent être conscients que les mêmes modèles qui permettent des gains de productivité sont également utilisés comme armes. Les mesures défensives incluent l'analyse proactive des vulnérabilités, la surveillance des motifs de code générés par l'IA anormaux et la sécurisation des outils d'IA dans leur chaîne d'approvisionnement.