Google сообщает, что киберпреступники использовали ИИ для поиска уязвимости нулевого дня

Google подтвердил, что киберпреступники использовали систему ИИ для выявления и эксплуатации zero-day уязвимости в своем программном обеспечении. Согласно отчету New York Times, это первый задокументированный случай, когда злоумышленники применили ИИ для автономного обнаружения серьезной уязвимости. Взлом был обнаружен группой анализа угроз Google (TAG) до того, как был нанесен значительный ущерб, но этот инцидент знаменует новый этап в кибератаках с использованием ИИ.

Как проходила атака

Хакеры использовали специального ИИ-агента для проведения фаззинга и статического анализа кодовой базы Google, нацеливаясь на неисправленные ошибки повреждения памяти. ИИ выявил уязвимость типа use-after-free в широко используемой библиотеке, которая затем была превращена в эксплойт. Google отказался назвать конкретный продукт, но сообщил, что он затрагивает "значительное число пользователей", и патч уже распространяется.

Ключевые технические аспекты из статьи NYT:

• Злоумышленники использовали доработанную LLM в сочетании с инструментарием бинарного анализа; они не полагались на общедоступные модели ИИ.
• ИИ генерировал proof-of-concept полезные нагрузки и итеративно улучшал их на основе дампов сбоев.
• Google TAG перехватил атаку с помощью обнаружения аномалий в схемах доставки эксплойтов, а не с помощью сигнатур, созданных ИИ.
• Расследование продолжается, но Google связывает операцию с государственной группой, известной финансовыми киберпреступлениями.

Последствия для защитников

Это событие подтверждает давние опасения, что ИИ снизит порог для обнаружения zero-day. Командам безопасности следует ожидать увеличения автоматизированного поиска уязвимостей и соответствующим образом скорректировать частоту выпуска патчей. Такие инструменты, как Microsoft Security Copilot и собственный Gemini для безопасности Google, были сосредоточены на защитном использовании — но теперь стало ясно, что те же методы применяются в руках противника. Это больше не теория; наступательная безопасность на основе ИИ стала реальностью.