Группа угрозной разведки Google сообщает о первой уязвимости нулевого дня, разработанной ИИ для обхода двухфакторной аутентификации

Группа анализа угроз Google (GTIG) опубликовала отчет, в котором описывается тревожная тенденция: злоумышленники теперь используют ИИ практически во всех областях киберпреступности, включая разработку по крайней мере одной zero-day уязвимости с нуля. Речь идет о Python-скрипте, который обходит двухфакторную аутентификацию (2FA) в популярном инструменте администрирования с открытым исходным кодом на веб-основе. По данным GTIG, код «несет все признаки использования ИИ» и эксплуатирует логическую ошибку в процессе авторизации.

GTIG отмечает, что, хотя современные LLM все еще «испытывают трудности с навигацией по сложной корпоративной логике», они превосходно справляются с контекстным мышлением. Это позволяет им читать исходный код, проверять соответствие намерений разработчика фактической реализации и быстро выявлять непредусмотренные крайние случаи, ведущие к уязвимостям.

В отчете также выделены другие злонамеренные применения ИИ:

• Самоизменяющееся вредоносное ПО: Вредоносное ПО, способное модифицировать собственный исходный код, динамически создавать полезные нагрузки эксплойтов и даже генерировать ложный код для избежания обнаружения.
• Бэкдоры на базе Gemini: Злоумышленники используют модель Gemini от Google для создания бэкдоров, хотя конкретные детали реализации пока не раскрыты.

Полученные данные указывают на новую эру киберпреступности, где ИИ автоматизирует не только доставку эксплойтов, но и обнаружение и создание самих уязвимостей. zero-day уязвимость особенно примечательна тем, что это первый зафиксированный случай полностью разработанного ИИ эксплойта, обходящего 2FA.

Для команд безопасности это подчеркивает необходимость исходить из того, что одной 2FA недостаточно против противников, усиленных ИИ. Логические ошибки в потоках аутентификации, особенно в инструментах с открытым исходным кодом, будут все чаще атаковаться. Процессы проверки кода должны включать автоматизированные проверки логики, чтобы выявлять такие ошибки до развертывания.