Группа угрозной разведки Google сообщает о первой уязвимости нулевого дня, разработанной ИИ для обхода двухфакторной аутентификации
Группа анализа угроз Google (GTIG) опубликовала отчет, в котором описывается тревожная тенденция: злоумышленники теперь используют ИИ практически во всех областях киберпреступности, включая разработку по крайней мере одной zero-day уязвимости с нуля. Речь идет о Python-скрипте, который обходит двухфакторную аутентификацию (2FA) в популярном инструменте администрирования с открытым исходным кодом на веб-основе. По данным GTIG, код «несет все признаки использования ИИ» и эксплуатирует логическую ошибку в процессе авторизации.
GTIG отмечает, что, хотя современные LLM все еще «испытывают трудности с навигацией по сложной корпоративной логике», они превосходно справляются с контекстным мышлением. Это позволяет им читать исходный код, проверять соответствие намерений разработчика фактической реализации и быстро выявлять непредусмотренные крайние случаи, ведущие к уязвимостям.
В отчете также выделены другие злонамеренные применения ИИ:
- Самоизменяющееся вредоносное ПО: Вредоносное ПО, способное модифицировать собственный исходный код, динамически создавать полезные нагрузки эксплойтов и даже генерировать ложный код для избежания обнаружения.
- Бэкдоры на базе Gemini: Злоумышленники используют модель Gemini от Google для создания бэкдоров, хотя конкретные детали реализации пока не раскрыты.
Полученные данные указывают на новую эру киберпреступности, где ИИ автоматизирует не только доставку эксплойтов, но и обнаружение и создание самих уязвимостей. zero-day уязвимость особенно примечательна тем, что это первый зафиксированный случай полностью разработанного ИИ эксплойта, обходящего 2FA.
Для команд безопасности это подчеркивает необходимость исходить из того, что одной 2FA недостаточно против противников, усиленных ИИ. Логические ошибки в потоках аутентификации, особенно в инструментах с открытым исходным кодом, будут все чаще атаковаться. Процессы проверки кода должны включать автоматизированные проверки логики, чтобы выявлять такие ошибки до развертывания.
📖 Читать полный источник: HN AI Agents
👀 Смотрите также
Clawvisor: Уровень авторизации на основе целей для агентов OpenClaw
Clawvisor — это слой авторизации, который располагается между ИИ-агентами и API, обеспечивая авторизацию на основе цели: агенты объявляют намерения, пользователи одобряют конкретные цели, а ИИ-привратник проверяет каждый запрос на соответствие этой цели. Учётные данные никогда не покидают Clawvisor, и агенты их не видят.
Agent-Drift: инструмент мониторинга безопасности для AI-агентов
Проблема униформированной охраны: Почему агентские песочницы нуждаются в идентичности, а не просто в политике
Проблема sandbox-ов AI-агентов, таких как openshell от Nemoclaw, заключается в применении политик безопасности к бинарным файлам, а не к агентам. Это позволяет вредоносному ПО жить за счет использования тех же бинарных файлов, что и агент. ZeroID, открытый слой идентификации агентов, применяет политики безопасности к агентам, подкрепленным безопасными идентификаторами.
Атака FlyTrap использует "враждебные зонтики" для компрометации автономных дронов на основе камер.
Исследователи из UC Irvine разработали FlyTrap — физическую атаку, использующую раскрашенные зонты для эксплуатации уязвимостей в камерных системах автономного слежения за целями. Атака сокращает дистанцию слежения до опасных уровней, позволяя захватывать дроны, атаковать сенсоры или вызывать физические столкновения.