Google сообщает, что хакерские атаки с использованием ИИ достигли промышленных масштабов за 3 месяца

Группа разведки угроз Google опубликовала отчет, детализирующий, что взломы с помощью ИИ достигли промышленных масштабов всего за три месяца. Джон Халтквист, главный аналитик группы, сказал: «Существует заблуждение, что гонка уязвимостей ИИ неизбежна. Реальность такова, что она уже началась».

Преступные группы и связанные с государствами акторы из Китая, Северной Кореи и России широко используют коммерческие модели, включая Gemini, Claude и инструменты OpenAI, для доработки и масштабирования атак. В отчете подчеркивается, что ИИ позволяет злоумышленникам тестировать операции, удерживаться в системах жертв, создавать более качественное вредоносное ПО и повышать скорость, масштаб и сложность атак.

Примечательно, что недавно одна преступная группа была на грани использования уязвимости нулевого дня для проведения кампании массовой эксплуатации и, по-видимому, использовала ИИ LLM, не являющийся Mythos от Anthropic (Anthropic отказалась выпускать эту модель после того, как она обнаружила уязвимости нулевого дня во всех основных ОС и браузерах). В отчете также говорится, что группы экспериментируют с OpenClaw — инструментом ИИ-агента, который стал вирусным в феврале, предлагая неограниченную автономию, включая массовое удаление почтовых ящиков.

Стивен Мердок, профессор инженерии безопасности в Университетском колледже Лондона, прокомментировал: «Вот почему я не паникую. В целом мы достигли этапа, когда старый способ обнаружения ошибок ушел в прошлое, и теперь все будет с помощью LLM».

Отдельно Институт Ады Лавлейс предупредил, что оценки производительности, движущие государственные инвестиции в ИИ, часто основаны на непроверенных предположениях и могут не привести к реальным результатам, таким как улучшение услуг или благополучия работников.