美国国防部网络空间安全顾问：中国企业针对美国企业发动恶意蒸馏攻击

Офис Clinger-Cohen Act (CSA) Министерства обороны США выпустил кибербезопасный совет, описывающий вредоносные кампании дистилляции, проводимые китайскими ИИ-компаниями против американских ИИ-фирм. Отчет в формате PDF, опубликованный 8 сентября 2026 года, описывает, как эти кампании эксплуатируют системы ИИ для извлечения весов моделей и проприетарных знаний.

Ключевые детали из отчета

• Цели кампаний: В совете названы крупные американские игроки в области ИИ, включая OpenAI, Anthropic и Google, как основные цели атак дистилляции.
• Методология: Злоумышленники используют доступ к API, чтобы многократно запрашивать целевые модели для генерации выходных данных, которые затем используются для обучения конкурирующих моделей, фактически крадя дистиллированные знания без авторизации.
• Конкретные эксплойты: В отчете упоминаются уязвимости в конечных точках /v1/completions, которые не имеют ограничения скорости, что позволяет проводить атаки по извлечению моделей. Также отмечаются фреймворки с открытым исходным кодом, такие как PyTorch и transformers от Hugging Face, как потенциально уязвимые для компрометации цепочки поставок.
• Шаги по смягчению: Рекомендации включают внедрение дифференциальной конфиденциальности, добавление водяных знаков на выходные данные и строгие ограничения скорости на API-запросы.

Совет следует за обсуждением в HN о последствиях, с 18 очками и 17 комментариями на данный момент. Многие комментаторы отмечают, что дистилляция является известным риском в ИИ-сообществе, но это первый случай, когда правительственное агентство США официально приписало такие кампании китайским государственным структурам.

Отчет включает технические признаки компрометации и рекомендуемые механизмы обнаружения, такие как мониторинг необычных объемов API-запросов и аномалий в распределениях выходных данных. Также рекомендуется компаниям проверять журналы доступа к моделям на предмет паттернов, соответствующих попыткам дистилляции.

Для разработчиков, использующих ИИ-API, это подчеркивает необходимость надежного журналирования и обнаружения аномалий для защиты проприетарных моделей.