Anthropic сообщает о промышленных масштабах атак методом дистилляции на Claude со стороны китайских лабораторий ИИ.

Операция по извлечению моделей в промышленных масштабах

Anthropic опубликовала результаты, детализирующие скоординированные атаки дистилляции против Claude, проведённые тремя китайскими лабораториями ИИ. Атаки включали массовое создание поддельных аккаунтов для извлечения способностей Claude к рассуждению через огромное количество взаимодействий с API.

Ключевые детали атаки из отчёта Anthropic

• DeepSeek, Moonshot и MiniMax создали более 24 000 поддельных аккаунтов
• Общее количество взаимодействий с Claude превысило 16 миллионов
• Только MiniMax отправила 13 миллионов запросов
• Когда Anthropic выпустила новую модель, MiniMax перенаправила почти половину своего трафика в течение 24 часов
• DeepSeek целенаправленно нацеливалась на цепочки рассуждений и цензурно-безопасные ответы
• Атаки становились всё более изощрёнными со временем по мере адаптации методов лабораториями

Последствия для безопасности разработчиков ИИ

Этот инцидент подчёркивает уязвимости в безопасности моделей ИИ, когда лаборатории с миллиардными бюджетами систематически пытаются извлечь проприетарные возможности. Масштаб и настойчивость этих атак — охватывающих несколько организаций и адаптирующихся к новым выпускам моделей — указывают на то, что это представляет собой постоянный вектор угрозы, а не изолированные инциденты.

Использованные методы (создание поддельных аккаунтов, целевые запросы на конкретные возможности, быстрая адаптация к новым версиям моделей) потенциально могут быть воспроизведены против других систем ИИ, что поднимает вопросы о безопасности сторонних инструментов ИИ, которые разработчики интегрируют в свои рабочие процессы.