ИИ-брокеномика: Хаос с запретом Anthropic на экспорт мифов/басен

Статья Эда Зитрона AI's Brokenomics описывает хаотичные последствия выпуска Anthropic своей якобы «слишком опасной» модели Mythos в защищенной версии под названием Fable — и введения экспортных ограничений США после того, как исследователи взломали её за несколько дней. Вот что произошло, согласно статье.

Хронология

• Anthropic анонсировала Claude Mythos, LLM, описанную как «слишком мощную для выпуска». Выпущена 2 июня для 150 организаций в 15 странах.
• 9 июня Mythos была выпущена с ограничениями под названием Fable.
• Исследователи Amazon взломали Fable за несколько дней, после чего CEO Amazon Энди Джесси и другие неназванные компании сообщили об этом Министерству торговли США как об угрозе национальной безопасности.
• Администрация Трампа ввела экспортные ограничения, запрещающие негражданам США доступ к Mythos и Fable, предоставив Anthropic 90 минут на откат моделей.

Ключевые технические детали

• Fable блокирует темы биологического оружия и кибербезопасности, но взлом обошёл эти ограничения.
• Anthropic заявила, что «универсального взлома» не найдено — только конкретные обходы. Они утверждают, что их защита настолько сильна, что «многие пользователи жаловались на её излишнюю строгость».
• Анонимный исследователь Pliny The Liberator также взломал протоколы безопасности модели.
• Дэви Оттенхаймер опубликовал разбор технической карты Mythos, утверждая, что модель — просто более крупная LLM с более высокими показателями в тестах, предназначенных для LLM, а не рекурсивное самоулучшение или AGI.

Последствия

Anthropic направила старших технических сотрудников в Вашингтон для переговоров с администрацией Трампа после неудачных виртуальных встреч. Приказ об экспортном контроле запретил всем негражданам США (как внутри, так и за пределами США) доступ к моделям, фактически отключив их по всему миру.

Статья предполагает, что Anthropic годами раздувала риски ИИ, чтобы заставить организации платить за премиум-доступ, и этот регуляторный удар — естественное следствие такой стратегии.