ИИ-брокеномика: Хаос с запретом Anthropic на экспорт мифов/басен
Статья Эда Зитрона AI's Brokenomics описывает хаотичные последствия выпуска Anthropic своей якобы «слишком опасной» модели Mythos в защищенной версии под названием Fable — и введения экспортных ограничений США после того, как исследователи взломали её за несколько дней. Вот что произошло, согласно статье.
Хронология
- Anthropic анонсировала Claude Mythos, LLM, описанную как «слишком мощную для выпуска». Выпущена 2 июня для 150 организаций в 15 странах.
- 9 июня Mythos была выпущена с ограничениями под названием Fable.
- Исследователи Amazon взломали Fable за несколько дней, после чего CEO Amazon Энди Джесси и другие неназванные компании сообщили об этом Министерству торговли США как об угрозе национальной безопасности.
- Администрация Трампа ввела экспортные ограничения, запрещающие негражданам США доступ к Mythos и Fable, предоставив Anthropic 90 минут на откат моделей.
Ключевые технические детали
- Fable блокирует темы биологического оружия и кибербезопасности, но взлом обошёл эти ограничения.
- Anthropic заявила, что «универсального взлома» не найдено — только конкретные обходы. Они утверждают, что их защита настолько сильна, что «многие пользователи жаловались на её излишнюю строгость».
- Анонимный исследователь Pliny The Liberator также взломал протоколы безопасности модели.
- Дэви Оттенхаймер опубликовал разбор технической карты Mythos, утверждая, что модель — просто более крупная LLM с более высокими показателями в тестах, предназначенных для LLM, а не рекурсивное самоулучшение или AGI.
Последствия
Anthropic направила старших технических сотрудников в Вашингтон для переговоров с администрацией Трампа после неудачных виртуальных встреч. Приказ об экспортном контроле запретил всем негражданам США (как внутри, так и за пределами США) доступ к моделям, фактически отключив их по всему миру.
Статья предполагает, что Anthropic годами раздувала риски ИИ, чтобы заставить организации платить за премиум-доступ, и этот регуляторный удар — естественное следствие такой стратегии.
📖 Читать полный источник: HN LLM Tools
👀 Смотрите также
Генеральные директора сообщают о минимальном влиянии ИИ на производительность и занятость в недавнем исследовании.
Исследование 6000 руководителей показало, что 90% не отметили влияния ИИ на занятость или производительность за три года, при среднем использовании ИИ 1,5 часа в неделю. Экономисты сравнивают это с парадоксом производительности Солоу из эпохи ИТ 1980-х годов.
Андрей Карпаты присоединился к команде предварительного обучения Anthropic для продвижения рекурсивного самосовершенствования с использованием Claude
Андрей Карпати, бывший сооснователь OpenAI, присоединился к команде pre-training Anthropic под руководством Ника Джозефа, чтобы создать новую команду, сосредоточенную на использовании Claude для ускорения исследований pre-training, обеспечивая рекурсивное самосовершенствование.
Gemma 4 выпущена: четыре размера моделей для локального размещения ИИ
Google выпустила Gemma 4 с четырьмя размерами моделей, оптимизированными для различного оборудования, включая периферийные устройства, ноутбуки и графические процессоры. Все модели являются мультимодальными с возможностями обработки текста и изображений, а меньшие модели поддерживают работу с аудио в реальном времени.
Утечка данных Mercor: украдено 4 ТБ голосовых образцов и удостоверений личности – что могут сделать злоумышленники
4 ТБ голосовых записей, привязанных к удостоверениям личности, украдены у 40 000 подрядчиков Mercor. Злоумышленники могут клонировать голос из 15 секунд чистой записи и обходить голосовую верификацию в банках, совершать дипфейк-звонки и страховое мошенничество.