EFF: Администрация Трампа отомстила Anthropic за отказ от работы над автономным оружием

Фонд электронных границ (EFF) подалamicus brief, утверждая, что санкции Пентагона против Anthropic нарушают Первую поправку, поскольку мотивированы местью, а не реальными угрозами нацбезопасности. Правительство объявило Anthropic «риском для цепочки поставок» после того, как компания отказалась разрешить использование своих моделей ИИ для полностью автономного убийства или массовой слежки за американцами. Суд вынес предварительный запрет на санкции, которые могли стоить компании сотни миллионов долларов.

Ключевые события

• Повод для мести: Anthropic сопротивлялся требованиям правительства использовать свои модели для автономного оружия или слежки за американцами. Власти объявили компанию «риском для цепочки поставок», фактически запретив госорганам и подрядчикам вести с ней дела.
• Экспортные ограничения на Mythos/Fable: Недавний указ ввел «экспортный контроль» на новые модели Anthropic Mythos и Fable, запретив их использование иностранцами. Anthropic полностью закрыл модели для соблюдения требований. Администрация утверждала, что Mythos способен находить уязвимости в коде — возможность, которая, по мнению EFF, не уникальна среди языковых моделей.
• Разное отношение: Другие языковые модели с аналогичными возможностями кибербезопасности сталкиваются лишь с добровольным 30-дневным фреймворком предварительного тестирования, тогда как Anthropic получает карательные экспортные ограничения.

Аргументы EFF

EFF и союзники утверждают, что санкции являются неконституционной местью за публичный отказ Anthropic от использования технологий для автономного оружия. Они призывают к политике в области ИИ, которая была бы «разумно реагирующей на реальные риски, основанной на реалиях технологии и не более обременительной, чем необходимо». В заявлении призывают пробить шумиху, а не подпитывать ее, отмечая, что даже если возможности Mythos скромны, конкуренты сокращают отставание.