Напряженность нарастает между Пентагоном и компанией ИИ Anthropic.

Недавние события выявили нарастающее напряжение между Пентагоном и Anthropic, крупным игроком в области ИИ, известным своей системой чат-ботов Claude. Суть проблемы заключается в желании Пентагона использовать инструменты ИИ Anthropic в военных операциях, что может привести к нарушению самоограничений компании в области этики.

Anthropic, имеющая оборонный контракт, потенциально оцениваемый в 200 миллионов долларов, подчеркивает важность безопасности ИИ и установила строгие границы на использование своей технологии. Хотя конкретные детали применения Claude Anthropic остаются неизвестными, сообщения указывают на то, что он участвовал в спорной операции по захвату президента Венесуэлы Николаса Мадуро.

Ситуация осложнилась, когда сотрудник Anthropic, как сообщается, выразил обеспокоенность во время встречи с Palantir, партнерской компанией, известной обработкой чувствительных данных в военных приложениях. Это подогрело спекуляции о возможном разрыве в отношениях Anthropic с военными структурами, несмотря на заявления компании, опровергающие любые разногласия или необычные обсуждения по поводу развертывания своего ИИ в военных сценариях.

Пентагон вновь подтвердил свою позицию, что ему необходима гибкость в использовании ИИ-систем в широком спектре законных военных приложений. Эта позиция, похоже, противоречит установленным ограничениям Anthropic, особенно в отношении использования летального автономного оружия или внутреннего наблюдения.

Эти развивающиеся события могут привести к пересмотру того, как компании ИИ балансируют свои коммерческие партнерства с этическими обязательствами, особенно в области обороны.