Тема «Мифы о Клоде от Anthropic: Маркетинг страха или реальная угроза?»

Anthropic недавно анонсировала Claude Mythos — модель, которая, по ее утверждениям, превосходит экспертов-людей в поиске уязвимостей в кибербезопасности. В блоге начала апреля компания предупредила о серьезных последствиях для экономики, общественной безопасности и национальной безопасности, если подобные технологии попадут не в те руки. Некоторые наблюдатели даже предсказывали массовую замену устройств, от ноутбуков до Wi-Fi-микроволновок.

Но эксперты по безопасности сомневаются в этих заявлениях, а критики видят закономерность: компании в сфере ИИ усиливают нарративы об экзистенциальных рисках, чтобы отвлечь от реального ущерба, завысить стоимость акций и позиционировать себя как единственных ответственных хранителей. Шеннон Валлор, профессор этики Эдинбургского университета, утверждает, что представление ИИ как «сверхъестественно опасного» заставляет регуляторов чувствовать себя бессильными — и тогда только сами компании остаются стражами.

Это не ново. В 2019 году генеральный директор Anthropic Дарио Амодеи, тогда работавший в OpenAI, помог заявить, что GPT-2 слишком опасен для публикации, ссылаясь на злонамеренное использование. Через несколько месяцев OpenAI все же выпустил его, и Сэм Альтман позже назвал эти опасения «необоснованными». Недавно Альтман раскритиковал «маркетинг, основанный на страхе» Anthropic, однако сам он ранее использовал подобные предупреждения, заявляя, что ИИ «вероятно, скорее всего приведет к концу света, но в то же время появятся великие компании».

Представитель Anthropic отказался комментировать тезисы статьи, но поделился поддерживающими записями блогов других организаций. Эта закономерность позволяет предположить, что страх — это продуманная стратегия, независимо от того, насколько опасен Mythos на самом деле.