Anthropic отказывается от ключевого обязательства по безопасности в своей Политике ответственного масштабирования

Anthropic удалила ключевое обязательство из своей флагманской Политики ответственного масштабирования (RSP), согласно отчету TIME. Ранее компания обязалась в 2023 году никогда не обучать систему ИИ, если не могла заранее гарантировать адекватность своих мер безопасности.

Подробности изменения политики

Компания отказывается от обещания не выпускать модели ИИ, если Anthropic не может заранее гарантировать надлежащее снижение рисков. Это был центральный столп их Политики ответственного масштабирования, который руководители компании годами рекламировали как доказательство того, что они выдержат рыночные стимулы к спешному внедрению потенциально опасных технологий.

Причины изменения

Главный научный сотрудник Anthropic Джаред Каплан рассказал TIME: «Мы почувствовали, что это никому не поможет, если мы прекратим обучать модели ИИ. Мы действительно не считали, что при быстром развитии ИИ нам имеет смысл брать на себя односторонние обязательства … если конкуренты мчатся вперед».

Компания позиционировала себя как наиболее ориентированную на безопасность среди ведущих исследовательских лабораторий ИИ, что делает это изменение политики значимым для разработчиков, отслеживающих практики безопасности ИИ. Это решение представляет собой отход от их прежней позиции, отдававшей приоритет гарантиям безопасности над скоростью разработки.