Anthropic отказывается от ключевого обязательства по безопасности в своей Политике ответственного масштабирования
Anthropic удалила ключевое обязательство из своей флагманской Политики ответственного масштабирования (RSP), согласно отчету TIME. Ранее компания обязалась в 2023 году никогда не обучать систему ИИ, если не могла заранее гарантировать адекватность своих мер безопасности.
Подробности изменения политики
Компания отказывается от обещания не выпускать модели ИИ, если Anthropic не может заранее гарантировать надлежащее снижение рисков. Это был центральный столп их Политики ответственного масштабирования, который руководители компании годами рекламировали как доказательство того, что они выдержат рыночные стимулы к спешному внедрению потенциально опасных технологий.
Причины изменения
Главный научный сотрудник Anthropic Джаред Каплан рассказал TIME: «Мы почувствовали, что это никому не поможет, если мы прекратим обучать модели ИИ. Мы действительно не считали, что при быстром развитии ИИ нам имеет смысл брать на себя односторонние обязательства … если конкуренты мчатся вперед».
Компания позиционировала себя как наиболее ориентированную на безопасность среди ведущих исследовательских лабораторий ИИ, что делает это изменение политики значимым для разработчиков, отслеживающих практики безопасности ИИ. Это решение представляет собой отход от их прежней позиции, отдававшей приоритет гарантиям безопасности над скоростью разработки.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
DeepSeek-V4 Pro и Flash: 1,6 трлн параметров, контекст в 1 млн токенов, гибридное внимание
DeepSeek-V4-Pro (1,6 трлн параметров, 49 млрд активных) и V4-Flash (284 млрд параметров, 13 млрд активных) поддерживают контекст в 1 млн токенов. Новое гибридное внимание (CSA + HCA) снижает FLOPs при инференсе одного токена до 27% и KV-кэш до 10% от DeepSeek-V3.2.
Гибридная архитектура ИИ: компоненты с открытым исходным кодом и проприетарные модели логического вывода
Практическая гибридная архитектура ИИ становится реальностью: 89% организаций используют компоненты с открытым исходным кодом для снижения затрат более чем на 50%, в то время как проприетарные модели справляются со сложными задачами логического вывода. Фреймворки с открытым исходным кодом предлагают прозрачность и возможности тонкой настройки без переговоров о лицензировании.
Водяные знаки текста Anthropic в Claude: объяснение семантической стеганографии
Новый текстовый водяной знак Anthropic манипулирует выбором токенов для встраивания отпечатков, что противоречит их заявлению о 'незаметности'. Грубер разбирает технику 'зеленых' и 'красных' списков.
DeepSeek не предоставляет свою последнюю модель ИИ компаниям Nvidia и AMD.
DeepSeek удерживает свою последнюю модель ИИ от американских производителей чипов, включая Nvidia и AMD, согласно источникам Reuters. У статьи 19 баллов и 3 комментария на Hacker News.