Как работает водяной знак текста в Claude
Будущие модели Claude будут встраивать водяной знак в генерируемый текст, чтобы помочь определить, был ли текст создан ИИ, в соответствии с законом ЕС об ИИ. Метод, основанный на SynthID-Text, не влияет на качество и читаемость вывода.
Как это работает
Языковые модели выбирают слова по одному, выбирая среди кандидатов. Для маловажных выборов (например, «облачно» против «серый») выбор происходит случайно. Водяной знак использует ключ и предыдущие слова для посева случайности, создавая обнаруживаемую закономерность. Детекторы с ключом могут проверить, соответствует ли последовательность слов закономерности на основе ключа.
Влияние на вывод
Anthropic сообщает об отсутствии изменений в качестве, а в статье SynthID-Text от Google DeepMind не было обнаружено статистически значимых различий в оценках пользователей. Оценщики-люди не увидели разницы в качестве. Никаких скрытых символов, никаких добавленных токенов, никаких дополнительных затрат.
Соответствие
Реализовано для соблюдения требований ЕС, требующих от поставщиков ИИ маркировать контент, созданный ИИ. Другие крупные поставщики подписали тот же Кодекс практики.
📖 Читайте полный источник: HN AI Agents
👀 Смотрите также
Почему один разработчик оставляет теги AI-соавторов в коммитах
Разработчик объясняет, почему он намеренно включает 'Co-Authored-by: Claude' в свои коммиты Git, сравнивая это с EXIF-данными в фотографии и обсуждая сложности хирургических изменений кода с помощью ИИ.
Подписки на ИИ нуждаются в надежном счетчике: призыв к прозрачности услуг
В посте на Reddit утверждается, что подписки на ИИ должны предоставлять базовую квитанцию об услуге, показывающую, какая модель фактически использовалась, затраченные усилия на рассуждение, обработку контекста и управление нагрузкой, проводя параллели с нормами контроля мер и весов.
Meta представляет модель искусственного интеллекта BOxCrete для проектирования состава бетонных смесей.
Meta выпустила Bayesian Optimization for Concrete (BOxCrete) — модель искусственного интеллекта с открытым исходным кодом для разработки устойчивых бетонных смесей с использованием материалов американского производства. Модель улучшает предыдущие версии за счёт лучшей устойчивости к шумам и возможностей прогнозирования осадки конуса.
Двойные стандарты в создании с помощью ИИ: программирование против писательства
Обсуждение на Reddit подчеркивает контраст в восприятии между программированием с помощью ИИ («вейб-кодинг») и написанием текстов с помощью ИИ, отмечая идентичные рабочие процессы, но разные культурные установки.