Как работает водяной знак текста в Claude
Будущие модели Claude будут встраивать водяной знак в генерируемый текст, чтобы помочь определить, был ли текст создан ИИ, в соответствии с законом ЕС об ИИ. Метод, основанный на SynthID-Text, не влияет на качество и читаемость вывода.
Как это работает
Языковые модели выбирают слова по одному, выбирая среди кандидатов. Для маловажных выборов (например, «облачно» против «серый») выбор происходит случайно. Водяной знак использует ключ и предыдущие слова для посева случайности, создавая обнаруживаемую закономерность. Детекторы с ключом могут проверить, соответствует ли последовательность слов закономерности на основе ключа.
Влияние на вывод
Anthropic сообщает об отсутствии изменений в качестве, а в статье SynthID-Text от Google DeepMind не было обнаружено статистически значимых различий в оценках пользователей. Оценщики-люди не увидели разницы в качестве. Никаких скрытых символов, никаких добавленных токенов, никаких дополнительных затрат.
Соответствие
Реализовано для соблюдения требований ЕС, требующих от поставщиков ИИ маркировать контент, созданный ИИ. Другие крупные поставщики подписали тот же Кодекс практики.
📖 Читайте полный источник: HN AI Agents
👀 Смотрите также
Когнитивная капитуляция: когда ИИ-агенты пишут код, который вы не понимаете
ИИ-агенты кодирования могут создавать код, который авторы не понимают, что приводит к непроверенным PR. Статья исследует «когнитивную капитуляцию» и способы её избежать в вашем рабочем процессе.
EFF призывает суды: не переписывать авторское право из-за шумихи вокруг ИИ
EFF утверждает, что суды должны отклонить попытки правообладателей расширить авторские права в отношении ИИ, ссылаясь на исторические прецеденты и принципы добросовестного использования.
Стратегия платформы Anthropic и ответ OpenClaw
Разработчик анализирует недавние ограничения Anthropic на внешние интеграции с Claude как преднамеренную платформенную стратегию, утверждая, что следует создавать переносимые стеки вместо того, чтобы полагаться на добрую волю провайдера.
Черновик стандарта C++26 завершён с рефлексией, безопасностью памяти, контрактами и асинхронным фреймворком
Черновик стандарта C++26 завершён. Он включает рефлексию для метапрограммирования, улучшенную безопасность памяти, исключающую неопределённое поведение при работе с неинициализированными переменными и добавляющую проверку границ для стандартных типов библиотеки, контракты с предусловиями и постусловиями, а также std::execution для работы с параллелизмом.