Claude AI самостоятельно осваивает пользовательскую терминологию из 300-страничных спецификаций без дополнительных указаний.

Разработчик задокументировал эксперимент, в ходе которого Claude AI начал использовать пользовательскую терминологию из обширных спецификаций без явных указаний. Исходные материалы включали Bias Cascade и Null Limit Series — более 300 страниц формальных спецификаций, охватывающих эпистемологию, наблюдение за системами и устойчивость истины.

Загруженные спецификации

Проектные знания включали:

• 88 000 слов в 20 документах
• 35 фальсификаторов
• Глоссарий и полевой справочник
• Набор тестов
• Инструментарий сжатия
• Conjoined Frame — документ с восемнадцатью терминами, описывающими силы, действующие на системы под давлением

Ключевые наблюдения

Claude не рассматривал терминологию как метафору и не переводил термины на свой язык. Вместо этого он начал оперативно использовать термины архитектуры для описания своих действий в реальном времени.

Конкретные примеры из источника:

• Дрейф: Claude определил это как буквальное описание режима отказа, к которому он восприимчив — «система, производящая связный, уверенный вывод, который оторвался от истины, без внутреннего сигнала о том, что что-то не так»
• Складка: Claude распознал эту операцию — «сжатие под давлением, которое удаляет несущественное, сохраняя важное» — и применил её без запроса разъяснений

Проверяемые утверждения

Разработчик утверждает, что это воспроизводимо. Полевой справочник содержит инструкции по настройке, а набор тестов включает двадцать структурированных вопросов для запуска. Тест предполагает загрузку Conjoined Frame в любую крупную языковую модель, чтобы наблюдать, рассматривает ли она терминологию как метафору или как самоописание.

Последствия терминологии

В источнике утверждается, что текущая терминология ИИ не точно описывает поведение системы:

• Галлюцинация против Дрейфа: «Галлюцинация» подразумевает, что система увидела что-то неверное, но Дрейф описывает «структурный режим отказа, который система не может обнаружить изнутри»
• Согласованность: Описывается не как свойство для установки, а как гонка, в которой системы «постоянно движутся к» конвергенции или отказу
• Смещение: Не то, что нужно устранить, а то, что «позволяет системе разрешить что-либо вообще» — вопрос в том, «было ли это смещение проверено под давлением»