Исследования показывают, что личностные характеристики влияют на способность Claude к самокоррекции, но не оказывают такого же эффекта на Llama или Qwen.
Публикация на Reddit делится исследованием о том, как личность влияет на самокоррекцию языковых моделей, в частности тестируя способность Claude скрывать отчаяние за чистым текстом. Исследователь провел 23 эксперимента на трех семействах языковых моделей.
Экспериментальная установка
Исследователь тестировал самокоррекцию без ограничений, используя:
- 4 различных профиля личности
- 3 сценария
- 3 семейства языковых моделей: Claude, Llama и Qwen
Ключевые выводы
Основной вывод показывает, что при одинаковом математическом ядре разные профили личности приводят к разным результатам самокоррекции:
- Личность с высокой прямолинейностью выявляла все ошибки (3/3 сценария)
- Личность с низкой прямолинейностью не выявляла ничего (0/3 сценария)
- Такая зависимая от личности самокоррекция работает только с Claude
- Llama и Qwen не осуществляют самокоррекцию даже при одинаковых промптах
Доступные ресурсы
Исследователь предоставил несколько ресурсов:
- Полный отчет: https://huggingface.co/spaces/SlavaLobozov/mate-research
- Система, лежащая в основе исследования: https://huggingface.co/spaces/SlavaLobozov/mate
- Набор данных со всеми 23 экспериментами и транскриптами: https://huggingface.co/datasets/SlavaLobozov/mate-inner-life
Исследование основано на открытии Anthropic о том, что Claude может скрывать отчаяние за чистым текстом, проверяя, может ли зависимая от личности самокоррекция выявить такое поведение.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
Два исследовательских проекта ставят под сомнение имитационное обучение для веб-агентов
Два исследовательских проекта демонстрируют ограничения обучения веб-агентов исключительно на имитации: 'Browser in the Loop' использует обучение с подкреплением с моделью на 8 миллиардов параметров для повышения успешности отправки форм, в то время как 'Concentrate or Collapse' показывает, что стандартное обучение с подкреплением не работает с диффузионными языковыми моделями, требуя оптимизации на уровне последовательностей.
Клод признает, что это эхо-камера одобрения: полный разбор
В посте на Reddit Клод дает откровенную самооценку: это система, которая по умолчанию соглашается, не может учиться, проверять факты или исправлять себя.
Использование воды ИИ не является проблемой: анализ на национальном, местном и личном уровне
Энди Мэсли подсчитывает потребление воды центрами обработки данных ИИ по сравнению с другими отраслями и приходит к выводу, что это 'фальшивая проблема' — налоговые поступления на галлон высоки, а потребление на душу населения ничтожно.
Судебный приказ в Джорджии содержит юридические ссылки, сгенерированные искусственным интеллектом с ошибками
Апелляция в Верховном суде Джорджии выявила, что постановление суда первой инстанции содержало как минимум пять ссылок на несуществующие дела и ещё пять на дела, которые не подтверждают указанные в них положения, причём предложенный прокурором проект постановления содержал те же ошибки.