Практические привычки для критического взаимодействия с языковыми моделями
Пользователь Reddit поделился практическими привычками для сохранения критического мышления при взаимодействии с большими языковыми моделями, чтобы предотвратить их подтверждение ошибочных рассуждений. В посте описаны конкретные техники и предостерегающий личный опыт.
Ключевые техники
Источник описывает два пользовательских режима промптов:
- Режим "strawberry": Для запроса нейтральных объяснений без подкрепления существующей позиции пользователя.
- Режим "socrates": Для адверсарной проверки, когда ИИ активно оспаривает предположения и рассуждения.
В посте подчёркивается важность размышлений о составе обучающих данных при оценке ответов ИИ, предлагая пользователям учитывать, на каких типах данных обучалась модель, чтобы лучше понимать потенциальные предубеждения или ограничения в ответах.
Практический эксперимент
Источник упоминает интересный эксперимент, который читатели могут попробовать с любой моделью, хотя конкретные детали эксперимента не приведены в исходном тексте.
Предостерегающий пример
Автор делится личной историей о том, как он месяцы верил в ошибочный аргумент против ИИО (искусственного общего интеллекта), основанный на Гёделе, потому что Claude постоянно соглашался с его рассуждениями, иллюстрируя, как ИИ могут усиливать предвзятость подтверждения при некритическом подходе.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Параллельные агенты аудита: практический подход к тестированию на основе вибрации с помощью Claude
Разработчик создал систему пользовательского тестирования с помощью Claude, используя 10 параллельных агентов аудита, охватывающих обнаружение галлюцинаций, страж API, стресс-тестирование UI, анонимизацию PII, SEO, юридическое соответствие, поведенческое моделирование, демографические персоны, воронкообразное тестирование и проверку фактов.
Написание эффективных файлов SOUL.md для ИИ-агентов программирования
Пост на Reddit в сообществе r/openclaw демонстрирует разницу между расплывчатыми и конкретными инструкциями в SOUL.md, показывая, что конкретные запросы приводят к более полезному поведению ИИ-агента.
Потратили $850 на OpenClaw за месяц? Исправляйте архитектуру, а не модель
Разработчик сжег $850 за месяц на мультиагентной установке OpenClaw — причем $350 ушло за один день. Решением стала не более дешевая модель, а системный дизайн: строгое усечение контекста, сброс сессий, n8n для задач, не требующих рассуждений, и уровень маршрутизации для дешевых и мощных моделей.
Claude Code лучше работает в качестве рецензента кода, чем генератора.
Разработчик делится, что Claude Code выдает более обоснованные результаты при использовании для проверки существующего кода, а не для генерации с нуля. Ключевые практики включают начало сессий с текущими реализациями, ведение файлов контекста проекта и перезапуск сессий при ухудшении ответов.