Статья Клода Шеннона 1950 года о шахматах предсказала ключевую проблему GenAI: угадывание против знания

Статья Клода Шеннона 1950 года Программирование компьютера для игры в шахматы — не исторический курьез, а прямая критика того, как мы сегодня говорим о генеративном ИИ. Шеннон не стремился к идеальной игре; он стремился к сносно хорошей игре. Пространство задачи было слишком велико для исчерпывающего расчета; машина должна была оценивать возможности и выбирать лучшую на основе доступных сигналов. Именно так работают современные LLM: они предсказывают токены, а не истину.
Ключевой вывод: терпимость к несовершенству зависит от контекста
Шеннон рано снизил планку ожиданий от ИИ. Он знал, что идеальная производительность нереалистична. То же самое относится и к современному генИИ: нам не нужно волшебство, нам нужна полезность без ухода в вымысел. Проблема зависит от контекста. Если краткое содержание встречи посредственное, всем все равно. Если клиент получает неверные инструкции по настройке из-за галлюцинаций о версиях продукта, «сносно хорошо» становится юридической ответственностью.
Связность ≠ точность
Шеннон понимал, что машина делает уверенные предположения. Современный ИИ работает так же — он выдает ответы, которые выглядят как хорошие ответы. Психологи называют это беглостью обработки: чем легче читается что-то, тем выше вероятность, что это будет признано истинным. Но связный вывод может упускать критические предпосылки, смешивать несовместимые версии продуктов или пропускать шаги. Ответ может казаться взвешенным и полным, и именно в этот момент стоит беспокоиться.
Что это значит для разработчиков и технических писателей
Если вы создаете решения на основе ИИ-агентов или пишете документацию, которая попадает в RAG-пайплайны, принципы Шеннона напрямую применимы. Не считайте беглый ответ правильным. Относитесь к выводам ИИ как к приближениям, требующим проверки, особенно когда речь идет о конфигурации продукта, шагах настройки или процедурах, зависящих от версии.
📖 Читать полный источник: HN AI Agents
👀 Смотрите также

OpenClaw 2026.6.5: Бесплатный параллельный поиск, исправления стабильности повсеместно
OpenClaw 2026.6.5 добавляет бесплатный встроенный Parallel Search без настройки, более безопасные ответы в каналах, улучшенное восстановление агентов и менее хрупкую настройку провайдеров/моделей.

Обновления системного промта Claude Code v2.1.74: Правила безопасности, выбор памяти и новые навыки
Claude Code v2.1.74 добавляет 1750 токенов к системным промптам, включая новые правила мониторинга безопасности, блокирующие несанкционированные внешние записи, навык /stuck для диагностики зависших сессий и улучшения выбора памяти, пропускающие избыточные API-ссылки.

Исследование показало, что инструменты для обнаружения ИИ вынуждают студентов использовать ИИ в оборонительных целях.
Инструменты обнаружения ИИ в образовании заставляют студентов намеренно писать хуже, чтобы избежать ложных срабатываний, причём некоторые студенты оборонительно обращаются к инструментам ИИ, чтобы проверить, будет ли их собственное письмо помечено как ИИ-сгенерированное.

Клод Код Сабагенты Не Загружают Навыки в Мультиагентных Системах
Разработчик сообщает, что суб-агенты в Claude Code v2.1.91 не могут получить доступ к навыкам, определённым в директории .claude/skills/, несмотря на то, что навыки идеально работают в основной сессии. Несколько подходов, включая указание навыков во фронтмете агента, инструмент Skill, флаги CLI и команды агентов, не дают результата.