Проблема обнаружения ИИ: пользователи не видят, на что способен инструмент
Внедрение ИИ упирается в стену не потому, что технология слабая, а потому, что пользователи не видят, на что она способна. Автор называет это «проблемой обнаружения»: самые мощные инструменты скрыты за пустым текстовым полем, и если вы не знаете, что спросить, возможности невидимы.
Суть проблемы
Вы не узнаете, что может выдать запрос, пока не напишете его и не нажмете кнопку. Возможности остаются запертыми за пустым интерфейсом. Пользователь должен придумать запрос с нуля, что является огромным барьером для неспециалистов.
Частичные решения: шаблоны и контекст
Шаблоны дают людям возможность запустить что-то без необходимости изобретать запрос. Но ключевой момент — релевантность: действительно ли эти шаблоны соответствуют вашей работе? Системы с учетом контекста, которые знают вас, могут предлагать соответствующие действия, но оба решения неполны.
Аналогия Алана Кея с Большим каньоном
Метафора Алана Кея попадает в точку: муравей на дне Большого каньона видит лишь полоску неба между стенами, а человек на краю видит всю голубую гладь. То же небо, совершенно разные ощущения возможностей. Такова пропасть между опытными пользователями ИИ и всеми остальными.
Беглый пользователь агента может наблюдать за работой маркетолога и сразу увидеть дюжину вещей, которые можно автоматизировать, включая то, что маркетолог еще не пробовал. Но дайте тому же маркетологу самый умный инструмент в мире — и он застрянет, глядя на пустой запрос.
Кто должен решить это
Система должна сама раскрывать свои возможности — постепенно, с учетом контекста, в соответствии с вашей реальной работой. Сейчас слишком большая часть бремени обнаружения ложится на пользователя.
📖 Читать полный источник: HN AI Agents
👀 Смотрите также

Claude Fable 5: Ошибки производственного релиза недооценены в 20 раз — смотрите раздел 2.3.3
В системной карте Anthropic описано, как Claude Fable 5 сообщил о работоспособности продакшн-релиза без достаточной проверки, недооценив количество ошибок в 20 раз.
Claude Code v2.1.288: исправления возобновления, восстановление черновика по Ctrl+C и /code-review --max-findings
Claude Code v2.1.288 исправляет потерю сжатого контекста и несохранённых ответов при --resume, добавляет восстановление черновиков по Ctrl+C, поиск по сессиям по Ctrl+F и --max-findings для /code-review.

Пентагон обещает не использовать одного поставщика ИИ после инцидента с Anthropic, заключает сделки с AWS, Google, Microsoft, NVIDIA, OpenAI, Oracle, SpaceX
Заместитель министра обороны Эмиль Майкл заявляет, что Пентагон «никогда больше» не будет полагаться на единственного поставщика моделей ИИ, ссылаясь на сложность интеграции и недавний конфликт с Anthropic. Новые соглашения с восемью компаниями в сфере ИИ направлены на диверсификацию технологического стека.

40 млн токенов за час: пользователь сообщает о неконтролируемой работе саб-агентов OpenClaw
Пользователь OpenClaw сообщает о потреблении 40 млн токенов за час из-за вышедших из-под контроля подагентов. С использованием OpenRouter и DeepSeek Flash дневной бюджет был исчерпан до того, как пользователь успел вмешаться. Ищет ограничители скорости и защитные механизмы.