Хорошая разработка с помощью ИИ происходит на уровне систем, а не задач

Пост на Reddit от пользователя u/johns10davenport утверждает, что настоящий рычаг в разработке с помощью ИИ — это изменение системы, а не улучшение промптов. Автор описывает знакомую проблему: каждый раз при добавлении новой функции в своё приложение Phoenix AI-агент реализует фичу, но пропускает пункт меню. Страница существует, функциональность работает, но у пользователя нет способа туда попасть.
Проблема исправлений на уровне задач
Первая реакция — сказать модели: «добавь кнопку». Это работает, но человек всё ещё думает — выявляет проблему и указывает способ её исправления. Автор называет это «крутить педали Peloton, чтобы Anthropic давал мне бесплатные токены». Инженерия промптов просто делает вас лучше в подсказках модели, но вы всё ещё работаете на модель.
Системный сдвиг
Вместо того чтобы исправлять отсутствующую кнопку, автор спросил: как сделать так, чтобы эта ошибка стала невозможна в будущем? Их решение использует BDD-спецификации и тестовые хелперы Phoenix LiveView. Функция navigate тестового фреймворка позволяет агенту переходить напрямую на любую страницу, проходя тесты без взаимодействия с UI. Поэтому они написали правило линтера, запрещающее агенту вызывать navigate. Теперь есть разрешённый фикстур, который помещает тест на известный стартовый маршрут, и единственный способ для агента достичь новой функции — щёлкать по UI, что заставляет его добавить пункт меню для прохождения теста.
Результат: проблема никогда не повторится, не благодаря лучшему промпту, а потому что корректное поведение — это единственно возможное поведение.
Ключевой вывод
Перестаньте исправлять вывод модели. Начните ограничивать её среду так, чтобы правильный вывод был путём наименьшего сопротивления. Каждая ошибка — это шанс спроектировать следующую ошибку.
📖 Источник: r/ClaudeAI
👀 Смотрите также

Уровень управления для агентов Claude: жесткие границы безопасности и живые трассы в производстве
Пользователь API Claude создал легковесный уровень управления под агентом, чтобы добавить жесткие границы безопасности, мониторинг в реальном времени, управление через Telegram с участием человека и автоматическое создание контрольных точек — решая проблемы скрытых сбоев и неконтролируемых затрат токенов в длительных циклах агентов.

Коллаборативные и директивные промпты для ИИ приводят к разным результатам.
Обсуждение на Reddit выявляет измеримые различия в результатах разработки с помощью ИИ между пользователями, которые сотрудничают с ИИ, используя язык "мы", и теми, кто даёт директивные команды "сделай это". Совместный подход выявляет тупиковые пути и ставит под сомнение предположения через общий контекст.

6 типов циклов, обнаруженных в производственных AI-агентах: анализ логов за неделю
Анализ 670 событий от 5 продакшн-агентов за неделю выявил 6 шаблонов циклов высокой степени серьезности, включая колебание решений, циклы повторных попыток, циклы пинг-понга, циклы чтения-записи, циклы рефлексии и недетерминизм инструментов.

Использование легковесных Cron-задач для ежедневных советов OpenClaw
Пользователь делится своей настройкой ежедневного задания cron, которое публикует советы OpenClaw в канал Nextcloud Talk, выделяя флаг --light-context для уменьшения накладных расходов на начальную загрузку для изолированных задач.