Как один разработчик устранил 16 архитектурных слабых мест в своей системе AI-агентов
Архитектурные проблемы и решения
Разработчик поделился опытом исправления архитектурных слабостей в системе агента ИИ OpenClaw. Вместо того чтобы пытаться сделать систему умнее, они сосредоточились на управлении и контроле. Вот 16 проблем, которые они выявили, и как они их исправили.
Проблема 1: Угадывание места возникновения сбоев
Исправление: Определены явные слои: Чат, Встроенная среда выполнения, Оркестрация сессий, Шлюз, Реестр, Выполнение. Как только слои были отображены, сбой на Уровне 4 перестал ошибочно диагностироваться как дрейф интеллекта.
Проблема 2: Система могла выполнять действия без явной авторизации
Исправление: Введён строгий слой авторизации шлюза. Ничто не выполняется без проверки токена и подтверждения реестра. Интеллект не равен разрешению.
Проблема 3: Возможность неявного авторитета
Исправление: Запрет по умолчанию. Даже если скрытое разрешение существует где-то в контексте, оно игнорируется, если не объявлено явно в реестре. Молчание не даёт доступа.
Проблема 4: Агенты могли пытаться выполнять действия без доказательств
Исправление: Для продолжения требуются доказательства. Перед выполнением определённых возможностей агент должен продемонстрировать, что ему это разрешено. Авторизация доказывается, а не предполагается.
Проблема 5: Память могла заполняться шумом
Исправление: Шлюз продвижения. Уровень 2 фиксирует сырой опыт. Уровень 3 получает только курируемый интеллект. Нет автоматического продвижения памяти. Обучение зарабатывается.
Проблема 6: Логи накапливались, но не улучшали стабильность
Исправление: Агент сортировки логов. Ежечасный обзор. Рейтинг серьёзности от P0 до P4. Выявлены повторяющиеся проблемы. Подавление низкой серьёзности. Шум уменьшен. Сигнал сохранён.
Проблема 7: Система могла дрейфовать при запуске
Исправление: Детерминированный запуск. Проверены канонические пути. Нет резервных каталогов. Требуется выравнивание токенов. Дрейф вызывает сбой. Запуск предсказуем или он останавливается.
Проблема 8: База данных была слишком открыта
Исправление: Граница наложения. Только добавление журналирования событий. Контролируемый слой чтения/записи. Нет прямой мутации. Память защищена от правок-галлюцинаций.
Проблема 9: Поведение было разбросано по слишком многим файлам
Исправление: AGENTS.md как авторитет. Единственный источник истины о поведении. Читается при каждом запуске сессии. Архитектура памяти объявлена, а не выведена. Управление находится в одном месте.
Проблема 10: Сбой было трудно изолировать
Исправление: Ясность многоуровневой архитектуры. Как только границы стали явными, ошибки стали локализованными. Когда слои изолированы, стабильность возрастает.
Проблема 11: Обучение и выполнение были размыты
Исправление: Разделение опыта и интеллекта. Уровень 2 логирует. Уровень 3 курирует. Выполнение требует авторизации Уровня 4. Нет саморазвивающихся циклов выполнения.
Проблема 12: Вызовы инструментов могли блокироваться, но не диагностироваться
Исправление: Принуждение реестра. Реестр возможностей стал единой плоскостью управления. Если что-то не объявлено, оно не может выполняться.
Проблема 13: Предупреждения могли изменять состояние среды выполнения
Исправление: Модель быстрого отказа. Предупреждения не изменяют поведение. Сбой останавливает мутацию. Предсказуемость важнее театра устойчивости.
Проблема 14: Безопасность была основана на политиках, а не на архитектуре
Исправление: Безопасность через структуру. Запрет по умолчанию. Явное продвижение. Явная авторизация. Принуждение границ. Безопасность обеспечивается архитектурой, а не намерением.
Проблема 15: Логи были историей, а не интеллектом
Исправление: Журнал опыта только для добавления. Всё сохраняется. Ничто не используется для автономных умозаключений. Исторические данные — для криминалистического анализа, а не для автономного дрейфа.
Проблема 16: Стек был сложным, но не отображённым
Исправление: Обзор стека управления. Они определили: Уровень 1 Чат, Уровень 2 Опыт, Уровень 3 Оркестрация, Уровень 4 Авторизация, Уровень 5 Реестр, Уровень 6 Выполнение. Теперь масштаб ограничен контролем.
Что изменилось
Они перестали пытаться сделать агента умнее и сделали его подотчётным. Они заменили неявное поведение, тихий дрейф и неоднозначность разрешений на объявленную архитектуру, контролируемое продвижение и явный авторитет.
📖 Read the full source: r/openclaw
👀 Смотрите также
Использование файлов Markdown в качестве движка рабочих процессов для кода Claude в Kubernetes
Разработчик заменил традиционные инструменты для пайплайнов, такие как Dagster или Prefect, на простые файлы Markdown на английском языке, которые Claude Code выполняет как Kubernetes CronJob. Система координирует шаги, записывая артефакты на диск, и работает уже более месяца.
Ошибки часовых поясов в системах бронирования, созданных ИИ: пример из практики
Сгенерированный Клодом прототип бронирования хранил время в UTC, отображал в IST — сломался для преподавателей из Дубая и США. 11 ошибочных бронирований подорвали доверие. Исправлено с помощью luxon.
VibecodedHub: Платформа для открытий, полностью созданная с помощью кода Claude
Разработчик создал VibecodedHub — платформу для открытия и запуска проектов, созданных с помощью ИИ, используя Claude Code в качестве основного инженера в ходе нескольких целенаправленных сессий. Платформа включает целевую страницу, аутентификацию, ленту, отправку проектов, интеграции со Stripe, панель администратора, SEO и OG-изображения.
Практические ограничения многопроцессорных AI-рабочих станций: уроки из сборки с 9× RTX 3090
Разработчик делится опытом использования 9 видеокарт RTX 3090 для работы с ИИ, обнаружив убывающую отдачу при использовании более 6 GPU и рекомендуя Proxmox для экспериментов с LLM. RTX 3090 по-прежнему привлекательна по цене $750 за 24 ГБ видеопамяти.