Ваш агент — это не модель: объяснение разницы между Harness и Inference Service

Люди часто говорят о Claude как о едином целом, но ИИ-агент — это стек из трёх отдельных уровней. Знание разницы экономит часы отладки: когда что-то идёт не так, нужно знать, винить ли модель, сервис или логику вокруг неё.

Три уровня

• Модель — математическая функция, преобразующая входные токены в выходные. Примеры: Sonnet, Opus, Gemini.
• Сервис инференса — размещённый сервис, который запускает модель и отслеживает использование. Примеры: AWS Bedrock, API Anthropic.
• Обвязка (harness) — логика, формирующая входные данные, интерпретирующая выходные и взаимодействующая с внешним миром. Сюда входят MCP и Skills — модель не знает о них по своей сути.

Вместе система агента — это обвязка, которая вызывает сервис инференса, который запускает модель. Вот и всё.

Реальный разбор

Одна и та же модель (например, Sonnet) может вести себя по-разному в зависимости от обвязки — потому что обвязка формирует входы и интерпретирует выходы. Вот почему ваши промпты работают в Claude CLI, но не работают в Cursor.

Отладка с этой ментальной моделью

• Плохие ответы? Посмотрите на обвязку — возможно, она не предоставляет достаточно контекста.
• Слишком медленно или дорого? Проверьте сервис инференса — цена и производительность находятся там.
• Неожиданный вывод? Модель ошибается или обвязка подаёт ей мусор?

В статье также отмечается, что по мере того как модели становятся умнее, некоторая логика обвязки (например, MCP или Skills) может устареть — так что то, как мы сейчас строим обвязки, может не пережить время.

В следующий раз, когда вы скажете «моя модель сделала X», остановитесь и спросите: это была модель или обвязка, которая ею управляла?