АгентЛенс: Инструмент наблюдаемости для многозадачных AI-процессов

AgentLens — это инструмент мониторинга, предназначенный для многозадачных AI-процессов, сочетающих локальные и облачные модели. Он решает проблему отслеживания активности между разными провайдерами, такими как Ollama, vLLM, Anthropic и OpenAI.

Ключевые возможности

• Унифицированное отслеживание для Ollama, vLLM, Anthropic, OpenAI и других провайдеров
• Учёт затрат, включая конвертацию локального времени вычислений в примерную стоимость
• Сервер MCP для запроса статистики прямо из Claude Code
• Интерфейс командной строки для быстрых проверок с командами вроде agentlens q stats
• Самодостаточное развёртывание — работает на вашем компьютере, данные остаются локальными

Развёртывание и использование

Разверните с помощью Docker:

docker run -d -p 3100:3100 phoenixaihub/agentlens-collector

Оберните вызовы Ollama одной строкой кода:

const { client } = wrapOllama(ollama, { client: lens });

Панель управления отображает потоки агентов, распределение затрат и задержки по провайдерам.

Этот инструмент особенно полезен разработчикам, работающим со смешанными AI-процессами, где одни задачи используют локальные модели (например, Ollama), а другие требуют облачных моделей (например, Claude или GPT) для сложных рассуждений.