Фреймворк AutoAgents на Rust добавляет привязки к Python для прототипирования

✍️ OpenClawRadar📅 Опубликовано: 10 марта 2026 г.🔗 Source
Фреймворк AutoAgents на Rust добавляет привязки к Python для прототипирования
Ad

AutoAgents, мультиагентный фреймворк на основе Rust, добавил привязки к Python, которые позволяют разработчикам прототипировать на Python, сохраняя при этом неизменным базовое ядро времени выполнения на Rust. Этот подход сохраняет те же интерфейсы провайдеров, модель композиции конвейера, структуру сборщика агентов и концепции времени выполнения, которые используются в крейтах Rust.

Ad

Ключевые детали

Привязки Python предназначены для быстрого экспериментирования в таких областях, как робототехника и другие сценарии использования, требующие локального ИИ, с возможностью перехода к ядру Rust без архитектурных изменений. Фреймворк поддерживает локальные модели без зависимостей от внешних систем.

Вот пример из источника, показывающий, как использовать привязки:

from autoagents_llamacpp_cuda import LlamaCppBuilder, backend_build_info

async def main() -> None:
    print("Build info:", backend_build_info())
    
    llm = await (
        LlamaCppBuilder()
        .repo_id("unsloth/Qwen3.5-9B-GGUF")
        .hf_filename("Qwen3.5-9B-Q4_0.gguf")
        .max_tokens(256)
        .temperature(0.7)
        .build()
    )
    
    agent_def = ReActAgent("local_llama_cuda", "You are an helpful assistant").max_turns(10)
    
    handle = await (
        AgentBuilder(agent_def)
        .llm(llm)
        .memory(SlidingWindowMemory(window_size=20))
        .build()
    )
    
    result = await handle.run(Task(prompt="Write one short sentence about Rust."))
    print(result["response"])
    
    print("\n=== Streaming ===")
    async for chunk in handle.run_stream(Task(prompt="What is 10 + 32?")):
        print(chunk)

Пример демонстрирует несколько ключевых компонентов:

  • LlamaCppBuilder для настройки локальных LLM с параметрами, такими как repo_id, hf_filename, max_tokens и temperature
  • ReActAgent для определения поведения агента с ограничениями по ходам
  • AgentBuilder для сборки агентов с компонентами LLM и памяти
  • SlidingWindowMemory с настраиваемым размером окна
  • Как синхронные (run), так и потоковые (run_stream) режимы выполнения
  • Объекты Task для инкапсуляции промптов

Сопровождающие ищут обратную связь по нескольким аспектам:

  • Будут ли разработчики использовать такие привязки Python для прототипирования
  • Эргономика API и соглашения об именовании
  • Отсутствующие функции, которые облегчили бы итерацию (помощники для отладки, визуализация, примеры рецептов)
  • Опасения по поводу безопасности, потоковой передачи или семантики памяти

Фреймворк особенно актуален для разработчиков, которые прототипируют на Python, но развертывают на Rust, предлагая путь от экспериментов к продакшену без изменения базовой архитектуры.

📖 Read the full source: r/LocalLLaMA

Ad

👀 Смотрите также

Среда выполнения Krasis LLM демонстрирует ускорение предзаполнения в 8,9 раза и ускорение декодирования в 4,7 раза по сравнению с Llama.cpp.
Инструменты

Среда выполнения Krasis LLM демонстрирует ускорение предзаполнения в 8,9 раза и ускорение декодирования в 4,7 раза по сравнению с Llama.cpp.

Среда выполнения Krasis LLM теперь полностью выполняет как предварительное заполнение, так и декодирование на GPU с различными стратегиями оптимизации, достигая ускорения предварительного заполнения в 8,9 раза и декодирования в 4,7 раза по сравнению с llama.cpp на Qwen3.5-122B с использованием одного GPU 5090.

OpenClawRadar
Mind Protocol: Открытая система обеспечивает Claude постоянную память и интеграцию биометрических данных в реальном времени.
Инструменты

Mind Protocol: Открытая система обеспечивает Claude постоянную память и интеграцию биометрических данных в реальном времени.

Mind Protocol — это система с открытым исходным кодом, в которой Claude работает непрерывно в качестве автономного компаньона с постоянной памятью во всех сессиях и данными с часов Garmin в реальном времени, поступающими в каждый диалог. Архитектура использует Claude Code в качестве основного движка с оркестратором, который запускает параллельные сессии и управляет их жизненным циклом.

OpenClawRadar
SIDJUA V1.0: Самостоятельная платформа управления для ИИ-агентов
Инструменты

SIDJUA V1.0: Самостоятельная платформа управления для ИИ-агентов

SIDJUA V1.0 — это бесплатная, саморазмещаемая платформа управления для ИИ-агентов, работающая на Docker, включая Raspberry Pi. Она предоставляет обязательные контрольные точки для задач агентов, зашифрованное хранение учетных данных, изоляцию сети и детализированный контроль бюджета.

OpenClawRadar
Исправление слепых зон OpenClaw: создание карты сайта для сбора всех блогов Anthropic
Инструменты

Исправление слепых зон OpenClaw: создание карты сайта для сбора всех блогов Anthropic

Инструмент браузера OpenClaw не обнаруживает все блоги Anthropic, потому что они размещены на нескольких URL-адресах. Один пользователь решил эту проблему, предоставив сгенерированную карту сайта, и упаковал решение в навык для совместного использования.

OpenClawRadar