Фреймворк AutoAgents на Rust добавляет привязки к Python для прототипирования

AutoAgents, мультиагентный фреймворк на основе Rust, добавил привязки к Python, которые позволяют разработчикам прототипировать на Python, сохраняя при этом неизменным базовое ядро времени выполнения на Rust. Этот подход сохраняет те же интерфейсы провайдеров, модель композиции конвейера, структуру сборщика агентов и концепции времени выполнения, которые используются в крейтах Rust.

Ключевые детали

Привязки Python предназначены для быстрого экспериментирования в таких областях, как робототехника и другие сценарии использования, требующие локального ИИ, с возможностью перехода к ядру Rust без архитектурных изменений. Фреймворк поддерживает локальные модели без зависимостей от внешних систем.

Вот пример из источника, показывающий, как использовать привязки:

from autoagents_llamacpp_cuda import LlamaCppBuilder, backend_build_info

async def main() -> None:
    print("Build info:", backend_build_info())
    
    llm = await (
        LlamaCppBuilder()
        .repo_id("unsloth/Qwen3.5-9B-GGUF")
        .hf_filename("Qwen3.5-9B-Q4_0.gguf")
        .max_tokens(256)
        .temperature(0.7)
        .build()
    )
    
    agent_def = ReActAgent("local_llama_cuda", "You are an helpful assistant").max_turns(10)
    
    handle = await (
        AgentBuilder(agent_def)
        .llm(llm)
        .memory(SlidingWindowMemory(window_size=20))
        .build()
    )
    
    result = await handle.run(Task(prompt="Write one short sentence about Rust."))
    print(result["response"])
    
    print("\n=== Streaming ===")
    async for chunk in handle.run_stream(Task(prompt="What is 10 + 32?")):
        print(chunk)

Пример демонстрирует несколько ключевых компонентов:

• LlamaCppBuilder для настройки локальных LLM с параметрами, такими как repo_id, hf_filename, max_tokens и temperature
• ReActAgent для определения поведения агента с ограничениями по ходам
• AgentBuilder для сборки агентов с компонентами LLM и памяти
• SlidingWindowMemory с настраиваемым размером окна
• Как синхронные (run), так и потоковые (run_stream) режимы выполнения
• Объекты Task для инкапсуляции промптов

Сопровождающие ищут обратную связь по нескольким аспектам:

• Будут ли разработчики использовать такие привязки Python для прототипирования
• Эргономика API и соглашения об именовании
• Отсутствующие функции, которые облегчили бы итерацию (помощники для отладки, визуализация, примеры рецептов)
• Опасения по поводу безопасности, потоковой передачи или семантики памяти

Фреймворк особенно актуален для разработчиков, которые прототипируют на Python, но развертывают на Rust, предлагая путь от экспериментов к продакшену без изменения базовой архитектуры.