Le Framework AutoAgents Rust Ajoute des Liaisons Python pour le Prototypage

AutoAgents, un framework multi-agent basé sur Rust, a ajouté des liaisons Python qui permettent aux développeurs de prototyper en Python tout en conservant intact le runtime central Rust sous-jacent. Cette approche maintient les mêmes interfaces de fournisseurs, le modèle de composition de pipeline, la structure de construction d'agents et les concepts d'exécution utilisés par les crates Rust.

Détails clés

Les liaisons Python sont conçues pour une expérimentation rapide dans des domaines comme la robotique et d'autres cas d'utilisation nécessitant de l'IA locale, avec la possibilité de passer au noyau Rust sans modifications architecturales. Le framework prend en charge les modèles locaux sans dépendances de systèmes externes.

Voici un exemple prêt à l'emploi de la source montrant comment utiliser les liaisons :

from autoagents_llamacpp_cuda import LlamaCppBuilder, backend_build_info

async def main() -> None:
    print("Build info:", backend_build_info())
    
    llm = await (
        LlamaCppBuilder()
        .repo_id("unsloth/Qwen3.5-9B-GGUF")
        .hf_filename("Qwen3.5-9B-Q4_0.gguf")
        .max_tokens(256)
        .temperature(0.7)
        .build()
    )
    
    agent_def = ReActAgent("local_llama_cuda", "You are an helpful assistant").max_turns(10)
    
    handle = await (
        AgentBuilder(agent_def)
        .llm(llm)
        .memory(SlidingWindowMemory(window_size=20))
        .build()
    )
    
    result = await handle.run(Task(prompt="Write one short sentence about Rust."))
    print(result["response"])
    
    print("\n=== Streaming ===")
    async for chunk in handle.run_stream(Task(prompt="What is 10 + 32?")):
        print(chunk)

L'exemple démontre plusieurs composants clés :

• LlamaCppBuilder pour configurer des LLM locaux avec des paramètres comme repo_id, hf_filename, max_tokens et temperature
• ReActAgent pour définir le comportement des agents avec des limites de tours
• AgentBuilder pour assembler des agents avec des composants LLM et mémoire
• SlidingWindowMemory avec une taille de fenêtre configurable
• Les modes d'exécution synchrones (run) et en streaming (run_stream)
• Les objets Task pour encapsuler les invites

Les mainteneurs sollicitent des retours sur plusieurs aspects :

• Si les développeurs utiliseraient des liaisons Python comme celles-ci pour le prototypage
• L'ergonomie de l'API et les conventions de nommage
• Les fonctionnalités manquantes qui faciliteraient l'itération (aides au débogage, visualisation, exemples de recettes)
• Les préoccupations concernant la sécurité, le streaming ou la sémantique de la mémoire

Le framework est particulièrement pertinent pour les développeurs qui prototypent en Python mais déploient en Rust, offrant un chemin de l'expérimentation à la production sans changer l'architecture sous-jacente.