ToolLoop: Open-Source-Framework für Claude-ähnliche Tools mit jedem LLM

ToolLoop ist ein Open-Source-Python-Framework, das Claude-Code-ähnliche Funktionalität implementiert, während es anbieterunabhängig bleibt. Das Projekt wurde speziell erstellt, um Vendor-Lock-in zu vermeiden und gleichzeitig ähnliche Tool-Fähigkeiten beizubehalten.

Hauptmerkmale

Das Framework umfasst 11 Tools, die abdecken:

• Dateioperationen
• Codesuche
• Shell-Zugriff
• Sub-Agenten

Die gesamte Codebasis umfasst etwa 2.700 Zeilen. ToolLoop verbindet sich über LiteLLM mit jedem LLM und unterstützt:

• Jedes Modell auf AWS Bedrock (DeepSeek, Llama, Mistral)
• Jeden API-Anbieter (OpenAI, Moonshot)
• Lokale Endpunkte

Modellwechsel-Fähigkeit

Ein Hauptmerkmal ist die Möglichkeit, Modelle während einer Konversation zu wechseln, während der gemeinsame Kontext zwischen den Interaktionen erhalten bleibt. Dies ermöglicht Entwicklern, verschiedene Modelle für verschiedene Aufgaben zu nutzen, ohne den Konversationsverlauf zu verlieren.

SDK-Nutzungsbeispiel

Hier ist der Codeausschnitt aus der Quelle, der die grundlegende Nutzung zeigt:

from sdk import query, ToolLoopOptions

async for event in query(
    prompt="Find all TODO comments, fix them, run the tests",
    options=ToolLoopOptions(
        model="bedrock/converse/deepseek.v3.2",
        allowed_tools=["Read", "Edit", "Grep", "Glob", "Bash"],
    ),
):
    print(event)

Das Beispiel zeigt, wie das deepseek.v3.2-Modell gegen jedes andere unterstützte Modell ausgetauscht werden kann, während dieselben Tools und die gleiche Prompt-Struktur beibehalten werden.

Praktische Anwendung

Diese Art von Framework ist besonders nützlich für Entwickler, die KI-Agenten mit spezifischen Tool-Fähigkeiten aufbauen möchten, aber Flexibilität bei der Modellauswahl benötigen. Die Open-Source-Natur ermöglicht Anpassungen und vermeidet Abhängigkeiten von einem einzelnen Anbieter-Ökosystem.

Das Projekt ist auf GitHub verfügbar unter github.com/zhiheng-huang/toolloop.