OpenEvol: Offline-Selbstverbesserungspipeline für LLMs unter Verwendung von Konversationsverlauf

Was OpenEvol macht

OpenEvol ist eine Offline-Selbstverbesserungspipeline für große Sprachmodelle, die KI-Konversationsverläufe automatisch in Trainingsdaten umwandelt. Das Tool extrahiert hochwertige Austausche aus Konversationen, bewertet deren Qualität und erstellt Feinabstimmungsdatensätze ohne manuelle Kennzeichnung oder proprietäre Daten-Flywheels.

Wie es funktioniert

Die Pipeline durchläuft vier automatisierte Stufen:

• Hochwertige Austausche aus Konversationen extrahieren
• Qualität mithilfe von Regeln mit optionalem Lehrer-LLM bewerten
• SFT-, Präferenz- und Vortrainingsdatensätze synthetisieren
• Mit einem Befehl feinabstimmen

Dies schafft einen geschlossenen Kreislauf, in dem das Modell aus seinen eigenen Erfahrungen lernt.

Technische Details

Zum Starten wird keine GPU benötigt – die gesamte Pipeline läuft auf CPU mit einem Mock- oder OpenAI-kompatiblen Lehrer-Backend. Eine GPU kann hinzugefügt werden, wenn das Training beginnen soll.

Fünf Lehrer-Backends werden unterstützt:

• Mock
• Regelbasiert
• OpenAI-kompatible API (jeder lokale Proxy funktioniert)
• HuggingFace Transformers
• vLLM

Nutzungsoptionen

Drei Möglichkeiten, OpenEvol zu verwenden:

• CLI für Offline-Stapelverarbeitung
• REST-API-Server für Automatisierung
• OpenClaw-Desktop-Plugin, das Pipeline-Ausführungen direkt aus dem Chat auslöst

Qualitätskontrolle

Jeder Batch wird automatisch bewertet. Wenn die Genehmigungsrate unter 80% fällt, wird das Training blockiert und zur manuellen Überprüfung markiert, sodass Benutzer die Kontrolle darüber haben, welche Daten für das Training verwendet werden.

Dieses Tool ist nützlich für Entwickler, die ihre KI-Coding-Agenten mithilfe tatsächlicher Konversationsverläufe verbessern möchten, ohne Daten an externe Dienste zu senden.