Bin ich OpenAI-kompatibel: Tool & Dokumentation für einheitliche API-Signaturen
Ein Reddit-Nutzer hat ein Tool und eine Dokumentationsseite namens 'Am I OpenAI compatible' veröffentlicht, die auflistet, welche großen Open-Source-KI-Projekte die API-Signaturen von OpenAI einhalten. Das Projekt entstand aufgrund von Inkonsistenzen zwischen Engines wie vLLM und llama.cpp, die denselben Endpunkt oft unterschiedlich implementieren.
Wichtige Details
Das Tool katalogisiert sowohl offizielle als auch inoffizielle API-Signaturen für jedes Projekt. Bei Modellen, bei denen Lücken in der OpenAI-Kompatibilität bestehen, wird 'ht-compatibility' als geerbter Standard eingeführt. Der Entwickler plant, optionale Anthropic-kompatible Signaturen und andere Erweiterungen hinzuzufügen.
Zwei Ressourcen sind verfügbar:
- GitHub-Repository: heiervang-technologies/am-i-openai-compatible
- Dokumentationsseite: ReadTheDocs
Der Entwickler weist darauf hin, dass das Tool nützlich ist, um LLM- und andere KI-Endpunkte in Apps einzubinden oder Proxy-/Middleware-Schichten zu erstellen. Entwickler, die eigene API-Schnittstellen erstellen, profitieren ebenfalls von den dokumentierten Signaturen, was die Integration in Agenten erleichtert.
Für wen es gedacht ist
Entwickler, die mit mehreren Open-Source-Inferenz-Engines arbeiten und eine zuverlässige Referenz für API-Kompatibilität benötigen, oder alle, die Middleware- oder Agentensysteme bauen, die mehrere Backends nutzen.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Rudel: Open-Source-Analyse für Claude Code-Sitzungen
Rudel ist ein Open-Source-Analysewerkzeug, das Claude-Code-Sitzungen analysiert und Einblicke aus 1.573 echten Sitzungen mit über 15 Millionen Tokens und 270.000+ Interaktionen bietet. Es deckt Muster auf wie 4 % Skills-Nutzung, 26 % Abbruchraten und Fehlerkaskadenmuster.
Persistente Seitenleiste für Claude Code mit autonomer Inhaltsverwaltung
Ein Entwickler hat ein TUI-Panel erstellt, das in einem iTerm2-Split-Paneel neben dem Terminal platziert ist und drei feste Panels umfasst, die Claude autonom verwaltet, um relevante Inhalte wie Code, Diagramme und Statusupdates anzuzeigen.
Kostenlose Version von Karpathys Coding-Skills neu geschrieben, schaltet Claude Coding-Disziplin ohne Pro frei
Ein Reddit-Nutzer hat Karpathys Programmierdisziplin-Richtlinien für den kostenlosen Plan von Claude umgeschrieben und dabei Terminal- und Subagent-Abhängigkeiten entfernt. Der System-Prompt löst sich automatisch bei Programmieranfragen aus und erzwingt ein verifikationsorientiertes Denken.
Claude Octopus v8.48: Multi-KI-Orchestrierungs-Plugin für Entwicklungs-Workflows
Claude Octopus v8.48 ist ein Open-Source-Plugin, das die KI-Modelle Claude, Codex und Gemini parallel mit unterschiedlichen Rollen über die Entwicklungsphasen hinweg orchestriert. Es beinhaltet eine 75%-Konsensschwelle zwischen den Phasen, frische Kontextfenster für komplexe Aufgaben und spezifische Befehle wie /octo:embrace für die vollständige Lebenszyklusentwicklung.