Bin ich OpenAI-kompatibel: Tool & Dokumentation für einheitliche API-Signaturen
Ein Reddit-Nutzer hat ein Tool und eine Dokumentationsseite namens 'Am I OpenAI compatible' veröffentlicht, die auflistet, welche großen Open-Source-KI-Projekte die API-Signaturen von OpenAI einhalten. Das Projekt entstand aufgrund von Inkonsistenzen zwischen Engines wie vLLM und llama.cpp, die denselben Endpunkt oft unterschiedlich implementieren.
Wichtige Details
Das Tool katalogisiert sowohl offizielle als auch inoffizielle API-Signaturen für jedes Projekt. Bei Modellen, bei denen Lücken in der OpenAI-Kompatibilität bestehen, wird 'ht-compatibility' als geerbter Standard eingeführt. Der Entwickler plant, optionale Anthropic-kompatible Signaturen und andere Erweiterungen hinzuzufügen.
Zwei Ressourcen sind verfügbar:
- GitHub-Repository: heiervang-technologies/am-i-openai-compatible
- Dokumentationsseite: ReadTheDocs
Der Entwickler weist darauf hin, dass das Tool nützlich ist, um LLM- und andere KI-Endpunkte in Apps einzubinden oder Proxy-/Middleware-Schichten zu erstellen. Entwickler, die eigene API-Schnittstellen erstellen, profitieren ebenfalls von den dokumentierten Signaturen, was die Integration in Agenten erleichtert.
Für wen es gedacht ist
Entwickler, die mit mehreren Open-Source-Inferenz-Engines arbeiten und eine zuverlässige Referenz für API-Kompatibilität benötigen, oder alle, die Middleware- oder Agentensysteme bauen, die mehrere Backends nutzen.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
MTPLX: 2,24x schnellere Token auf Apple Silicon mit nativen MTP-Köpfen
MTPLX erreicht 63 tok/s auf Qwen3.6-27B auf M5 Max (von 28 tok/s) unter Verwendung der integrierten MTP-Köpfe mit exakten Temperatur-Sampling und ohne externen Drafter.
Claude Academy: Ein kostenloses Coding-Bootcamp, das in Claude Desktop läuft
Ein Entwickler hat Claude Academy aufgebaut, einen kostenlosen Programmier-Bootcamp, der vollständig innerhalb des Code-Tabs von Claude Desktop läuft. Das System verwendet drei Befehle, um 64 strukturierte Lektionen zu den Grundlagen der Webentwicklung zu vermitteln, mit Fortschrittsverfolgung und dem Bauen echter Projekte.
Verwaltung des KI-Kontexts mit einer SQLite-Wissensdatenbank und MCP-Tools
Ein Entwickler hat RunawayContext entwickelt, ein MIT-lizenziertes System, das Projektlektionen in SQLite mit FTS5 und optionalem sqlite-vec speichert und den Kontext pro Sitzung über MCP-Abfragetools und fest codierte Limits unter 3K Tokens hält.
Caliby: Open-Source eingebettete Vektordatenbank für KI-Agenten mit hybrider Text+Vektor-Speicherung
Caliby ist eine eingebettete C++-Vektordatenbank mit Python-Bindungen (pip install caliby), die HNSW-, DiskANN- und IVF+PQ-Indizes unterstützt, eine 4-fache Leistung gegenüber pgvector beansprucht und nativ Text neben Vektoren für KI-Agenten-/RAG-Anwendungsfälle speichert.