Suis-je compatible OpenAI : outil et documentation pour des signatures API unifiées

Un utilisateur de Reddit a publié un outil et une page de documentation appelés 'Am I OpenAI compatible' qui recense les principaux projets open source d'IA adhérant aux signatures d'API d'OpenAI. Le projet a été motivé par des incohérences entre des moteurs comme vLLM et llama.cpp, qui implémentent souvent le même endpoint de manière différente.

Détails clés

L'outil catalogue les signatures d'API officielles et non officielles pour chaque projet. Pour les modèles où il existe des lacunes de compatibilité OpenAI, il introduit 'ht-compatibility' comme norme héritée. Le développeur prévoit d'ajouter des signatures optionnelles compatibles avec Anthropic et d'autres extensions.

Deux ressources sont disponibles :

• Dépôt GitHub : heiervang-technologies/am-i-openai-compatible
• Site de documentation : ReadTheDocs

Le développeur note que l'outil est utile pour connecter des endpoints LLM et autres IA à des applications, ou pour construire des couches proxy/middleware. Les développeurs créant leurs propres interfaces d'API bénéficieront également des signatures documentées, facilitant ainsi l'intégration d'agents.

À qui s'adresse-t-il

Développeurs travaillant avec plusieurs moteurs d'inférence open source ayant besoin d'une référence fiable pour la compatibilité des API, ou toute personne construisant des systèmes middleware ou agents consommant plusieurs backends.