Sou compatível com OpenAI: Ferramentas e Documentos para Assinaturas de API Unificadas

Um usuário do Reddit lançou uma ferramenta e página de documentação chamada 'Sou Compatível com OpenAI?' que mapeia quais projetos de IA de código aberto aderem às assinaturas de API da OpenAI. O projeto foi motivado por inconsistências entre mecanismos como vLLM e llama.cpp, que frequentemente implementam o mesmo endpoint de forma diferente.

Detalhes Principais

A ferramenta cataloga assinaturas de API oficiais e não oficiais para cada projeto. Para modelos onde existem lacunas de compatibilidade com a OpenAI, ela introduz 'ht-compatibility' como um padrão herdado. O desenvolvedor planeja adicionar assinaturas opcionais compatíveis com Anthropic e outras extensões.

Dois recursos estão disponíveis:

• Repositório GitHub: heiervang-technologies/am-i-openai-compatible
• Site de documentação: ReadTheDocs

O desenvolvedor observa que a ferramenta é útil para conectar endpoints de LLM e outros recursos de IA a aplicativos, ou para construir camadas de proxy/middleware. Desenvolvedores criando suas próprias interfaces de API também se beneficiarão das assinaturas documentadas, facilitando a integração de agentes.

Para Quem É

Desenvolvedores que trabalham com múltiplos mecanismos de inferência de código aberto e precisam de uma referência confiável para compatibilidade de API, ou qualquer pessoa construindo middleware ou sistemas de agentes que consomem múltiplos backends.