Совместим ли я с OpenAI: Инструмент и документация для единых API-сигнатур

Пользователь Reddit опубликовал инструмент и страницу документации под названием «Am I OpenAI compatible», которые отображают, какие крупные открытые AI-проекты соответствуют API-сигнатурам OpenAI. Проект был мотивирован несоответствиями между движками, такими как vLLM и llama.cpp, которые часто реализуют одну и ту же конечную точку по-разному.

Ключевые детали

Инструмент каталогизирует как официальные, так и неофициальные API-сигнатуры для каждого проекта. Для моделей, где существуют пробелы в совместимости с OpenAI, он вводит «ht-compatibility» как наследуемый стандарт. Разработчик планирует добавить опциональные сигнатуры, совместимые с Anthropic, и другие расширения.

Доступны два ресурса:

• Репозиторий GitHub: heiervang-technologies/am-i-openai-compatible
• Сайт документации: ReadTheDocs

Разработчик отмечает, что инструмент полезен для подключения LLM и других AI-конечных точек к приложениям или для создания слоев прокси/промежуточного ПО. Разработчики, создающие собственные API-интерфейсы, также выиграют от документированных сигнатур, что упростит интеграцию агентов.

Для кого это

Разработчики, работающие с несколькими движками вывода с открытым исходным кодом, которым нужен надежный справочник по совместимости API, или те, кто создает промежуточное ПО или системы агентов, использующие несколько бэкендов.