Совместим ли я с OpenAI: Инструмент и документация для единых API-сигнатур
Пользователь Reddit опубликовал инструмент и страницу документации под названием «Am I OpenAI compatible», которые отображают, какие крупные открытые AI-проекты соответствуют API-сигнатурам OpenAI. Проект был мотивирован несоответствиями между движками, такими как vLLM и llama.cpp, которые часто реализуют одну и ту же конечную точку по-разному.
Ключевые детали
Инструмент каталогизирует как официальные, так и неофициальные API-сигнатуры для каждого проекта. Для моделей, где существуют пробелы в совместимости с OpenAI, он вводит «ht-compatibility» как наследуемый стандарт. Разработчик планирует добавить опциональные сигнатуры, совместимые с Anthropic, и другие расширения.
Доступны два ресурса:
- Репозиторий GitHub: heiervang-technologies/am-i-openai-compatible
- Сайт документации: ReadTheDocs
Разработчик отмечает, что инструмент полезен для подключения LLM и других AI-конечных точек к приложениям или для создания слоев прокси/промежуточного ПО. Разработчики, создающие собственные API-интерфейсы, также выиграют от документированных сигнатур, что упростит интеграцию агентов.
Для кого это
Разработчики, работающие с несколькими движками вывода с открытым исходным кодом, которым нужен надежный справочник по совместимости API, или те, кто создает промежуточное ПО или системы агентов, использующие несколько бэкендов.
📖 Читать полный источник: r/LocalLLaMA
👀 Смотрите также
Топор: 12-мегабайтный CLI для узкоспециализированных LLM-агентов
Axe — это легковесный бинарный файл на Go, который запускает специализированные AI-агенты, описанные в TOML-файлах. Он обращается с агентами как с Unix-программами, поддерживая передачу данных через stdin, делегирование подзадач суб-агентам и интеграцию LLM от разных провайдеров.
Использование pre-commit для повышения качества и безопасности кода, созданного с помощью ИИ.
Разработчик делится своей конфигурацией pre-commit для проектов на Go и Java, используя инструменты вроде golangci-lint, govulncheck и checkov для выявления уязвимостей и проблем с качеством в коде, сгенерированном ИИ, перед коммитом.
Инструмент PRECC сокращает расходы на API кода Claude благодаря сжатию перед вызовом инструментов.
Разработчик создал PRECC — инструмент с открытым исходным кодом, который перехватывает вызовы инструментов Claude Code и сжимает полезную нагрузку с помощью RTK (Redundancy-aware Token Kompression), сокращая входные токены на 40–66% без заметного влияния на задержку.
Режим контекста: MCP-сервер, который сжимает выводы инструментов для Claude Code
Контекстный режим — это сервер MCP, который находится между Claude Code и выводами инструментов, обрабатывая их в песочницах и возвращая только сводки. Он сокращает 315 КБ вывода MCP до 5,4 КБ, увеличивая время сессии до замедления с ~30 минут до ~3 часов.