UK Sovereign LLM Inference: Relax.ai публикует публичные документы

Relax.ai опубликовал документацию для своего сервиса инференса LLM, размещенного на территории Великобритании. Сайт документации по адресу relax.ai/docs перенаправляет на /docs/getting-started/introduction — руководство по началу работы. Сервис обсуждался на Hacker News (тема: 48146424), набрав на момент написания 104 балла и 109 комментариев.

Термин "UK sovereign" означает, что инфраструктура для инференса размещена на территории Великобритании, вероятно, на одобренных правительством или внутренних облачных мощностях, что является ключевым требованием для британского государственного сектора и регулируемых отраслей. Это согласуется с Национальной AI-стратегией Великобритании и такими инициативами, как Институт безопасности ИИ.

Документация, по-видимому, находится на ранней стадии — основной URL /docs немедленно перенаправляет на страницу начала работы, что предполагает структурированный путь адаптации, но пока не показывает полную справку по API или детали моделей. Учитывая внимание на HN (104 апвоута), сообщество активно обсуждает переход к локализованному инференсу для соблюдения норм и резидентности данных.

Если вам нужен низколатентный инференс LLM на территории Великобритании для ваших приложений, обратитесь к документации за информацией о поддерживаемых моделях, эндпоинтах и аутентификации. Комментарии на HN могут содержать дополнительные бенчмарки или советы по интеграции от первых пользователей.