Локальный ИИ-агент достигает задержки STT и TTS менее секунды с использованием открытых серверов.

Реализация локального ИИ-агента с низкой задержкой

Разработчик открыл исходный код серверных реализаций, которые обеспечивают разговорную задержку для локальных ИИ-агентов без зависимостей от облачных сервисов. Данная настройка устраняет типичную задержку в 2-3 секунды при разговоре, полностью выполняя STT и TTS на локальной инфраструктуре.

Технические детали реализации

Система STT: Использует Whisper large-v3-turbo с пользовательским мостом, реализующим гибридную архитектуру управления потоками GPU для обработки параллелизма без проблем с VRAM. Достигает задержки приблизительно 0,2 секунды.

Система TTS: Использует Coqui-TTS, работающий на локальном сервере с API, совместимым с OpenAI, оптимизированным специально для синтеза с низкой задержкой. Достигает задержки приблизительно 250 мс. Реализация включает клонированный голос Пола Беттани/Джарвиса.

Требования к оборудованию: Требуется выделенный узел с GPU NVIDIA RTX для ускорения. Разработчик отмечает, что ускорение на GPU обязательно для достижения таких скоростей.

Компоненты с открытым исходным кодом

• Локальный сервер Whisper STT: https://github.com/fakehec/whisper-stt-local-server
• Локальный сервер Coqui TTS: https://github.com/fakehec/coqui-tts-local-server

Разработчик также поделился скриптами интеграции OpenClaw для создания локальных агентов. Реализация позволяет использовать такие разговорные функции, как корректная обработка прерываний и мгновенные ответы, сохраняя всю обработку аудио локальной.