Локальный ИИ-агент достигает задержки STT и TTS менее секунды с использованием открытых серверов.

Реализация локального ИИ-агента с низкой задержкой
Разработчик открыл исходный код серверных реализаций, которые обеспечивают разговорную задержку для локальных ИИ-агентов без зависимостей от облачных сервисов. Данная настройка устраняет типичную задержку в 2-3 секунды при разговоре, полностью выполняя STT и TTS на локальной инфраструктуре.
Технические детали реализации
Система STT: Использует Whisper large-v3-turbo с пользовательским мостом, реализующим гибридную архитектуру управления потоками GPU для обработки параллелизма без проблем с VRAM. Достигает задержки приблизительно 0,2 секунды.
Система TTS: Использует Coqui-TTS, работающий на локальном сервере с API, совместимым с OpenAI, оптимизированным специально для синтеза с низкой задержкой. Достигает задержки приблизительно 250 мс. Реализация включает клонированный голос Пола Беттани/Джарвиса.
Требования к оборудованию: Требуется выделенный узел с GPU NVIDIA RTX для ускорения. Разработчик отмечает, что ускорение на GPU обязательно для достижения таких скоростей.
Компоненты с открытым исходным кодом
- Локальный сервер Whisper STT:
https://github.com/fakehec/whisper-stt-local-server - Локальный сервер Coqui TTS:
https://github.com/fakehec/coqui-tts-local-server
Разработчик также поделился скриптами интеграции OpenClaw для создания локальных агентов. Реализация позволяет использовать такие разговорные функции, как корректная обработка прерываний и мгновенные ответы, сохраняя всю обработку аудио локальной.
📖 Read the full source: r/openclaw
👀 Смотрите также

Relay: Открытая система управления для агентов искусственного интеллекта OpenClaw
Relay — это десктопное приложение на Electron, которое предоставляет рабочий процесс, аналогичный Claude Cowork, для OpenClaw, работающее на вашей инфраструктуре с выбранными вами моделями LLM и встроенными функциями управления, включая этапы утверждения и экспортируемые журналы аудита.

Vibeyard IDE добавляет встроенный браузер для прямого редактирования веб-интерфейсов с помощью ИИ-агентов.
Vibeyard, открытая IDE для AI-агентов программирования, теперь включает тип сессии вкладки браузера, который позволяет пользователям кликать на элементы веб-интерфейса и давать инструкции AI-агенту для их прямого редактирования, исключая угадывание селекторов и поиск компонентов.

Anthropic открывает исходный код Claude for Legal: пакет плагинов для проверки контрактов, сортировки NDA и многого другого
Anthropic выпустил Claude for Legal — репозиторий плагинов, агентов и MCP-коннекторов для юридических задач, включая проверку соглашений с поставщиками, сортировку NDA и мониторинг соблюдения нормативных требований.

Клод Код создал Treelo: бесплатный инструмент для транскрипции видео
Видеоредактор использовал Claude Code для создания Treelo — бесплатного инструмента, который транскрибирует видео- и аудиофайлы, удаляет слова-паразиты, позволяет размещать звуковые эффекты с точной привязкой к таймкодам и экспортирует SRT для Premiere или ASS для DaVinci Resolve.