Transcripción local de voz a texto para OpenClaw utilizando Parakeet TDT 0.6b v3

Configuración local de transcripción para OpenClaw

Un desarrollador de la comunidad ha adaptado el modelo Parakeet TDT 0.6b v3 de NVIDIA para la transcripción local de voz a texto dentro de OpenClaw. El modelo se ejecuta mediante inferencia ONNX en CPU, eliminando los costos de API y admitiendo 25 idiomas europeos.

Implementación técnica

La solución utiliza un repositorio de GitHub (groxaxo/parakeet-tdt-0.6b-v3-fastapi-openai) que proporciona un contenedor Docker para implementación en CPU. El contenedor expone un endpoint de API compatible con OpenAI en http://127.0.0.1:5092/v1.

Los idiomas admitidos incluyen: búlgaro (bg), croata (hr), checo (cs), danés (da), neerlandés (nl), inglés (en), estonio (et), finés (fi), francés (fr), alemán (de), griego (el), húngaro (hu), italiano (it), letón (lv), lituano (lt), maltés (mt), polaco (pl), portugués (pt), rumano (ro), eslovaco (sk), esloveno (sl), español (es), sueco (sv), ruso (ru) y ucraniano (uk).

Integración con OpenClaw

El desarrollador proporciona un script de Python para la transcripción:

#!/home/openclaw/.local/share/pipx/venvs/openai/bin/python
import sys
from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:5092/v1",
    api_key="sk-no-key-required"
)
audio_file = open(sys.argv[1], "rb")
transcript = client.audio.transcriptions.create(
    model="parakeet-tdt-0.6b-v3",
    file=audio_file,
    response_format="text"
)
print(transcript)

Este script se puede configurar en el archivo openclaw.json de OpenClaw:

"tools": {
    "media": {
        "audio": {
            "enabled": true,
            "models": [
                {
                    "type": "cli",
                    "command": "/home/openclaw/.local/bin/transcribe",
                    "args": ["{{MediaPath}}"],
                    "timeoutSeconds": 60
                }
            ]
        }
    }
}

Alternativamente, OpenClaw se puede configurar para usar directamente el endpoint de API compatible con OpenAI con el nombre del modelo y la clave API ficticia del script.

Notas de implementación

El desarrollador probó esto en una máquina virtual Ubuntu ARM64 en un Mac Mini con M4 Pro, señalando que debería ejecutarse razonablemente rápido en cualquier CPU compatible con Intel decente. El contenedor Docker se construye siguiendo las instrucciones del README en el repositorio de GitHub.