Propuesta de Enrutamiento de Inferencia Adaptativa para la Eficiencia de Consultas de IA

Qué es esto

Una propuesta técnica presentada al equipo de Producto e Ingeniería de Anthropic en abril de 2026 para dirigir automáticamente consultas de IA a niveles de modelo apropiados según una evaluación de complejidad antes de que comience el costoso cómputo.

El problema

Actualmente, cada consulta enviada a Claude — desde preguntas simples como "cuánto tiempo hiervo un huevo" hasta instrucciones técnicas de 2.000 palabras — se dirige por defecto a un modelo de capacidad completa. El sistema no evalúa la complejidad antes de comprometer recursos de cómputo, lo cual es ineficiente a escala. La inferencia de IA es el componente de mayor crecimiento en el consumo de energía de los centros de datos, proyectado para alcanzar el 12% de la electricidad de EE. UU. para 2028.

La solución propuesta: Proceso de cinco pasos

• Paso 1 — Contar: Medir la longitud de la consulta en caracteres, el recuento de oraciones y la presencia de archivos adjuntos o instrucciones de múltiples partes
• Paso 2 — Clasificar: Dirigir a un nivel de modelo según la puntuación de complejidad. Oraciones cortas y únicas van por defecto a modelos ligeros; instrucciones de múltiples párrafos con contexto se dirigen a modelos más capaces
• Paso 3 — Leer: El modelo asignado procesa la consulta normalmente
• Paso 4 — Responder: La respuesta se devuelve al usuario
• Paso 5 — Escalar: Si el usuario señala insatisfacción (rechaza, pide profundizar, reformula), el sistema sube automáticamente a un modelo más capaz para el seguimiento

Cómo funciona la puntuación de complejidad

El sistema utiliza una puntuación de preruteo de cinco factores: recuento de caracteres, recuento de oraciones, presencia de archivos adjuntos, densidad de palabras interrogativas y profundidad previa de la conversación. Esto clasificaría correctamente un porcentaje sustancial de consultas sin ninguna inferencia del modelo en absoluto. La longitud de caracteres funciona como una señal de primer orden porque la mayoría de las consultas simples son cortas y la mayoría de las consultas complejas son largas.

Diseño de la experiencia del usuario

Los usuarios no deberían ver este sistema ni se les debería pedir que elijan un modelo. La interfaz permanece idéntica y el enrutamiento es invisible. Si una respuesta es insuficiente, los usuarios piden más y reciben más. Esto elimina la fricción de pedir a usuarios no técnicos que seleccionen entre niveles de modelo como Haiku, Sonnet y Opus.

Impacto y fundamento

A la escala de Anthropic, incluso una reducción del 20–30% en el cómputo promedio por consulta representa una reducción significativa en el costo de inferencia y la carga energética. La propuesta posiciona a Anthropic por delante de los desafíos regulatorios y de relaciones públicas en torno al consumo de energía de los centros de datos, que se está convirtiendo en un tema legislativo en múltiples jurisdicciones.