AIsbf 0.9.8 agrega almacenamiento en caché, mejoras en el enrutamiento y soporte ampliado para servicios de IA.
AIsbf (AI Should Be Free) 0.9.8 es un proxy/enrutador de API que proporciona una interfaz compatible con OpenAI a varios servicios de punto final de IA, con el objetivo de hacer el uso de LLM más rentable. Es multiusuario y puede escalar desde configuraciones pequeñas hasta infraestructuras grandes.
Características clave en la versión 0.9.8
- Soporte de caché para Redis, SQLite, MySQL y almacenamiento basado en archivos
- Métodos adicionales de condensación de contexto
- Soporte nativo de caché de prompts y caché de solicitudes
- Enrutamiento semántico basado en prompts más rápido y mejorado para selección automática de servicios
- Soporte completo de OAuth2 para suscriptores de Claude.ai
- Soporte completo de OAuth2 para suscriptores de Amazon Kiro-cli
- Soporte completo de OAuth2 para suscriptores de OpenAI Codex
- Soporte completo para suscriptores de Kilo.ai usando tokens u OAuth2
- Múltiples correcciones de errores y adiciones menores de características
Este tipo de herramienta es útil para desarrolladores que trabajan con múltiples servicios de IA y desean una interfaz unificada mientras optimizan costos mediante enrutamiento inteligente y caché.
📖 Read the full source: r/LocalLLaMA
👀 Ver también
Corrigiendo los puntos ciegos de OpenClaw: Creando un sitemap para obtener todos los blogs de Anthropic
La herramienta de navegador de OpenClaw no logra descubrir todos los blogs de Anthropic porque están alojados en múltiples URLs. Un usuario lo solucionó alimentando un sitemap generado, luego empaquetó la solución como una habilidad compartible.
Artifactr: Herramienta CLI de prioridad local para gestionar artefactos de agentes de codificación con IA
Artifactr es una herramienta CLI gratuita y de código abierto para gestionar artefactos de LLM como habilidades, comandos y definiciones de agentes. Almacena archivos en bóvedas portátiles sin conexiones de red y admite sincronización automática mediante enlaces simbólicos.
MegaClaw: Configuración de OpenClaw en Contenedores con Playwright y Homebrew
MegaClaw es una configuración de Podman de dos imágenes para OpenClaw que aborda problemas comunes de instalación como errores de permisos y dependencias faltantes. Utiliza una construcción multi-etapa con Playwright y Homebrew preinstalados, e integra la configuración del usuario en una imagen de tiempo de ejecución.
Reemplazar Kafka, Redis y RabbitMQ con NATS: La experiencia de un desarrollador
Un desarrollador reemplazó Kafka, Redis y RabbitMQ con NATS en su arquitectura, compartiendo detalles específicos de implementación y lecciones aprendidas al consolidar múltiples sistemas de mensajería en una sola herramienta.