VoidLLM: Proxy de Conocimiento Cero para Ollama y vLLM con Control de Acceso por Equipo
VoidLLM es un servidor proxy que se sitúa entre tus aplicaciones y los servidores locales de LLM como Ollama y vLLM. Añade control de acceso por organización y equipo, gestión de claves API, seguimiento de uso y limitación de tasa sin ver nunca tus prompts o contenido.
Características Principales
- Compatible con OpenAI — funciona con cualquier SDK que soporte el formato de API de OpenAI
- Adaptadores para proveedores: Ollama, vLLM, Anthropic, Azure y OpenAI
- Sobrecarga de proxy <2ms
- Limitación de tasa por organización, equipo o clave API (distribuida vía Redis)
- Seguimiento de costes y panel de análisis
- Cero registro de contenido — solo metadatos (quién accedió a qué modelo y cuántos tokens se usaron)
Caso de Uso
Si estás ejecutando Ollama o vLLM localmente y quieres compartirlo con un equipo con control de acceso adecuado y visibilidad de uso, este proxy proporciona esas capacidades manteniendo la privacidad a través de su arquitectura de conocimiento cero.
La herramienta está disponible en GitHub en github.com/voidmind-io/voidllm.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
Código de Claude Utilizado para Simular Más de 4,000 Juegos de Hombre Lobo Ciego con LLMs
Un desarrollador utilizó Claude Code para construir un simulador donde los LLM juegan al Werewolf ciego de una noche, ejecutando aproximadamente 4,600 juegos en modelos de OpenAI y xAI. El experimento reveló patrones de votación consistentes basados en nombres a pesar de las señales mínimas del juego.
OpenObscure: Cortafuegos de Privacidad de Código Abierto para Agentes de IA en Dispositivos
OpenObscure es un cortafuegos de privacidad de código abierto y en el dispositivo que se sitúa entre los agentes de IA y los proveedores de LLM, utilizando el cifrado FF1 de preservación de formato para cifrar valores de PII antes de que las solicitudes salgan de tu dispositivo. Incluye detección de PII con un 99,7% de recuperación, escaneo de cortafuegos cognitivo y funciona en macOS/Linux/Windows con enlaces para iOS/Android.
Asistente de Enseñanza de IA de UIUC Ejecuta 11 Modelos en Paralelo para Respuestas en Menos de 2 Segundos
El chatbot AI TA de UIUC ejecuta 11 modelos en paralelo para recuperación y generación de texto e imágenes, moderación y clasificación, logrando un tiempo de respuesta medio de 2 segundos. Código abierto con RAG de Pinecone y conjunto de datos RLHF.
Architor: Herramienta de Código Abierto para Flujos de Trabajo de Arquitectura con Fases Controladas por Claude Code
Architor es una herramienta de código abierto que estructura Claude Code en un asistente de arquitectura con fases controladas y memoria de diseño persistente. Organiza el diseño del sistema en fases de evaluación de requisitos, decisiones de arquitectura, diseño de componentes y validación, rastreando las decisiones en un espacio de trabajo .arch.