VoidLLM: Proxy de Conhecimento Zero para Ollama e vLLM com Controle de Acesso por Equipe
VoidLLM é um servidor proxy que fica entre suas aplicações e servidores locais de LLM como Ollama e vLLM. Ele adiciona controle de acesso por organização e equipe, gerenciamento de chaves de API, rastreamento de uso e limitação de taxa sem nunca ver seus prompts ou conteúdo.
Principais Recursos
- Compatível com OpenAI — funciona com qualquer SDK que suporte o formato da API OpenAI
- Adaptadores para provedores Ollama, vLLM, Anthropic, Azure e OpenAI
- Sobrecarga de proxy <2ms
- Limitação de taxa por organização, equipe ou chave de API (distribuída via Redis)
- Rastreamento de custos e painel de análises
- Zero registro de conteúdo — apenas metadados (quem acessou qual modelo e quantos tokens foram usados)
Caso de Uso
Se você está executando Ollama ou vLLM localmente e deseja compartilhá-lo com uma equipe com controle de acesso adequado e visibilidade de uso, este proxy fornece essas capacidades enquanto mantém a privacidade através de sua arquitetura de conhecimento zero.
A ferramenta está disponível no GitHub em github.com/voidmind-io/voidllm.
📖 Leia a fonte completa: r/LocalLLaMA
👀 See Also
Linha de Status Personalizada para Claude Code Mostra Uso de Contexto, Custo e Branch do Git
Um usuário do Reddit criou um script bash que utiliza a configuração statusLine do Claude Code para exibir informações em tempo real, incluindo uso da janela de contexto, custo da sessão, modelo ativo e branch atual do git. O script requer jq e está disponível no GitHub.
Via Camada de Integração Universal de Código Aberto Conecta Ferramentas de IA ao Barramento de Contexto Compartilhado
Via é uma camada de integração universal de código aberto que conecta Claude, Cursor, Windsurf, ChatGPT, LangChain e outras ferramentas de IA a um barramento compartilhado de contexto, tarefa e memória, permitindo que o trabalho acompanhe os usuários entre ferramentas, sessões e máquinas.
Docent: Um Assistente de IA para Análise de Documentos Criado com Claude Code
Um desenvolvedor criou o Docent, um assistente de IA que lê artigos enviados, os apresenta, responde perguntas e avalia a compreensão usando o Claude Code. O projeto está disponível no GitHub sob a Licença MIT com uma demonstração no Vercel.
Nelson: Um Plugin Claude Code para Coordenar Agentes de IA Como uma Frota Naval
Nelson é um plugin do Claude Code que estrutura a coordenação de agentes de IA usando princípios de frota naval, apresentando três modos de execução, um sistema de classificação de risco, monitoramento de integridade do casco e portões de ordens permanentes para prevenir antipadrões comuns.