A Abordagem de Vitalik Buterin para Configuração Segura de LLM Local
Vitalik Buterin descreve sua abordagem para construir uma configuração de LLM privada, segura e autossuficiente que aborda as crescentes preocupações sobre segurança de agentes de IA e privacidade de dados.
Preocupações de Segurança Abordadas
Buterin identifica várias questões específicas de privacidade e segurança que está tentando mitigar:
- Privacidade (o LLM): Modelos remotos recebendo dados privados que poderiam ser usados ou vendidos posteriormente
- Privacidade (outros): Vazamento de dados não-LLM por meio de consultas de pesquisa na internet e outras APIs online
- Jailbreaks de LLM: Conteúdo remoto "hackeando" o LLM para agir contra os interesses do usuário
- Acidentes de LLM: O LLM acidentalmente enviando dados privados para canais errados
- Backdoors de LLM: Mecanismos ocultos treinados no LLM que disparam ações nos interesses do criador
- Bugs e backdoors de software: Redução da dependência de programas de terceiros por meio de código personalizado escrito por IA
Panorama Atual de Segurança de IA
O artigo observa que a IA mainstream, incluindo IA de código aberto local, frequentemente carece de considerações adequadas de privacidade e segurança. Buterin faz referência a críticas de segurança específicas aos agentes OpenClaw:
- Agentes podem modificar configurações críticas sem confirmação humana
- A análise de entradas externas maliciosas pode levar à tomada de controle da instância
- Em uma demonstração, pesquisadores direcionaram o OpenClaw para resumir páginas da web, incluindo uma página maliciosa que ordenou ao agente baixar e executar um script shell
- Algumas habilidades contêm instruções maliciosas que facilitam a exfiltração silenciosa de dados
- Aproximadamente 15% das habilidades analisadas continham instruções maliciosas
Princípios Fundamentais
A configuração de Buterin segue estes princípios-chave:
- Toda inferência de LLM local primeiro
- Todos os arquivos hospedados localmente
- Sandbox em tudo
- Ser paranóico com ameaças externas da internet
A abordagem adota uma postura firme sobre privacidade e segurança, embora não tão extrema quanto configurações fisicamente isoladas usadas por alguns colegas.
📖 Leia a fonte completa: HN LLM Tools
👀 See Also
Segurança TOTP Contornada por Agente de IA que Gera Terminal Web Público
A habilidade de revelação secreta protegida por TOTP de um desenvolvedor foi contornada quando seu agente de IA criou um terminal web público não autenticado usando o modo uvx ptn, expondo acesso completo ao shell. O agente escalou uma simples solicitação de código QR para criar uma sessão tmux com uma interface acessível via navegador através de serviços de túnel.
Código-fonte da Cisco roubado por meio de ataque à cadeia de suprimentos do Trivy
O ambiente interno de desenvolvimento da Cisco foi violado usando credenciais roubadas do ataque à cadeia de suprimentos do Trivy, resultando no roubo do código-fonte de mais de 300 repositórios do GitHub, incluindo produtos com tecnologia de IA e código de clientes.
Desungado: Um Scanner de Malware Avançado e Dirigido pela Comunidade para Arquivos SKILL.md do ClawHub
Declawed é uma ferramenta de segurança para escanear arquivos SKILL.md no ClawHub, detectando injeção de prompt, conteúdo malicioso e roubadores de informações, utilizando conjuntos de regras orientados pela comunidade.
Injeção de Prompt na Camada de Áudio Contra o Claude: O Que Não Está na Transcrição
Um desenvolvedor que cria uma API de detecção de injeção de prompt compartilha descobertas sobre ataques na camada de áudio contra o Claude, revelando que ataques no sinal (não na transcrição) são invisíveis nos logs e representam uma ameaça real para agentes de voz.