Inyección de Autoridad de Herramientas en Agentes LLM: Cuando la Salida de Herramientas Anula la Intención del Sistema
Un investigador ha construido un laboratorio local de agentes LLM para demostrar 'Inyección de Autoridad de Herramientas' - un escenario donde la salida de herramientas anula la intención del sistema en agentes de IA.
Detalles Clave de la Fuente
En la Parte 3 de su serie de laboratorio, el investigador explora una forma enfocada de envenenamiento de herramientas donde un agente de IA eleva la salida confiable de herramientas al nivel de autoridad de políticas y cambia silenciosamente el comportamiento. El fallo ocurre en la capa de razonamiento, no en el nivel de sandbox o acceso a archivos - ambos permanecen intactos y seguros.
La demostración muestra cómo la salida de herramientas puede convertirse en política en agentes LLM, creando una vulnerabilidad donde el comportamiento del agente cambia sin signos evidentes de compromiso. Este tipo de ataque ocurre en la capa de razonamiento en lugar de a través de brechas de seguridad tradicionales.
Contexto Técnico
Para desarrolladores que trabajan con agentes de IA, esta demostración destaca una consideración de seguridad sutil pero importante: incluso cuando el sandboxing y los controles de acceso a archivos están implementados correctamente, la capa de razonamiento donde se integran las herramientas aún puede ser vulnerable a la manipulación. El agente continúa operando dentro de sus restricciones pero toma decisiones diferentes basadas en la salida envenenada de herramientas.
El informe técnico completo proporciona detalles específicos sobre la configuración del laboratorio, vectores de ataque e implicaciones para la seguridad de agentes de IA.
📖 Read the full source: r/LocalLLaMA
👀 Ver también
Axios 1.14.1 comprometido con malware, apunta a flujos de trabajo de desarrollo asistidos por IA.
La versión 1.14.1 de Axios ha sido comprometida en un ataque de cadena de suministro que incorpora silenciosamente [email protected], un dropper de RAT ofuscado. Los desarrolladores que utilizan asistentes de codificación con IA como Claude deben verificar inmediatamente sus archivos de bloqueo y máquinas en busca de infección.
La fuga del mapa de código fuente de Claude revela que el JavaScript minificado ya era público en npm
Un archivo de mapa de fuentes incluido accidentalmente en la versión 2.1.88 del paquete npm @anthropic-ai/claude-code reveló comentarios internos de los desarrolladores, pero el archivo cli.js real de 13 MB que contiene más de 148,000 cadenas de texto plano ha sido públicamente accesible en npm desde su lanzamiento.
Estudiante contribuye con dos parches de seguridad al sistema de producción OpenClaw.
Un desarrollador estudiantil corrigió una vulnerabilidad de 'fallo abierto' en la lógica de puerta de enlace de OpenClaw (PR #29198) y una vulnerabilidad de tabnabbing en las imágenes del chat (PR #18685), con ambos parches implementados en las versiones de producción v2026.3.1 y v2026.2.24 respectivamente.
Sieve: Escáner de Secretos Local para Historiales de Chat de Herramientas de Codificación de IA
Sieve escanea los historiales de chat de Cursor, Claude Code, Copilot y otros asistentes de codificación con IA en busca de claves API y tokens filtrados. Todo el escaneo es local, con redacción y bóveda de llavero de macOS.