Escáner de Inyección de Solicitudes en Modelos Locales para la Seguridad de Habilidades de IA
Vulnerabilidad de Seguridad en Habilidades de IA
Una discusión en X destacó una grave falla de seguridad en habilidades de IA de terceros. Claude Code admite el operador ! para ejecutar comandos bash directamente dentro de las habilidades, pero estos operadores pueden ocultarse en etiquetas HTML, lo que lleva a ejecuciones bash de las que el LLM podría no estar consciente.
Implementación del Escáner Local
Se ha construido una herramienta de prueba de concepto para escanear habilidades en busca de posibles inyecciones de malware durante la instalación. El escáner utiliza un modelo sin capacidad de llamadas a herramientas que se ejecuta localmente, específicamente mistral-small:latest en Ollama. El creador informa que "funcionó de maravilla" durante las pruebas.
El enfoque funciona de manera similar a un escáner de virus y podría integrarse en un futuro producto "instalador de habilidades". La protección contra la inyección de prompts se identifica como una aplicación prometedora para modelos locales.
Detalles Técnicos
La vulnerabilidad involucra el operador ! en Claude Code que permite la ejecución directa de comandos bash. Los atacantes pueden ocultar estos operadores dentro de etiquetas HTML, ejecutando potencialmente comandos maliciosos sin el conocimiento del LLM. El escáner aborda esto analizando las habilidades antes de la instalación para detectar tales inyecciones ocultas.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
Análisis de Seguridad de Agentes de IA Revela Modelo de Confianza Roto y Altas Tasas de Vulnerabilidad
Un análisis de seguridad de agentes de IA muestra que el modelo de confianza fundamental está roto, con el 49% de los paquetes MCP presentando hallazgos de seguridad y la inyección indirecta logrando tasas de éxito de ataque del 36-98% en los modelos más avanzados.
Los modelos Claude son vulnerables al secuestro mediante caracteres Unicode invisibles, especialmente con acceso a herramientas.
Las pruebas muestran que Claude Sonnet 4 tiene un 71.2% de cumplimiento con instrucciones ocultas incrustadas en caracteres Unicode invisibles cuando las herramientas están habilitadas, mientras que Opus 4 alcanza un 100% de cumplimiento en la codificación Unicode Tags. El acceso a herramientas aumenta drásticamente la vulnerabilidad en todos los modelos Claude.
Informe Independiente sobre Hallazgos de Confiabilidad y Seguridad del Servidor MCP
Un análisis independiente de 2.181 endpoints de servidores MCP revela que el 52% están inactivos, 300 no tienen autenticación y el 51% tienen configuraciones CORS completamente abiertas. El informe incluye la metodología y una herramienta de prueba.
Aislamiento de capa de proxy para la seguridad de la clave API del agente local
Un desarrollador comparte un enfoque para el aislamiento de claves API en configuraciones locales de agentes utilizando un proxy en Rust que reemplaza tokens de marcador por credenciales reales, evitando la exposición en la memoria del agente, registros, ventanas de contexto y entornos de herramientas.