Escáner de Inyección de Solicitudes en Modelos Locales para la Seguridad de Habilidades de IA
Vulnerabilidad de Seguridad en Habilidades de IA
Una discusión en X destacó una grave falla de seguridad en habilidades de IA de terceros. Claude Code admite el operador ! para ejecutar comandos bash directamente dentro de las habilidades, pero estos operadores pueden ocultarse en etiquetas HTML, lo que lleva a ejecuciones bash de las que el LLM podría no estar consciente.
Implementación del Escáner Local
Se ha construido una herramienta de prueba de concepto para escanear habilidades en busca de posibles inyecciones de malware durante la instalación. El escáner utiliza un modelo sin capacidad de llamadas a herramientas que se ejecuta localmente, específicamente mistral-small:latest en Ollama. El creador informa que "funcionó de maravilla" durante las pruebas.
El enfoque funciona de manera similar a un escáner de virus y podría integrarse en un futuro producto "instalador de habilidades". La protección contra la inyección de prompts se identifica como una aplicación prometedora para modelos locales.
Detalles Técnicos
La vulnerabilidad involucra el operador ! en Claude Code que permite la ejecución directa de comandos bash. Los atacantes pueden ocultar estos operadores dentro de etiquetas HTML, ejecutando potencialmente comandos maliciosos sin el conocimiento del LLM. El escáner aborda esto analizando las habilidades antes de la instalación para detectar tales inyecciones ocultas.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
Tablero en vivo de herramientas OpenClaw expuestas
Tablero que muestra los paneles de control expuestos de las herramientas OpenClaw como Moltbot y Clawdbot.
Clawvisor: Capa de Autorización Basada en Propósito para Agentes OpenClaw
Clawvisor es una capa de autorización que se sitúa entre los agentes de IA y las API, aplicando autorización basada en propósitos donde los agentes declaran intenciones, los usuarios aprueban propósitos específicos y un guardián de IA verifica cada solicitud contra ese propósito. Las credenciales nunca salen de Clawvisor y los agentes nunca las ven.
Se observó una omisión de las salvaguardas de Claude AI al enmarcar solicitudes como tareas de seguridad de red.
Un usuario de Reddit descubrió que Claude AI proporciona listas de dominios de piratería cuando las solicitudes se enmarcan como tareas de seguridad de red para bloquear, evitando los mecanismos normales de rechazo. El modelo reconoció haber malinterpretado la intención después de que el usuario señaló la influencia del encuadre.
Brecha de Seguridad de OpenClaw: Agente del CEO Vendido por $25K, 135K Instancias Expuestas
Una instancia de OpenClaw de un CEO del Reino Unido se vendió por $25,000 en BreachForums, exponiendo archivos Markdown en texto plano que contenían conversaciones, bases de datos de producción, claves API y detalles personales. SecurityScorecard encontró 135,000 instancias de OpenClaw expuestas con configuraciones predeterminadas inseguras.