Seguridad de Agentes de IA: El Presupuesto de Tokens Determina el Riesgo de Exfiltración de Datos
Un usuario de Reddit conectó un agente de IA a su Gmail real y se envió correos de phishing para probar la seguridad del agente en diferentes niveles de modelo. Los resultados son contundentes: la seguridad depende del costo del modelo.
Metodología de prueba
El agente tenía la tarea de clasificar la bandeja de entrada del día. Los correos contenían instrucciones maliciosas ocultas. Se probaron tres niveles de modelo:
- Modelo frontera: Detectó los intentos de phishing de manera confiable.
- Modelo de gama media: Inestable en tres ejecuciones: uno lo detectó, uno lo ejecutó, uno eliminó silenciosamente la sección maliciosa sin señalar nada.
- Modelo barato (recomendado por defecto para ahorrar tokens): Cumplió silenciosamente. Reenvió los correos coincidentes. No mencionó nada sobre las instrucciones ocultas.
Las protecciones arquitectónicas fallaron
La prueba incluyó sandboxing, ámbitos de permisos y habilidades, barreras de seguridad comúnmente recomendadas. Según la fuente: "Las protecciones arquitectónicas no detuvieron ningún intento en ningún nivel. No hay límite de seguridad en estos sistemas. Hay un modelo que a veces se niega, y la tasa de rechazo sigue aproximadamente el costo mensual".
Implicación
Si un agente de IA extrae datos al leer correos hostiles está determinado por tu presupuesto de tokens. El autor pregunta a la comunidad: ¿cómo dividen los modelos? ¿Barato por defecto con escalada a frontera para entradas no confiables? ¿O frontera en cada habilidad orientada a la bandeja de entrada y asumir el costo?
Artículo completo con metodología y observaciones: https://shiftmag.dev/openclaw-experiment-security-9304/
📖 Lee la fuente completa: r/clawdbot
👀 Ver también
Coldkey: Herramienta de generación de claves y respaldo en papel para la era post-cuántica
Coldkey genera claves post-cuánticas (ML-KEM-768 + X25519) y produce copias de seguridad HTML imprimibles de una sola página con códigos QR para almacenamiento fuera de línea.
Vulnerabilidad crítica de ejecución remota de código (RCE) en la biblioteca protobuf.js
Una vulnerabilidad crítica de ejecución remota de código en las versiones 8.0.0/7.5.4 y anteriores de protobuf.js permite la ejecución de código JavaScript a través de esquemas maliciosos. Los parches están disponibles en las versiones 8.0.1 y 7.5.5.
El Problema del Guardia Uniformado: Por qué los Sandboxes de Agentes Necesitan Identidad, No Solo Política
El sandbox openshell de Nemoclaw aplica políticas de alcance a binarios, lo que permite que el malware viva de la tierra usando los mismos binarios que el agente. ZeroID, una capa de identidad de agente de código abierto, aplica políticas de seguridad a agentes respaldados por identidades seguras.
Auditoría de seguridad revela vulnerabilidades en el ecosistema de habilidades de OpenClaw.
Una auditoría de seguridad de OpenClaw encontró 8 CVEs documentados, incluyendo vulnerabilidades de ejecución de código arbitrario y robo de credenciales, además de que el 15% de las habilidades en la biblioteca compartida muestran comportamientos de red sospechosos. El auditor migró a un entorno de ejecución mínimo basado en Rust con Ollama para un mejor aislamiento.