La Función de Uso de Computadora de Anthropic Provoca un Bloqueo de Gobernanza en una Prueba Real
Qué Ocurrió
Anthropic lanzó funcionalidad de uso informático. Un desarrollador estaba trabajando dentro de una sesión gobernada de Claude Code para añadir cobertura de aplicación para estas nuevas herramientas cuando el sistema entró en modo BLOQUEO.
Detalles Clave del Incidente
El sistema de gobernanza rastrea el riesgo acumulado de operaciones denegadas. Cuando este riesgo superó 0.50, el sistema escaló automáticamente a postura de BLOQUEO con estos efectos:
- La sesión aún podía leer archivos
- Todas las operaciones de escritura fueron bloqueadas
- Los comandos de modificación no podían ejecutarse
- Se impidieron los envíos a GitHub
- La capa de gobernanza bloqueó a su propio operador de completar el trabajo que habría fortalecido el sistema de gobernanza
Mecanismo de Aplicación
El BLOQUEO se aplica mecánicamente por el sistema de ganchos con estas características:
- No existe canal de anulación
- El modelo no puede eludir la puerta mediante conversación
- El operador no puede emitir excepciones internas
- El único camino de recuperación requiere salir completamente de la sesión
Proceso de Resolución
Para continuar el trabajo, el desarrollador tuvo que:
- Salir de la sesión gobernada
- Abrir una terminal en su máquina local
- Enviar el commit manualmente
El sistema forzó la intervención humana fuera de su jurisdicción, creando lo que el desarrollador describe como "la diferencia entre la gobernanza que describes y la gobernanza que aplicas".
Notas sobre el Comportamiento del Sistema
La implementación del BLOQUEO no se degrada gradualmente, no pide confirmación y mantiene el estado detenido hasta que ocurre una acción humana externamente. El desarrollador señala: "Esa negativa es el producto".
📖 Leer la fuente completa: r/ClaudeAI
👀 Ver también
Brecha de Seguridad de OpenClaw: Agente del CEO Vendido por $25K, 135K Instancias Expuestas
Una instancia de OpenClaw de un CEO del Reino Unido se vendió por $25,000 en BreachForums, exponiendo archivos Markdown en texto plano que contenían conversaciones, bases de datos de producción, claves API y detalles personales. SecurityScorecard encontró 135,000 instancias de OpenClaw expuestas con configuraciones predeterminadas inseguras.
El repositorio de GitHub documenta 16 técnicas de inyección de prompts y estrategias de defensa para chats públicos de IA.
Un desarrollador publicó un repositorio en GitHub que detalla medidas de seguridad para chatbots de IA públicos después de que usuarios intentaran inyección de prompts, ataques de roleplay, trucos multilingües y payloads codificados en base64. La guía incluye una habilidad de código de Claude para probar las 16 técnicas de inyección documentadas.
AWS informa que un ataque potenciado por IA comprometió más de 600 firewalls FortiGate.
Los ciberdelincuentes utilizaron herramientas de IA generativa disponibles comercialmente para comprometer más de 600 firewalls FortiGate expuestos a Internet en 55 países durante una campaña de un mes, según AWS. Los atacantes escanearon interfaces de gestión expuestas, probaron credenciales débiles y utilizaron IA para generar guías de ataque y scripts.
Descifrado de la Mediación de AppLovin: La Huella Digital del Dispositivo Evita ATT
La ingeniería inversa reveló que el cifrado personalizado de AppLovin utiliza una sal constante + clave del SDK, un PRNG SplitMix64 y ninguna autenticación. Las solicitudes descifradas transmiten aproximadamente 50 campos del dispositivo (modelo de hardware, tamaño de pantalla, configuración regional, tiempo de arranque, etc.) incluso cuando se deniega ATT, lo que permite la reidentificación determinista entre aplicaciones.