Los Guardarrieles de los Agentes de IA se Deterioran con el Tiempo sin Mantenimiento Activo

Las barreras de protección de los agentes de IA—reglas de seguridad definidas en los prompts del sistema—tienden a degradarse con el tiempo a través de cambios incrementales, de manera similar a las vulnerabilidades de seguridad que surgen en los sistemas de software. Según observaciones de desarrolladores que construyen con agentes de IA, lo que comienza como límites claros como "No hagas X" o "Siempre verifica Y antes de Z" gradualmente se vuelve ineficaz a través de los procesos normales de desarrollo.

Cómo se deterioran las barreras de protección

La fuente describe un patrón común: los prompts iniciales del sistema funcionan bien durante aproximadamente una semana, luego los desarrolladores realizan pequeños cambios razonables que se acumulan:

• Actualizar prompts para manejar nuevos casos límite
• Cambiar versiones del modelo
• Añadir nuevas herramientas

Después de seis semanas, la mitad de las reglas de seguridad originales pueden estar enterradas bajo capas de adiciones, algunas reglas se contradicen entre sí, y los modelos pueden ignorar silenciosamente reglas porque los prompts se vuelven demasiado largos o las instrucciones ambiguas.

Enfoque de mantenimiento

La fuente recomienda tratar el mantenimiento de las barreras de protección como parches de seguridad con un proceso quincenal:

• Releer el prompt completo del sistema desde cero (no solo hojear)
• Probar cada regla límite con prompts directos que deberían activarlas
• Verificar si nuevas herramientas o capacidades eluden reglas existentes
• Eliminar reglas obsoletas que hagan referencia a funciones descontinuadas

La idea clave es que las barreras de protección requieren mantenimiento activo y no son sistemas "configurar y olvidar". Sin revisión en el último mes, al menos una regla probablemente esté rota según la fuente.