SREs de IA Resolvem Incidentes de Rotina, Mas Engenheiros Perdem o Contato com Seus Sistemas

Sylvain Kalache — SRE no LinkedIn em 2012 — reflete sobre seu protótipo inicial para um sistema de autocorreção e vê sua realização nas ferramentas atuais de resposta a incidentes impulsionadas por IA. Mas, em uma nova postagem no blog, ele alerta que esses "SREs de IA" estão corroendo a experiência prática que os engenheiros precisam para lidar com falhas verdadeiramente novas.

As ironias da automação

Kalache destaca as "Ironias da Automação", um conceito do artigo de 1983 de Lisanne Bainbridge. A automação remove oportunidades de prática rotineira, deixando os humanos responsáveis por situações anormais. Esse paradoxo se aplica diretamente à resposta a incidentes:

• As ferramentas de IA lidam com alertas, formulam hipóteses, consultam telemetria e até implementam correções — reduzindo a necessidade de intervenção humana em incidentes de rotina.
• Mas esses incidentes de rotina são exatamente onde os engenheiros constroem intuição sobre como seus sistemas se comportam e falham.
• Quando ocorre um incidente ambíguo e de alta gravidade que a automação não consegue resolver, espera-se que os respondedores intervenham com menos prática do que teriam tido anteriormente.

Aviação como modelo para treinamento em falhas raras

Kalache aponta a aviação como precedente. Motores de turbina modernos sofrem menos de uma parada em voo por 100.000 horas de voo do motor — raro o suficiente para que um piloto nunca enfrente isso na vida real. No entanto, os pilotos devem responder corretamente quando isso acontece. Por exemplo, o acidente do Voo 235 da TransAsia Airways ocorreu apenas 117 segundos após o primeiro aviso, depois que a tripulação identificou erroneamente uma falha no motor.

Para se preparar, os pilotos de companhias aéreas passam por treinamento recorrente em simulador a cada seis meses, de acordo com as regras da FAA, incluindo cenários de falha de motor. Kalache sugere que engenheiros de software precisam de "simuladores de incidente" semelhantes para ensaiar falhas raras e complexas.

Simuladores e IA como treinadores

O atual empregador de Kalache, a Rootly, fez parceria com a Uptime Labs para construir exatamente isso: simulações realistas de incidentes. Os engenheiros assumem o papel de comandante de incidente durante uma simulação de interrupção de comércio eletrônico, usando ferramentas de observabilidade e coordenando com partes interessadas alimentadas por LLM no Slack. Isso fornece prática segura para:

• Dar sentido a informações incompletas
• Comunicar-se claramente
• Coordenar os respondentes
• Executar a resposta real

A IA também pode ser usada como treinadora — explicando seus passos e evidências — mas Kalache adverte que assistir não substitui fazer. "Você pode aprender algumas coisas assistindo Serena Williams jogar", escreve ele, "mas só aprende tênis entrando na quadra."