AI SRE가 일상적인 장애를 해결하지만, 엔지니어들은 시스템과의 접점을 잃는다

2012년 LinkedIn에서 SRE로 일했던 실뱅 칼라슈(Sylvain Kalache)는 자기 치유 시스템에 대한 초기 프로토타입을 회상하며, 오늘날 AI 기반 인시던트 대응 도구에서 그 실현을 봅니다. 그러나 새로운 블로그 게시물에서 그는 이러한 'AI SRE'가 엔지니어가 진정한 새로운 장애를 처리하는 데 필요한 실무 경험을 잠식하고 있다고 경고합니다.

자동화의 역설

칼라슈는 Lisanne Bainbridge의 1983년 논문에서 나온 '자동화의 역설'을 강조합니다. 자동화는 일상적인 연습 기회를 제거하면서 인간에게 비정상적인 상황에 대한 책임을 남깁니다. 이 역설은 인시던트 대응에 직접적으로 적용됩니다:

• AI 도구는 알림 처리, 가설 수립, 텔레메트리 질의, 심지어 수정 구현을 수행하여 일상적인 인시던트에 대한 인간의 개입 필요성을 줄입니다.
• 그러나 그러한 일상적인 인시던트는 엔지니어가 시스템이 어떻게 작동하고 실패하는지에 대한 직관을 키우는 곳입니다.
• 자동화가 해결할 수 없는 모호하고 심각한 인시던트가 발생하면, 대응자는 이전보다 연습이 덜 된 상태에서 개입해야 합니다.

드문 장애 훈련의 모델로서의 항공

칼라슈는 항공을 선례로 지적합니다. 현대 터빈 엔진은 엔진 비행 시간 10만 시간당 1건 미만의 공중 정지가 발생하여, 조종사가 실제로 경험하지 못할 정도로 드뭅니다. 그럼에도 조종사는 발생 시 올바르게 대응해야 합니다. 예를 들어, 트랜스아시아 항공 235편 추락 사고는 승무원이 엔진 고장을 잘못 식별한 후 첫 경고 후 불과 117초 만에 발생했습니다.

이에 대비하기 위해 항공사 조종사는 FAA 규정에 따라 6개월마다 엔진 고장 시나리오를 포함한 정기 시뮬레이터 훈련을 받습니다. 칼라슈는 소프트웨어 엔지니어도 드물고 복잡한 장애를 연습하기 위해 유사한 '인시던트 시뮬레이터'가 필요하다고 제안합니다.

시뮬레이터와 훈련자로서의 AI

칼라슈의 현재 고용주인 Rootly는 Uptime Labs와 협력하여 정확히 그러한 현실적인 인시던트 시뮬레이션을 구축했습니다. 엔지니어는 시뮬레이션된 전자상거래 중단 동안 인시던트 커맨더 역할을 맡아 관찰 가능성 도구를 사용하고 Slack에서 LLM 기반 이해관계자와 조정합니다. 이는 다음을 위한 안전한 연습을 제공합니다:

• 불완전한 정보를 이해하기
• 명확하게 의사소통하기
• 대응자 조정하기
• 실제 대응 실행하기

AI는 또한 훈련자로 사용될 수 있습니다—그 단계와 증거를 설명하면서—그러나 칼라슈는 보는 것이 하는 것을 대체하지 않을 것이라고 경고합니다. "세레나 윌리엄스가 경기하는 것을 보면서 몇 가지를 배울 수는 있지만, 테니스를 배우려면 코트에 나서야 합니다"라고 그는 씁니다.