AI SREは日常的なインシデントを解決するが、エンジニアはシステムへの理解を失う

2012年にLinkedInでSREを務めていたシルヴァン・カラシュ氏は、自己修復システムの初期プロトタイプを振り返り、現在のAI駆動型インシデント対応ツールにその実現を見ている。しかし、新しいブログ記事で、これらの「AI SRE」が、エンジニアが真に新しい障害に対処するために必要な実践経験を侵食していると警告している。

自動化の皮肉

カラシュ氏は、リサンヌ・ベインブリッジの1983年の論文による「自動化の皮肉」という概念を強調する。自動化は日常的な実践の機会を奪い、人間に異常時への対応を任せる。このパラドックスはインシデント対応に直接当てはまる：

• AIツールはアラートの処理、仮説の立案、テレメトリの照会、さらには修正の実装まで行い、日常的なインシデントへの人手の介入を減らす。
• しかし、そうした日常的なインシデントこそ、エンジニアがシステムの挙動や障害についての直感を養う場である。
• 自動化が解決できない曖昧で重大度の高いインシデントが発生した場合、対応者は以前よりも経験が少ない状態で対応を求められる。

航空業界に学ぶ希少な障害への訓練

カラシュ氏は航空業界を先例として挙げる。現代のタービンエンジンは10万エンジン飛行時間あたり1回未満の空中停止しか起こさず、パイロットが実際に遭遇することはまれである。それでもパイロットは発生時に正しく対応しなければならない。例えば、トランスアジア航空235便の墜落は、乗員がエンジン故障を誤認した後、最初の警告からわずか117秒で発生した。

備えとして、航空会社のパイロットはFAA規則に基づき、6か月ごとにエンジン故障のシナリオを含む定期的なシミュレーター訓練を受ける。カラシュ氏はソフトウェアエンジニアにも、希少で複雑な障害を練習するための同様の「インシデントシミュレーター」が必要だと提案する。

シミュレーターとAIトレーナー

カラシュ氏の現在の雇用先であるRootlyは、Uptime Labsと提携して、まさにそのための現実的なインシデントシミュレーションを構築した。エンジニアはシミュレートされたECOM障害時にインシデントコマンダー役を務め、可観測性ツールを使用し、SlackでLLMを活用した関係者と調整する。これは以下のための安全な練習を提供する：

• 不完全な情報を理解する
• 明確にコミュニケーションする
• 対応者を調整する
• 実際の対応を実行する

AIはトレーナーとしても使用でき、その手順と根拠を説明する。しかしカラシュ氏は、見るだけでは実際に行うことの代わりにはならないと警告する。「セリーナ・ウィリアムズのプレーを見ていくつか学ぶかもしれませんが、テニスを学ぶにはコートに立つ必要があります」と彼は書いている。