Les SRE basés sur l'IA résolvent les incidents courants, mais les ingénieurs perdent le contact avec leurs systèmes

Sylvain Kalache — un SRE chez LinkedIn en 2012 — réfléchit à son premier prototype de système auto-réparateur et voit sa réalisation dans les outils de réponse aux incidents pilotés par l'IA d'aujourd'hui. Mais dans un nouvel article de blog, il prévient que ces « IA SRE » érodent l'expérience pratique dont les ingénieurs ont besoin pour gérer des pannes vraiment nouvelles.

Les ironies de l'automatisation

Kalache met en avant les « Ironies of Automation », un concept tiré d'un article de Lisanne Bainbridge en 1983. L'automatisation supprime les occasions de pratique de routine tout en laissant aux humains la responsabilité des situations anormales. Ce paradoxe s'applique directement à la réponse aux incidents :

• Les outils d'IA gèrent les alertes, formulent des hypothèses, interrogent la télémétrie, et même mettent en œuvre des correctifs — réduisant le besoin d'intervention humaine sur les incidents courants.
• Mais ces incidents courants sont précisément là où les ingénieurs développent leur intuition sur le comportement et les défaillances de leurs systèmes.
• Lorsqu'un incident ambigu et de haute gravité survient que l'automatisation ne peut pas résoudre, on attend des intervenants qu'ils prennent le relais avec moins de pratique qu'ils n'en auraient eue auparavant.

L'aviation comme modèle pour s'entraîner aux pannes rares

Kalache cite l'aviation comme précédent. Les moteurs à turbine modernes subissent moins d'une extinction en vol pour 100 000 heures de vol moteur — assez rare pour qu'un pilote ne la rencontre jamais dans la vie réelle. Pourtant, les pilotes doivent réagir correctement quand cela arrive. Par exemple, le crash du vol 235 de TransAsia Airways s'est produit seulement 117 secondes après le premier avertissement après que l'équipage a mal identifié une panne moteur.

Pour se préparer, les pilotes de ligne suivent un entraînement récurrent sur simulateur tous les six mois selon les règles de la FAA, incluant des scénarios de panne moteur. Kalache suggère que les ingénieurs logiciels ont besoin de « simulateurs d'incidents » similaires pour répéter les pannes rares et complexes.

Les simulateurs et l'IA comme entraîneurs

L'employeur actuel de Kalache, Rootly, a collaboré avec Uptime Labs pour construire exactement cela : des simulations d'incidents réalistes. Les ingénieurs prennent le rôle de commandant d'incident lors d'une simulation de panne e-commerce, utilisant des outils d'observabilité et coordonnant avec des parties prenantes propulsées par des LLM dans Slack. Cela fournit une pratique sécurisée pour :

• Donner un sens à des informations incomplètes
• Communiquer clairement
• Coordonner les intervenants
• Exécuter la réponse réelle

L'IA peut aussi être utilisée comme entraîneur — expliquant ses étapes et preuves — mais Kalache avertit que regarder ne remplacera pas agir. « Vous pourriez apprendre quelques trucs en regardant Serena Williams jouer », écrit-il, « mais on n'apprend le tennis qu'en descendant sur le court. »