KI-SREs beheben Routinevorfälle, aber Ingenieure verlieren den Bezug zu ihren Systemen

Sylvain Kalache — 2012 SRE bei LinkedIn — denkt über seinen frühen Prototypen für ein selbstheilendes System nach und sieht dessen Verwirklichung in den heutigen KI-gesteuerten Incident-Response-Tools. Doch in einem neuen Blogbeitrag warnt er, dass diese "KI-SREs" die praktische Erfahrung untergraben, die Ingenieure benötigen, um wirklich neuartige Ausfälle zu bewältigen.

Die Ironien der Automation

Kalache hebt die "Ironien der Automation" hervor, ein Konzept aus Lisanne Bainbridges Paper von 1983. Automation entfernt Routineübungsmöglichkeiten, während sie Menschen für abnormale Situationen verantwortlich lässt. Dieses Paradoxon gilt direkt für die Incident-Response:

• KI-Tools behandeln Alarme, bilden Hypothesen, fragen Telemetrie ab und implementieren sogar Fixes — wodurch die Notwendigkeit menschlicher Eingriffe bei Routineincidents reduziert wird.
• Aber genau bei diesen Routineincidents bauen Ingenieure ihre Intuition dafür auf, wie ihre Systeme sich verhalten und versagen.
• Wenn ein mehrdeutiger, schwerwiegender Incident auftritt, den die Automation nicht lösen kann, sollen die Responder mit weniger Übung eingreifen, als sie zuvor gehabt hätten.

Luftfahrt als Vorbild für das Training seltener Ausfälle

Kalache verweist auf die Luftfahrt als Präzedenzfall. Moderne Turbinentriebwerke haben weniger als einen Triebwerksausfall während des Flugs pro 100.000 Flugstunden — so selten, dass ein Pilot es im echten Leben vielleicht nie erlebt. Doch Piloten müssen richtig reagieren, wenn es passiert. Zum Beispiel ereignete sich der Absturz von TransAsia-Flug 235 nur 117 Sekunden nach der ersten Warnung, nachdem die Besatzung einen Triebwerksausfall fehlinterpretiert hatte.

Um vorbereitet zu sein, absolvieren Verkehrspiloten gemäß FAA-Vorschriften alle sechs Monate ein Simulator-Training, einschließlich Szenarien mit Triebwerksausfällen. Kalache schlägt vor, dass Software-Ingenieure ähnliche "Incident-Simulatoren" benötigen, um seltene und komplexe Ausfälle zu proben.

Simulatoren und KI als Trainer

Kalaches aktueller Arbeitgeber Rootly hat in Partnerschaft mit Uptime Labs genau das entwickelt: realistische Incident-Simulationen. Ingenieure übernehmen die Rolle des Incident-Commanders während eines simulierten E-Commerce-Ausfalls, nutzen Observability-Tools und koordinieren sich mit LLM-gestützten Stakeholdern in Slack. Dies bietet sichere Übung für:

• Das Verstehen unvollständiger Informationen
• Klare Kommunikation
• Die Koordination von Respondern
• Die Durchführung der eigentlichen Reaktion

KI kann auch als Trainer eingesetzt werden — indem sie ihre Schritte und Beweise erklärt — aber Kalache warnt, dass Zuschauen das Handeln nicht ersetzt. "Man kann ein paar Dinge aufschnappen, wenn man Serena Williams zusieht", schreibt er, "aber Tennis lernt man nur, indem man auf den Platz geht."