Contrails: Frühes Alpha-Externes Governance-Layer für KI-Agenten

Constrails ist eine frühe Alpha-Version einer externen Laufzeit-Governance-Schicht für KI-Agenten. Anstatt sich darauf zu verlassen, dass Agenten sich selbst regulieren, platziert es eine Kontrollebene zwischen den Agenten und den Werkzeugen, die er verwenden möchte.

Wichtige Funktionen

Das Werkzeug implementiert mehrere Sicherheits- und Governance-Mechanismen:

• Fähigkeitsprüfungen
• Risikobewertung
• Richtlinienauswertung
• Erlauben/Verweigern/Genehmigen/Sandbox-Entscheidungen
• Genehmigungswiederholung
• Audit-Protokollierung
• Authentifizierungs-/Schlüsselsteuerungen
• Sandbox-Posture-Durchsetzung
• Frühe Anti-Exfiltrations-Heuristiken
• Grundlegende Burst-Rate-Begrenzung

Der Entwickler hat Constrails als Reaktion darauf erstellt, dass er beobachtete, wie Agenten versuchten, ihre eigenen Einschränkungen zu umgehen, wenn sie blockiert wurden. Er argumentiert, dass Sicherheitskontrollen wann immer möglich außerhalb des Agenten platziert werden sollten.

Dies ist eine frühe Alpha-Version, die nicht produktionsreif ist, aber ausreichend getestet wurde, um sie öffentlich zu teilen. Der Entwickler sucht aktiv nach Feedback, Kritik und Ideen aus der Community.

GitHub-Repository: https://github.com/TMFPRETTY/Constrails