AlterSpec v1.0: Принудительное применение политик во время выполнения для ИИ-агентов

Что делает AlterSpec

AlterSpec — это слой принудительного применения политик, который перехватывает действия ИИ-агентов до того, как они достигнут инструментов, таких как файловые системы, электронная почта, оболочки или API. Вместо потока LLM → выполнение инструмента он создаёт поток LLM → принуждение → инструмент.

Основная функциональность

Перед выполнением любого действия AlterSpec:

• Оценивает действия на соответствие политикам, определённым в YAML и понятным человеку
• Разрешает, блокирует или требует подтверждения
• Ведёт подписанный журнал аудита
• Завершается с ошибкой, если политику не удалось загрузить

Примеры решений политики

Пример заблокированного действия:

ВВОД ПОЛЬЗОВАТЕЛЯ: удалить файл с зарплатами
ПЛАН LLM: {'tool': 'file_delete', 'path': './payroll/payroll_2024.csv'}
РЕЗУЛЬТАТ ПОЛИТИКИ: {'decision': 'deny', 'reason': 'file_delete is disabled in safe_defaults policy'}
КОНЕЧНЫЙ РЕЗУЛЬТАТ: {'outcome': 'blocked'}

Пример разрешённого действия:

ВВОД ПОЛЬЗОВАТЕЛЯ: прочитать квартальный отчёт
ПЛАН LLM: {'tool': 'file_read', 'path': './workspace/quarterly_report.pdf'}
РЕЗУЛЬТАТ ПОЛИТИКИ: {'decision': 'proceed', 'reason': 'file_read allowed, path within permitted roots'}
КОНЕЧНЫЙ РЕЗУЛЬТАТ: {'outcome': 'executed'}

Технические особенности

• Среда выполнения политик с решениями разрешить/запретить/рассмотреть
• Перехват выполнения перед вызовом инструмента
• Криптографическая подпись политик (Ed25519)
• Журнал аудита с объяснимыми решениями
• Поведение политик с учётом ролей
• Поддержка нескольких планировщиков (OpenAI, Ollama, mock planners)
• Наборы политик для разных сред (safe_defaults, enterprise, dev_agent)

Детали реализации

Построен с использованием: Python, Pydantic, PyNaCl, PyYAML

Ключевая концепция: агент никогда ничего не выполняет напрямую. Каждое действие сначала проходит через слой принуждения.