Необходимость реляционного управления в мультиагентных системах

Пробел в управлении многоагентными системами

Доверие к полностью автономным ИИ-агентам для корпоративных приложений упало с 43% в 2024 году до 22% в 2025 году, несмотря на технологические улучшения. Инфраструктура быстро развивается: Google's Agent2Agent, Model Context Protocol от Anthropic становится отраслевым стандартом, Visa обрабатывает транзакции, инициированные агентами, а Сингапур опубликовал первую в мире специализированную систему управления для агентного ИИ в январе 2026 года.

Текущая картина управления

Существующие системы управления решают важные риски, но имеют ограничения:

• Модель управления ИИ для агентного ИИ Сингапура фокусируется на четырёх аспектах: ограничение автономии и пространства действий агента, повышение ответственности человека и обеспечение отслеживаемости
• Экосистема Know Your Agent включает Visa, Trulioo, Sumsub и стартапы, решающие проблему верификации идентичности агентов
• ISO 42001 предоставляет систему управления для документирования надзора
• OWASP Top 10 для LLM-приложений определяет «Чрезмерную автономность» как критическую уязвимость
• Трёхуровневая модель защитных барьеров включает базовые стандарты, контекстные контроли и этические ограничения

Эти системы управления рассматривают агентов как отдельных лиц с надлежащей идентификацией, разрешениями и журналами аудита, но не затрагивают отношения между агентами, работающими вместе.

Результаты исследований по взаимодействию агентов

Недавние исследования выявили критические пробелы в текущих подходах:

• Команда AI Research от Salesforce создала «семантический слой A2A» для переговоров между агентами и обнаружила, что когда два агента ведут переговоры от имени конкурирующих интересов, динамика принципиально отличается от диалогов человек-агент
• Модели обучались как полезные диалоговые помощники, а не для того, чтобы отстаивать интересы, противостоять давлению или делать стратегические компромиссы в конфликтных ситуациях
• Взаимодействие агента с агентом — это не масштабированные версии диалогов человек-агент, а совершенно новая динамика, требующая специальных решений
• Крупномасштабное соревнование по ИИ-переговорам с более чем 180 000 автоматизированных переговоров показало, что дружелюбие стабильно превосходило доминирование по всем ключевым показателям эффективности
• Дружелюбные агенты задавали больше вопросов, чаще выражали благодарность и заключали больше сделок
• Доминирующие агенты получали больше ценности в отдельных транзакциях, но значительно чаще приводили к тупиковым ситуациям
• Построение отношений через дружелюбие в первых взаимодействиях усиливается со временем, когда агенты могут ссылаться на прошлые взаимодействия
• Отношенческая память и стиль отношений важны для результатов, а не только разрешения и журналы аудита

Текущий подход к управлению рассматривает агентов как отдельных лиц, входящих в здание с проверенными учетными данными и пропусками, но многоагентные системы функционируют скорее как команды, которым нужны нормы общения, механизмы разрешения недопонимания и посредничество при сбоях координации.