Необходимость реляционного управления в мультиагентных системах искусственного интеллекта

Пробел в управлении многоагентными системами

Доверие руководителей к полностью автономным ИИ-агентам упало с 43% в 2024 году до 22% в 2025 году, несмотря на технологические улучшения. Инфраструктура быстро развивается: Google's Agent2Agent, Model Context Protocol от Anthropic становится отраслевым стандартом, Visa обрабатывает транзакции, инициированные агентами, а Сингапур публикует первую в мире специализированную систему управления для агентного ИИ.

Текущая ситуация с управлением

Модель управления ИИ для агентного ИИ Сингапура (январь 2026 года) установила четыре измерения, сосредоточенные на ограничении автономии агентов и пространства действий, повышении человеческой ответственности и обеспечении отслеживаемости. Экосистема Know Your Agent расширилась с Visa, Trulioo, Sumsub и стартапами, решающими проблему верификации идентичности агентов. ISO 42001 предоставляет систему управления для документирования надзора, а OWASP Top 10 для LLM-приложений определил "Чрезмерную агентность" как критическую уязвимость. Трехуровневая модель защитных барьеров (фундаментальные стандарты, контекстные контроли, этические ограничения) стала общепринятой концепцией.

Проблема взаимоотношений

Современные системы управления предполагают, что эффективная координация следует из правильной настройки идентификации, разрешений и журналов аудита. Они управляют агентами как отдельными субъектами, действующими в рамках границ, а не отношениями между агентами, работающими вместе.

Команда исследований ИИ Salesforce обнаружила, что взаимодействие агентов друг с другом — это не масштабированные версии разговоров человека с агентом. Когда два агента ведут переговоры от конкурирующих интересов (например, агент покупателя и агент продавца), динамика принципиально иная. Модели обучались как полезные разговорные помощники, а не для того, чтобы отстаивать интересы, противостоять давлению или идти на стратегические компромиссы в конфликтных ситуациях.

Крупномасштабное соревнование по ИИ-переговорам, в котором участвовало более 180 000 автоматизированных переговоров, показало, что теплота последовательно превосходит доминирование по всем ключевым показателям эффективности. Теплые агенты задавали больше вопросов, выражали больше благодарности и заключали больше сделок. Доминирующие агенты получали больше ценности в отдельных транзакциях, но приводили к значительно большему числу тупиковых ситуаций. Это ставит вопрос о том, как построение отношений через теплоту в первых взаимодействиях может усиливаться со временем, когда агенты могут ссылаться на прошлые взаимодействия.

Реляционная память и стиль взаимоотношений важны для результатов, а не только технические возможности. По мере масштабирования многоагентных систем от экспериментальных пилотов до производственной инфраструктуры этот пробел в координации становится основной причиной сбоев.