Ошибка в заказе продуктов OpenClaw: путаница с единицами измерения в MCP-сервере

Пользователь OpenClaw поделился поучительной историей о том, как позволил ИИ-агенту управлять покупкой продуктов через MCP-сервер. В течение трех месяцев всё работало идеально: каждое воскресенье агент оформлял обычную корзину по обычной цене, выбирая продукты, которые пользователь действительно ест. Но вчера пользователь обнаружил, что OpenClaw заказал 2 кг чеснока вместо 2 головок. Единица измерения "килограмм" была установлена по умолчанию на странице товара, и агент не заметил несоответствия. Пользователь тоже его пропустил, поскольку за предыдущие месяцы агент ни разу не ошибался.

Что произошло

• Несколько месяцев назад пользователь передал OpenClaw данные своей кредитной карты для автоматизации еженедельных закупок продуктов через MCP-сервер.
• Около трех месяцев агент consistently оформлял правильные заказы: воскресные корзины с обычными товарами и ценами, соответствующими предпочтениям пользователя.
• Вчерашний заказ оказался с отклонением: агент выбрал 2 кг чеснока вместо 2 головок. На странице товара единицей измерения по умолчанию были килограммы, и агент это не заметил. Пользователь также пропустил ошибку, так как привык к надежной работе агента за несколько месяцев.
• Теперь у пользователя избыток чеснока, и он поделился историей на r/openclaw, спросив, были ли у других похожие случаи с ИИ-агентами для покупки продуктов.

Вывод

Этот инцидент иллюстрирует классическую ошибку автономных агентов: неожиданные значения по умолчанию во внешних системах (например, на страницах товаров в интернет-магазинах). Логика агента предполагала, что единица измерения будет правильной на основе предыдущих заказов, но единица по умолчанию для товара изменилась. Разработчикам, создающим агентов для покупок, стоит добавить явную проверку единиц измерения на соответствие ожидаемым количествам или ценовым проверкам, чтобы выявлять такие аномалии.