OpenClawの食料品注文ミス：MCPサーバーでの単位の混乱

OpenClawのユーザーが、AIエージェントにMCPサーバーを使った食料品の買い物を任せることの教訓を共有した。3ヶ月間、設定は完璧に機能していた。毎週日曜日、エージェントは通常の値段で通常の買い物かごを入れ、ユーザーが実際に食べるアイテムを選んでいた。しかし昨日、ユーザーはOpenClawが意図した2個ではなく2kgのにんにくを注文していたことに気づいた。キログラム単位はその商品ページのデフォルトであり、エージェントはその不一致に気づかなかった。ユーザーも、過去数ヶ月間エージェントがミスをしなかったため、気づかなかったのだ。

何が起こったか

• ユーザーは数ヶ月前、MCPサーバーを通じて毎週の食料品の買い出しを自動化するため、OpenClawにクレジットカードの詳細を提供した。
• 約3ヶ月間、エージェントは一貫して正しい注文を入れていた。日曜日の買い物かごには、ユーザーの好みに合った通常のアイテムと価格が含まれていた。
• 昨日の注文は異なっていた。エージェントは2個ではなく2kgのにんにくを選択した。商品ページの単位がキログラムにデフォルト設定されており、エージェントはそれを見落とした。ユーザーも、数ヶ月の信頼できる動作に慣れてしまい、エラーを見逃した。
• ユーザーは今、にんにくを過剰に抱えており、その話をr/openclawで共有し、他の人もAIによる食料品買い物エージェントで同様の経験をしたかどうか尋ねている。

教訓

この出来事は、自律エージェントの典型的な失敗モード、すなわち外部システム（例えばeコマースの商品ページ）における予期しないデフォルト値を浮き彫りにしている。エージェントのロジックは以前の注文に基づいて単位が正しいと想定していたが、商品の単位デフォルトが変更されていた。買い物エージェントを開発する際は、予想数量に対する明示的な単位検証や価格チェックを追加し、このような異常を検出することを検討すべきである。