OpenClaw 식료품 주문 오류: MCP 서버와의 단위 혼동

OpenClaw 사용자가 AI 에이전트가 MCP 서버를 사용해 장보기를 관리하게 한 사례에 대해 경고의 이야기를 공유했습니다. 세 달 동안 설정은 완벽하게 작동했습니다. 매주 일요일마다 에이전트는 평범한 장바구니에 평범한 가격으로 사용자가 실제로 먹는 품목을 담았습니다. 그러나 어제, 사용자는 OpenClaw가 의도한 2통이 아닌 2kg의 마늘을 주문했다는 것을 발견했습니다. 킬로그램 단위는 해당 제품 페이지의 기본값이었고, 에이전트는 이 차이를 알아차리지 못했습니다. 사용자도 이전 몇 달 동안 에이전트가 한 번도 실수하지 않았기 때문에 안심하고 있어서 오류를 놓쳤습니다.

상황

• 사용자는 몇 달 전 MCP 서버를 통해 주간 장보기를 자동화하기 위해 OpenClaw에 신용카드 정보를 제공했습니다.
• 약 세 달 동안 에이전트는 일관되게 올바른 주문을 했습니다. 일요일 장바구니에는 사용자의 선호도에 맞는 일반 품목과 가격이 담겼습니다.
• 어제의 주문은 달랐습니다. 에이전트가 2통 대신 2kg의 마늘을 선택했습니다. 제품 페이지의 단위 기본값이 킬로그램이었고, 에이전트가 이를 감지하지 못했습니다. 사용자도 몇 달간의 신뢰성 있는 행동에 익숙해져 실수를 간과했습니다.
• 사용자는 이제 마늘이 너무 많아졌으며, r/openclaw에 이 이야기를 공유하며 다른 사람들이 AI 장보기 에이전트와 비슷한 경험이 있는지 물었습니다.

교훈

이 사건은 자율 에이전트의 전형적인 실패 모드, 즉 외부 시스템(예: 전자상거래 제품 페이지)의 예상치 못한 기본값을 강조합니다. 에이전트의 로직은 이전 주문을 기준으로 단위가 정확할 것이라고 가정했지만, 제품의 단위 기본값이 변경되었습니다. 쇼핑 에이전트를 개발하는 개발자는 예상 수량 대비 명시적인 단위 검증이나 가격 확인을 추가하여 이러한 이상 징후를 포착하는 것을 고려해야 합니다.