빌딩 디자인 컨설팅, Wix 대신 AI 에이전트로 전환

기술 구현

건축 설계 컨설팅 업체가 월 40달러의 Wix 브로셔 사이트를 4개월 동안 구축한 맞춤형 AI 에이전트로 대체했습니다. 제작자는 30년 동안 코딩을 하지 않았으며 이 과정을 "AI의 강력한 지도 아래 3걸음 나아가고 2걸음 물러서는" 방식으로 설명했습니다.

시스템 아키텍처는 Netlify의 10초 서버리스 타임아웃으로 인해 세 가지 구성 요소로 강제 분할되었습니다:

• 브레인 (엣지)
• 핸즈 (브라우저)
• 보이스 (엣지)

에이전트는 LLM으로 DeepSeek-R3를 사용하며 응답성을 향상시키기 위해 추측을 미리 가져오는 "Eager RAG" 해킹을 구현합니다. 하지만 이는 토큰을 빠르게 소모합니다. 시스템은 의도적으로 지속적 데이터베이스를 배제했습니다—방문자의 5% 미만이 재방문하므로, 클라이언트가 질문 중간에 연결을 끊으면 세션이 사라집니다. 서버 측 대기열은 구현되지 않았습니다.

주요 과제와 해결책

가장 어려운 기술적 과제는 에이전트의 의도를 조정하는 것이었습니다: 하나의 LLM이 주택 소유자에게는 따뜻하고 원칙적인 어조를 사용하다가 동료들의 공격을 받으면 방어적 태도로 전환하도록 만드는 작업이었습니다. 이 조정에는 2.5개월이 소요되었습니다.

주목할 만한 구현 문제는 다음과 같습니다:

• Web Speech API의 한계: 언어 모드를 전환하지 않고 중국어로 말할 때까지는 잘 작동하지만, 그 후에는 영어 발음의 무의미한 출력을 생성합니다
• 책임 문제: 건축 법규 조항을 환각적으로 생성하는 것은 재앙이 될 수 있으며, 보험을 구할 수 없습니다
• 감사 로깅: 팀은 시스템 강화와 책임성을 유지하기 위해 감사 로그를 공개적으로 게시합니다

실제 테스트

시스템은 면허를 가진 건축가가 이 비즈니스 모델이 전문직에 해를 끼친다는 것을 증명하기 위해 봇을 공격했을 때 테스트되었습니다. 제작자에 따르면, AI는 "그의 주장을 완전히 분해했고" "우스꽝스러울 정도로 신랄했다"고 합니다. 팀은 나중에 채팅 로그를 검토한 후 봇의 "불독" 같은 태도를 누그러뜨리기 위해 프롬프트 주입을 수행했습니다.

제작자는 신입 졸업생들이 조언을 구할 때 접근하면 봇이 방어 모드에서 즉시 멘토링 상태로 전환할 수 있다고 언급했습니다.