ReasonDB: 벡터 검색 대신 LLM 기반 트리 내비게이션을 사용하는 오픈소스 문서 데이터베이스

ReasonDB의 기능

ReasonDB는 문서 구조를 계층 구조(제목 → 섹션 → 단락)로 보존하고 LLM이 해당 트리를 탐색하여 답변을 찾도록 하는 방식으로 지식 검색에 다른 접근법을 취하는 오픈소스 문서 데이터베이스입니다. 이는 벡터 DB와 RAG 파이프라인에서 검색 실패가 디버깅 블랙박스가 되는 일반적인 문제를 해결합니다.

작동 방식

수집 과정: 문서는 마크다운으로 변환되고, 구조별로 청킹되며, 트리로 구축되고, 각 노드는 LLM에 의해 요약됩니다(하향식).

쿼리 과정: BM25가 후보 노드를 좁히고 → tree-grep이 구조별로 필터링하고 → LLM이 요약을 기준으로 순위를 매기고 → 트리 위의 빔 서치 탐색이 답변을 추출합니다. LLM은 평평한 벡터 인덱스를 검색하는 대신 수백만 개의 노드 중 약 25개 노드를 방문합니다.

쿼리 언어와 스택

ReasonDB는 SQL과 유사한 쿼리 언어인 RQL을 사용합니다:

SELECT * FROM contracts SEARCH 'payment terms' REASON 'What are the late payment penalties?' LIMIT 5;

여기서 SEARCH = BM25이고 REASON = LLM 기반 트리 탐색입니다.

스택은 redb, tantivy, axum, tokio를 사용하여 Rust로 구축되었습니다. OpenAI, Anthropic, Gemini, Cohere 및 호환 가능한 API(로컬 또는 OpenAI 호환 엔드포인트 포함)와 함께 작동하는 단일 바이너리입니다.

실용적인 응용 분야

이 접근법은 RAG 검색 품질로 어려움을 겪고 있거나 순수 벡터 검색 대신 구조 기반 검색을 시도하려는 개발자에게 특히 유용합니다. 이 도구는 Brainfish에서 3년간의 지식 검색 경험 후에 구축되었으며, 벡터 DB, 그래프 DB 및 맞춤형 RAG 파이프라인이 지속적으로 동일한 디버깅 과제를 제시했습니다.