TideSurf: DOM 압축 도구로 웹 에이전트 토큰 사용량 30배 감소, TTFT 12배 가속
TideSurf의 기능
TideSurf는 브라우저 사용 에이전트의 일반적인 문제를 해결하는 도구입니다: 에이전트들은 종종 구체적인 페이지 소스보다 모델의 기본 다중 모달리티에 의존하며, 페이지 소스를 사용할 때도 과도한 컨텍스트 토큰을 소비합니다. 이 솔루션은 렌더링된 DOM을 LLM 에이전트에 전송하기 전에 마크다운과 유사한 압축 형식으로 변환합니다.
성능 향상
GitHub 페이지를 대상으로 한 실험에 따르면, TideSurf는 원시 DOM과 비교해 토큰 소비를 32배 줄입니다. 구문 분석 과정은 약 30ms가 소요됩니다. MacBook Pro 14" Late 2021(M1 Pro, 14C GPU, 16GB LPDDR5 Unified Memory, MacOS Tahoe 26.2)에서 LM Studio 0.4.7-b2와 MLX 런타임을 사용하여 Qwen 3.5 9B(추론 끔, Q8 KV Cache 양자화, 기타 설정 기본)로 진행한 특정 테스트 결과:
- 초당 토큰: 24.788(원시 DOM) 대 26.123(TideSurf)
- 첫 토큰까지의 시간: 106.641초 대 8.442초(12.6배 감소)
- 생성 시간: 9.117초 대 6.163초
- 프롬프트 토큰: 17,371 대 3,312(도구 정의 포함)
- 추론 토큰: 226 대 161
도구 기능
TideSurf는 LLM이 웹 페이지와 인터랙티브하게 작업할 수 있는 18가지 도구를 포함합니다. 이 도구들은 도구 호출 기능이 있는 모든 모델과 작동합니다. 이 시스템은 CLI와 MCP(Model Context Protocol) 인터페이스를 모두 지원합니다.
현재 상태와 이용 가능성
이 프로젝트는 버전 0.3의 초기 단계이며, 개발자는 피드백을 구하고 있습니다. TideSurf는 npm 패키지(@tidesurf/core)로 이용 가능하며, tidesurf.org/docs에서 문서를 확인하고 GitHub에서 소스 코드를 볼 수 있습니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
오픈소스 마크다운 볼트가 Claude에게 세션 간 지속적인 메모리를 제공합니다
My Portable Brain은 마크다운 볼트 구조와 에이전트 런타임 레이어로 구성되어, Claude에게 신원, 프로젝트, 목표, CRM, 주간 계획에 대한 지속적인 컨텍스트를 제공합니다. Claude Code 및 Claude Cowork과 기본적으로 호환되며, 일반 마크다운 파일을 사용하고, 매일 밤 백그라운드 스크립트를 실행하여 컨텍스트를 최신 상태로 유지합니다.
로컬 RAG 도구, Nemotron Nano 9B v2 및 vLLM 도구 호출로 구축됨
한 개발자가 단일 GPU에서 완전히 실행되는 로컬-퍼스트 RAG 연구 도구를 구축했습니다. 이 시스템은 Nemotron Nano 9B v2 Japanese를 vLLM에서 사용하며, 도구 호출을 위한 커스텀 파서 플러그인을 활용합니다. 이 시스템은 이중 언어 키워드 추출과 병렬 FTS5/DuckDuckGo 검색을 특징으로 하는 두 단계 추출-실행 흐름을 갖추고 있습니다.
개발자가 AI를 활용해 4일 만에 WASM용 Scheme 컴파일러를 구축하다
한 개발자가 AI 지원을 받아 약 4일 만에 WebAssembly를 대상으로 하는 Scheme 컴파일러인 Puppy Scheme을 만들었습니다. 이 컴파일러는 R5RS와 R7RS의 73%를 지원하며, WASM GC를 사용하고, 컴파일 시간을 3분 30초에서 11초로 단축했습니다.
LLM 세션 드리프트 방지를 위한 7-파일 거버넌스 레이어
한 개발자가 Claude가 세션 간에 아키텍처 결정을 조용히 되돌리는 것을 방지하기 위해 7개의 파일로 구성된 거버넌스 레이어를 만들었습니다. 이 시스템에는 active_context.md, contracts.md, decisions.md 파일과 엄격한 실행 루프가 포함되어 있습니다.