홀라보스 AI 런타임, 타입스크립트로 전환 및 지속적 MCP 포트 구현
한 레딧 사용자가 Holaboss AI 로컬 에이전트 런타임 저장소를 분석하여 Ollama, llama.cpp, LM Studio와 같은 로컬 LLM 스택을 MCP(Model Context Protocol)와 함께 사용하는 개발자를 위한 두 가지 중요한 엔지니어링 개선 사항을 강조했습니다.
TypeScript 전용 패키징
런타임이 완전히 TypeScript로 이전되었습니다. API 계층, 러너 오케스트레이션, 워크스페이스 MCP 호스팅 및 패키징이 모두 TypeScript로 구현되었습니다. 이는 패키지된 런타임이 더 이상 Python 소스 코드나 Python 종속성을 포함하지 않음을 의미합니다. 로컬/셀프 호스팅 스택의 경우, 이로 인해 번들 크기가 더 작아지고 구성 요소가 줄어들며 언어 간 차이가 감소합니다.
지속적 MCP 포트 관리
런타임이 하드코딩된 MCP 포트 계산 방식을 제거했습니다. 대신, 포트가 이제 SQLite에 UNIQUE(port) 제약 조건과 (workspace_id, app_id)를 키로 하여 유지됩니다. 러너는 부트스트랩 중에 준비된 MCP 서버를 병합합니다. 이 접근 방식은 로컬 사이드카가 재시작 시 안정적이고 충돌 방지 포트로 복귀하도록 보장하여 일반적인 "13100 + 추측" 방식을 대체합니다.
분석에 따르면 로컬 모델이 개선됨에 따라 초점이 모델 품질에서 하네스 품질로 전환되고 있습니다. 패키징, 사이드카 수명 주기, 로컬 서비스 발견 및 런타임 상태가 로컬 에이전트 스택이 실제로 견고하게 느껴지는지 여부를 결정하는 중요한 요소가 됩니다.
저장소는 다음에서 확인할 수 있습니다: https://github.com/holaboss-ai/holaboss-ai
📖 Read the full source: r/LocalLLaMA
👀 See Also
클로드 코드 사용자가 읽기 전용 대화를 위한 /discuss 명령어를 생성합니다
한 Claude Code 사용자가 파일 수정 없이 읽기 전용 대화를 가능하게 하는 /discuss라는 25줄짜리 커스텀 스킬을 만들었습니다. 이 명령어는 코드 탐색, 연구, 논의를 허용하면서 편집을 방지하며, 내장된 안전 기능과 함께 --dangerously-skip-permissions 플래그를 사용합니다.
Skir: 타입 안전 데이터 교환을 위한 프로토콜 버퍼의 현대적 대안
Skir는 데이터 타입, 상수 및 API를 정의하는 선언적 언어로, 단일 .skir 파일로부터 TypeScript, Python, Java, C++, Kotlin, Dart에서 관용적이고 타입 안전한 코드를 생성합니다. 내장된 스키마 진화 안전성, gRPC와 유사한 RPC 지원, JSON 또는 바이너리 형식으로의 직렬화를 포함합니다.
오프 그리드 모바일 앱, 온디바이스 AI 도구 사용 추가 및 3배 속도 향상
오프 그리드 모바일 앱이 이제 AI 모델이 웹 검색, 계산기, 날짜/시간, 디바이스 정보와 같은 도구들을 완전히 오프라인에서 사용할 수 있도록 업데이트되었으며, 구성 가능한 KV 캐시 옵션으로 휴대폰에서 최대 30 토큰/초의 속도를 제공합니다.
Heren Godot MCP: 지속형 웹소켓 데몬, AI-고도트 상호작용 지연 시간을 약 20ms로 단축
Heren은 Godot용 새로운 MCP 서버로, 경량 WebSocket 데몬을 유지하여 전체 엔진 콜드 스타트를 기다리지 않고 약 20ms의 작업을 수행합니다. 씬 관리, 디버깅, GPU 가속 스크린샷 및 3분간 비활성 상태 시 자동 종료 등 15가지 도구를 제공합니다.