MOOSE-Star: 과학적 가설 발견을 위한 7B 모델 및 108K 논문 데이터셋 – ICML 2026

MOOSE-Star가 공개되었습니다. 과학적 가설 발견을 위해 사후 훈련된 7B 파라미터 모델과 108,717개의 NCBI 논문으로 구성된 TOMATO-Star 데이터셋입니다. ICML 2026에 채택되었습니다. 모델은 DeepSeek-R1-Distill-Qwen-7B에서 파인튜닝되었으며, MS-IR-7B(영감 검색), MS-HC-7B(가설 구성), MS-7B(통합 사용)의 세 가지 변형이 있습니다.

주요 세부 사항

• 데이터셋: TOMATO-Star – NCBI의 108,717개 논문(생물학, 화학, 의학, 의료 영상, 심리학, 인지 과학)으로, 각 논문은 (배경, 가설, 영감)으로 분해되고 실제 인용이 포함됩니다. 약 38,400 A800 GPU 시간의 전처리로 구축되었습니다.
• 시간적 분할: 훈련 ≤ 2025년 9월, 테스트 = 2025년 10월(기본 모델의 지식 마감일 이후).
• 영감 검색 정확도 벤치마크:
  • 무작위 선택: 6.70%
  • R1-Distilled-Qwen-7B (기본): 28.42%
  • Claude Sonnet 4.6: 45.02%
  • DeepSeek-R1: 45.11%
  • Gemini-3 Flash: 51.44%
  • GPT-5.4: 51.50%
  • MS-7B (7B, 통합 IR + HC): 54.34%
  • MS-IR-7B (7B, IR 전용): 54.37%
  • Gemini-3 Pro: 54.89%
• 모델 크기 및 배포: 표준 DeepSeek-R1-Distill-Qwen-7B 파인튠, fp16에서 약 14GB, 단일 24GB GPU에서 실행 가능. llama.cpp, vLLM, SGLang과 호환.
• 라이선스: 코드는 Apache-2.0, 데이터는 CC-BY-4.0.

논문: arxiv.org/abs/2603.03756 | GitHub: github.com/ZonglinY/MOOSE-Star | Hugging Face 컬렉션: huggingface.co/collections/ZonglinY/moose-star-models-and-data

직접 테스트해보세요. 공개: MiroMind 커뮤니티 팀 게시.