VibeThinker-3B: Ein 3B-Parameter-Modell, das auf AIME-Mathe-Benchmarks mit 671B DeepSeek mithalten kann

Ein Team von neun Forschern bei Sina Weibo veröffentlichte am Wochenende einen 14-seitigen arXiv-Bericht, in dem sie behaupten, dass ein 3B-Parameter-Modell – VibeThinker-3B – die Denkleistung von Modellen, die hunderte Male größer sind, erreicht oder übertrifft. Das Modell erzielte 94,3 auf AIME 2026 (American Invitational Mathematics Examination) und platziert sich damit neben DeepSeek V3.2 (671B Parameter) und vor Gemini 3 Pro (91,7). Mit einer Testzeit-Skalierungstechnik namens Claim-Level Reliability Assessment erreicht die Punktzahl 97,1.

Wichtige Benchmarks

• AIME 2025: 91,4
• AIME 2026: 94,3 (97,1 mit CLRA)
• HMMT 2025: 89,3
• BruMO 2025: 93,8
• IMO-AnswerBench: 76,4
• LiveCodeBench v6 (Pass@1): 80,2
• Unveröffentlichte LeetCode-Wettbewerbe (April–Mai 2026): 96,1% Akzeptanzrate
• IFEval: 93,4

Bemerkenswerterweise schneidet VibeThinker-3B bei Wissens-Benchmarks schlechter ab: 70,2 auf GPQA-Diamond gegenüber 91,9 (Gemini 3 Pro) und 87,0 (Claude Opus 4,5). Die Autoren räumen dies ausdrücklich ein und sagen, es stehe im Einklang mit ihrer Behauptung – verifizierbares Denken sei „parameterdicht“, während offenes Wissen „parameterexpansiv“ sei.

Der Trainings-Pipeline

VibeThinker-3B wird auf Qwen2.5-Coder-3B (Alibabas Qwen-Team) mittels des „Spectrum-to-Signal Principle“ nachtrainiert, einer mehrstufigen Pipeline, die in der früheren VibeThinker-Arbeit des Teams eingeführt wurde. Das Papier stellt eine Parametric Compression-Coverage-Hypothese vor: Verifizierbares Denken kann auf einen kompakten Kern komprimiert werden, während breites Wissen mehr Parameter erfordert.

Innerhalb weniger Stunden nach der Veröffentlichung erhielt das Papier 62 Upvotes auf Hugging Face Daily Papers, das Modell-Repo hatte 130 Likes und das GitHub-Repo 685 Sterne. In den sozialen Medien war die Skepsis groß – der Beitrag von User @orcus108 sammelte über 161.000 Aufrufe und fragte: „Ich weiß wirklich nicht, ob das ein Durchbruch ist oder ob die Benchmarks kaputt sind.“

Zum Vergleich: DeepSeek V3.2 hat 671B Parameter (~224x größer), GLM-5 hat 744B und Kimi K2.5 übertrifft 1 Billion. VibeThinker-3B kann auf einem Consumer-Laptop laufen.