Ollama의 기술적 문제와 커뮤니티 논란

Ollama의 핵심 기술과 출처 표기 문제

Ollama의 전체 추론 기능은 원래 2023년 3월 Georgi Gerganov가 만든 C++ 추론 엔진인 llama.cpp에서 비롯되었습니다. 1년 이상 동안 Ollama의 README에는 llama.cpp에 대한 언급이 전혀 없었으며, 그들의 바이너리 배포판에는 배포 중인 llama.cpp 코드에 필요한 MIT 라이선스 고지가 포함되지 않았습니다.

커뮤니티는 2024년 초 라이선스 준수를 요청하는 GitHub 이슈 #3185를 열었는데, 이는 유지 관리자들의 응답 없이 400일 이상 지속되었습니다. 2024년 4월 llama.cpp 인정을 구체적으로 요청하는 이슈 #3697이 열렸을 때, Ollama의 공동 창립자인 Michael Chiang는 결국 README 하단에 "llama.cpp 프로젝트는 Georgi Gerganov에 의해 설립되었습니다."라는 한 줄을 추가했습니다.

맞춤형 백엔드의 기술적 문제

2025년 중반, Ollama는 추론 백엔드로 llama.cpp 사용을 중단하고 ggml 위에 직접 맞춤형 구현을 구축했습니다. 이 맞춤형 백엔드는 llama.cpp가 수년 전에 해결했던 버그들을 다시 도입했는데, 여기에는 다음이 포함됩니다:

• 손상된 구조화된 출력 지원
• 비전 모델 실패
• 여러 버전에 걸친 GGML 어설션 충돌
• 상류 llama.cpp에서 잘 작동하던 모델들이 Ollama에서는 실패함
• GPT-OSS 20B와 같은 새로운 릴리스에 필요한 텐서 유형 지원 부족

Georgi Gerganov는 Ollama가 GGML을 포크하고 잘못된 변경을 가했음을 확인했습니다.

성능 벤치마크

여러 커뮤니티 테스트는 llama.cpp가 동일한 하드웨어와 동일한 모델에서 Ollama보다 1.8배 빠르게 실행되는 것을 보여줍니다:

• 초당 161 토큰 대 초당 89 토큰
• CPU에서는 성능 차이가 30-50%입니다
• Qwen-3 Coder 32B에 대한 최근 비교에서 llama.cpp가 약 70% 더 높은 처리량을 보였습니다

성능 오버헤드는 Ollama의 데몬 레이어, 열악한 GPU 오프로딩 휴리스틱, 그리고 상류보다 뒤처지는 벤더 백엔드에서 비롯됩니다.

모델 명명 문제

DeepSeek이 2025년 1월 R1 모델 패밀리를 출시했을 때, Ollama는 더 작은 증류 버전(DeepSeek-R1-Distill-Qwen-32B와 같은 모델)을 전체 모델이 아니라 증류된 것임을 명확히 표시하지 않고 나열했습니다.