DeepSeek-V4-플래시가 로컬 모델에서 LLM 제어를 실용적으로 만듦

Seen Goedecke의 최신 글은 DeepSeek-V4-Flash가 LLM 스티어링(모델 활성화를 추론 중간에 조작하여 출력을 제어하는 기술)에 대한 판도를 바꾼다고 주장합니다. 핵심 동인은 antirez가 만든 경량화된 llama.cpp 포크인 DwarfStar로, DeepSeek-V4-Flash만 실행하며 스티어링을 일급 기능으로 내장하고 있습니다.

스티어링이란?

스티어링은 모델의 내부 활성화에서 개념("간결하게 응답" 등)을 추출합니다. 한 가지 방법: 100개의 프롬프트를 두 번 제시합니다. 한 번은 일반, 한 번은 "간결하게 응답"을 추가한 후 활성화 행렬을 빼서 스티어링 벡터를 얻습니다. 이 벡터를 임의의 프롬프트 활성화에 추가하면 모델이 간결해집니다. 더 고급 접근 방식은 (Anthropic의 것과 같은) 희소 오토인코더를 사용하여 특징 패턴을 학습하는 것으로, 비용이 더 듭니다.

왜 중요한가

스티어링은 프롬프트 엔지니어링 없이 모델 동작을 직접 제어할 수 있는 가능성을 제공합니다. "반드시"와 같은 수식어를 작성하는 대신, 간결함이나 성실함에 대한 슬라이더를 가질 수 있습니다. 또한 해석 가능성 측면에서도 매력적입니다. Golden Gate Claude의 집착 같은 것을 떠올려 보세요. 하지만 여러분이 조정할 수 있습니다.

왜 이전에는?

스티어링은 중간 수준의 아이디어였습니다. 대형 연구소에게는 너무 조악했고(그냥 모델을 재훈련합니다), API 사용자에게는 접근 불가능했습니다(가중치나 활성화에 접근할 수 없음). 오픈 가중치 모델은 신경 쓸 만큼 강력하지 않았습니다. DeepSeek-V4-Flash가 등장하기 전까지는요. 이 모델은 에이전트 코딩에 충분히 강력합니다. 그럼에도 불구하고, 장황함과 같은 단순한 특성에 대해서는 프롬프팅이 종종 스티어링보다 더 효과적입니다. 진정한 승리는 지능과 같이 프롬프트로 제어할 수 없는 개념을 스티어링하는 것입니다.

Goedecke는 DwarfStar를 면밀히 따라갈 계획입니다. 이 글을 작성하는 시점에서, 스티어링 지원은 초보적입니다(프롬프팅과 유사한 장황함 토글 정도). 하지만 출시된 지 8일밖에 되지 않았습니다.