Skillware는 로컬 모델 파인튜닝을 위해 엔트로피 점수를 포함한 합성 데이터 생성기를 추가합니다.

Skillware는 일반적인 합성 데이터가 모델 붕괴로 이어지는 문제를 해결하면서 로컬 모델 파인튜닝을 위해 특별히 설계된 새로운 합성 데이터 생성기 스킬을 라이브러리에 추가했습니다.

주요 기능

이 도구에는 다음과 같은 구체적인 기능들이 포함되어 있습니다:

• 엔트로피 점수화: 저장 전에 출력의 다양성을 수학적으로 점수화하기 위해 zlib 압축률 휴리스틱을 사용합니다. 이를 통해 모델 붕괴에 기여할 수 있는 낮은 엔트로피 데이터를 식별하고 필터링하는 데 도움이 됩니다.
• 로컬 준비 완료: 로컬 모델 통합을 위해 Ollama와 즉시 사용 가능합니다. 필요할 때 고수준 추론 배치를 생성하기 위해 Gemini 및 Anthropic 모델도 지원합니다.
• 구조화된 출력: .jsonl 파인튜닝 파이프라인에 특화된 완벽한 JSON 배치를 생성하여 훈련 워크플로우에서 즉시 사용할 수 있도록 합니다.

해결된 문제

이 도구는 일반적인 합성 데이터가 파인튜닝 중에 모델이 "자기 자신을 따라 말하게" 만드는 문제, 즉 모델 붕괴로 알려진 현상을 특별히 대상으로 합니다. 저장 전에 출력 다양성을 점수화함으로써 훈련 데이터가 충분한 변이를 유지하도록 돕습니다.

소스에 따르면 이는 로컬 모델을 사용하며 파인튜닝 작업을 위한 더 나은 합성 데이터 생성이 필요한 개발자들을 위해 사용 가능한 Skillware 라이브러리의 새로운 추가 기능입니다.