업스킬을 활용하여 CUDA 커널 작성에 에이전트 기술 활용하기

Hugging Face는 에이전트 스킬을 활용하여 CUDA 커널 작성과 같은 복잡한 작업에서 소규모 AI 모델의 성능을 향상시키는 방법을 도입했습니다. 이 과정은 새로운 upskill 도구를 사용하여 대규모 모델로 에이전트 스킬을 생성 및 평가하고, 이러한 스킬을 더 작거나 비용 효율적인 모델에 적용할 수 있도록 합니다.

에이전트 스킬은 모델과 도구 간에 교환될 수 있는 지식의 패키지 형태로, 마크다운과 스크립트로 된 지침이 포함된 파일로 정의됩니다. 이는 모델이 자연스럽게 뛰어나지 않을 수 있는 틈새 또는 어려운 문제 영역에서 특히 유용합니다.

Claude와 Upskill 도구를 사용한 역량 강화 단계

1. Claude Opus 4.5로 커널 구축: 이 과정은 Claude Code를 사용하여 대화형으로 커널을 조립하고 추적을 내보내는 것으로 시작합니다. 여기에는 초안 스킬로 솔루션을 반복하는 작업이 포함되어, 소규모 모델 실험을 통해 지속적인 개선이 가능합니다.

2. 추적에서 에이전트 스킬 생성: 커널이 구축된 후, Claude에게 완료된 작업에 대한 스킬 파일을 생성하도록 지시합니다. Anthropic의 '스킬 생성기'를 사용하면 에이전트 활동 추적을 기반으로 스킬을 생성하는 과정도 용이해집니다. upskill은 스킬 성능을 평가하기 위한 테스트 케이스를 제공하여 유용성을 더욱 향상시킵니다.

3. 모델 간 스킬 적용: 새로 제작된 스킬을 원하는 모델로 전송합니다. 여기서 스킬은 {agent}/skills/{skill_name}/SKILL.md와 같은 디렉토리 형식으로 구성됩니다. upskill eval 명령을 사용하여 이러한 스킬로 모델 성능 비교를 실행하고, codex나 cursor와 같은 다양한 플랫폼에서 정확도와 토큰 사용량의 차이를 강조합니다.

궁극적으로, 스킬은 정확도를 유지하면서 토큰 소비를 줄이는 데 도움이 되어, 서로 다른 모델에서 반복되는 작업에 중요합니다. 그러나 효과의 변동성은 반복적인 스킬 개선이 필요할 수 있음을 시사합니다.