Qwen2-0.5Bをllama.cppでローカルタスク自動化向けにファインチューニング

✍️ OpenClawRadar📅 公開日: March 22, 2026🔗 Source
Qwen2-0.5Bをllama.cppでローカルタスク自動化向けにファインチューニング
Ad

開発者がQwen2-0.5Bをタスク自動化向けにファインチューニングし、GPUやクラウドAPIを必要とせずCPU上で完全にローカル実行可能なモデルを作成しました。このプロジェクトはACEと名付けられ、GitHubで公開されています。

機能概要

  • 自然言語タスクを受け取る(例:「ログをバックアップにコピー」)
  • タスクタイプを検出:単一タスク、反復タスク、または詳細確認が必要なタスク
  • CLIコマンドとホットキーからなる実行計画を生成
  • CPU上で完全にローカル実行(GPU不要、クラウドAPI不要)

技術詳細

  • ベースモデル:Qwen2-0.5B
  • 学習:約1000件のカスタムタスク例によるLoRAファインチューニング
  • 量子化:GGUF Q4_K_M形式(ファイルサイズ300MB)
  • 推論:llama.cpp
  • 推論時間:i3/i5プロセッサで3-10秒

学習時の主な課題

  • データ品質:不適切な例のためデータセットを2-3回再生成する必要があった
  • 過学習:検証損失を安定させるために複数回の試行が必要だった
  • EOSトークン処理:トークナイザ設定を修正するまでモデルが生成を停止しなかった
  • GGUF変換:安定した出力を得るためにBF16データ型+imatrix量子化が必要だった

制限事項(v0.1)

  • 完全なファイルパスが必要(スマートなファイル検索機能は未実装)
  • CPU推論のみ(古いハードウェアでは遅い)
  • 基本的な実行機能(視覚的理解機能なし)

パフォーマンスベンチマーク

  • i5(2018年以降)+ SSD:3-5秒
  • i3(2015年以降)+ SSD:5-10秒
  • 古いハードウェア(Pentium + HDD):30-90秒

開発者は、様々なハードウェアでのパフォーマンス、モデルが失敗するエッジケース、v0.2向けの機能リクエストに関するフィードバックを求めています。

📖 Read the full source: r/LocalLLaMA

Ad

👀 See Also

OpenClaw Claude拡張機能がAnthropicの課金変更に伴いAgent SDKを使用するように更新されました
Tools

OpenClaw Claude拡張機能がAnthropicの課金変更に伴いAgent SDKを使用するように更新されました

OpenClaw拡張機能の開発者は、AnthropicがCLIの使用を検出してサードパーティアプリ利用として再分類し、Maxプランの制限とは別のクレジットプールから請求されるようになったため、公式のclaude-agent-sdkを使用するように実装を書き直しました。SDKアプローチでは既存のClaude Codeログインを通じて認証され、通常のMaxプラン利用として請求されます。

OpenClawRadar
devopsiphai: オープンソースのClaude Codeスキルが、6つのフェーズにわたって運用の健全性を監査します。
Tools

devopsiphai: オープンソースのClaude Codeスキルが、6つのフェーズにわたって運用の健全性を監査します。

devopsiphaiは、6段階のプロセスとARCフレームワークを使用して本番プロジェクトの運用性を監査し、レターグレードと工数見積もり付きの構造化されたTODO.mdを出力するオープンソースのClaude Codeスキルです。

OpenClawRadar
Claude Code SkillがStitchデザインをピクセルずれゼロでNext.jsに変換
Tools

Claude Code SkillがStitchデザインをピクセルずれゼロでNext.jsに変換

Claude Codeスキルは、Google Stitch AIのデザインをNext.jsコンポーネントに変換し、ピクセルずれを防ぐための必須検証チェックポイントを設けて、正確な値を保持し、アセットを処理します。

OpenClawRadar
ソナリー:AI駆動型生産アラートのトリアージと解決
Tools

ソナリー:AI駆動型生産アラートのトリアージと解決

Sonarlyは、本番環境向けに設計されたAIエージェントで、アラートを効果的に処理・解決します。SentryやDatadogなどの既存の監視ツールやユーザーフィードバックチャネルと統合し、重複のグループ化や根本原因分析を通じてアラートをトリアージすることで、ノイズを削減し、重要な問題に焦点を当てます。

OpenClawRadar