OpenClawエージェント出力のチェッカーとしてのAppleのオンデバイス3Bモデル

27.x系OSを搭載したすべてのMac、iPhone、iPadには、小型のオンデバイスAIモデル（30億パラメータ、上流へのデータ送信なし）が搭載されており、ある開発者がこれをOpenClawに生成後のチェッカーとして組み込んだ。このモデルはApple Neural Engine（ANE）上で動作する。ANEは現行のAシリーズおよびMシリーズチップすべてに搭載された専用AIプロセッサで、CPUやGPUとは別に存在し（メモリは共有）、GPUモデルと並行して実行できる。

ここでANEが重要な理由

狙いはこうだ。ANEはほぼ常にアイドル状態にある。ローカル推論は通常GPUで行われるため、ANEを活用することは既存ハードウェア上での実質無料の追加演算となる。モデルを有効にするには、設定→一般でApple Intelligenceをオンにする必要がある。Appleは標準OS APIを通じてモデルを公開しており、これによりサーバー往復なしでチェッカーが実現できる。

チェッカーの仕組み

この仕組みは、エージェントの出力がハーネスから出る前にインターセプトする。エージェントがツール呼び出しに基づく事実を生成すると、ローカルモデルがエージェントの回答を生のツール結果と比較し、不一致（つまり捏造）をフラグする。作者の説明によると：

• 送信前に不正または誤った回答を検出
• エージェントに再評価と再生成を強制し、「通常は適切な値への修正につながる」
• ローカルモデル上で動作するため、エージェントチームの帯域を消費しない
• チェックによる出力への実質的な遅延はほぼゼロ。遅延が増えるのはチェック失敗時のみ（エージェントが再生成する必要があるため）

実用的なポイント

これを参考にする価値は2点ある。第一に、ハルシネーション filtering のクリーンなパターンであること：生成された主張を、プロンプト内ではなくハーネス層でグラウンドトゥルースのツール出力と比較する。第二に、メイン生成を行うGPUモデルと競合せずに、補助推論にANEの演算を利用することを示している。作者は能力の背景として、Appleのローカルモデルに関する9to5Macの比較記事にリンクしている。

ツール呼び出しを連鎖させるエージェントを運用するOpenClawユーザーにとって、本来アイドル状態のシリコン上で動作する低遅延ローカル検証器は、悪い事実がトランスクリプトに到達する前に捕捉する安価な手段だ。ソースには精度やチェックごとの遅延に関するベンチマークは示されていない。再現したい場合の未解決課題である。