Apfelの機能

Apfelは、Apple Silicon搭載MacのmacOS 26（Tahoe）に同梱されるLLMに直接アクセスできる無料ツールです。Appleは通常このモデルをSiriやシステム機能に限定していますが、Apfelは3つのインターフェースを通じて公開します：UNIXコマンドラインツール、OpenAI互換HTTPサーバー、インタラクティブチャットです。

技術詳細

このツールはSwift 6.3で構築され、AppleのFoundationModelsフレームワーク、特にLanguageModelSession APIをラップしています。すべての推論はNeural EngineとGPUで実行され、ネットワーク呼び出しやクラウドは使用せず、マシンから何も送信されません。

ソースからの主な仕様：

• バージョン： v0.6.13
• 要件： macOS 26+（Tahoe）、Apple Silicon、Apple Intelligenceが有効
• コンテキストウィンドウ： 4,096トークン（入力と出力の合計）
• ライセンス： MIT
• インストール： brew install Arthur-Ficial/tap/apfel

3つの使用モード

1. CLIツール

stdin/stdoutサポート、JSON出力、ファイル添付、適切な終了コードを備えたパイプフレンドリーなUNIXツール：

$ apfel "オーストリアの首都は？"
オーストリアの首都はウィーンです。

$ apfel -o json "ドイツ語に翻訳：hello" | jq .content
"Hallo"

2. OpenAI互換サーバー

localhost:11434で動作する、どのOpenAI SDKでも使用できるドロップイン代替品：

$ apfel --serve
サーバーは http://127.0.0.1:11434 で実行中

どのOpenAIクライアントでも動作
$ curl localhost:11434/v1/chat/completions

ストリーミング（SSE）、ツール呼び出し、CORS、レスポンス形式、temperature、max_tokens、seedパラメータをサポート。

3. インタラクティブチャット

自動コンテキスト管理と5つのトリミング戦略を備えたマルチターン会話：

$ apfel --chat -s "あなたはコーディングアシスタントです"
チャット開始。終了するには /quit と入力。
> Pythonでリストを逆順にするには？

ApfelがAppleの生APIに追加する機能

• シェルスクリプト用の適切な終了コード
• JSON出力形式
• ファイル添付サポート
• 4,096トークンウィンドウ用の5つのコンテキストトリミング戦略
• SDKによる実際のトークンカウント
• OpenAIツールスキーマからAppleのネイティブTranscript.ToolDefinition形式への変換

含まれるパワーツール

demo/フォルダにはいくつかのシェルスクリプトが含まれています：

• cmd：自然言語からシェルコマンドへの変換
• oneliner：平易な英語からパイプチェーンの生成
• mac-narrator：自然ドキュメンタリーのようにシステムアクティビティをナレーション
• explain：コマンド、エラーメッセージ、コードスニペットの説明
• wtd：任意のコードベースの即時プロジェクト概要
• gitsum：最近のgitコミットの要約

対象ユーザー

Swiftアプリケーションを書いたり、クラウドAPI呼び出しの支払いをすることなく、AppleのオンデバイスLLMを実験したい開発者向けです。