Что делает Apfel

Apfel — это бесплатный инструмент, который предоставляет прямой доступ к LLM, поставляемой Apple с macOS 26 (Tahoe) на компьютерах Mac с Apple Silicon. Обычно Apple ограничивает использование этой модели Siri и системными функциями, но Apfel предоставляет к ней доступ через три интерфейса: UNIX-инструмент командной строки, HTTP-сервер, совместимый с OpenAI, и интерактивный чат.

Технические детали

Инструмент создан на Swift 6.3 и использует фреймворк FoundationModels от Apple, в частности API LanguageModelSession. Все вычисления выполняются на Neural Engine и GPU — без сетевых запросов, облачных сервисов и передачи данных за пределы вашего устройства.

Ключевые характеристики из источника:

• Версия: v0.6.13
• Требования: macOS 26+ (Tahoe), Apple Silicon, включенный Apple Intelligence
• Окно контекста: 4096 токенов (входные и выходные данные вместе)
• Лицензия: MIT
• Установка: brew install Arthur-Ficial/tap/apfel

Три режима использования

1. CLI-инструмент

Удобный для конвейерной обработки UNIX-инструмент с поддержкой stdin/stdout, выводом в JSON, вложением файлов и корректными кодами завершения:

$ apfel "What is the capital of Austria?"
The capital of Austria is Vienna.

$ apfel -o json "Translate to German: hello" | jq .content
"Hallo"

2. Сервер, совместимый с OpenAI

Прямая замена на localhost:11434, работающая с любым SDK OpenAI:

$ apfel --serve
Server running on http://127.0.0.1:11434

any OpenAI client works
$ curl localhost:11434/v1/chat/completions

Поддерживает потоковую передачу (SSE), вызов инструментов, CORS, форматы ответов, параметры temperature, max_tokens и seed.

3. Интерактивный чат

Многоходовые беседы с автоматическим управлением контекстом и пятью стратегиями обрезки:

$ apfel --chat -s "You are a coding assistant"
Chat started. Type /quit to exit.
> How do I reverse a list in Python?

Что Apfel добавляет к сырому API Apple

• Корректные коды завершения для скриптов оболочки
• Формат вывода JSON
• Поддержка вложения файлов
• Пять стратегий обрезки контекста для окна в 4096 токенов
• Реальный подсчёт токенов через SDK
• Преобразование схем инструментов OpenAI в собственный формат Apple Transcript.ToolDefinition

Включённые мощные инструменты

Папка demo/ включает несколько скриптов оболочки:

• cmd: Преобразование естественного языка в команды оболочки
• oneliner: Генерация цепочек конвейеров из простого английского текста
• mac-narrator: Рассказ о системной активности в стиле документального фильма о природе
• explain: Объяснение команд, сообщений об ошибках или фрагментов кода
• wtd: Мгновенная ориентация в проекте для любой кодовой базы
• gitsum: Резюмирование последних коммитов git

Для кого это предназначено

Разработчики, которые хотят экспериментировать с локальной LLM от Apple без написания приложений на Swift или оплаты облачных API-вызовов.