O que o Apfel faz

Apfel é uma ferramenta gratuita que dá acesso direto ao LLM que a Apple inclui no macOS 26 (Tahoe) em Macs com Apple Silicon. Normalmente, a Apple restringe esse modelo ao Siri e recursos do sistema, mas o Apfel o expõe através de três interfaces: uma ferramenta de linha de comando UNIX, um servidor HTTP compatível com OpenAI e um chat interativo.

Detalhes técnicos

A ferramenta é construída em Swift 6.3 e envolve o framework FoundationModels da Apple, especificamente a API LanguageModelSession. Toda a inferência roda no Neural Engine e GPU - sem chamadas de rede, sem nuvem e nada sai da sua máquina.

Especificações principais da fonte:

• Versão: v0.6.13
• Requisitos: macOS 26+ (Tahoe), Apple Silicon, Apple Intelligence habilitado
• Janela de contexto: 4.096 tokens (entrada e saída combinados)
• Licença: MIT
• Instalação: brew install Arthur-Ficial/tap/apfel

Três modos de uso

1. Ferramenta CLI

Ferramenta UNIX amigável a pipes com suporte a stdin/stdout, saída JSON, anexos de arquivo e códigos de saída apropriados:

$ apfel "Qual é a capital da Áustria?"
A capital da Áustria é Viena.

$ apfel -o json "Traduza para alemão: olá" | jq .content
"Hallo"

2. Servidor compatível com OpenAI

Substituto direto em localhost:11434 que funciona com qualquer SDK da OpenAI:

$ apfel --serve
Servidor rodando em http://127.0.0.1:11434

qualquer cliente OpenAI funciona
$ curl localhost:11434/v1/chat/completions

Suporta streaming (SSE), chamada de ferramentas, CORS, formatos de resposta, temperatura, max_tokens e parâmetros de seed.

3. Chat interativo

Conversas de múltiplas interações com gerenciamento automático de contexto e cinco estratégias de corte:

$ apfel --chat -s "Você é um assistente de programação"
Chat iniciado. Digite /quit para sair.
> Como eu reverso uma lista em Python?

O que o Apfel adiciona sobre a API bruta da Apple

• Códigos de saída apropriados para scripts de shell
• Formato de saída JSON
• Suporte a anexos de arquivo
• Cinco estratégias de corte de contexto para a janela de 4.096 tokens
• Contagem real de tokens via SDK
• Conversão de esquemas de ferramentas OpenAI para o formato nativo Transcript.ToolDefinition da Apple

Ferramentas poderosas incluídas

A pasta demo/ inclui vários scripts de shell:

• cmd: Conversão de linguagem natural para comandos de shell
• oneliner: Gera cadeias de pipes a partir de inglês simples
• mac-narrator: Narra a atividade do sistema como um documentário da natureza
• explain: Explica comandos, mensagens de erro ou trechos de código
• wtd: Orientação instantânea de projeto para qualquer base de código
• gitsum: Resume commits recentes do git

Para quem é isso

Desenvolvedores que querem experimentar com o LLM local da Apple sem escrever aplicações Swift ou pagar por chamadas de API na nuvem.