Ce que fait Apfel

Apfel est un outil gratuit qui vous donne un accès direct au LLM qu'Apple livre avec macOS 26 (Tahoe) sur les Mac à puce Apple Silicon. Apple restreint normalement ce modèle à Siri et aux fonctionnalités système, mais Apfel l'expose via trois interfaces : un outil en ligne de commande UNIX, un serveur HTTP compatible OpenAI et un chat interactif.

Détails techniques

L'outil est construit en Swift 6.3 et encapsule le framework FoundationModels d'Apple, spécifiquement l'API LanguageModelSession. Toute l'inférence s'exécute sur le Neural Engine et le GPU - pas d'appels réseau, pas de cloud, et rien ne quitte votre machine.

Spécifications clés de la source :

• Version : v0.6.13
• Prérequis : macOS 26+ (Tahoe), Apple Silicon, Apple Intelligence activé
• Fenêtre de contexte : 4 096 tokens (entrée et sortie combinées)
• Licence : MIT
• Installation : brew install Arthur-Ficial/tap/apfel

Trois modes d'utilisation

1. Outil CLI

Outil UNIX compatible avec les pipes, supportant stdin/stdout, sortie JSON, pièces jointes et codes de sortie appropriés :

$ apfel "Quelle est la capitale de l'Autriche ?"
La capitale de l'Autriche est Vienne.

$ apfel -o json "Traduis en allemand : bonjour" | jq .content
"Hallo"

2. Serveur compatible OpenAI

Remplacement direct sur localhost:11434 qui fonctionne avec n'importe quel SDK OpenAI :

$ apfel --serve
Serveur en cours d'exécution sur http://127.0.0.1:11434

tout client OpenAI fonctionne
$ curl localhost:11434/v1/chat/completions

Prend en charge le streaming (SSE), l'appel d'outils, CORS, les formats de réponse, la température, max_tokens et les paramètres de seed.

3. Chat interactif

Conversations multi-tours avec gestion automatique du contexte et cinq stratégies de réduction :

$ apfel --chat -s "Vous êtes un assistant de codage"
Chat démarré. Tapez /quit pour quitter.
> Comment inverser une liste en Python ?

Ce qu'Apfel ajoute par rapport à l'API brute d'Apple

• Codes de sortie appropriés pour le scripting shell
• Format de sortie JSON
• Support des pièces jointes
• Cinq stratégies de réduction de contexte pour la fenêtre de 4 096 tokens
• Comptage réel des tokens via le SDK
• Conversion des schémas d'outils OpenAI au format natif Transcript.ToolDefinition d'Apple

Outils puissants inclus

Le dossier demo/ comprend plusieurs scripts shell :

• cmd : Conversion du langage naturel en commande shell
• oneliner : Génère des chaînes de pipes à partir de l'anglais simple
• mac-narrator : Narre l'activité système comme un documentaire nature
• explain : Explique les commandes, messages d'erreur ou extraits de code
• wtd : Orientation instantanée de projet pour n'importe quelle base de code
• gitsum : Résume les commits git récents

À qui cela s'adresse

Développeurs qui souhaitent expérimenter avec le LLM sur appareil d'Apple sans écrire d'applications Swift ou payer pour des appels d'API cloud.