Portage de l'Autoresearch de Karpathy sur le Neural Engine d'Apple pour une meilleure efficacité énergétique par watt
Un nouveau projet prototype combine l'autoresearch d'Andrej Karpathy avec les performances rétro-ingéniérées du Neural Engine d'Apple (ANE), disponible sur github.com/fiale-plus/autoresearch-ane. L'intérêt principal est d'atteindre un meilleur débit par watt par rapport aux API officielles.
Détails du projet
Le projet a été décrit comme "assemblant les concepts" et est actuellement un prototype nécessitant des tests plus longs. L'auteur crédite Claude pour l'implémentation et reconnaît miolini pour l'idée originale du portage MacOS.
Références techniques
- Autoresearch : github.com/karpathy/autoresearch - Le projet original d'Andrej Karpathy
- Projet ANE : github.com/maderix/ANE - Performances rétro-ingéniérées du Neural Engine d'Apple
- Portage MacOS : github.com/miolini/autoresearch-macos - Implémentation MacOS originale
Le projet représente une approche expérimentale d'optimisation de l'utilisation matérielle, avec l'attente que les performances s'amélioreront à mesure que le projet ANE sous-jacent mûrira. Ceci est particulièrement pertinent pour les développeurs travaillant sur le matériel Apple silicon qui souhaitent maximiser l'efficacité de l'inférence locale.
📖 Lire la source complète : r/LocalLLaMA
👀 See Also
Le protocole Quack de DuckDB permet une architecture client-serveur avec plusieurs rédacteurs simultanés
DuckDB introduit le protocole distant Quack, permettant à deux instances DuckDB de communiquer en tant que client et serveur, prenant en charge les écritures concurrentes et utilisant HTTP pour le transport.
AIttache : un serveur MCP en lecture seule qui ne peut pas détruire votre production
AIttache est un serveur MCP doté de 25+ connecteurs en lecture seule (terminal, serveurs, météo, Steam) qui ne peut physiquement rien modifier — conçu pour donner aux LLM du contexte de logs sans autonomie.
Intégration de la Mémoire Locale de Claude Code avec Shodh : Amélioration de la Rétention du Contexte dans le Temps
Découvrez l'intégration de Claude Code avec la mémoire Shodh pour la conservation du contexte de projet à long terme en utilisant un serveur de mémoire local.
L'application iOS ClawTalk permet le chat vocal avec des agents IA OpenClaw auto-hébergés.
ClawTalk est une application iOS native qui offre une discussion vocale par appui pour parler pour les configurations OpenClaw auto-hébergées de LLM. Elle comprend la reconnaissance vocale sur l'appareil via WhisperKit, des réponses en streaming en temps réel avec rendu markdown, et prend en charge plusieurs options de synthèse vocale, notamment ElevenLabs, OpenAI et les voix intégrées d'Apple.