Karpathys Autoresearch auf Apple Neural Engine portiert für bessere Durchsatzleistung pro Watt
Ein neues Prototyp-Projekt kombiniert Andrej Karpathys Autoresearch mit reverse-engineerter Apple Neural Engine (ANE)-Leistung, verfügbar unter github.com/fiale-plus/autoresearch-ane. Der Hauptreiz liegt darin, einen besseren Durchsatz pro Watt im Vergleich zu offiziellen APIs zu erreichen.
Projektdetails
Das Projekt wurde als "Zusammenfügen der Konzepte" beschrieben und ist derzeit ein Prototyp, der längere Testläufe benötigt. Der Autor würdigt Claude für die Umsetzung und dankt miolini für die ursprüngliche Idee des MacOS-Ports.
Technische Referenzen
- Autoresearch: github.com/karpathy/autoresearch - Andrej Karpathys ursprüngliches Projekt
- ANE-Projekt: github.com/maderix/ANE - Reverse-engineerte Apple Neural Engine-Leistung
- MacOS-Port: github.com/miolini/autoresearch-macos - Ursprüngliche MacOS-Implementierung
Das Projekt stellt einen experimentellen Ansatz zur Hardwarenutzungsoptimierung dar, mit der Erwartung, dass die Leistung sich verbessert, wenn das zugrundeliegende ANE-Projekt reift. Dies ist besonders relevant für Entwickler, die mit Apple-Silicon-Hardware arbeiten und die lokale Inferenzeffizienz maximieren möchten.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
molequla: Kontinuierlich lernender KI-Organismus, von Grund auf mit ClaudeCode aufgebaut
molequla ist ein kontinuierlich lernender KI-Organismus, der von Grund auf in Go, C, JavaScript und Rust mit einem Python-Orchestrator implementiert wurde. Jedes Element ist eine vollständige Transformer-Implementierung mit Vektor-Autograd, die auf Rohtext trainiert wird und mit der Zeit wächst und eine Persönlichkeit entwickelt.
Hugging Face's Physik-Praktikant: Multi-Agent-Framework verdoppelt Gemini im CritPt-Benchmark
Hugging Face hat physics-intern veröffentlicht, ein Multi-Agenten-Framework für theoretische Physik, das die Leistung von Gemini-Modellen im CritPt-Benchmark verdoppelt und einen neuen SOTA-Wert im Vergleich zu GPT-5.5 Pro zu geringeren Kosten erreicht.
Destilliertes Qwen 3.5 27B-Modell zeigt starke Leistung mit Cursor AI-Coding-Agent
Ein Nutzer berichtet, dass die destillierte Version 4.6 von Qwen 27B effektiv als Modell für Cursor funktioniert, mit einer Leistung, die mit Gemini 3 Flash vergleichbar ist. Die Einrichtung dauerte etwa 10 Minuten, wobei Cursor verwendet wurde, um den ngrok-Tunnel und localllama zu konfigurieren.
Offenes Design: Open-Source-Alternative zu Claude Design läuft auf Ihren lokalen CLI-Agenten
Open Design ist eine lokale, BYOK-Design-Engine, die 11 Coding-Agent-CLIs (Claude Code, Codex, Cursor, Gemini CLI usw.) in einen Design-Workflow mit 72 Marken-Design-Systemen und 31 kombinierbaren Fähigkeiten verwandelt und HTML/PDF/PPTX/MP4 exportiert.