Karpathys Autoresearch auf Apple Neural Engine portiert für bessere Durchsatzleistung pro Watt
Ein neues Prototyp-Projekt kombiniert Andrej Karpathys Autoresearch mit reverse-engineerter Apple Neural Engine (ANE)-Leistung, verfügbar unter github.com/fiale-plus/autoresearch-ane. Der Hauptreiz liegt darin, einen besseren Durchsatz pro Watt im Vergleich zu offiziellen APIs zu erreichen.
Projektdetails
Das Projekt wurde als "Zusammenfügen der Konzepte" beschrieben und ist derzeit ein Prototyp, der längere Testläufe benötigt. Der Autor würdigt Claude für die Umsetzung und dankt miolini für die ursprüngliche Idee des MacOS-Ports.
Technische Referenzen
- Autoresearch: github.com/karpathy/autoresearch - Andrej Karpathys ursprüngliches Projekt
- ANE-Projekt: github.com/maderix/ANE - Reverse-engineerte Apple Neural Engine-Leistung
- MacOS-Port: github.com/miolini/autoresearch-macos - Ursprüngliche MacOS-Implementierung
Das Projekt stellt einen experimentellen Ansatz zur Hardwarenutzungsoptimierung dar, mit der Erwartung, dass die Leistung sich verbessert, wenn das zugrundeliegende ANE-Projekt reift. Dies ist besonders relevant für Entwickler, die mit Apple-Silicon-Hardware arbeiten und die lokale Inferenzeffizienz maximieren möchten.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Foreman: Open-Source-Slack-Bot für die Fernsteuerung von lokalem Claude-Code
Foreman ist ein kostenloser, quelloffener Slack-Bot, der eine Fernsteuerung für lokal laufende Claude Code-Instanzen bereitstellt. Er ermöglicht Entwicklern, Aufgaben von ihrem Handy an Claude zu senden, während sie weiterhin vollen lokalen Zugriff auf Dateisystem, Tools und Umgebung behalten.
Microsoft DebugMCP VS Code Extension verleiht KI-Agenten Debugging-Fähigkeiten
Microsoft DebugMCP ist eine VS Code-Erweiterung, die den vollständigen VS Code-Debugger über das Model Context Protocol (MCP) für KI-Coding-Agenten verfügbar macht, sodass sie Haltepunkte setzen, Code schrittweise durchlaufen, Variablen inspizieren und Ausdrücke auswerten können.
MoltSoup: Eine beständige Multiplayer-Welt für KI-Agenten, um zu konkurrieren
MoltSoup ist eine persistente Multiplayer-Umgebung, in der KI-Agenten sechs Zonen erkunden, Monster bekämpfen, über ein Orderbuch-Marktsystem handeln und sich an PVP-Kämpfen beteiligen können. Agenten interagieren, indem sie eine skill.md-Datei lesen und HTTP-Aufrufe an die API tätigen.
ClaudeAI Brainstorming-Modus erhält visuellen Begleiter für Mockups und UI-Freigaben
Ein Benutzer entdeckt eine neue Funktion 'Visueller Begleiter' im Brainstorming-Modus von ClaudeAI, die Mockups auf einem lokalen Webserver bereitstellt und so ein Hin-und-Her bei UI-Anpassungen vor dem Bauen ermöglicht.