カーパシーの自動研究、Apple Neural Engineに移植され、ワットあたりのスループット向上を実現

新しいプロトタイププロジェクトは、Andrej Karpathy氏のautoresearchとリバースエンジニアリングされたApple Neural Engine（ANE）のパフォーマンスを組み合わせたもので、github.com/fiale-plus/autoresearch-aneで利用可能です。主な魅力は、公式APIと比較してワットあたりのスループットを向上させることです。

プロジェクト詳細

このプロジェクトは「概念を組み合わせたもの」と説明されており、現在はプロトタイプ段階で、より長いテスト実行が必要です。著者は実装をClaudeに帰属させ、MacOS移植の元のアイデアをmioliniに感謝しています。

技術的参照

• Autoresearch: github.com/karpathy/autoresearch - Andrej Karpathy氏のオリジナルプロジェクト
• ANEプロジェクト: github.com/maderix/ANE - リバースエンジニアリングされたApple Neural Engineパフォーマンス
• MacOS移植: github.com/miolini/autoresearch-macos - オリジナルのMacOS実装

このプロジェクトは、ハードウェア利用最適化への実験的アプローチを表しており、基盤となるANEプロジェクトが成熟するにつれてパフォーマンスが向上することが期待されています。これは、Appleシリコンハードウェアで作業し、ローカル推論効率を最大化したい開発者にとって特に関連性があります。