Портирование Autoresearch от Karpathy на Apple Neural Engine для повышения производительности на ватт
Новый прототипный проект объединяет автоисследования Андрея Карпати с обратно спроектированной производительностью Apple Neural Engine (ANE), доступный по адресу github.com/fiale-plus/autoresearch-ane. Основное преимущество — достижение лучшей пропускной способности на ватт по сравнению с официальными API.
Детали проекта
Проект был описан как «склеивание концепций вместе» и в настоящее время является прототипом, требующим более длительных тестовых прогонов. Автор благодарит Claude за реализацию и признаёт идею оригинального порта для MacOS от miolini.
Технические ссылки
- Autoresearch: github.com/karpathy/autoresearch — оригинальный проект Андрея Карпати
- ANE Project: github.com/maderix/ANE — обратно спроектированная производительность Apple Neural Engine
- MacOS Port: github.com/miolini/autoresearch-macos — оригинальная реализация для MacOS
Проект представляет собой экспериментальный подход к оптимизации использования аппаратного обеспечения с ожиданием, что производительность улучшится по мере развития базового проекта ANE. Это особенно актуально для разработчиков, работающих на оборудовании Apple silicon, которые хотят максимизировать эффективность локального вывода.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
ConnectSafely AI MCP Server связывает LinkedIn с Claude для прямого управления
ConnectSafely AI предоставляет MCP-сервер, который напрямую подключает LinkedIn к Claude, позволяя пользователям отправлять сообщения, искать людей, проверять посетителей профиля и отслеживать беседы с помощью промптов без переключения вкладок.
HolyCode: Docker-контейнер для постоянных сред программирования Claude AI
HolyCode — это Docker-контейнер, который сохраняет состояние среды разработки с искусственным интеллектом при переключении между машинами и пересборках. Он включает более 30 предустановленных инструментов, автоматизацию браузера с Chromium + xvfb + Playwright и сохраняет контекст в ./data/opencode.
Wakehook: Запуск утренних автоматизаций OpenClaw по фактическому времени пробуждения, а не по Cron
Wakehook считывает данные о сне из Google Health/Fitbit и отправляет POST-запрос с событием user.awake в OpenClaw, когда вы действительно просыпаетесь. Самостоятельно развертываемый, поллинговый, не требует публичного URL.
Ninetails Memory Engine V4.5: Квантование Int8 + Кэш LRU сокращает локальную память MCP до 60 МБ
Движок памяти Ninetails V4.5 использует скалярную квантовую обработку Int8 и стратегию вытеснения LRU для сокращения объёма векторного хранилища с 6 КБ до 1,5 КБ на одно вложение, сохраняя весь движок в пределах 40–60 МБ оперативной памяти. Он сочетает 70% векторного сходства с 30% поиска BM25 в полностью локальной реализации SQLite.