Разработчик тестирует Apple Intelligence для задач с буфером обмена на устройстве.

Разработчик на r/LocalLLaMA поделился своим опытом создания менеджера буфера обмена, используя фреймворк Foundation Models от Apple Intelligence, в качестве тестового примера для локальных AI-задач на устройстве.

Контекст и мотивация

Разработчик отмечает, что хотя для серьёзной работы они по умолчанию используют облачные сервисы, такие как OpenRouter или Anthropic, из-за разрыва между локальными и передовыми моделями, им не нравится отправлять все данные сторонним API для одноразовых задач. Они считают небольшие локальные модели идеальными для задач вроде «сделай краткое содержание», «перепиши это сообщение» или «проверь этот комментарий».

Реализация и выводы

• Создал менеджер буфера обмена на основе фреймворка Foundation Models от Apple Intelligence
• Первые впечатления: подходит для повседневных рабочих задач
• Хорошо справляется с краткими сводками и переписыванием текста
• Терпит неудачу на неоднозначном языке и детальных задачах, как и ожидалось

Вопросы разработчика

Разработчик поднимает несколько вопросов о внедрении Apple Intelligence:

• Почему кажется, что Apple застопорилась в продвижении реальной ценности от Apple Intelligence?
• Действительно ли очень мало приложений используют Apple AI значимым образом?
• Кто-нибудь действительно понимает, набирает ли внедрение Apple Intelligence обороты или оно просто тихо застаивается?

Разработчик отмечает, что большинство примеров, которые они видят, — это собственные недоработанные функции Apple, а локальная модель уже присутствует и в некоторой степени способна.