Entwickler testet Apple Intelligence für Aufgaben mit der Zwischenablage auf dem Gerät

Ein Entwickler auf r/LocalLLaMA teilte seine Erfahrungen beim Bau eines Zwischenablage-Managers mit dem Foundation Models Framework von Apple Intelligence als Testfall für KI-Aufgaben auf dem Gerät.

Kontext und Motivation

Der Entwickler merkt an, dass er für ernsthafte Arbeit zwar standardmäßig auf Cloud-Dienste wie OpenRouter oder Anthropic zurückgreift, aufgrund der Kluft zwischen lokalen Modellen und Spitzenmodellen, er es jedoch nicht mag, alle Daten für wegwerfbare Aufgaben an Drittanbieter-APIs zu senden. Er sieht kleine On-Device-Modelle als ideal für Aufgaben wie "fasse dies zusammen", "formuliere diese Nachricht um" oder "überprüfe diesen Kommentar".

Umsetzung und Erkenntnisse

• Baute einen Zwischenablage-Manager um das Foundation Models Framework von Apple Intelligence herum
• Erste Eindrücke: angemessen für "alltägliche" Arbeitstier-Aufgaben
• Gut bei kurzen Zusammenfassungen und Umarbeitungen
• Scheitert bei mehrdeutiger Sprache und detaillierten Aufgaben, wie erwartet

Fragen des Entwicklers

Der Entwickler wirft mehrere Fragen zur Einführung von Apple Intelligence auf:

• Warum hat man das Gefühl, dass Apple beim Vorantreiben eines echten Mehrwerts aus Apple Intelligence ins Stocken geraten ist?
• Nutzen tatsächlich sehr wenige Apps Apple KI auf sinnvolle Weise?
• Hat jemand ein echtes Gespür dafür, ob die Einführung von Apple Intelligence Fahrt aufnimmt, oder stagniert sie einfach still?

Der Entwickler stellt fest, dass die meisten Beispiele, die er sieht, Apples eigene halbgare Funktionen sind, und das On-Device-Modell bereits vorhanden und einigermaßen leistungsfähig ist.