FUTO Swipe: Open-Source Swipe-Tipp-Modelle erreichen Genauigkeit der großen Tech-Unternehmen
FUTO hat FUTO Swipe veröffentlicht, eine Familie von quelloffenen Swipe-Tippmodellen und Algorithmen, zusammen mit einer Inferenzbibliothek. Die Modelle betreiben die Offline-FUTO-Tastatur für Android, können aber unabhängig unter der FUTO-Modelllizenz verwendet werden.
Architektur und Benchmarks
FUTO Swipe verwendet drei Modelltypen:
- Encoder (635.140 Parameter) – layoutunabhängig, sprachunabhängig, universeller Prädiktor.
- ContextLM (insgesamt 1.498.472 Parameter, 1,1 Mio. Einbettungen) – winziges Sprachmodell, das pro Sprache trainiert wird, um unsinnige Wörter im Kontext zu filtern. Benötigt nur Textdaten.
- Decoder (304.155 Parameter) – sprach- und layoutspezifisch. Derzeit nur QWERTY-Englisch, trainiert mit echten Swipe-Daten.
Kombiniert (1.364.271 aktive / 2.494.767 Parameter insgesamt) erreichen die Modelle eine Top-4-Fehlerrate von ca. 4 % auf dem Testdatensatz. Ohne Berücksichtigung von Wörtern, die nicht im Wörterbuch sind, liegt die Fehlerrate unter 1 %. Laut FUTO entspricht dies großen Tech-Tastaturen. Die Benchmarks hängen vom Datensatz ab, ein Paper ist in Vorbereitung.
Datensatz
FUTO hat einen Datensatz mit 1 Million echten QWERTY-englischen Swipes unter der MIT-Lizenz veröffentlicht, gesammelt von freiwilligen Nutzern auf swipe.futo.org. Verfügbar auf HuggingFace.
Inferenzbibliothek
Die dazugehörige swipe-library (C++, GPL) übernimmt Inferenz, Dekodierung und wörterbuchgestützte Beam-Suche. Mit einer Beam-Breite von 300 wandelt sie Swipe-Pfade in eine Rangliste von Wortkandidaten um. Die Bibliothek läuft in Millisekunden auf dem Gerät, selbst auf schwacher Hardware.
Wie man sie nutzt
- Installieren Sie die FUTO-Tastatur v0.1.29 von futo.org für ein nahtloses Offline-Swipe-Tipp-Erlebnis.
- Laden Sie die Modelle von HuggingFace herunter und integrieren Sie sie über die
swipe-library. - Eine Namensnennung gemäß der FUTO-Modelllizenz ist erforderlich.
FUTO arbeitet an einem Paper, das Training und Architektur detailliert beschreibt. Der Datensatz und die Modelle sind jetzt verfügbar, damit Entwickler darauf aufbauen können.
📖 Vollständige Quelle lesen: HN AI Agents
👀 Siehe auch
Auto Router vs Sonnet: Kosteneinsparungen vs Antwortqualität
Die Auto Router-Funktion von Open Router wählt LLMs dynamisch basierend auf der Kontextkomplexität aus und bietet erhebliche Kosteneinsparungen (0,8 Cent vs. 0,00071 Cent pro Anfrage), aber Nutzer berichten von einer verschlechterten Antwortqualität im Vergleich zu Sonnet 4.6.
UI und Server für Anthropics Natural Language Autoencoder auf llama.cpp
Ein benutzerdefinierter llama.cpp-Server und eine Mikupad-Benutzeroberfläche für Anthropics Open-Weight Natural Language Autoencoder, die Aktivierungsextraktion, Erklärung, Rekonstruktion und Steuerung durch Bearbeitung von Erklärungen unterstützen.
JetBrains stellt Plugin für modernen Go-Code mit den KI-Agenten Junie und Claude Code vor.
JetBrains hat ein Plugin für die KI-Agenten Junie und Claude Code veröffentlicht, das ihre Fähigkeit verbessert, modernen Go-Code zu erzeugen, indem es die neuesten Go-Funktionen und Best Practices berücksichtigt.
Reverse Engineering des Apple Neural Engine für das Training von MicroGPT-Modellen
Ein Entwickler hat Apples private APIs des Neural Engine reverse-engineered, um eine Trainingspipeline für ein 110M-Parameter-MicroGPT-Modell zu erstellen, das auf M4-Mac-Hardware eine Leistungseffizienz von 6,6 TFLOPs/Watt erreicht.