FUTO Swipe : Les modèles de saisie par glissement open source atteignent la précision des grandes technologies

FUTO a publié FUTO Swipe, une famille de modèles et d'algorithmes de saisie par glissement open source, accompagnée d'une bibliothèque d'inférence. Ces modèles alimentent le FUTO Keyboard hors ligne pour Android, mais peuvent être utilisés indépendamment sous la licence FUTO Model License.

Architecture et benchmarks

FUTO Swipe utilise trois types de modèles :

• Encodeur (635 140 paramètres) – indépendant de la disposition et de la langue, prédicteur universel.
• ContextLM (1 498 472 paramètres au total, 1,1 M d'embeddings) – petit modèle de langue entraîné par langue pour filtrer les mots non pertinents en fonction du contexte. Nécessite uniquement des données textuelles.
• Décodeur (304 155 paramètres) – spécifique à la langue et à la disposition. Actuellement, seul QWERTY anglais entraîné sur des données réelles de glissement.

Combinés (1 364 271 actifs / 2 494 767 paramètres totaux), les modèles atteignent un taux d'échec top-4 d'environ 4 % sur l'ensemble de test. En excluant les mots hors vocabulaire, le taux d'erreur est inférieur à 1 %. Cela correspond aux claviers des grandes entreprises technologiques, selon FUTO. Les benchmarks dépendent de l'ensemble de données, mais l'article est à venir.

Ensemble de données

FUTO a publié un ensemble de données de 1 million de glissements QWERTY anglais réels sous licence MIT, collectés auprès d'utilisateurs volontaires sur swipe.futo.org. Disponible sur HuggingFace.

Bibliothèque d'inférence

La bibliothèque swipe-library (C++, GPL) gère l'inférence, le décodage et la recherche par faisceau contrainte par dictionnaire. Avec une largeur de faisceau de 300, elle convertit les chemins de glissement en candidats de mots classés. La bibliothèque s'exécute sur l'appareil en millisecondes, même sur les appareils bas de gamme.

Comment l'utiliser

• Installez FUTO Keyboard v0.1.29 depuis futo.org pour une expérience prête à l'emploi avec la saisie par glissement hors ligne.
• Téléchargez les modèles depuis HuggingFace et intégrez-les via swipe-library.
• Attribution requise selon la licence FUTO Model License.

FUTO travaille sur un article détaillant l'entraînement et l'architecture. L'ensemble de données et les modèles sont disponibles dès maintenant pour que les développeurs puissent les utiliser.