Boîte à outils Apocalypse IA v0.932 ajoute l'étalonnage, la création de jeux de données et un espace de travail pour agents pour l'IA locale Android.

Nouveautés de la boîte à outils AI Doomsday v0.932

AI Doomsday Toolbox v0.932 est une mise à jour importante de l'application Android pour exécuter des modèles d'IA locaux, ajoutant plusieurs fonctionnalités pratiques pour les développeurs travaillant avec l'IA sur appareil.

Fonctionnalités clés de cette version

• Tests de performance pour les LLM locaux : Les utilisateurs peuvent évaluer les performances de leur appareil et comparer différents nombres de threads pour déterminer les configurations de modèle optimales au lieu de deviner.
• Créateur de jeux de données : Importez des fichiers TXT ou PDF, divisez-les en segments, nettoyez-les, générez des paires question/réponse, évaluez-les et exportez le jeu de données final au format JSON Alpaca. Les invites utilisées dans le pipeline peuvent être personnalisées.
• Flux de travail Termux/proot : Meilleure prise en charge pour l'utilisation d'une distribution proot via Termux, y compris l'aide à la configuration SSH, les procédures d'installation pour des outils prédéfinis, l'accès webview dans l'application pour les outils compatibles et la gestion des fichiers depuis l'application.
• Espace de travail pour agents IA : Un environnement orienté agent construit autour de Termux et de backends locaux, avec prise en charge d'outils personnalisés, d'agents personnalisés et de flux de travail orientés projet. Cela donne aux LLM la capacité d'utiliser des outils et d'exécuter des commandes.
• Incrustation de sous-titres : Générez des sous-titres avec Whisper et incrustez-les dans la vidéo avec des contrôles de police, de couleur et de position.
• Modifications du flux de travail de résumé : Les résumés fonctionnent désormais mieux avec Ollama et les backends compatibles llama.cpp.
• Outils intégrés Ollama et llama : Inclut un gestionnaire Ollama intégré pour les modèles et les Modelfiles, ainsi qu'une interface de chat native pour les backends de type llama-server qui permet d'exécuter des appels longs sans perdre la connexion (ce qui arrive avec l'interface web).
• Système d'animal de compagnie : La partie Tama de l'application propose un gameplay autour de la mémoire, des aventures, de la gestion de ferme et de l'interaction.

Fonctionnalités existantes conservées

La mise à jour conserve les fonctionnalités précédentes, y compris l'inférence distribuée sur les appareils Android, le traitement basé sur des flux de travail pour les médias et documents, les outils de connaissance hors ligne, la génération d'images locales et le concept de réutilisation d'anciens téléphones pour l'IA locale.

Options d'installation

Une version bêta Google Play est désormais disponible avec un packaging App Bundle pour des tailles d'installation plus petites. La version bêta aide aux tests sur différents appareils. Le dépôt GitHub reste disponible pour les téléchargements directs.