AI Doomsday Toolbox v0.932 добавляет бенчмаркинг, создание наборов данных и рабочее пространство для агентов для локального ИИ на Android.

Что нового в AI Doomsday Toolbox v0.932

AI Doomsday Toolbox v0.932 — это значительное обновление Android-приложения для запуска локальных AI-моделей, добавляющее несколько практических функций для разработчиков, работающих с AI на устройстве.

Ключевые функции в этом выпуске

• Бенчмаркинг для локальных LLM: Пользователи могут тестировать производительность своего устройства и сравнивать различные количества потоков, чтобы определить оптимальные конфигурации моделей вместо того, чтобы угадывать.
• Создатель наборов данных: Импортируйте TXT или PDF-файлы, разделяйте их на фрагменты, очищайте, генерируйте пары вопрос/ответ, оценивайте их и экспортируйте итоговый набор данных в формате Alpaca JSON. Промпты, используемые в конвейере, можно настраивать.
• Рабочие процессы Termux/proot: Улучшенная поддержка использования дистрибутива proot через Termux, включая помощь в настройке SSH, процессы установки предопределённых инструментов, доступ к веб-представлению в приложении для совместимых инструментов и управление файлами изнутри приложения.
• Рабочее пространство AI-агентов: Среда, ориентированная на агентов, построенная вокруг Termux и локальных бэкендов, с поддержкой пользовательских инструментов, пользовательских агентов и проектно-ориентированных рабочих процессов. Это даёт LLM возможность использовать инструменты и выполнять команды.
• Наложение субтитров: Генерируйте субтитры с помощью Whisper и накладывайте их на видео с контролем шрифта, цвета и положения.
• Изменения в рабочих процессах суммаризации: Суммаризация теперь лучше работает с бэкендами, совместимыми с Ollama и llama.cpp.
• Встроенные инструменты Ollama и llama: Включает встроенный менеджер Ollama для моделей и Modelfiles, а также нативный интерфейс чата для бэкендов в стиле llama-server, который позволяет выполнять длинные вызовы без разрыва соединений (что происходит с веб-интерфейсом).
• Система питомцев: Сторона Tama в приложении включает игровой процесс, связанный с памятью, приключениями, управлением фермой и взаимодействием.

Сохранённые существующие функции

Обновление сохраняет предыдущую функциональность, включая распределённый вывод на устройствах Android, обработку на основе рабочих процессов для медиа и документов, офлайн-инструменты знаний, локальную генерацию изображений и концепцию повторного использования старых телефонов для локального AI.

Варианты установки

Теперь доступна бета-версия в Google Play с упаковкой App Bundle для уменьшения размера установки. Бета-версия помогает в тестировании на разных устройствах. Репозиторий на GitHub остаётся доступным для прямых загрузок.