Off-Grid-Mobile-App fügt On-Device-KI-Toolnutzung mit 3-facher Geschwindigkeitssteigerung hinzu
Off Grid, eine KI-Mobile-App für On-Device-Nutzung, wurde aktualisiert, um Werkzeugnutzung und erhebliche Leistungsverbesserungen hinzuzufügen. Die App ermöglicht es KI-Modellen jetzt, Werkzeuge offline aufzurufen, ohne API-Schlüssel, Server oder Cloud-Funktionen zu benötigen.
Wichtige Funktionen und Leistung
Das Update führt automatische Werkzeugschleifen für Websuche, Taschenrechner, Datums-/Uhrzeitfunktionen und Zugriff auf Geräteinformationen ein. Laut Entwickler schließt dies die Lücke zwischen "lokalen Spielzeugen" und "nützlichen Assistenten", indem 3B-Parameter-Modelle auf Ihrem Telefon direkt denken, Werkzeuge aufrufen und Ergebnisse zusammenfassen können.
Die Leistungsverbesserungen stammen von konfigurierbaren KV-Cache-Optionen. Benutzer können jetzt zwischen drei KV-Cache-Typen wählen:
f16q8_0q4_0
Mit dem q4_0-Cache erreichen Modelle, die zuvor 10 Tokens/Sekunde generierten, jetzt 30 Tokens/Sekunde. Die App enthält eine Leistungsempfehlungsfunktion, die nach der ersten Generierung schnellere Einstellungen vorschlägt.
Modellunterstützung und Plattformverfügbarkeit
Off Grid unterstützt Modelle im GGUF-Format, darunter:
- Qwen 3
- Llama 3.2
- Gemma 3
- Phi-4
- Andere GGUF-kompatible Modelle
Die App ist jetzt in beiden großen App-Stores ohne Sideloading-Anforderungen verfügbar. Sie kann direkt aus dem App Store und Google Play installiert werden.
Kernfunktionalität und Philosophie
Was sich in diesem Update nicht geändert hat:
- MIT-lizenziert und vollständig Open Source
- Keine Daten verlassen das Gerät (keine Analysen, Telemetrie oder anonyme Nutzungsdaten)
- Offline-Fähigkeiten einschließlich Textgenerierung (15-30 Tokens/Sekunde), Bildgenerierung (5-10 Sekunden auf NPU), Vision-KI, Spracherkennung und Dokumentenanalyse
Der Entwickler erklärt, das Projekt sei motiviert von der Überzeugung, dass "das Telefon in Ihrer Tasche der privateste Computer sein sollte, den Sie besitzen – nicht der am meisten überwachte".
📖 Read the full source: HN AI Agents
👀 Siehe auch
RAG Learning Academy in Claude Code mit 20 Spezial-Agenten erstellt
Ein Entwickler hat eine interaktive RAG-Lernakademie in Claude Code erstellt, die 20 spezialisierte Agenten, 17 Slash-Befehle und einen 9-moduligen Lehrplan umfasst, der das Wissenstand bewertet und standardmäßig Open-Source-Tools verwendet.
Claude-Nutzungsmonitor: Schwimmendes CRT-Widget für Windows
Ein Entwickler hat ein Windows-Widget erstellt, das die Claude-API-Nutzung in Echtzeit mit Sitzungs- und Wochenbalken anzeigt und sieben Farbthemen sowie automatisches Pausieren bei gesperrtem Bildschirm oder Vollbildmodus bietet.
AgentCrawl-Update fügt wichtige Crawler-Funktionen und -Verbesserungen hinzu.
Die neueste Aktualisierung von AgentCrawl bringt Funktionen wie die Einhaltung von robots.txt, Disk-Cache, fortsetzbare Crawls und strukturierte Metadatenaus extraction mit sich, wodurch es zu einem robusteren, produktionsbereiten Tool wird.
Käuferbewertung: Claude-Fähigkeit zur B2B-Anbieterbewertung mittels KI-Agenten-Konversationen
Eine Claude-Fähigkeit, die B2B-Softwareanbieter bewertet, indem sie Ihr Unternehmen recherchiert, domänenspezifische Fragen stellt und direkt mit den KI-Agenten der Anbieter über die Salespeak Frontdoor API kommuniziert. Sie gleicht Behauptungen mit unabhängigen Quellen ab und erstellt evidenzbasierte Scorecards mit transparenten Verifizierungsstufen.