TextGen (text-generation-webui)、ポータブルビルドでネイティブデスクトップアプリに
TextGen（旧称text-generation-webui、別名oobabooga）がネイティブデスクトップアプリ版をリリースしました。2022年12月から開発が進められてきたこのプロジェクトは、現在ポータブルビルドを提供しています。ダウンロードして解凍し、textgenをダブルクリックするだけです。インストールは不要で、ファイルはすべて展開フォルダ内に収まります。すべてのチャット履歴と設定は、バンドルされたuser_dataフォルダに保存されます。
主な機能
- プライバシー：外部へのリクエストは一切送信しません。LM Studioとは異なり、OS、CPU、アプリバージョン、バックエンドの選択などを送信することはありません。
- ik_llama.cppビルド：LM StudioやOllamaが使用する標準のllama.cppよりも高精度なIQ4_KSやIQ5_KSなどのカスタム量子化タイプを搭載しています。
- 組み込みWeb検索：
ddgsPythonライブラリを使用します。ツールコーリングモード（web_searchツールでQwen 3.6やGemma 4に対応）と、検索結果をテキスト添付として取得するチェックボックスモードの2つがあります。 - ツールコーリング：単一ファイルの.pyツール（簡単なカスタム関数）、HTTP MCPサーバー、stdio MCPサーバーをサポート。ツールコールの実行前に承認/拒否の確認を求めるオプションもあります。ガイドはこちら。
- カスタムキャラクター：指示追随型の会話に加えて、カジュアルなチャット用のキャラクターを作成できます。
- API互換性：OpenAIおよびAnthropicの仕様に準拠したAPI。Claude Codeでも使用可能：
ANTHROPIC_BASE_URL=http://127.0.0.1:5000 claude。 - PDF抽出：PyMuPDFを使用して正確なテキスト抽出を実現。
- Webページ取得：
trafilaturaを使用してナビゲーションや余計な部分を除去し、エージェントループでのトークン消費を節約。 - Jinja2テンプレート：PythonのJinja2でチャットテンプレートをレンダリングし、llama.cppのC++による再実装でのクラッシュを回避。
利用可能なビルド
CUDA、Vulkan、CPUのみ、Mac（Apple SiliconおよびIntel）、ROCm。すべてポータブルです。
ライセンス：AGPLv3。ソース：https://github.com/oobabooga/textgen
📖 全文はこちら： r/LocalLLaMA
👀 See Also
Artifactr: AIコーディングエージェントの成果物を管理するローカルファーストCLIツール
Artifactrは、スキル、コマンド、エージェント定義などのLLMアーティファクトを管理するための無料のオープンソースCLIツールです。ネットワーク接続なしでポータブルなボールトにファイルを保存し、シンボリックリンクによる自動同期をサポートします。
Claude Codeを活用したボットコンサルティング：詳細な分析
ボット開発におけるClaude Codeの統合を探求し、AIコンサルティンスを通じて機能性を向上させる取り組みについて、r/clawdbotの愛好家が共有した内容です。
Ubuntu UTM VMにおけるOpenClawセットアップ（LLM APIおよびOllamaアクセス対応）
ユーザーは、M3 Mac上でサンドボックス化されたUbuntu VM内でOpenClawを正常に設定しました。macOS上のローカルOllamaと、Gemini、Claude、DeepSeekなどの外部LLM APIの両方にアクセスできます。サンプル設定ファイルとトラブルシューティングのメモはGitHubで入手可能です。
開発者がオープンソースAIスキルを構築し、スタートアップアイデアを検証、わずか10分で自らのアイデアを断念
ある開発者が、ブレインストーミングから財務予測まで、スタートアップの検証を8つのフェーズで進めるオープンソースのAIスキル「startup-design」を構築しました。自身のスタートアップアイデアでテストしたところ、このスキルは厳しい質問を投げかけ、その特定のコンセプトに対して自分が適切な創業者ではないことを明らかにしました。