TextGen (text-generation-webui)、ポータブルビルドでネイティブデスクトップアプリに
TextGen(旧称text-generation-webui、別名oobabooga)がネイティブデスクトップアプリ版をリリースしました。2022年12月から開発が進められてきたこのプロジェクトは、現在ポータブルビルドを提供しています。ダウンロードして解凍し、textgenをダブルクリックするだけです。インストールは不要で、ファイルはすべて展開フォルダ内に収まります。すべてのチャット履歴と設定は、バンドルされたuser_dataフォルダに保存されます。
主な機能
- プライバシー:外部へのリクエストは一切送信しません。LM Studioとは異なり、OS、CPU、アプリバージョン、バックエンドの選択などを送信することはありません。
- ik_llama.cppビルド:LM StudioやOllamaが使用する標準のllama.cppよりも高精度なIQ4_KSやIQ5_KSなどのカスタム量子化タイプを搭載しています。
- 組み込みWeb検索:
ddgsPythonライブラリを使用します。ツールコーリングモード(web_searchツールでQwen 3.6やGemma 4に対応)と、検索結果をテキスト添付として取得するチェックボックスモードの2つがあります。 - ツールコーリング:単一ファイルの.pyツール(簡単なカスタム関数)、HTTP MCPサーバー、stdio MCPサーバーをサポート。ツールコールの実行前に承認/拒否の確認を求めるオプションもあります。ガイドはこちら。
- カスタムキャラクター:指示追随型の会話に加えて、カジュアルなチャット用のキャラクターを作成できます。
- API互換性:OpenAIおよびAnthropicの仕様に準拠したAPI。Claude Codeでも使用可能:
ANTHROPIC_BASE_URL=http://127.0.0.1:5000 claude。 - PDF抽出:PyMuPDFを使用して正確なテキスト抽出を実現。
- Webページ取得:
trafilaturaを使用してナビゲーションや余計な部分を除去し、エージェントループでのトークン消費を節約。 - Jinja2テンプレート:PythonのJinja2でチャットテンプレートをレンダリングし、llama.cppのC++による再実装でのクラッシュを回避。
利用可能なビルド
CUDA、Vulkan、CPUのみ、Mac(Apple SiliconおよびIntel)、ROCm。すべてポータブルです。
ライセンス:AGPLv3。ソース:https://github.com/oobabooga/textgen
📖 全文はこちら: r/LocalLLaMA
👀 See Also

XLI: Claude Code風ターミナルUIのためのオープンソースPythonライブラリ
コーディングエージェントを構築中ですか?ターミナルUXが作業の半分を占めます。XLIはオープンソースのPythonレンダリングエンジンで、Claude Codeのストリーミングマークダウン、ツールカード、インライン承認、スラッシュコマンドをターミナルのスクロールバックを奪うことなく再現します。

Shieldbot: Claude Code用オープンソースセキュリティスキャナープラグイン
Shieldbotは、Claude Code内でプラグインとして動作するオープンソースのセキュリティスキャナーです。Semgrep(5,000以上のルール)、Bandit、Ruff、detect-secrets、pip-audit、npm auditの6つのスキャナーを統合し、重複する検出結果を排除して、リスクスコアとコード修正を含む優先順位付けされたレポートを生成します。

ノーションとMCPを使用した、コード不要のClaude用永続メモリシステム
放射線科医がNotion内に「Cognitive Hub」を構築し、ClaudeがMCPを通じて読み書きすることで、構造化された知識ベースと、会話ごとに必要な情報のみを読み込むルーティングテーブルを実現。毎日使用して1ヶ月後には70ページ以上に成長。

Fennara: Godotプラグインと反復フィードバックループによるAIエージェント向けMCP
FennaraはGodotプラグインおよびMCPサーバーで、AIエージェントにスクリプト診断、シーン検証、ランタイムエラー、ノード情報、スクリーンショット、セマンティック検索結果を各編集後に提供し、ワンショットコマンドよりも密なフィードバックループを実現します。