プロンプトフォレスト:不確実性を考慮したローカルファーストのプロンプトインジェクション検出

✍️ OpenClawRadar📅 公開日: February 14, 2026🔗 Source
プロンプトフォレスト:不確実性を考慮したローカルファーストのプロンプトインジェクション検出
Ad

PromptForestは、現在のプロンプトインジェクション検出器でよく見られる問題に対処するために作成された新しいローカルファーストライブラリです。プロンプトインジェクションとジェイルブレイクを効率的に検出し、結果に対する過信を避けるために不確実性の尺度を提供することを目指しています。このアプローチは、特にパフォーマンスを維持しながら、よりニュアンスのある出力を提供することで、従来のシステムと区別されます。

主な詳細

既存のインジェクション検出器の根本的な問題の一つは、Llama 2 8BやQualifire Sentinel 0.6Bのような大規模モデルへの依存です。これらのモデルは遅いだけでなく、結果に対する過信により誤検知が発生し、本番環境での信頼性を損なう可能性があります。これらの制限を認識し、PromptForestは3つの小型で専門化されたモデルからなる投票アンサンブル手法を活用しています:

  • Llama Prompt Guard (86M): その重量クラスで最高の事前アンサンブル期待較正誤差(ECE)を提供します。
  • Vijil Dome (ModernBERT): パラメータあたり最高の精度を提供します。
  • カスタムXGBoost: アーキテクチャの多様性のために埋め込みでトレーニングされています。

これらのモデルは、より正確なモデルがより大きな影響力を持つ加重ソフト投票方法を使用して結果を決定します。この方法は、高い精度と一貫性を維持しながら意思決定を簡素化します。

ベンチマークによると、PromptForestは平均レイテンシ約141msで動作し、Qualifire Sentinel v2の約225msと比較して、97%に対して90%の同等の精度を提供します。較正ECEも、Sentinelの0.096に対して0.070と良好な結果を示しています。スループットも印象的で、pfranger CLIを使用したコンシューマーGPUで、約27プロンプトが毎秒処理されます。

テストと実装のために、開発者はGoogle ColabでPromptForestを試したり、完全にローカルで動作するPFRangerツールでプロンプトを監査したりできます。PFRangerは並列化を利用して速度とスループットを向上させます。

📖 完全なソースを読む: r/LocalLLaMA

Ad

👀 See Also

ESP32搭載モチボットを使った3Dプリント爪マスコット
Tools

ESP32搭載モチボットを使った3Dプリント爪マスコット

開発者がClaude Codeのマスコットから着想を得た物理的な3D Clawdを製作。ESP32駆動のMochiボットに小型ディスプレイを搭載。ファイルとコードはMakerWorldとGitHubで公開中。

OpenClawRadar
Vibeyard、複数のClaude Codeセッションを管理するカンバンボードを追加
Tools

Vibeyard、複数のClaude Codeセッションを管理するカンバンボードを追加

VibeyardというオープンソースIDEに、カンバンボードが追加されました。カードから直接Claude Codeのエージェントセッションを起動でき、エージェントが完了するとカードは自動的に「Done」に移動します。

OpenClawRadar
Visual Studio 2022拡張機能がローカルLLM向けにネイティブOllama統合を追加
Tools

Visual Studio 2022拡張機能がローカルLLM向けにネイティブOllama統合を追加

Visual Studio 2022用の無料拡張機能は、ローカルのOllamaエンドポイントに直接接続し、ツール間の切り替えなしでプライベートなAIコーディング支援を可能にします。DeepSeekやLlama 3などのモデルをサポートし、クラウドフォールバックオプションも備えています。

OpenClawRadar
LAP: Claudeの幻覚を減らすため、LLM用に1,500以上のAPI仕様をコンパイル
Tools

LAP: Claudeの幻覚を減らすため、LLM用に1,500以上のAPI仕様をコンパイル

LAPは、1,500以上の実際のAPI仕様をLLM向けに最適化された簡潔な形式にコンパイルするツールです。検証済みのエンドポイントとパラメータを提供し、ClaudeのようなAIコーディングエージェントが誤ったAPI呼び出しを生成する(ハルシネーション)のを防ぎます。

OpenClawRadar