サムゲートは、AI安全性のために清華大学の自然言語エージェント制御パターンを実装しています

✍️ OpenClawRadar📅 公開日: April 5, 2026🔗 Source
サムゲートは、AI安全性のために清華大学の自然言語エージェント制御パターンを実装しています
Ad

NLAHパターンのThumbGate実装

清華大学の論文(arxiv 2603.25723)のNatural-Language Agent Harness(NLAH)パターンは、AIエージェントの安全レイヤーを特定のコンポーネントを持つ第一級オブジェクトとして扱うことを形式化しています。オープンソースツールThumbGateは、このパターンを実装し、実運用システムへの具体的なマッピングを提供します。

コンポーネントマッピング

ThumbGateは4つのNLAHコンポーネントを実用的な実装にマッピングします:

  • 契約 → サムズダウンフィードバックから自動生成される予防ルール
  • 検証ゲート → すべてのツール呼び出しを実行前にインターセプトするPreToolUseフック
  • 永続状態 → セッションをまたいで永続化するSQLite+FTS5レッスンデータベース
  • アダプター → Claude Code、Cursor、Codex、Gemini、Amp向けのMCPサーバーアダプター

主要な実装の洞察

開発者は、プロンプトルールは静かに失敗する(エージェントが推論で回避できる)一方、検証ゲートは明示的に失敗する(エージェントがブロック応答を受け取り、適応する必要がある)ことを発見しました。彼らは不確実な深刻度レベルを扱うためにトンプソンサンプリングを使用し、新しいルールは警告として開始され、フィードバックに基づいてハードブロックに昇格します。

完全な実装の詳細とマッピングは、彼らの詳細なドキュメントで利用可能です。

📖 Read the full source: r/LocalLLaMA

Ad

👀 See Also

🦀
Tools

Claude Codeスキル税:設置スキル2,596、使用スキル40、月額91ドルの無駄

インストールされたすべてのClaude Codeスキルは、各セッションのシステムプロンプトに読み込まれます。あるユーザーが測定したところ、1セッションあたり102,651トークンが読み込まれ、その98.6%が使用されず、月約91ドルのコストがかかっていました。オープンソースツール「skill-tax」は、使用状況とコストを監査します。

OpenClawRadar
VectorClaw v1.0.0:Anki Vectorロボット制御用MCPサーバー
Tools

VectorClaw v1.0.0:Anki Vectorロボット制御用MCPサーバー

VectorClaw v1.0.0は、OpenClawがスピーチ、モーション、知覚、センサー、ディスプレイ機能の23種類の特定ツールを通じてAnki Vectorロボットを制御できるようにするMCPサーバーです。

OpenClawRadar
OpenClawラッパーによる自動化の簡素化
Tools

OpenClawラッパーによる自動化の簡素化

OpenClaw Wrappersは、AIコーディングエージェントを効率的に管理する方法を提供します。具体的なコマンド例とコミュニティのフィードバックを通じて、これらのツールが既存のフレームワークにどのように簡単に統合されるかをご覧ください。

OpenClawRadar
6GB GPUでのミーティング要約: qwen3.5:0.8Bは57秒で動作、Granite 4 350Mは幻覚を起こす
Tools

6GB GPUでのミーティング要約: qwen3.5:0.8Bは57秒で動作、Granite 4 350Mは幻覚を起こす

VoiceFlow v1.6.0 は、ローカルの会議録音と要約機能を追加しました。6GBのRTX 3060でサブ10億パラメータモデルをベンチマーク: qwen3.5:0.8Bは2.2GB VRAMで57秒かけて構造化された要約を生成し、Granite 4 350Mはひどく幻覚を起こします。

OpenClawRadar