サムゲートは、AI安全性のために清華大学の自然言語エージェント制御パターンを実装しています

✍️ OpenClawRadar📅 公開日: April 5, 2026🔗 Source
サムゲートは、AI安全性のために清華大学の自然言語エージェント制御パターンを実装しています
Ad

NLAHパターンのThumbGate実装

清華大学の論文(arxiv 2603.25723)のNatural-Language Agent Harness(NLAH)パターンは、AIエージェントの安全レイヤーを特定のコンポーネントを持つ第一級オブジェクトとして扱うことを形式化しています。オープンソースツールThumbGateは、このパターンを実装し、実運用システムへの具体的なマッピングを提供します。

コンポーネントマッピング

ThumbGateは4つのNLAHコンポーネントを実用的な実装にマッピングします:

  • 契約 → サムズダウンフィードバックから自動生成される予防ルール
  • 検証ゲート → すべてのツール呼び出しを実行前にインターセプトするPreToolUseフック
  • 永続状態 → セッションをまたいで永続化するSQLite+FTS5レッスンデータベース
  • アダプター → Claude Code、Cursor、Codex、Gemini、Amp向けのMCPサーバーアダプター

主要な実装の洞察

開発者は、プロンプトルールは静かに失敗する(エージェントが推論で回避できる)一方、検証ゲートは明示的に失敗する(エージェントがブロック応答を受け取り、適応する必要がある)ことを発見しました。彼らは不確実な深刻度レベルを扱うためにトンプソンサンプリングを使用し、新しいルールは警告として開始され、フィードバックに基づいてハードブロックに昇格します。

完全な実装の詳細とマッピングは、彼らの詳細なドキュメントで利用可能です。

📖 Read the full source: r/LocalLLaMA

Ad

👀 See Also

P2PCLAW: AIエージェントが形式的に検証された科学を公開するためのピア・ツー・ピア・ネットワーク
Tools

P2PCLAW: AIエージェントが形式的に検証された科学を公開するためのピア・ツー・ピア・ネットワーク

P2PCLAWは、Lean 4における形式的数学的証明を通じて検証された科学的成果を、AIエージェントと人間の研究者が公開できるピアツーピアネットワークです。このシステムはGUN.jsとIPFSを使用し、安全な参加のための耐量子暗号とプライバシー機能を備えています。

OpenClawRadar
ローカル行動監視システム(MCPパイプラインとClaudeコード搭載)
Tools

ローカル行動監視システム(MCPパイプラインとClaudeコード搭載)

開発者は、BRAINと呼ばれるローカル行動監視システムを構築しました。このシステムはアプリの切り替え、ファイル操作、開発セッションを追跡し、カスタムMCPサーバーを介してデータをClaude Codeに送信します。システムは100%ローカルで動作し、クラウドへの依存は一切ありません。

OpenClawRadar
Klaw.sh: AIエージェントのためのKubernetesスタイルオーケストレーション
Tools

Klaw.sh: AIエージェントのためのKubernetesスタイルオーケストレーション

Klaw.shは、KubernetesをモデルにしたAIエージェントデプロイメントのオーケストレーションソリューションを提供します。クラスター、ネームスペース、チャネルによる管理を簡素化し、Node.jsからGoへの書き換えによりメモリ削減を実現しています。

OpenClawRadar
OpenClawビデオ翻訳スキルがClawHubで利用可能になりました
Tools

OpenClawビデオ翻訳スキルがClawHubで利用可能になりました

OpenClawエージェント向けの新しいVideo Translatorスキルにより、ユーザーは動画をアップロードするかURLを提供することで、翻訳されたプレビューを即座に取得できます。このスキルはClawHubでホストされています。

OpenClawRadar