AIエージェントのコンプライアンス強化：ブートストラップ言語とツールベースのアプローチ

r/openclawの開発者が、AIエージェントの遵守に関する課題について議論し、自身で効果のあった具体的な戦略を共有しています。

2つの初期アプローチ

情報源は、エージェントの遵守に影響を与える2つの要因を特定しています：

• モデルの性格が重要： 遵守率はモデルによって大きく異なります。遅いもの、頑固なもの、「自分があなたより賢いと思っている」ものもあります。この性格はルール遵守行動に直接影響します。
• 否定的な言語の方が効果的： ブートストラップ指示でNO、DO NOT、NEVERを使用すると、肯定的な指示よりも定着しやすい傾向があります。開発者はこのアプローチを「活用する」ことを推奨しています。

メンタルモデル：美術教師 vs 理科教師

開発者は、遵守問題を理解するための枠組みを提示します：

• AIモデル = 美術教師： 優れた創造性と価値を持つが、「自分流でやる」。これは現在のAIシステムの特徴でもあり欠点でもあると説明されています。
• ツールとコード = 理科教師： 構造化されルールに縛られています。理科教師は「重力のように破れない」ルールを設定します。美術教師が重力を好まなくても、「彼女はやはり落ちる」のです。

実践的な応用

開発者は、エージェントの記憶喪失を修正するメモリプラグインを含む実世界の例を提供します。内部レポートや定期的な夜間メモリヘルスレポートなどのユーザー向けレポートを含む特定のレポートは、「メモリ保持とメモリ削除防止のために実行されなければなりません」。

開発中、「美術教師」（AIモデル）はフォーマットやデータを無視し続け、一貫性のないパフォーマンス（時には完璧、時には不在）につながりました。原因はモデルが「ブートストラップルールを曲げる」ことでした。

遵守強制戦略

開発者は2段階のアプローチを概説します：

• レベル1の試み： ブートストラップでより強い言葉（NO/NEVERなど）を使用する。
• レベル2の試み： .mdファイルのソフトなルールが失敗した場合、「実際のコードを使用して遵守を強制する」。これはツール（Python、スクリプト、ハードな構造）を使用することを意味します。開発者は「ハードな構造は丁寧な指示に常に勝る」と指摘しています。

開発者の現在のアプローチは、まずタスクが「美術教師」（AIモデル）を必要とするか「理科教師」（ツールとコード）を必要とするかを判断することです。この意思決定プロセスは遵守強制に役立ち、ストレスを軽減します。

TL;DR 要約

遵守は、ブートストラップ言語（NO/NEVER/など）の強さと使用しているモデルに依存します。それらのソフトなルールが失敗したら、「美術教師に頼むのをやめて、代わりに理科教師（ツールとコード）を書く」ことです。