GitHubリポジトリには、公開AIチャット向けの16のプロンプトインジェクション手法と防御戦略が文書化されています。

開発者が実験として自社ウェブサイトにカスタムAIチャットを構築したところ、実際のユーザーがそれを破ろうとする試みにより、複数のセキュリティ課題に直面しました。この経験から、GitHubで公開されている包括的なセキュリティガイドの作成につながりました。

直面したセキュリティ課題

ユーザーは以下のような様々な攻撃を試みました：

• プロンプトインジェクション
• ロールプレイ攻撃
• 多言語トリック
• Base64エンコードされたペイロード

実装された防御戦略

開発者は多層防御アプローチを文書化し、以下をカバーしています：

• 入力のサニタイズ
• レート制限
• ゼロトラストシステムプロンプト設計
• 出力制御
• コスト上限

GitHubリポジトリの内容

リポジトリには以下が含まれています：

• 16種類のプロンプトインジェクション手法の詳細解説
• あなたのチャットボットに対して16種類の手法を自動的にテストするClaudeコードスキル
• 防御実装の詳細情報

開発者は、ユーザーが「自分ではテストしようとも思わなかったようなこと」を試みたと述べており、このガイドが同様の公開AIチャットシステムを実装するすべての人にとって役立つことを意図しているとしています。