愛らしいショーケースで紹介されたEdTechアプリにセキュリティ脆弱性が発見されました。

セキュリティ研究者が、Lovableプラットフォームで成功事例として紹介されているEdTechアプリケーションに複数の重大な脆弱性を発見しました。Lovableは66億ドル規模の「バイブコーディング」プラットフォームで、自社のツールで構築されたアプリを特集しています。
脆弱性の詳細
研究者は、Lovableの紹介ページで10万回以上閲覧され、カリフォルニア大学バークレー校、カリフォルニア大学デービス校、ヨーロッパ、アフリカ、アジアの学校から実際のユーザーがいるEdTechアプリをテストしました。数時間のテストで、以下のことが判明しました:
- セキュリティ脆弱性は合計16件
- 重大な脆弱性は6件
- 認証ロジックが「文字通り逆」——ログイン済みユーザーをブロックし、匿名ユーザーを通してしまう
- 研究者はこれを「『動作する』がレビューされていない典型的なAI生成コード」と表現
公開されていた情報
- 18,697件のユーザーレコード(名前、メールアドレス、役割)——認証なしでアクセス可能
- 単一のAPI呼び出しによるアカウント削除——認証不要
- 学生の成績変更——認証不要
- 一括メール送信機能——認証不要
- 14機関の企業組織データ
対応
研究者は脆弱性をLovableに報告しましたが、同社は問題に対処せずにサポートチケットを閉じました。
📖 詳細はこちら: r/ClaudeAI
👀 See Also

Claudeのセキュリティレビューコマンドは、本番システムには制限があります
開発者は、MIMEタイプやファイルサイズ制限などの基本的な検証にはClaudeのセキュリティレビューコマンドが役立つが、高度な脅威に対する本番環境の強化には不十分であることを発見しました。解決策としては、ファイル処理を制限された権限を持つ分離ワーカーに分離する、2週間のアーキテクチャー見直しが必要でした。

ローカルモデルプロンプトインジェクションスキャナー for AIスキルセキュリティ
概念実証ツールは、Ollama上のmistral-small:latestのようなローカルの非ツール呼び出しモデルを使用して、サードパーティのAIスキルに隠れたbashコマンドインジェクションをスキャンし、Claude Codeの!演算子機能におけるセキュリティ脆弱性に対処します。

クラーの法則:OpenClawエージェント向けオープンソースセキュリティルールセット
139のセキュリティルールを含むオープンソースのJSONルールセットで、破壊的なコマンドをブロックし、認証ファイルを保護し、指示ファイルを不正なエージェント編集から守ります。ツール層で正規表現パターンを使用し、LLM依存ゼロで動作します。

AIエージェントのガードレールは、積極的なメンテナンスなしでは時間とともに劣化します。
AIエージェントのガードレール(システムプロンプトで定義された安全ルール)は、システムプロンプトの更新が蓄積し、モデルバージョンが変更され、新しいツールが追加されるにつれて時間とともに劣化し、矛盾したルールや無視される安全ルールが生じ、定期的なレビューとテストが必要になることが多い。