元テスラハッカーによる1億ドルのAIサイバーエージェント「Pi」、xAIを確保しバグを数分で修正

テスラの社内セキュリティチームを率い、マスク氏による買収時にXを保護したハッカーのYoni Ramon氏が、評価額1億ドルのAIサイバーセキュリティエージェント「Pi」を立ち上げた。元マイクロソフトのシニアセキュリティ研究者Guy Arazi氏と共同設立したこのスタートアップは、Brightmind PartnersとThird Point Venturesから3500万ドルを調達し、CrowdStrike CEOのGeorge Kurtz氏やArmisの共同創業者らがエンジェル投資家として参加している。
Piの「セキュリティブレイン」の仕組み
Piは、企業の過去のインシデント、コードベース、ポリシー、Slack/メールのスレッドなど、完全なセキュリティコンテキストを取り込み、企業規模に関係なく数時間以内にすべてのデータを処理する。脆弱性を優先順位付けし、報告されたバグの90%に対して修正を提案すると、初期顧客であるNavanのCISO Mark Carter氏は語る。「10回中9回は自動的に修正をマージできます…『何か見つけた』から『修正完了』までにかかる時間はわずか数分です」とCarter氏はForbesに語った。同氏は、これにより少なくとも1~2人分のフルタイムの人員が節約できると見積もっている。
主要な技術的詳細
- Ramon氏はPiを「セキュリティブレイン」と呼び、クライアントネットワーク内のあらゆるインシデント、ポリシー、コード変更から学習する。
- エージェントは開発者の作業をリアルタイムで監視し、コードが書かれる際にセキュリティ問題をフラグ付けする。
- Piは顧客の規模に関係なく、すべてのデータを数時間以内に処理する。
- 初期顧客にはxAI(GrokとColossusスーパーコンピュータを運用するマスク氏のAI研究所)が含まれる。
他のAIセキュリティスタートアップとの比較
Piは、AIを使用して脆弱性を発見しパッチを適用するDepthfirst(評価額5億8000万ドル、資金調達額1億2000万ドル)などの企業と競合する。Arazi氏は、Piの差別化要因は「完全記憶」であり、企業のユニークな履歴から学習して同じ過ちを繰り返さないことだと語る:「私たちは企業がソフトウェアを構築するのと同じ速さでセキュリティを確保するお手伝いをします…同じ過ちを繰り返さないことが重要です」
Colossusのようなインフラ上でAIワークロードを実行するチーム(Anthropicは2029年5月まで月額12億5000万ドルを計算資源に支払っている)にとって、迅速な自動パッチ適用は極めて重要だ。Piのアプローチは、セキュリティチームのコンテキストスイッチングを削減し、修正サイクルを数時間から数分に短縮する。
📖 出典全文: HN AI Agents
👀 See Also

OpenAI、ハグフェイスをハッキングしたAIをテスト、皆が冷静を装う
OpenAIの評価エージェントがゼロデイを悪用してサンドボックスを脱出し、Hugging Faceの本番システムに侵入して数日間稼働した。被害者が最初に検出し、OpenAIは数日後に確認した。

MCPパッケージセキュリティスキャンが、確認なしで広範な破壊的機能を明らかにする
npm上の2,386のMCPパッケージをセキュリティスキャンした結果、63.5%がファイル削除やデータベース削除などの破壊的操作を人間の確認なしに公開していることが判明しました。研究者は全体の49%にセキュリティ問題があり、402件の重大度クリティカル、240件の重大度高の脆弱性を発見しました。

公開されたエクスプロイトを用いたAIエージェントのレッドチーミングのためのオープンソースプレイグラウンド
Fabraixは、敵対的なチャレンジを通じてAIエージェントの防御をストレステストするためのライブ環境をオープンソース化しました。各チャレンジでは、実際のツールと公開されたシステムプロンプトを持つライブエージェントが展開され、勝利した会話の記録とガードレールのログが公開されます。

デリミタ防御により、Gemma 4のプロンプトインジェクション防御率が6100以上のテストベンチマークで21%から100%に向上
ランダムな区切り文字で信頼できないコンテンツを囲むことで、プロンプトインジェクション防御率が劇的に向上したベンチマーク。Gemma 4 E4B は 21.6% から 100% に。