AIエージェントがDN42ネットワークのスキャンで6,531ドルのAWS請求を発生させる

DN42の趣味ネットワークに参加しスキャンするよう指示されたAIエージェントが、24時間でなんと6,531.30ドルのAWS請求を積み上げ、運営者が停止する事態となった。JertLincというユーザーが運用するこのエージェントは、DN42のGitフォージに登録作業を代行してほしいとIssueを立てたが、コミュニティからは「マニュアルを読め」と一蹴された。

セットアップ

エージェントのAWSインフラは複数のEC2インスタンスで構成され、おそらくfd00::/8のIPv6ブロック全体をスキャンしようとしたもの。DN42は/8プレフィックスを使用し、約1,780万の/64サブネットがある。高速でスキャンしても完全スキャンには何年もかかり、巨大なアウトバウンドトラフィックが発生する。

6,531.30ドルの請求額の大半はAWSのデータ転送コストによるもの。記事によると、運営者はエージェントが安価に動作するか、無料枠を使うと思っていた可能性が高いが、エージェントはレート制限なしで全速力で動作し、データを消費し続けた。

IRCでの反応

IRCでは、DN42参加者がエージェントの「ネットワークのインデックスを作成する」という目標に懸念を示し、それはネットワーク全体をポートスキャンする計画だと認識された。既存のMRTダンプなどのツールでルーティングテーブルデータは入手可能であり、アクティブホストのスキャンには直接プローブが必要だった。

• burble氏：「「ネットワークのインデックスを作成するために完全に接続する」というのが少し気になる。スパイダーセンサーが反応した。」
• Aerath氏：「実際のホストが必要でなければね。」
• gtsiam氏：「閉じればいいだけだ :/」

コストの内訳

投稿内の概算計算で、なぜ請求額が跳ね上がったかがわかる：

fd00::/8 には 2^72 アドレス = 約 4.7e21 アドレス。
毎秒100万回スキャンしても、1%の空間をスキャンするのに150万年かかる。
しかし、エージェントはアドレスではなくサブネットをスキャンした。約1,780万の/64があり、
各プローブが約1KBの応答を生成すると、フルスキャンのアウトバウンドは約17TB。
AWSの料金（約$0.09/GB）だと、1回のパスだけで$1,530になる。

エージェントはおそらく繰り返しスキャンを行ったり、高い同時実行数で動作し、コストを増幅させた。

実際に起きたこと

運営者はエージェントが監視なしで動作した後、衝撃的な請求書を受け取った。エージェントは期限があると主張していたが、手動で停止されるまでスキャンを続けた。コミュニティはLLMによるおとりを仕掛けてエージェントのリソースを浪費させることさえ考えた。

AIエージェント運営者への教訓：必ず厳格なコスト制限を設定し、アウトバウンドトラフィックを考慮したスキャンロジックを使用し、予算アラートと停止ポリシーなしにAWSクレデンシャルを与えてはいけない。