Google、AIの「合法的な」使用に関する機密国防総省契約に署名

Googleは米国防総省と機密契約を結び、軍が同社のAIモデルを「合法的な政府目的」に使用することを許可したと、The Informationが報じている。この合意は、Googleの従業員が非人道的な用途への懸念から、CEOのサンダー・ピチャイに国防総省によるAI使用を阻止するよう求めた翌日に行われた。

契約の主な条件

• 拒否権なし： 契約では、Googleが「合法的な政府の運用上の意思決定を管理または拒否する権利を持たない」と明記されており、兵器化や監視に関する制限は事実上、法的義務ではなく非拘束的な約束に過ぎない。
• 要請に応じた調整： Googleは政府の要請に応じて、AIの安全設定やフィルターの変更を支援しなければならない。
• 範囲： AIシステムは、「適切な人間の監督と管理なしに」国内の大量監視や自律型兵器に使用されるべきではないが、その執行は相互の誠意に依存している。

背景

GoogleはOpenAIやxAIと並び、米国政府と機密のAI契約を結んでいる。Anthropicは兵器や監視に関するガードレールの撤去を拒否したため、国防総省から以前ブラックリストに載せられた。Googleのスポークスパーソンは次のように述べている：「我々は、国家安全保障を支援するAIサービスとインフラを提供する主要なAIラボ、テクノロジー企業、クラウド企業からなる広範なコンソーシアムの一員であることを誇りに思う。」

開発者への影響

（Vertex AIやCloud AIなどを通じて）GoogleのAIモデルを使用する開発者は、政府顧客向けに安全フィルターが無効化される可能性があることを認識すべきである。これは、特に一貫した安全ガードレールに依存している開発者にとって、GoogleのAIガバナンスに対する信頼に影響を与える可能性がある。防衛分野でのAIエージェントの使用方法に対する監視が強化されると予想される。