OpenAIのサム・アルトマンは、Anthropicの国防総省に対する「レッドライン」を支持し、技術的保護措置を提案している。

防衛AIにおけるOpenAI提携の倫理的境界線

OpenAIのCEOサム・アルトマンは、国防総省との継続的な意見の相違におけるAnthropicの立場を公に支持し、OpenAIもAI応用に関する同じ倫理的「レッドライン」を共有していると述べた。具体的には、両社とも大量監視や自律兵器システムへのAI利用に反対している。

契約的アプローチよりも技術的保護措置

国防総省との行き詰まりを解決するため、OpenAIは契約上の制限よりも技術的保護措置を重視する取引に取り組んでいる。提案されたアプローチには、クラウド限定展開などの措置が含まれており、法的合意ではなくインフラの制限を通じてAIシステムの制御を維持する。

AIガバナンスへのこの技術的アプローチは、企業が倫理的境界線を実施するために建築的制約を実装する業界の成長傾向を反映している。例えば、クラウド限定展開は、禁止用途に変更される可能性のあるローカルモデルの実行を防ぎつつ、中央集権的なインフラを通じて監査証跡と使用状況の監視を維持する。

防衛応用におけるAI能力への国防総省の関心の高まりは、倫理的ガイドラインを確立したAI企業との緊張を生み出している。この状況は、二重使用の可能性がある政府契約を扱う際に責任あるAIポリシーを実施する実践的な課題を浮き彫りにしている。