OpenAI의 샘 알트먼, Anthropic의 국방부 협력 한계선 지지하며 기술적 안전장치 제안

국방 AI에서의 오픈AI 정렬 윤리적 경계

오픈AI CEO 샘 알트먼은 국방부와의 지속적인 불일치에서 Anthropic의 입장을 공개적으로 지지하며, 오픈AI도 AI 응용 분야에 대해 동일한 윤리적 '레드라인'을 공유한다고 밝혔습니다. 구체적으로, 두 회사 모두 대량 감시 및 자율 무기 체계를 위한 AI 사용을 반대합니다.

계약적 접근법보다 기술적 안전장치

국방부와의 교착 상태를 해결하기 위해, 오픈AI는 계약적 제한보다 기술적 안전장치를 강조하는 거래를 진행 중입니다. 제안된 접근법에는 클라우드 전용 배포와 같은 조치가 포함되어 있으며, 이는 법적 합의보다는 인프라 제한을 통해 AI 시스템에 대한 통제를 유지할 것입니다.

AI 거버넌스에 대한 이 기술적 접근법은 기업들이 윤리적 경계를 시행하기 위해 구조적 제약을 구현하는 업계의 증가하는 추세를 반영합니다. 예를 들어, 클라우드 전용 배포는 금지된 용도로 수정될 수 있는 로컬 모델 실행을 방지하면서, 중앙 집중식 인프라를 통한 감사 추적 및 사용 모니터링을 유지합니다.

국방부의 국방 응용 분야에 대한 AI 역량에 대한 증가하는 관심은 윤리적 지침을 수립한 AI 기업들과의 긴장을 초래했습니다. 이 상황은 이중 사용 가능성이 있는 정부 계약을 다룰 때 책임 있는 AI 정책을 시행하는 실질적인 어려움을 강조합니다.