Anthropic, 책임 있는 확장 정책에서 핵심 안전 서약 삭제

TIME 보도에 따르면 Anthropic은 자사의 대표적인 책임 있는 확장 정책(RSP)에서 핵심 약속을 삭제했습니다. 이 회사는 2023년에 사전에 안전 조치가 적절함을 보장할 수 없는 한 AI 시스템을 훈련하지 않겠다고 약속한 바 있습니다.

정책 변경 상세 내용

이 회사는 Anthropic이 사전에 적절한 위험 완화를 보장할 수 없는 경우 AI 모델을 출시하지 않겠다는 약속을 폐기하고 있습니다. 이는 회사 지도부가 수년 동안 시장 유인이 위험할 수 있는 기술을 서둘러 출시하려는 유혹을 견딜 것이라는 증거로 내세웠던 책임 있는 확장 정책의 중심 기둥이었습니다.

변경 배경

Anthropic의 최고 과학 책임자 Jared Kaplan은 TIME에 "AI 모델 훈련을 중단하는 것이 실제로 누구에게도 도움이 되지 않을 것이라고 느꼈습니다. AI의 급속한 발전 속에서 경쟁사들이 앞서 나가는 상황에서 일방적인 약속을 하는 것이 합리적이라고 생각하지 않았습니다."라고 말했습니다.

이 회사는 주요 AI 연구실 중 가장 안전을 중시하는 기업으로 자리매김해 왔기 때문에, 이번 정책 변경은 AI 안전 관행을 추적하는 개발자들에게 중요한 의미를 가집니다. 이 결정은 개발 속도보다 안전 보장을 우선시했던 이전 입장에서의 전환을 나타냅니다.