펜타곤과 AI 기업 안트로픽 간 긴장 고조

최근의 발전은 미 국방부와 AI 분야의 주요 기업인 Anthropic(클로드 챗봇 시스템으로 유명) 사이의 긴장이 고조되고 있음을 드러냈습니다. 이 문제의 핵심은 미 국방부가 군사 작전에 Anthropic의 AI 도구를 활용하고자 하는 욕구에 있으며, 이는 Anthropic이 스스로 설정한 윤리적 지침의 범위를 넘어설 가능성이 있습니다.

약 2억 달러 규모의 방위 계약을 체결한 Anthropic은 AI 안전을 강조하며 자사 기술의 사용에 대해 엄격한 경계를 설정해 왔습니다. Anthropic의 클로드가 어떻게 적용되었는지에 대한 구체적인 내용은 공개되지 않았지만, 보고서에 따르면 베네수엘라의 니콜라스 마두로 대통령을 체포하기 위한 논란의 여지가 있는 작전에 관여된 것으로 나타났습니다.

군사 응용 분야에서 민감한 데이터를 처리하는 것으로 알려진 파트너사인 Palantir와의 회의에서 Anthropic 직원이 우려를 표명했다는 보도가 나오면서 상황은 더욱 복잡해졌습니다. 이는 Anthropic이 군사 시나리오에서 자사 AI의 배치와 관련해 어떤 불화나 특별한 논의도 부인하고 있음에도 불구하고, 군사 기관과의 관계에 균열이 생길 가능성에 대한 추측을 불러일으켰습니다.

미 국방부는 합법적인 군사 응용 분야의 광범위한 영역에서 AI 시스템을 활용할 수 있는 유연성이 필요하다는 입장을 재확인했습니다. 이러한 입장은 특히 치명적인 자율 무기나 국내 감시와 관련된 사용과 관련하여 Anthropic이 제시한 제한 사항과 상충되는 것으로 보입니다.

이러한 전개는 특히 방위 분야에서 AI 기업들이 상업적 파트너십과 윤리적 약속 사이의 균형을 어떻게 맞추는지 재평가로 이어질 수 있습니다.