펜타곤, 군사 AI 사용을 둘러싼 분쟁 속 앤트로픽에 최종 제안 전달
미국 국방부는 Anthropic에 클로드 AI 기술의 군사적 사용을 위한 최종 제안을 보냈으며, 국방장관 피트 헥세스는 회사가 모든 합법적 사용을 허용하지 않으면 미국 군사 계약을 잃을 수 있는 금요일 저녁 마감 기한을 설정했습니다.
협상의 주요 세부 사항
- 국방부 관계자들은 정부가 설정한 마감 기한 직전인 수요일 밤에 제안을 보냈습니다
- 국방장관 피트 헥세스는 주말까지 Anthropic의 AI 모델에 대한 완전한 접근 권한을 부여하는 서명된 문서를 요구합니다
- Anthropic은 계약 손실뿐만 아니라 준수하지 않을 경우 공급망 위험으로 분류될 위기에 처해 있습니다
- 국방부는 준수를 강제하기 위해 국방생산법을 발동하는 것을 고려하고 있습니다
Anthropic의 입장과 우려 사항
- Anthropic은 클로드가 미국인을 대규모로 감시하는 것을 제한하는 안전 장치를 반복적으로 요청했습니다
- CEO 다리오 아모데이는 인간의 개입 없이 최종 표적 결정에 클로드가 사용되지 않도록 보장하려 합니다
- 회사의 우려 사항에는 클로드의 환각 가능성과 치명적 실수로 이어질 수 있는 신뢰할 수 없는 행동이 포함됩니다
- Anthropic은 국가 안보를 위한 AI 역량을 개발하기 위해 7월에 2억 달러 규모의 국방부 계약을 수주했습니다
군부의 입장
- 국방부 관계자들은 AI를 엄격히 합법적인 활동에만 사용할 수 있는 라이선스를 요구하고 있다고 말합니다
- 트럼프 정부 관계자들은 대규모 감시는 불법이며 국방부는 법을 준수한다고 언급했습니다
- 군부는 군사 작전에서 사용하기 위해 AI 기술에 대한 완전한 통제권을 원합니다
Anthropic 대변인이 즉시 논평 요청에 응답하지 않았고, 최종 제안이 정부가 요구해 온 내용을 상당히 변경했는지 또는 회사가 동의했는지 여부는 알려지지 않아 결과는 여전히 불분명합니다.
📖 전체 출처 읽기: HN AI Agents
👀 See Also
OpenClaw AI 에이전트 간 메시징 및 컨텍스트 공유에 관한 논의
레딧 토론에서는 AI 에이전트가 사용자가 제공한 개인적 맥락을 활용해 사용자를 대신해 다른 에이전트와 소통하는 것의 함의를 탐구하며, 사용자가 어떤 정보를 공유하는 데 편안함을 느낄지 살펴봅니다.
Founding Agent: 빠른 검색을 지원하는 웹사이트용 음성 AI
Moss는 빠른 검색을 이용하여 자사 웹사이트용 음성 AI 에이전트를 구축했습니다. 방문자가 질문하면 즉시 답변을 얻습니다. 이제 Founding Agent라는 제품으로 출시되었습니다.
프론티어 AI 접근 제한 강화: Anthropic의 미토스와 선택적 출시로의 구조적 전환
Anthropic의 Mythos 사이버보안 모델과 OpenAI의 Daybreak 계획은 경제적, 안보적 제약으로 인해 특정 미국 기반 기업만이 최첨단 AI에 접근할 수 있는 새로운 시대를 예고하며, 이는 오용 위험, 증류 위협, 그리고 새로운 정부 규제에 의해 주도됩니다.
바둑 기사들이 AI에 자발적으로 권한을 내주다: 부정 행위가 감지 불가능해진 방법
LessWrong 게시물은 AI가 바둑 대회에서 어떻게 부정 행위를 만연하게 만들고 처벌이 거의 불가능해졌는지 자세히 설명하며, Carlo Metta가 Leela 0.11과 Leela Zero를 사용하여 여러 시즌 동안 26경기 중 25승을 거두고 카메라 감시 아래에서만 한 번 패배한 사례를 사용합니다.