조지아 법원 명령서에 AI가 생성한 허위 법률 인용이 포함되어 있습니다

조지아 대법원 항소 심리에서 하급 법원 명령서에 상당한 인용 오류가 드러났으며, 이는 AI가 생성한 허구적 내용이 관련된 것으로 추정됩니다. 살인 유죄 판결 항소에 대한 변론 중, 넬스 S.D. 피터슨 수석 판사는 재심을 거부한 하급 법원 명령서에 심각한 문제가 있음을 지적했습니다.

심리에서 드러난 주요 세부 사항

원본 자료에 따르면, 피터슨 수석 판사는 해당 명령서에 다음이 포함되어 있다고 밝혔습니다:

• "존재하지 않는 판례에 대한 최소 다섯 번의 인용"
• "인용된 주장을 뒷받침하지 않는 판례에 대한 최소 다섯 번의 추가 인용"
• "존재하지 않는 세 가지 인용문"

검사 레슬리는 자신이 제출한 초안 명령서가 수정되었으며, 잘못된 인용에 대해 책임을 지지 않는다고 답변했습니다. 그러나 피터슨 수석 판사는 다음과 같이 반박했습니다: "그 존재하지 않는 판례들은 재심 신청에 반대하는 귀하의 초기 서면에서 인용되었습니다."

확인 가능한 문서

원본 자료는 검토할 수 있는 두 가지 주요 문서가 있음을 나타냅니다:

• 재심을 거부하는 33페이지 분량의 명령서
• 주(州)가 제안한 37페이지 분량의 명령서 초안

이번 사건은 법률 연구와 인용을 위해 AI 도구를 철저한 검증 없이 사용할 때의 위험을 강조합니다. 원본 자료가 어떤 AI 도구가 사용되었는지는 명시하지 않았지만, 허구적인 판례와 잘못 귀속된 인용문의 패턴은 법률 맥락에서 현재 대규모 언어 모델의 알려진 한계와 일치합니다.