온타리오 감사: AI 기록 시스템의 60%가 약물을 혼동하고, 85%가 정신 건강 세부사항을 놓친다

온타리오주 감사원(Office of the Auditor General of Ontario)은 의사와 간호사가 사용하는 승인된 20개의 AI 필기 시스템을 감사하여 의사-환자 녹음을 시뮬레이션하고 정확성을 평가했습니다. 결과는 뚜렷합니다:

• 20개 중 12개 시스템이 환자 기록에 잘못된 약물 정보를 삽입했습니다.
• 20개 중 9개는 실제로 논의되지 않은 정보(예: "종괴 없음" 또는 "환자 불안")를 조작했습니다.
• 20개 중 17개는 녹음에서 핵심 정신 건강 세부 사항을 놓쳤습니다.
• 20개 중 6개는 정신 건강 문제를 완전히 또는 부분적으로 생략했습니다.

감사는 또한 평가 점수 매기기 방법론을 비판했습니다. 의료 기록의 정확성은 전체 점수의 4%만을 차지한 반면, 온타리오 내 국내 입지는 30%를 기여했습니다. 편향 통제, 위협/위험/개인정보 평가, SOC 2 Type 2 준수는 각각 2~4%만을 차지했습니다. 보고서에 따르면, 이러한 가중치는 "AI 도구가 부정확하거나 편향된 의료 기록을 생성할 수 있는 공급업체가 선택되는 결과를 초래할 수 있습니다."

OntarioMD는 AI 기록의 수동 검토를 권장했지만, 감사는 승인된 시스템에 의무 인증 기능(mandatory attestation feature)이 없다고 지적했습니다. 온타리오 보건부는 5,000명 이상의 의사가 이러한 도구를 사용하며 환자 피해가 보고되지 않았다고 밝혔습니다.