Auditoria de Ontário: 60% dos sistemas de IA para transcrição confundem medicamentos, 85% perdem detalhes de saúde mental

O Gabinete do Auditor Geral de Ontário auditou 20 sistemas de IA para anotações médicas aprovados, usados por médicos e enfermeiros, simulando gravações de consultas para avaliar a precisão. Os resultados são contundentes:

• 12 de 20 sistemas inseriram informações incorretas sobre medicamentos nas anotações dos pacientes.
• 9 de 20 fabricaram informações — por exemplo, afirmando "nenhuma massa encontrada" ou "paciente ansioso" — que nunca foram discutidas.
• 17 de 20 perderam detalhes importantes de saúde mental da gravação.
• 6 de 20 omitiram total ou parcialmente questões de saúde mental.

A auditoria também criticou a metodologia de pontuação da avaliação. A precisão das anotações médicas representou apenas 4% da pontuação total, enquanto ter presença local em Ontário contribuiu com 30%. Controles de viés, avaliações de ameaça/risco/privacidade e conformidade com SOC 2 Tipo 2 contaram apenas 2–4% cada. Como o relatório afirma, tais ponderações "podem resultar na seleção de fornecedores cujas ferramentas de IA podem produzir registros médicos imprecisos ou tendenciosos".

Embora a OntarioMD tenha recomendado revisão manual das anotações de IA, a auditoria observou que nenhum recurso de atestado obrigatório está presente em qualquer sistema aprovado. O Ministério da Saúde de Ontário afirmou que mais de 5.000 médicos usam essas ferramentas sem nenhum dano ao paciente reportado.