Auditoría de Ontario: el 60% de los sistemas de transcripción con IA confunden medicamentos, el 85% omite detalles de salud mental

La Oficina del Auditor General de Ontario auditó 20 sistemas AI Scribe aprobados utilizados por médicos y enfermeros practicantes, simulando grabaciones médico-paciente para evaluar la precisión. Los resultados son contundentes:

• 12 de 20 sistemas insertaron información incorrecta de medicamentos en las notas del paciente.
• 9 de 20 fabricaron información — por ejemplo, afirmando "no se encontraron masas" o "paciente ansioso" — que nunca se discutió.
• 17 de 20 omitieron detalles clave de salud mental de la grabación.
• 6 de 20 omitieron total o parcialmente problemas de salud mental.

La auditoría también criticó la metodología de puntuación de la evaluación. La precisión de las notas médicas representó solo el 4% del puntaje total, mientras que tener presencia local en Ontario contribuyó con un 30%. Los controles de sesgo, evaluaciones de amenazas/riesgos/privacidad y el cumplimiento SOC 2 Tipo 2 contaron solo entre un 2% y un 4%. Como señala el informe, tales ponderaciones "podrían dar lugar a la selección de proveedores cuyas herramientas de IA puedan producir registros médicos inexactos o sesgados".

Si bien OntarioMD ha recomendado la revisión manual de las notas de IA, la auditoría señaló que ningún sistema aprobado cuenta con una función de certificación obligatoria. El Ministerio de Salud de Ontario informó que más de 5,000 médicos utilizan estas herramientas sin que se haya reportado daño a pacientes.