Audit de l'Ontario : 60% des systèmes de saisie IA confondent les médicaments, 85% omettent des détails de santé mentale

Le Bureau du vérificateur général de l'Ontario a audité 20 systèmes AI Scribe approuvés, utilisés par les médecins et infirmières praticiennes, en simulant des enregistrements de consultations médecin-patient pour évaluer leur exactitude. Les résultats sont frappants :

• 12 des 20 systèmes ont inséré des informations erronées sur les médicaments dans les notes des patients.
• 9 des 20 ont fabriqué des informations — par exemple, affirmant « aucune masse trouvée » ou « patient anxieux » — qui n'ont jamais été discutées.
• 17 des 20 ont omis des détails clés sur la santé mentale issus de l'enregistrement.
• 6 des 20 ont complètement ou partiellement omis les problèmes de santé mentale.

L'audit a également critiqué la méthodologie de notation de l'évaluation. La précision des notes médicales ne comptait que pour 4 % du score total, tandis que la présence locale en Ontario contribuait à hauteur de 30 %. Les contrôles de biais, les évaluations des menaces/risques/vie privée et la conformité SOC 2 Type 2 ne comptaient chacun que pour 2 à 4 %. Comme le souligne le rapport, de telles pondérations « pourraient entraîner la sélection de fournisseurs dont les outils d'IA pourraient produire des dossiers médicaux inexacts ou biaisés ».

Bien qu'OntarioMD ait recommandé une révision manuelle des notes générées par l'IA, l'audit a noté l'absence de fonction d'attestation obligatoire dans tout système approuvé. Le ministère de la Santé de l'Ontario a indiqué que plus de 5 000 médecins utilisent ces outils sans signalement de préjudice pour les patients.