オンタリオ州の監査：AI書記システムの60%が薬剤を混同、85%が精神保健の詳細を見逃す

オンタリオ州監査総局は、医師やナースプラクティショナーが使用する20の承認済みAI書記システムを監査し、医師患者間の録音をシミュレートして正確性を評価した。その結果は衝撃的である:

• 20件中12件のシステムが患者記録に誤った薬剤情報を挿入した。
• 20件中9件が情報を捏造——例えば、「腫瘤なし」や「患者は不安」といった、議論されたことのない内容を記録した。
• 20件中17件が録音から精神保健の重要事項を見逃した。
• 20件中6件が精神保健問題を完全または部分的に省略した。

監査はまた、評価スコアリングの方法論を非難した。医療記録の正確性は総合点のわずか4%を占める一方、オンタリオ州内での国内拠点の有無が30%を占めた。偏り対策、脅威・リスク・プライバシー評価、SOC 2 Type 2準拠はそれぞれ2～4%しか占めていない。報告書が指摘するように、このような重み付けは「不正確または偏った医療記録を生成する可能性のあるAIツールを持つベンダーが選ばれる結果につながりかねない」。

オンタリオ州医療省はAIによる記録の手動確認を推奨しているが、監査では承認済みシステムに必須の証明機能がないことが指摘された。オンタリオ州保健省は、5,000人以上の医師がこれらのツールを使用しており、患者への害は報告されていないと述べている。