Онтарио, аудит: 60% систем ИИ для записи путают лекарства, 85% упускают детали психического здоровья

Управление Генерального аудитора Онтарио проверило 20 одобренных систем AI Scribe, используемых врачами и медсестрами, смоделировав записи приемов для оценки точности. Результаты оказались удручающими:

• 12 из 20 систем вставили неверную информацию о лекарствах в заметки пациентов.
• 9 из 20 сгенерировали вымышленную информацию — например, утверждения «массы не обнаружены» или «пациент встревожен», — которая никогда не обсуждалась.
• 17 из 20 пропустили ключевые детали о психическом здоровье из записи.
• 6 из 20 полностью или частично опустили проблемы психического здоровья.

Аудит также раскритиковал методологию оценки. Точность медицинских заметок составляла лишь 4% от общего балла, в то время как наличие офиса в Онтарио давало 30%. Контроль предвзятости, оценка угроз/рисков/конфиденциальности и соответствие SOC 2 Type 2 оценивались лишь в 2–4% каждый. Как отмечается в отчете, такие веса «могут привести к отбору поставщиков, чьи ИИ-инструменты могут создавать неточные или предвзятые медицинские записи».

Хотя OntarioMD рекомендовала ручную проверку ИИ-заметок, аудит отметил отсутствие обязательной функции подтверждения в любой одобренной системе. Министерство здравоохранения Онтарио сообщило, что более 5000 врачей используют эти инструменты, и не зафиксировано случаев вреда пациентам.