Мельбурнский психиатр отказывает новым пациентам, не согласным на ведение записей с помощью ИИ

Доктор Хемлата Ранга, психиатр из Мельбурнской клиники в Ричмонде, штат Виктория, теперь требует от новых пациентов согласия на транскрибирование их сеансов с помощью ИИ. В регистрационной форме, с которой ознакомился Guardian Australia, говорится: «Я даю согласие на использование программного обеспечения для транскрибирования с помощью ИИ (например, Heidi health AI/Microsoft) для помощи в ведении записей во время приёмов». Пациенты, не давшие согласия, должны «попросить своего лечащего врача/направившего врача направить их к другому поставщику услуг».

Ключевые детали

• Внедрение ИИ-писцов растёт: два из пяти терапевтов общей практики уже используют такие инструменты, согласно Королевскому австралийскому колледжу терапевтов общей практики (RACGP). За 12 месяцев использование удвоилось.
• Heidi AI, один из самых популярных писцов, использовался в 115 миллионах сеансов за последние 18 месяцев. Компания заявляет, что данные обрабатываются в стране пациента, не используются для обучения моделей ИИ и подлежат аудиту третьих сторон.
• Том Сулстон, руководитель отдела политики Digital Rights Watch, выразил обеспокоенность: ИИ-транскрибация «несовершенна и обучена на пользователях, которые являются мужчинами, белыми, гетеросексуальными, англоговорящими», что приводит к большему количеству ошибок для других демографических групп. Существует «очень реальный риск» компрометации или утечки медицинских данных, и пациенты могут самоцензурироваться, особенно по стигматизированным темам, таким как сексуальное и психическое здоровье.
• Представитель Мельбурнской клиники подтвердил, что психиатры независимы, но должны раскрывать информацию и запрашивать согласие на использование ИИ. Если согласие не получено, они не будут использовать ИИ.

Для кого это

Разработчикам, создающим инструменты ИИ-писцов для здравоохранения или интегрирующим ИИ в чувствительные клинические среды, следует обратить внимание на проблемы согласия, точности и безопасности, освещённые здесь.