Psiquiatra de Melbourne Recusa Novos Pacientes que Não Consentem com Anotações por IA

A Dra. Hemlata Ranga, psiquiatra da Melbourne Clinic em Richmond, Victoria, agora exige que novos pacientes concordem com a transcrição por IA de suas sessões. Um formulário de registro visto pelo Guardian Australia afirma: "Autorizo o uso de transcrição por IA (como Heidi health AI/ Microsoft) para auxiliar na tomada de notas durante as consultas." Pacientes que não consentirem devem "solicitar ao seu médico regular/ médico de referência que os encaminhe para outro provedor de serviços."

Detalhes Principais

• A adoção de escribas de IA está aumentando: dois em cada cinco clínicos gerais agora usam essas ferramentas, de acordo com o Royal Australian College of General Practitioners (RACGP). A adoção dobrou em 12 meses.
• Heidi AI, um dos escribas mais populares, foi usado em 115 milhões de sessões nos últimos 18 meses. A empresa afirma que os dados são processados no país do paciente, não usados para treinar modelos de IA e estão sujeitos a auditoria de terceiros.
• O diretor de políticas da Digital Rights Watch, Tom Sulston, levantou preocupações: a transcrição por IA é "imperfeita e treinada em usuários homens, brancos, heterossexuais e falantes de inglês", levando a mais erros para outros grupos demográficos. Há um "risco muito real" de comprometimento ou vazamento de dados médicos, e os pacientes podem se autocensurar, especialmente em tópicos estigmatizados como saúde sexual e mental.
• Um porta-voz da Melbourne Clinic confirmou que os psiquiatras são independentes, mas devem divulgar e solicitar consentimento para o uso de IA. Se o consentimento não for concedido, eles não usarão IA.

Para Quem é

Desenvolvedores que criam ferramentas de escriba de IA para saúde ou integram IA em ambientes clínicos sensíveis devem observar os desafios de consentimento, precisão e segurança destacados aqui.