Melbourne Psychiater lehnt neue Patienten ab, die KI-Notizen nicht zustimmen

Dr. Hemlata Ranga, Psychiaterin an der Melbourne Clinic in Richmond, Victoria, verlangt nun von neuen Patienten die Zustimmung zur KI-Transkription ihrer Sitzungen. Ein von Guardian Australia eingesehenes Anmeldeformular besagt: „Ich stimme der Nutzung von KI-Transkriptionssoftware (wie Heidi Health AI/Microsoft) zur Unterstützung der Notizen während der Termine zu.“ Patienten, die nicht zustimmen, müssen „ihren regulären Arzt/überweisenden Arzt bitten, sie an einen anderen Anbieter zu überweisen.“

Wichtige Details

• Der Einsatz von KI-Schreibern nimmt zu: Zwei von fünf Hausärzten nutzen diese Tools laut dem Royal Australian College of General Practitioners (RACGP). Die Nutzung hat sich innerhalb von 12 Monaten verdoppelt.
• Heidi AI, einer der beliebtesten Schreiber, wurde in den letzten 18 Monaten in 115 Millionen Sitzungen eingesetzt. Das Unternehmen gibt an, dass die Daten im Land des Patienten verarbeitet, nicht zum Training von KI-Modellen verwendet und von Dritten geprüft werden.
• Tom Sulston, Leiter der Politikabteilung von Digital Rights Watch, äußerte Bedenken: KI-Transkription sei „unvollkommen und auf männliche, weiße, heterosexuelle, englischsprachige Nutzer trainiert“, was zu mehr Fehlern bei anderen Bevölkerungsgruppen führe. Es bestehe ein „sehr reales Risiko“ der Kompromittierung oder des Verlusts medizinischer Daten, und Patienten könnten sich selbst zensieren, insbesondere bei stigmatisierten Themen wie Sexual- und psychischer Gesundheit.
• Ein Sprecher der Melbourne Clinic bestätigte, dass Psychiater unabhängig sind, aber die KI-Nutzung offenlegen und die Zustimmung einholen müssen. Wird die Zustimmung nicht erteilt, verwenden sie keine KI.

Für wen dies relevant ist

Entwickler, die KI-Schreibtools für das Gesundheitswesen entwickeln oder KI in sensible klinische Umgebungen integrieren, sollten die hier hervorgehobenen Herausforderungen hinsichtlich Zustimmung, Genauigkeit und Sicherheit beachten.