TLDR;

Uma ferramenta de IA usada pelo urologista transcreveu a consulta e inseriu falsamente que a paciente microdoseia cogumelos psicodélicos, afirmação que ela nega totalmente. A alegação falsa foi incluída em uma carta enviada ao GP e acabou registrada no prontuário médico até que a paciente a descobrisse, causando sofrimento e um pedido de desculpas do médico. Atualmente esses "AI scribes" não estão regulados pela Therapeutic Goods Administration por serem considerados apenas transcritores, deixando os médicos responsáveis por erros, enquanto especialistas pedem mais regulação e responsabilidade dos fornecedores de software.

Resumo

Inteligência artificial está sendo usada para transcrever consultas médicas, mas erros sérios têm ocorrido: no caso relatado, a paciente Rebecca Green, de Queensland, descobriu numa carta ao seu médico de família que um scribe baseado em IA registrou falsamente que ela microdosa com cogumelos psicodélicos — algo que ela nega e que não foi conversado — e ficou angustiada por isso constar em seu prontuário. O médico pediu desculpas, mas não havia revisado a transcrição, o que levantou preocupação de que outros pacientes possam ter imprecisões sem saber. Pesquisas do grupo Digital Rights Watch apontam falhas de precisão em transcrições, como diagnóstico no seio errado ou classificar alguém como epiléptico indevidamente. Há também questões de consentimento: pacientes às vezes são gravados sem aviso e alguns médicos negam atendimento a quem recusa uso de IA. Pacientes são encorajados a questionar médicos sobre o uso de IA e como garantem a correção dos registros. Atualmente esses scribe de IA não são regulados pela Therapeutic Goods Administration quando só transcrevem, deixando os médicos responsáveis por consequências; especialistas pedem maior regulamentação e que provedores de software assumam mais responsabilidade pela precisão e transparência na implementação dessas ferramentas para proteger direitos e segurança dos pacientes.