A IA usada pelos médicos para criar notas médicas perde informações importantes reveladas pelos gestos e expressões faciais dos pacientes, alerta um estudo.
Quatro em cada dez GPs agora usam o AI Scribe, que converte fala em texto e produz resumos de consultas.
A ‘tecnologia de voz ambiente’ permite que os médicos se concentrem mais no paciente e foi projetada para economizar tempo, reduzindo a papelada.
Mas os investigadores dizem que a sua utilização pode ocultar aos pacientes informações que estes não querem ouvir da IA e pode levar à “desqualificação” dos médicos, que terão menos oportunidades de manter as suas capacidades de raciocínio clínico.
Além disso, os resumos de IA priorizam as informações clínicas, o que pode ocorrer às custas das histórias e experiências dos pacientes sobre sua doença, acrescentam.
Acadêmicos da Universidade de Edimburgo emitiram seu alerta após revisarem 27 artigos publicados na literatura científica e médica que exploram a adoção de autores de IA e as implicações de sua implementação.
O NHS England disse aos hospitais que eles deveriam “implantar rapidamente a tecnologia de voz ambiente (AVT)”, mas insiste que os médicos devem revisar as anotações feitas e obter permissão dos pacientes antes de usá-la nas consultas.
A nova revisão destaca que esses programas capturam apenas palavras faladas e podem perder gestos, expressões faciais e o tom com que os pacientes ou médicos falam.
A ‘tecnologia de voz ambiente’ permite que os médicos se concentrem mais no paciente e foi projetada para economizar tempo, reduzindo a papelada.
Os investigadores descrevem estas ferramentas como “preconceitos da linguagem escrita”.
“Eles convertem conselhos falados em texto e depois processam a interação como um registro de texto”, acrescentaram.
‘Os escritores ambientais não conseguem capturar as informações potencialmente vitais que um médico pode obter de gestos, expressões faciais, movimentos e influências emocionais.’
Os especialistas dizem que os pacientes podem “adaptar o seu comportamento” face à IA e que a “falta de confiança” pode torná-los menos propensos a divulgar informações sensíveis, como abuso de substâncias, violência doméstica ou problemas de saúde mental.
Lucas Seuren, pesquisador do Centro de Biomedicina, Auto e Sociedade da Universidade de Edimburgo, disse: “Muitos médicos estão entusiasmados com os autores de IA ambiental, pois eles prometem reduzir a papelada.
Mas as experiências dos pacientes são mal consideradas e existe um risco real de as histórias dos pacientes se perderem.
“Isto poderia prejudicar ainda mais as pessoas que já enfrentam a marginalização nos serviços de saúde e de assistência social”.
As conclusões, publicadas no BMJ Digital Health & AI, destacam que as tecnologias “exigem uma adaptação cuidadosa aos contextos clínicos e do sistema de saúde” e que “a sua implementação pode remodelar a forma como o trabalho de saúde e cuidados é organizado e executado”.
Os investigadores dizem que “o entusiasmo em torno dos autores ambientais impulsionou a adopção generalizada”.
No entanto, a maioria dos estudos centrou-se nos benefícios da produtividade e do desempenho técnico, enquanto “as dimensões sociotécnicas da adopção foram negligenciadas”, afirmaram os investigadores.
«Os autores ambientais são intervenções complexas com potencial para remodelar o trabalho clínico, as práticas de documentação e a organização dos cuidados.
“Antes da disseminação em grande escala, é importante construir uma base sólida de evidências dos efeitos da implantação precoce e desenvolver uma compreensão ampla de como os cuidados devem ser concebidos e implementados para apoiar pacientes, médicos e sistemas de cuidados”, acrescentaram.
Alguns médicos relatam não reconhecer suas próprias anotações produzidas pela IA e os pacientes têm dificuldade em lembrá-las na próxima vez que as virem.
Dr. Sarah Townley, vice-diretora médica da Proteção Médica, que oferece indenização médica aos médicos, disse: “Os médicos costumam nos contar sobre suas preocupações sobre a carga de trabalho administrativa extra e como isso afeta o atendimento ao paciente.
‘Congratulamo-nos com as ferramentas de escrita de IA que ajudam a minimizar este elemento do seu trabalho, mas reconhecemos os riscos significativos destacados por esta revisão.
Gestos, expressões faciais e tom de voz são características importantes na avaliação dos pacientes, e a documentação desses detalhes pode ajudar os médicos a se lembrarem quando os pacientes retornarem. «A incapacidade de captar isto ilustra as limitações desta tecnologia e a importância de um quadro claro para os profissionais utilizarem a IA com segurança.
“Nosso conselho aos médicos é que eles sejam responsáveis por garantir que as anotações médicas produzidas pelo software de transcrição sejam claras, legíveis, reflitam com precisão os conselhos e não omitam informações potencialmente relevantes.
‘Ao usar ferramentas de IA – especialmente aquelas que exigem o compartilhamento de dados pessoais com terceiros – o consentimento informado deve ser solicitado e documentado dos pacientes antes do uso.
“Os médicos também devem realizar formação adequada em autores de IA para que compreendam as suas limitações e implicações na protecção de dados e tranquilizem os pacientes sobre como as suas informações pessoais estão a ser utilizadas e armazenadas”.
