Depender de chatbots de IA para cuidados de saúde pode ser “perigoso”, pois dão maus conselhos e diagnósticos errados, revela um estudo relacionado.
A inteligência artificial é agora capaz de passar na maioria dos testes de licenciamento médico realizados por médicos, mas é incapaz de fornecer melhores conselhos de saúde do que os humanos que utilizam métodos mais tradicionais, descobriram os investigadores.
A coautora do estudo, Rebecca Payne, da Universidade de Oxford, disse: “Apesar de todo o entusiasmo, a IA não está apenas pronta para assumir o papel de médico.
“Os pacientes precisam estar cientes de que perguntar a um modelo de linguagem amplo sobre seus sintomas pode ser perigoso, levando a diagnósticos incorretos e à incapacidade de reconhecer quando é necessária ajuda urgente”.
Os acadêmicos queriam saber até que ponto as pessoas são bem-sucedidas quando usam chatbots para identificar seus problemas de saúde e se precisam consultar um médico ou ir ao hospital.
A equipe apresentou a quase 1.300 participantes do Reino Unido 10 cenários diferentes, como dor de cabeça após uma noite de bebedeira, uma nova mãe se sentindo cansada ou como é ter cálculos biliares.
Os pesquisadores então designaram aleatoriamente os participantes para um dos três chatbots: GPT-4o da OpenAI, Llama 3 da Meta ou Command R+.
Um grupo de controle foi aquele que utilizou mecanismos de busca na Internet.
Os pesquisadores descobriram que a IA era incapaz de dar às pessoas melhores conselhos de saúde do que poderiam ter encontrado usando métodos mais tradicionais
As pessoas que utilizam chatbots de IA só conseguiram identificar os seus problemas de saúde cerca de um terço das vezes, enquanto apenas 45% conseguiram descobrir o curso de ação correto.
Não foi melhor do que um grupo de controle, de acordo com um estudo publicado na revista Nature Medicine.
Os investigadores apontam para a disparidade entre estes resultados decepcionantes e como os chatbots de IA obtêm pontuações extremamente altas em benchmarks e testes médicos, atribuindo a lacuna à falha de comunicação.
Ao contrário das interações simuladas com pacientes frequentemente usadas para testar IA, pessoas reais muitas vezes não fornecem aos chatbots todas as informações relevantes.
E às vezes as pessoas têm dificuldade em interpretar as opções oferecidas pelo chatbot, ou entendem mal ou simplesmente ignoram as suas sugestões.
Um em cada seis adultos nos EUA pergunta a um chatbot de IA sobre informações de saúde pelo menos uma vez por mês, disseram os pesquisadores, um número que deverá aumentar à medida que a adoção de novas tecnologias continuar.
“Este é um estudo muito importante porque destaca os riscos médicos reais que os chatbots representam para o público”, disse David Shaw, bioeticista da Universidade de Maastricht, na Holanda, que não esteve envolvido no estudo.
Ele aconselha as pessoas a confiarem apenas em informações médicas provenientes de fontes confiáveis, como o Serviço Nacional de Saúde do Reino Unido.
