Por Matthew Perrone, Associated Press
WASHINGTON — Com milhões de pessoas recorrendo aos chatbots em busca de conselhos, era apenas uma questão de tempo até que as empresas de tecnologia começassem a oferecer programas especificamente concebidos para responder a questões de saúde.
Em janeiro, a OpenAI lançou o ChatGPT Health, uma nova versão de seu chatbot que, segundo a empresa, pode analisar registros médicos dos usuários, aplicativos de bem-estar e dados de dispositivos vestíveis para responder a perguntas médicas e de saúde. Atualmente, existe uma lista de espera para o programa. A Anthropic, uma empresa rival de IA, oferece recursos semelhantes para alguns usuários de seu chatbot em nuvem.
Ambas as empresas afirmam que seus programas, conhecidos como Big Language Models, não substituem o atendimento profissional e não devem ser usados para diagnosticar condições médicas. Em vez disso, eles dizem que os chatbots podem resumir e interpretar resultados de testes complexos, ajudar na preparação para consultas médicas ou analisar tendências de saúde importantes ocultas em registros médicos e métricas de aplicativos.
Aqui estão algumas coisas a considerar antes de falar com um chatbot sobre sua saúde:
Os chatbots podem fornecer informações mais personalizadas do que a pesquisa do Google
Alguns médicos e pesquisadores que trabalharam com ChatGPT Health e programas semelhantes observaram melhorias em suas condições.
As plataformas de IA não são perfeitas – às vezes podem ter alucinações ou dar maus conselhos – mas a informação que geram tem mais probabilidade de ser personalizada e específica do que aquilo que os pacientes podem encontrar através de uma pesquisa no Google.
“A alternativa muitas vezes é nada, ou o paciente improvisa”, disse o Dr. Robert Wachter, especialista em tecnologia médica da Universidade da Califórnia, em São Francisco. “E então acho que se você usar essas ferramentas com responsabilidade, poderá obter informações úteis.”
Uma vantagem dos chatbots recentes é que eles respondem às perguntas dos usuários com o contexto de seu histórico médico, incluindo prescrições, idade e anotações médicas.
Mesmo que você não conceda à IA acesso às suas informações médicas, Wachter e outros recomendam fornecer aos chatbots o máximo de detalhes possível para melhorar as respostas.
Se você tiver sintomas preocupantes, evite IAs
Wachter e outros enfatizam que há situações em que as pessoas devem evitar chatbots e procurar atendimento médico imediatamente. Sintomas como falta de ar, dor no peito ou dor de cabeça intensa podem sinalizar uma emergência médica.
Mesmo em situações menos urgentes, pacientes e médicos devem abordar os programas de IA “com um certo grau de ceticismo saudável”, disse o Dr. Lloyd Minor, da Universidade de Stanford.
“Se você está tomando uma grande decisão médica, ou mesmo uma pequena decisão sobre sua saúde, você nunca deve confiar no que obtém de um grande modelo de linguagem”, disse Minor, reitor da faculdade de medicina de Stanford.
Considere sua privacidade antes de enviar qualquer informação de saúde
Muitos dos benefícios oferecidos pelos bots de IA vêm do compartilhamento de informações médicas pessoais pelos usuários. Mas é importante compreender que qualquer coisa partilhada com empresas de IA não está protegida pelas leis federais de privacidade que geralmente regem informações médicas sensíveis.
Comumente conhecida como HIPAA, a lei permite multas e até penas de prisão para médicos, hospitais, seguradoras ou outros serviços de saúde que divulgam registros médicos. Mas a lei não se aplica a empresas que criam chatbots.
“Quando alguém carrega seu prontuário médico em um modelo de linguagem grande, é muito diferente de entregá-lo a um novo médico”, disse Minor. “Os consumidores precisam entender que têm padrões de privacidade completamente diferentes”.
Tanto a OpenAI quanto a Anthropic afirmam que as informações de saúde dos usuários são mantidas separadas de outros tipos de dados e estão sujeitas a proteções adicionais de privacidade. As empresas não usam dados de saúde para treinar seus modelos. Os usuários devem optar por compartilhar suas informações e podem cancelar a qualquer momento.
Testes mostram que chatbots podem tropeçar
Apesar do entusiasmo em torno da IA, os testes independentes da tecnologia estão ainda na sua infância. Pesquisas iniciais mostram que programas como o ChatGPT podem passar em testes médicos de alto nível, mas muitas vezes tropeçam ao interagir com humanos.
Um estudo com 1.300 participantes da Universidade de Oxford descobriu recentemente que os chatbots de IA usados para pesquisar condições de saúde hipotéticas não tomavam decisões melhores do que aqueles que usavam pesquisas online ou julgamento pessoal.
Os chatbots de IA apresentados de forma abrangente e escrita com cenários médicos identificaram corretamente a condição subjacente em 95% das vezes.
“Esse não era o problema”, disse o autor principal Adam Mahdi, do Oxford Internet Institute. “As coisas desmoronaram quando interagimos com os participantes reais.”
Mahdi e sua equipe encontraram vários problemas de comunicação. Muitas vezes as pessoas não fornecem aos chatbots as informações necessárias para diagnosticar corretamente um problema de saúde. Por outro lado, os sistemas de IA respondem frequentemente a uma mistura de informações boas e más, e os utilizadores têm dificuldade em distinguir entre as duas.
O estudo, realizado em 2024, não utilizou as versões mais recentes do chatbot, incluindo novas ofertas como ChatGPT Health.
Uma segunda opinião sobre IA pode ser útil
A capacidade dos chatbots de fazer perguntas de acompanhamento e extrair detalhes importantes dos usuários é uma área onde Wachter vê espaço para melhorias.
“Acho que é aí que tudo vai ficar realmente bom, quando as ferramentas se tornarem um pouco mais médicas na forma como recuam” com os pacientes, disse Wachter.
Por enquanto, uma maneira de se sentir mais confiante sobre as informações que você está recebendo é consultar vários chatbots – como obter uma segunda opinião de outro médico.
“Às vezes coloco dados no ChatGPT e dados no Gemini”, disse Wachter, referindo-se à ferramenta de IA do Google. “E quando ambos concordam, sinto-me um pouco mais seguro de que esta é a resposta certa.”
___
O Departamento de Saúde e Ciência da Associated Press recebe apoio do Departamento de Educação Científica do Howard Hughes Medical Institute e da Fundação Robert Wood Johnson. A AP é a única responsável por todo o conteúdo.
