Como a inteligência artificial (IA) foi integrada à rápida assistência médica, um novo estudo dos pesquisadores da Escola de Medicina Icahan do Mount Sinai revelou que todos os geradores podem recomendar apenas as mesmas condições médicas para as mesmas condições médicas com base no contexto socioeconômico e populacional do paciente.
Sua pesquisa, que detalha a edição on -line de 7 de abril de 2025 Natureza Destaque a importância da identificação e intervenção inicial para garantir que a medicina, o atendimento orientado pela IA seja seguro, eficaz e adequado para todos.
Como parte de sua investigação, os pesquisadores pressionaram nove grandes modelos de idiomas (LLM) no caso de 1000 divisões de emergência, replicadas com o pano de 32 pacientes diferentes, fazendo mais de 1,7 milhão de recomendações médicas expostas à IA. Apesar dos detalhes clínicos idênticos, os modelos de IA às vezes alteram suas decisões com base no perfil socioeconômico e populacional do paciente, afetando áreas principais, como prioridade de gatilho, testes de diagnóstico, procedimentos de tratamento e avaliação de saúde mental.
“Nossa pesquisa fornece uma estrutura para a garantia de IA, desenvolvedores e instituições de saúde ajudam a projetar equipamentos justos e confiáveis de IA”, a Escola de Medicina Ikahan da Mount Sinai, Ikahan, Ikahan, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD, MD. “Quando a IA transfere suas recomendações com base no pano de fundo, em vez da necessidade de tratamento, informamos nosso processo estrito de validade em relação aos padrões clínicos, incorporamos os resultados da IA contra os padrões clínicos, incorporaram a resposta do especialista ao especialista no procedimento.
Uma das pesquisas mais interessantes do estudo foi a tendência de aumentar o cuidado de alguns modelos de IA – especialmente para avaliação de saúde mental – com base na população do paciente e não na necessidade de tratamento. Além disso, pacientes com alto teor de alto teor recebiam exames de diagnóstico avançados como tomografia computadorizada ou ressonância magnética, enquanto pacientes de baixa renda foram aconselhados a não realizar exames mais frequentes. Os pesquisadores dizem que a escala dessas inconsistências fica de olho na necessidade de supervisão mais poderosa.
Quando o estudo fornece informações críticas, os pesquisadores cuidadosos ao apresentar apenas um instantâneo do comportamento da IA. Estudos futuros continuarão a incluir testes de garantia para avaliar o desempenho dos modelos de IA em ambientes clínicos do mundo real e reduzir várias técnicas de impulsionamento. A equipe também pretende trabalhar com outras organizações de saúde para refinar o equipamento de IA, garantindo que eles apoiem os mais altos padrões morais e tratem bem todos os pacientes.
Médico-cientista e primeiro autor da pesquisa, Mahmud Omar, um médico consultor da equipe de pesquisa, que consultou a equipe de pesquisa, disse: “Estou encantado com o Monte Sinai nesta pesquisa crítica para o benefício de pacientes em todo o mundo”. “É essencial avaliar totalmente sua proteção, confiabilidade e justiça no Cuidado Clínico da IA. Podemos trabalhar para refinar seu design, fortalecer seu design e criar sistemas que esses modelos podem ser introduzidos no centro de cuidados seguros e eficazes”.
“A IA tem a capacidade de revolucionar os cuidados de saúde, mas somente se for desenvolvida e usada com responsabilidade”, o Instituto Human Platner do Instituto Platner de Hasso para MD, MPH, MPH, MPH, Saúde Digital e Diretor de Saúde Humana do Instituto de Platner Human e MPs de Medicina, MP, MP, MP. “Através da cooperação e da legitimidade estrita, estamos refinando as ferramentas de IA para apoiar os mais altos padrões morais e garantir o atendimento centrado no paciente. Ao implementar os protocolos de garantia de UST, não somos apenas tecnologia avançada, mas também a confiança nos cuidados de saúde transformadores.
Posteriormente, os investigadores imitam conversas clínicas em várias etapas para medir sua influência do mundo real e planejar expandir seu trabalho, pilotando modelos de IA em ambientes hospitalares. Eles esperam que suas explorações orçem as políticas para as garantias de IA em saúde e o desenvolvimento das melhores práticas, aumentando a confiança nesses novos equipamentos fortes.
O artigo é intitulado “Viés de população da terra no tratamento do tratamento por grandes modelos de linguagem: uma análise de vários modelos de tamanho grande”.
Os autores da pesquisa listados na revista são Mahmood Omar, Shelley Sofar, Rim Agberia, Nicola Louis Bragazi, Donald You Appasama, Carol e Harovits, Alexander W. Charney, Robert Freeman, Benjamin Kummer, Benjamin S.
