Em colaboração com os colegas do Robin Medical Center de Israel e em colaboração com outros associados, um estudo de investigadores da Escola de Medicina Ikahan em Sinai Mount Sinai sugeriu que os modelos de inteligência artificial mais avançada (IA) também podem cometer erros simples, embora eles enfrentem a ética do tratamento complexo.
Os resultados que levantaram questões importantes sobre como e quando confiar nos grandes modelos de idiomas (LLM) como o chatzpt em ambientes de saúde foram relatados em 22 de julho em 22 de julho. NPJ Medicina Digital(10.1038/s41746-025-01792-y)O
A equipe de pesquisa foi inspirada no livro “Think, Fast and Slow”, de Daniel Kahnemann, que é contra a lenta e analítica lógica contra reações rápidas e intuitivas. Observou-se que os quebra-cabeças clássicos de pensamento lateral são o vacilante dos modelos de linguagem (LLMS) ao tomar tweets sutis. Ao criar esse insight, o estudo examinou o quão bem os sistemas de IA foram transferidos entre esses dois modos quando o dilema moral bem conhecido que foi twittado intencionalmente.
“A IA pode ser muito forte e eficiente, mas nossa pesquisa mostrou que pode ser padrão com a resposta mais familiar ou intuitiva, mesmo quando essa resposta ignora detalhes críticos”, a Escola de Medicina Ikai de Mount Sinai, Md Md Md Md Md Md Md Md. “Em situações cotidianas, esses tipos de pensamentos não podem ser notados, mas nos cuidados de saúde, onde as decisões geralmente carregam efeitos morais e clínicos graves, esses resumos podem ter as verdadeiras conseqüências para a falta de pacientes”.
Para explorar essa tendência, a equipe de pesquisa testou uma série de LLMs comerciais usando o quebra -cabeça de pensamento lateral criativo e uma ética médica ligeiramente aprendida. Em um exemplo, eles converteram o clássico “dilema” do cirurgião, um quebra -cabeça amplamente citado em 1970 que destaca o viés de gênero subjacente. Na versão original, um garoto foi ferido em um acidente de carro com o pai e correu para o hospital, onde o cirurgião gritou: “Eu não posso trabalhar nesse garoto – ele é meu filho!” A reviravolta é sua mãe, embora muitas pessoas não considerem essa possibilidade por causa do viés de gênero. Na versão em mudança dos pesquisadores, eles afirmaram claramente que o pai do garoto era o cirurgião, removeu a ambiguidade. No entanto, alguns modelos de IA ainda responderam que o cirurgião deve ser a mãe do menino. O erro revela como os LLMs podem se basear em padrões familiares, mesmo que se opõem a novas informações.
Em outro exemplo para verificar se os LLMs dependem de padrões familiares, os pesquisadores se baseiam de uma hesitação moral clássica, onde os pais religiosos se recusam a ter uma circulação sanguínea que salva vidas para o filho. Mesmo quando os pesquisadores mudaram a cena que os pais já haviam concordado, muitos modelos ainda sugeriram substituir uma negação que não existia mais.
“Our search does not suggest that AI has no place in the treatment practice, but they highlight the need for thoughtful humanitarian supervision, especially in situations that require moral sensitivity, sub-judgment or sensitive intelligence,” vice-senior author Zirish N. Nadkarni, MD, MPH, MPH, MPH, Dr. Mount Sinai’s Ikahan School of Medicine is a fishery professor in Medicine and Mount Sinai is the head officer of the health system. “Naturalmente, essas ferramentas podem ser incrivelmente úteis, mas não são inevitáveis. O médico e os pacientes devem entender simultaneamente que a IA é mais bem usada como complementar para aprimorar as habilidades clínicas da IA, especialmente quando a navegação nas decisões de bido complexo ou alto, o objetivo é tornar o cuidado do paciente para integrar o paciente”.
Shelley Sofar, escritor principal associado do MD do Robin Medical Center, Instituto de Hematologia, Instituto de Hematologia, disse: “Tweets gerais no caso familiar exposto a pontos cegos”. “Isso refere -se ao motivo pelo qual a supervisão das pessoas deve permanecer central quando implantamos a IA no atendimento ao paciente”.
Posteriormente, a equipe de pesquisa planeja expandir seu trabalho examinando uma ampla gama de exemplos clínicos. Eles estão desenvolvendo um “laboratório de garantia de IA” para avaliar regularmente as complexidades dos diferentes modelos de diferentes modelos.
O artigo é intitulado “Problemas de lógica de ética médica com grandes modelos de idiomas”.
Os autores da pesquisa listados na revista são Shelley Sofa, MD; Vera Sorin, MD; Girish n. Nadkarni, MD, MPH; E Ayal Clang, MD.
Sobre o Departamento de IA rico em vento e o Departamento de Saúde Humana do Mount Sinai
MD, MD, Grish n. Sob Nadkarni – uma autoridade internacional sobre o uso seguro, eficaz e moral da IA – Departamento de Vento do Mount Sinai, do Mount Sinai, do primeiro tipo de faculdade de saúde humana da Hem Hem, o primeiro tipo de escola de medicina dos EUA, inteligência artificial e convertida à interseção da saúde humana.
A categoria está comprometida com a IA de maneira responsável, eficaz, moral e segura para converter pesquisas, cuidados clínicos, educação e operações. Os dados multimodais multi-escala estão ganhando progresso na integração, simplificando os caminhos para exames e práticas rápidas, combinando habilidades de IA de classe mundial, infraestrutura de ponta e poder de cálculo incomparável.
O Instituto Hasso Platner de Engenharia Digital, Alemanha, uma parceria entre o Hasso Platner Institute e o Sistema de Saúde Mount Sinai para engenharia digital-que complementa sua missão, complementando a abordagem orientada a dados para melhorar o atendimento ao paciente e a saúde.
No centro desta inovação está a renomada Escola de Medicina de Ikahan do Mount Sinai, que serve como um centro central de aprendizado e cooperação. Este instituto de consolidação exclusivo, departamentos acadêmicos, hospitais e centros de saída permitem que parcerias dinâmicas, com progresso para evitar doenças, melhorar o tratamento para doenças complexas e aumentar a qualidade de vida em todo o mundo.
Em 2021, o inovador App do Departamento de Nutriskan AI, o Departamento de Equipe de Ciência de Ciência de Dados Clínicos de Mount Sinai Health, desenvolvido com a Faculdade de Departamento, ganhou o Prêmio de Saúde do Coração do Sistema de Saúde Mount Sinai. Os pacientes hospitalizados nutriskan são projetados para detectar e facilitar a desnutrição e o tratamento. Este aprendizado de máquina O equipamento de aprendizado melhora a taxa de desnutrição e o uso de recursos, mostrando a aplicação dominante da IA na assistência médica.
* Hospital Membro da Saúde do Mount Sinai: Hospital Mount Sinai; Monte Sinai Brooklyn; Monte Sinai Mornside; Monte Sinai Queens; Mount Sinai South Nassau; Mount Sinai West; E New York Eye e Kan’s Infirmary Sinai Mount
