Uma recente ação movida no Tribunal Superior de San Diego alega que a Sharp Healthcare gravou conversas entre médicos e seus pacientes sem consentimento por escrito, usando as informações para documentar visitas por meio de um programa de inteligência artificial desenvolvido por uma empresa privada em Pittsburgh.
Embora o processo se concentre em um provedor médico especializado do condado de San Diego que tenta construir uma ação coletiva contra os pacientes da Sharp, ele também lança luz sobre a adoção silenciosa, mas generalizada, de software de transcrição clínica baseado em IA na medicina convencional.
Uma pesquisa com prestadores de serviços médicos de San Diego, realizada após o processo ter sido aberto em 26 de novembro, mostrou que vários prestadores de serviços médicos na região estavam usando sistemas semelhantes.
O Rady Children’s Hospital, em San Diego, disse por e-mail que “está atualmente conduzindo um piloto limitado de tecnologia de gravação ambiente com médicos obrigados a obter o consentimento do paciente antes do uso”. A UC San Diego Health confirmou que usa um sistema chamado Nabla, que foi instalado “após uma análise completa de segurança”. O University Health System afirma que o consentimento do paciente é necessário antes de usar o sistema, que inclui “um consentimento anual por escrito (mais) consentimento oral do paciente e de todas as partes na sala de exame em cada visita”. A Kaiser Permanente disse em comunicado que seus médicos “têm acesso a uma ferramenta de suporte à documentação clínica que ajuda a capturar com segurança anotações clínicas básicas durante as visitas aos pacientes, permitindo-lhes se concentrar mais no atendimento ao paciente”. Kaiser diz que seu sistema “exige que a equipe médica solicite permissão de nossos pacientes e de outras pessoas que estão com eles antes de usar esta ferramenta”.
A Scripps Health, um dos quatro principais prestadores de serviços médicos no mercado de San Diego, recusou-se a discutir se utiliza tal sistema, dizendo em comunicado que “não é algo que discutimos”.
O Paradise Valley Hospital disse que não está usando nenhum tipo de sistema de anotações de IA, enquanto o Palomar Health e o Tri-City Medical Center em North County não responderam às perguntas.
Solicitada a comentar as alegações do processo de que não notificou adequadamente os pacientes no sistema de documentação médica, Sharp disse que “a segurança e a privacidade dos pacientes são sempre nossas principais prioridades”, acrescentando que “não foi possível comentar sobre litígios pendentes”.
A ação, movida em nome do paciente da Sharp, José Saucedo, pelo advogado Robert Salgado, busca a certificação como uma ação coletiva e alega que a Sharp violou a Lei de Privacidade Médica ao “usar dispositivos de gravação eletrônica e sistemas de processamento baseados em nuvem para registrar secretamente todas as consultas médicas sem aviso prévio ou consentimento”.
A ação busca indenizações compensatórias e punitivas não especificadas, observando que os estatutos penais estaduais permitem indenizações de US$ 5.000 por violação.
As gravações, diz o processo, foram enviadas para a Abridge, uma empresa de tecnologia sediada em Pittsburgh que recentemente recebeu grande investimento do setor de tecnologia em seu sistema habilitado para IA, que, segundo um comunicado à imprensa de 10 de dezembro, agora é usado “em mais de 200 ambientes de atendimento ambulatorial anualmente”.
A empresa publicou informações em seu site que ajudam seus clientes e o público a saber como funciona.
Uma entrada “Noções básicas de gravação” no centro de suporte ao cliente da empresa incentiva os médicos a “certificar-se de seguir as diretrizes recomendadas pela sua organização para o consentimento do paciente” e ainda fornece exemplos de linguagem que podem ser usados em tais situações.
Abridge sugere que os médicos possam dizer: “Vou usar uma ferramenta que registre nossa conversa para me ajudar a escrever minhas anotações clínicas, para que eu possa me concentrar mais em nossa conversa e passar menos tempo no computador.
A tecnologia utiliza um aplicativo instalado no smartphone do médico para fazer o registro, que dita uma lista de “melhores práticas” que devem ser colocadas “entre você e seu paciente sem interrupção”. Abridge também afirma em seu site que sua tecnologia é “100% compatível com HIPAA e usa as melhores práticas do setor para proteger as informações dos pacientes”, ressaltando que os dados que coleta são “sempre armazenados por meio de canais seguros” que cumprem a HIPAA, a Lei de Responsabilidade e Portabilidade de Seguros de Saúde de 1996, que impede a divulgação não autorizada de informações dos pacientes.
Mas Abridge também sugere privacidade Política Seu site observa que cria acordos de privacidade separados com cada um de seus clientes, instruindo os pacientes a “ver o aviso de práticas de privacidade do seu provedor para obter informações sobre como eles lidam com suas (informações de saúde protegidas). Política em seu site, embora o documento seja datado de 14 de abril de 2003.
Abridge indica que está em conformidade com a Lei de Privacidade do Consumidor da Califórnia e site Ele afirma que atende aos requisitos de nível dois de “Sistemas e Controles Organizacionais” desenvolvidos pelo Instituto Americano de Contadores Públicos Certificados. Estas regras especificam como a informação digital deve ser mantida segura contra acesso não autorizado, livre de corrupção e privada. Abridge indica que sua conformidade com as regras SOC 2 “foi verificada por um auditor terceirizado independente para segurança e privacidade”.
um público declaração Publicado em seu site em 2020, Abridge disse que usou 10.000 horas de conversas transcritas entre médicos e pacientes para treinar seus modelos de IA, e que esses dados “desidentificados” vieram de “pacientes totalmente informados e consentidos”. um separado declaração 2020 indica que toda pesquisa e desenvolvimento utiliza dados anonimizados e que tais informações são “adquiridas com o consentimento do paciente”. Mas não está claro se a empresa utiliza conversas do mundo real enviadas de seus clientes para os servidores da Abridge para análise, a fim de treinar futuras gerações de modelos da empresa.
A empresa não respondeu aos pedidos de comentários sobre o assunto.
Os defensores da privacidade estão cada vez mais preocupados sobre O mundo em rápida evolução da IA à medida que ela entra nos espaços mais sensíveis do mundo.
Sarah Geoghegan, consultora jurídica sênior do Electronic Privacy Information Center em Washington, D.C., diz que exigir o consentimento do paciente durante a gravação é bastante claro.
“Obviamente, a transparência é um passo necessário, assim como a divulgação e o consentimento significativo”, disse Geoghegan.
E esse consentimento, acrescentou, não deve ser obtido apenas uma vez. Deveria estar disponível por si só, acrescentou ele, e não considerar o enorme processo burocrático que os pacientes muitas vezes têm de enfrentar quando visitam o consultório.
“Deve ser um consentimento informado livremente e que pode ser revogado”, disse Geoghegan. “Uma vez a cada 10 anos não é suficiente.”
O grande problema, acrescentou, é quando o uso da IA na saúde passa da simples replicação para a tomada de decisões. Entretanto, as companhias de seguros têm sido vistas a utilizar sistemas de IA para negar sinistros, uma prática que se tornará ilegal em 2025 por um novo motivo. a leiA “Lei de Tomada de Decisões Médicas”, que exige que as determinações de necessidade médica sejam feitas “apenas por um médico licenciado ou profissional de saúde licenciado, capaz de avaliar as questões clínicas específicas envolvidas nos serviços de saúde solicitados pelo prestador”.
“Acho que é aí que reside a usabilidade e quais são os limites da tecnologia”, disse Geoghegan. “Para mim, um médico que faz todo o trabalho de um médico, mas usa a tecnologia para fazer algumas anotações, é muito diferente de uma situação que envolve IA generativa, onde um médico conversa com um paciente e, em seguida, uma ferramenta de IA generativa diagnostica e sinaliza e, você sabe, faz aquelas coisas que pertencem ao médico.”
Não parece que Abridge tenha cruzado esse Rubicão em particular. A declaração pública da empresa sobre o seu produto indica que o principal objetivo do sistema é documentar com precisão as conversas médico-paciente, mas os médicos devem revisar os dados resultantes e fazer as correções necessárias antes de adicioná-los ao prontuário médico oficial do paciente.
