Kaiser Permanente é um dos maiores empregadores em São Francisco, Alameda e outros condados da Bay Area e foi um dos primeiros a adotar a IA. Funcionários da empresa disseram que testam rigorosamente as ferramentas que utilizam para garantir segurança, precisão e justiça.
“Nossos médicos e equipes de atendimento estão sempre no centro da tomada de decisões com nossos pacientes”, disse Kaiser Permanente em comunicado em resposta ao pedido de comentários da KQED. “Acreditamos que a IA tem o potencial de ajudar médicos e funcionários e melhorar a experiência dos membros. Como organização dedicada à inclusão e à equidade na saúde, acreditamos que os resultados das nossas ferramentas de IA não substituem a avaliação humana.
Um dos programas utilizados em 21 hospitais Kaiser no norte da Califórnia é o Advance Alert Monitor, que analisa dados electrónicos de saúde para notificar as equipas de enfermagem quando o estado de saúde de um paciente está em risco de deterioração grave. A empresa afirma que o programa salva cerca de 500 vidas por ano.
Mas Gutiérrez-Vo disse que os enfermeiros citaram problemas com a ferramenta, incluindo o envio de alertas imprecisos e a falha na detecção de todos os pacientes cuja saúde está se deteriorando rapidamente.
“Fala-se muito neste momento sobre este ser o futuro dos cuidados de saúde. Estas empresas médicas estão a usar isto como um atalho, como uma forma de lidar com a carga dos pacientes. Não podemos fazer isso sem garantir que esses sistemas sejam seguros”, disse Gutierrez Vo, enfermeira com 25 anos de experiência que trabalha na Clínica de Medicina Familiar para Adultos de Fremont da empresa. “Nossos pacientes não são ratos de laboratório.”
A Food and Drug Administration dos EUA aprovou alguns serviços gerados por IA antes da comercialização, mas a maioria não possuía os dados abrangentes necessários para novos medicamentos. No outono passado, o presidente Joe Biden emitiu uma ordem executiva sobre o uso seguro da IA, incluindo uma diretriz para desenvolver políticas para tecnologias habilitadas para IA em serviços de saúde que promovam o “bem-estar de pacientes e trabalhadores”.
“A tecnologia está a avançar a um ritmo muito rápido e todos têm um nível diferente de compreensão do que ela pode fazer, por isso é óptimo ter uma discussão aberta. [what] É isso mesmo”, disse o Dr. Ashish Atreja, diretor de informação e saúde digital da UC Davis Health. “Muitos sistemas e instituições de saúde possuem barreiras de proteção, mas provavelmente não são tão amplamente compartilhadas. É por isso que existe uma lacuna de conhecimento”.
Como parte de uma colaboração com a UC e outros sistemas de saúde, a UC Davis Health está a implementar IA generativa e outros tipos de IA com o que Atreya chamou de “intencionalidade” para apoiar a sua força de trabalho e melhorar o atendimento ao paciente.
“Temos a missão de garantir que nenhum paciente, médico, pesquisador ou funcionário fique para trás com a tecnologia mais recente”, disse Atreya.
Robert Pearl, professor da Stanford Graduate School of Business e ex-CEO do Permanente Medical Group (Kaiser Permanente), disse ao KQED que as preocupações dos enfermeiros sobre o uso de IA no local de trabalho Ele disse que concordava.
“A IA generativa é uma tecnologia ameaçadora, mas também é uma tecnologia positiva. O que é melhor para o paciente? Essa deve ser a preocupação número um”, diz ChatGPT, em coautoria com AI Systems, disse Pearl, autor de “MD:”. Como pacientes e médicos capacitados por IA podem retomar o controle da medicina americana''.
“Estou otimista sobre o que isso pode fazer pelos pacientes”, diz ele. “Costumo dizer às pessoas que a IA generativa é como o iPhone.
