IA generativa Tecnologias que podem criar e analisar imagens, texto, áudio, vídeo e muito mais estão cada vez mais entrando no espaço da saúde, impulsionadas tanto por grandes empresas de tecnologia quanto por startups.
O Google Cloud, divisão de serviços e produtos em nuvem do Google, está colaborando com a Highmark Health, uma empresa de saúde sem fins lucrativos com sede em Pittsburgh, em ferramentas generativas de IA projetadas para personalizar a experiência de admissão de pacientes. A divisão AWS da Amazon disse que está trabalhando com clientes anônimos para explorar maneiras de analisá-los usando IA generativa. Base de dados médica sobre “Determinantes Sociais da Saúde”. O Microsoft Azure também ajudou a rede de saúde sem fins lucrativos Providence a construir um sistema generativo de IA para fazer a triagem automática de mensagens enviadas por pacientes aos prestadores de cuidados de saúde.
Startups de IA generativa proeminentes no setor de saúde incluem a Ambience Healthcare, que está desenvolvendo aplicativos de IA generativa para médicos. Nabla, um assistente de IA ambiental para profissionais. Abridge cria ferramentas de análise de documentos médicos.
O entusiasmo generalizado pela IA generativa reflecte-se no investimento em esforços de IA generativa para os cuidados de saúde. A IA generativa em startups do setor da saúde angariou dezenas de milhões de dólares em capital de risco até à data, e a maioria dos investidores no setor da saúde afirma que a IA generativa está a ter um impacto significativo na sua estratégia de investimento.
Mas tanto os especialistas como os pacientes estão divididos sobre se a IA generativa focada na saúde está pronta para o horário nobre.
A IA generativa pode não ser o que as pessoas desejam
Uma pesquisa recente da Deloitte descobriu que apenas cerca de metade (53%) dos consumidores dos EUA acreditam que os cuidados de saúde podem ser melhorados através da IA generativa. Por exemplo, pode ser mais fácil aceder ou reduzir o tempo de espera para consultas. Menos de metade das pessoas afirma esperar que a IA generativa torne os cuidados de saúde mais acessíveis.
Andrew Borkowski, diretor de IA da VA Sunshine Healthcare Network, o maior sistema de saúde do Departamento de Assuntos de Veteranos dos EUA, não acha que o cinismo seja injustificado. Borkowski alertou que a IA generativa tem limitações “significativas” e preocupações sobre a sua eficácia que podem tornar a sua introdução prematura.
“Um dos principais problemas da IA generativa é que ela não consegue lidar com consultas médicas complexas e emergências”, disse ele ao TechCrunch. “A base de conhecimento limitada, ou seja, a falta de informações clínicas atualizadas e a falta de experiência humana, torna-a inadequada para fornecer aconselhamento médico abrangente e recomendações de tratamento.
Alguns estudos sugerem que esses pontos são confiáveis.
De acordo com um artigo publicado na JAMA Pediatrics, o chatbot de IA generativo ChatGPT da OpenAI, que foi testado por algumas instituições médicas para uso limitado, tem uma taxa de sucesso de 83% no diagnóstico de doenças pediátricas. Acontece que estou cometendo erros. Além disso, ao testar o GPT-4 da OpenAI como assistente de diagnóstico, os médicos do Beth Israel Deaconess Medical Center, em Boston, observaram que o modelo classificou os diagnósticos incorretos como a resposta principal quase duas em cada três vezes.
A IA generativa de hoje também enfrenta tarefas de gestão de cuidados de saúde que fazem parte dos fluxos de trabalho diários dos médicos. O benchmark MedAlign avalia quão bem a IA generativa pode executar funções como resumir registros de saúde de pacientes e pesquisar notas. O GPT-4 falhou em 35% dos casos.
A OpenAI e muitos outros fornecedores de IA generativa alertaram contra a dependência de seus modelos para aconselhamento médico. Mas Borkowski e outros dizem que é possível fazer mais. “Confiar apenas na IA gerada na área médica pode levar a diagnósticos errados, tratamentos inadequados e até mesmo situações de risco de vida”, disse Borkowski.
As preocupações de Borkowski são compartilhadas por Jan Egger, chefe de terapia guiada por IA do Instituto de IA Médica da Universidade de Duisburg-Essen, que pesquisa a aplicação de tecnologias emergentes no atendimento ao paciente. Ele acredita que a única maneira segura de usar IA gerada na área médica neste momento é sob a supervisão de um médico.
“Os resultados podem estar completamente errados e está se tornando cada vez mais difícil estar ciente disso”, disse Egger. “Certamente, a IA generativa pode ser usada, por exemplo, para pré-gerar notas de alta. Mas o médico é responsável por revisá-las e tomar a decisão final.”
A IA generativa pode perpetuar estereótipos
Uma maneira particularmente perniciosa pela qual a IA generativa na área da saúde pode errar é perpetuando estereótipos.
Em um estudo de 2023 da Universidade de Stanford, uma equipe de pesquisadores testou o ChatGPT e outros chatbots generativos alimentados por IA em questões sobre função renal, capacidade pulmonar e espessura da pele. Não só as respostas do ChatGPT estavam muitas vezes erradas, como algumas das respostas também reforçaram a falsa crença de longa data de que existem diferenças biológicas entre negros e brancos. Sabe-se que esse engano faz com que os prestadores de cuidados de saúde diagnostiquem mal os problemas de saúde.
A ironia é que os pacientes com maior probabilidade de serem discriminados pela IA gerada clinicamente são também os que têm maior probabilidade de a utilizar.
Uma pesquisa da Deloitte mostra que as pessoas sem seguro de saúde, normalmente pessoas de cor, estão mais dispostas a experimentar a IA generativa para coisas como encontrar médicos e apoio à saúde mental, de acordo com a investigação da KFF. As desigualdades no tratamento podem ser ainda mais exacerbadas se as recomendações da IA forem comprometidas por preconceitos.
No entanto, alguns especialistas argumentam que a IA generativa está a melhorar neste aspecto.
Num estudo da Microsoft publicado no final de 2023, os investigadores anunciaram que alcançaram 90,2% de precisão em quatro benchmarks médicos difíceis usando GPT-4. Vanilla GPT-4 não conseguiu atingir esta pontuação. Mas os pesquisadores dizem que por meio da engenharia imediata (projetando prompts para o GPT-4 produzir resultados específicos), eles conseguiram aumentar a pontuação do modelo em até 16,2 pontos percentuais. (Vale a pena notar que a Microsoft é uma grande investidora na OpenAI.)
Além dos chatbots
Mas a IA generativa é útil para mais do que apenas fazer perguntas aos chatbots. Alguns pesquisadores dizem que as imagens médicas poderiam se beneficiar muito com o poder da IA generativa.
Em julho, um grupo de cientistas anunciou um sistema chamado c.Adiamento de fluxos de trabalho clínicos (CoDoC) baseado na complementaridade, de acordo com um estudo publicado na Nature. O sistema foi projetado para ajudar os profissionais de imagens médicas a decidir quando confiar na IA em vez das técnicas tradicionais de diagnóstico. De acordo com os coautores, o CoDoC superou os especialistas e reduziu o fluxo de trabalho clínico em 66%.
Em novembro, Equipe de pesquisa chinesa realiza demonstração panda, um modelo de IA usado para detectar possíveis lesões pancreáticas em raios-X. O estudo mostrou que o Panda classificou com alta precisão essas lesões, que muitas vezes são detectadas tarde demais para intervenção cirúrgica.
Na verdade, Arun Thirunavukarasu, pesquisador clínico da Universidade de Oxford, diz que “não há nada de especial” que impeça a adoção da IA generativa em ambientes de saúde.
“Mais aplicações diárias de tecnologia de IA generativa são possíveis.” em No curto e médio prazo, isso inclui correções de texto, documentação automatizada de notas e cartas e funcionalidade de pesquisa aprimorada para otimizar registros eletrônicos de pacientes”, disse ele. “Mesmo que a tecnologia de IA generativa seja eficaz, não há razão para que não possa ser implementada.” em Aceitamos essas funções imediatamente. ”
“Ciências Exatas”
Mas embora a IA generativa seja promissora em certas áreas restritas da medicina, especialistas como Borkowski acreditam que são necessários desafios técnicos e de conformidade antes que a IA generativa possa tornar-se útil e confiável como uma ferramenta de assistência médica para todos os fins. .
“O uso de IA generativa na área da saúde traz preocupações significativas de privacidade e segurança”, disse Borkowski. “A sensibilidade dos dados de saúde e o potencial de uso indevido ou acesso não autorizado representam riscos significativos para a confidencialidade do paciente e a confiança no sistema de saúde. Além disso, o cenário regulatório e legal que cerca o uso de IA generativa nos cuidados de saúde ainda está evoluindo, e questões sobre responsabilidade, proteção de dados e prática médica por atores não humanos ainda precisam ser resolvidas.”
Até mesmo Thirunavukarasu está otimista em relação à IA generativa na área da saúde, mas diz que é preciso haver “ciência rigorosa” por trás das ferramentas voltadas para o paciente.
“Ensaios clínicos randomizados pragmáticos devem ser realizados para demonstrar os benefícios clínicos que justificam a introdução de IA generativa para os pacientes, especialmente na ausência de supervisão clínica direta”, disse ele. “A boa governação no futuro será essencial para evitar danos não intencionais após uma implementação em grande escala.”
A Organização Mundial da Saúde publicou recentemente diretrizes recomendando este tipo de supervisão científica e humana da IA generativa na saúde, bem como auditoria independente de terceiros, transparência e avaliação de impacto desta IA. O objectivo declarado da OMS nas suas directrizes é encorajar a participação diversificada no desenvolvimento da IA médica generativa, dando-lhes a oportunidade de levantar preocupações e fornecer contributos ao longo de todo o processo.
Borkowski disse: “Até que as preocupações sejam devidamente abordadas e as salvaguardas apropriadas sejam implementadas, a adoção generalizada de IA gerada clinicamente… pode ser potencialmente prejudicial para os pacientes e para o setor de saúde como um todo”.
