À medida que a IA se torna cada vez mais difundida nas nossas vidas quotidianas, o seu impacto nos cuidados de saúde e na medicina terá impacto em todos, quer optem ou não por utilizar a IA nas suas atividades. Então, como podemos implementar a IA de uma forma responsável que proporcione principalmente benefícios positivos e, ao mesmo tempo, minimize potenciais desvantagens?
Na recente Conferência e Festival SXSW de 2024, realizada em março de 2024, o presidente da American Medical Association (AMA), Dr. Jesse Ehrenfeld, falou sobre o tema “IA, saúde e o estranho futuro da medicina”. Em uma entrevista de acompanhamento no podcast AI Today, o Dr. Ehrenfeld expande sua palestra e compartilha insights adicionais sobre este artigo.
P: Como você vê o impacto da IA na saúde e por que a AMA lançou recentemente um conjunto de princípios de IA?
Dr. Jesse Ehrenfeld: Sou médico e anestesista e, na verdade, atendi vários pacientes no início desta semana. Trabalho na Faculdade de Medicina de Wisconsin, em Milwaukee, Wisconsin, e exerço prática clínica há cerca de 20 anos. Atualmente sou o presidente da AMA. A AMA é bem conhecida e é a maior e mais influente organização que representa médicos nos Estados Unidos. Fundado em 1847, fornece um código de ética médica e outras coisas que ajudam os médicos a praticar a medicina na América hoje. Sou certificado em Anestesiologia e Informática Clínica. Sou o primeiro Board of Information Scholars a ser certificado como Presidente da AMA. Esta é uma designação de especialidade relativamente nova e também passei 10 anos na Marinha. Fundamentalmente, tudo o que faço se resume a compreender como posso apoiar a prestação de cuidados de saúde de qualidade aos pacientes com base no meu trabalho e prática ativa.
Não é de surpreender que os médicos tenham sido sobrecarregados com muita tecnologia que é inútil, inútil e mais um fardo do que um trunfo. Não queremos mais isso, especialmente quando se trata de IA. Assim, em resposta às preocupações levantadas pelos médicos e pelo público, a AMA publicou um conjunto de princípios para o desenvolvimento, implantação e utilização de IA em Novembro de 2023.
O público tem muitas perguntas sobre estes sistemas de IA. O que isso significa? Como podemos confiar neles? Segurança e tudo mais. Nossos princípios centram todo o nosso trabalho, o governo federal, o Congresso e outros, em como garantir que essas tecnologias funcionem à medida que são desenvolvidas, implantadas e, em última análise, usadas na sociedade. Sistema de prestação de cuidados.
Trabalhamos na política de IA desde 2018. Mas a última iteração exige uma abordagem governamental abrangente à IA. Precisamos garantir que reduzimos o risco do paciente e maximizamos a utilidade. E estes princípios foram o resultado de um esforço significativo que reuniu especialistas no assunto, incluindo médicos, informáticos e grupos de especialistas nacionais. Esses princípios cobrem muito.
P: Você pode descrever esses princípios de IA?
Dr. Acima de tudo, queremos garantir que a IA na saúde seja concebida, desenvolvida e implementada de forma ética, justa, responsável e transparente. A nossa visão e perspectiva é que o desenvolvimento da IA de forma ética e responsável exige o cumprimento das políticas de governação nacionais. O acordo voluntário e o cumprimento voluntário não são suficientes. Precisamos de regulamentação e precisamos de uma abordagem baseada no risco. O nível de escrutínio e de supervisão da verificação deve ser proporcional à probabilidade de danos ou consequências que um sistema de IA possa representar. Portanto, diferentes níveis de monitoramento podem ser necessários se você estiver usando-o para dar suporte a diagnósticos e a operações programadas.
Fizemos muitos trabalhos de pesquisa com médicos de todo o país para entender o que realmente está acontecendo hoje, à medida que o uso dessas tecnologias aumenta nos esforços de pesquisa. Os resultados são interessantes, mas talvez também devam servir como um alerta para desenvolvedores e reguladores. Os médicos em geral estão muito entusiasmados com o potencial da IA na saúde. 65% dos médicos norte-americanos de renome nacional estão a utilizar IA nas suas práticas para reduzir a carga administrativa através da automação, tais como assistência na criação de documentos, assistência na tradução de documentos, assistência no diagnóstico e autorizações prévias.
Mas eles também têm preocupações. 41% dos médicos dizem que estão tão entusiasmados quanto assustados com a IA. Além disso, existem preocupações sobre o impacto na privacidade do paciente e na relação médico-paciente. Afinal, queremos produtos seguros e confiáveis no mercado. É assim que conquistamos a confiança de médicos e consumidores, e todos os nossos esforços para apoiar o desenvolvimento de IA de alta qualidade e clinicamente validada retornam claramente a estes princípios.
P: Em quais preocupações de privacidade de dados e saúde você está focado?
Dr. Jesse Ehrenfeld: O que vejo são mais perguntas do que respostas de pacientes e consumidores sobre dados e IA. Por exemplo, o que os aplicativos de saúde fazem? Para onde vão os dados? Posso usar ou compartilhar essas informações? E, infelizmente, o governo federal não fornece transparência sobre o destino dos dados. Os piores exemplos disso são empresas, desenvolvedores e os aplicativos que eles rotulam como “compatíveis com HIPAA”. Na mente da pessoa média, o termo “compatível com HIPAA” significa que seus dados estão seguros, privados e protegidos. As inscrições não são entidades cobertas pela HIPAA, e a HIPAA se aplica apenas a entidades cobertas. Portanto, dizer que você está “em conformidade com a HIPAA” quando não está coberto pela HIPAA é completamente enganoso e não deve ser permitido que isso aconteça.
Há também muitas preocupações sobre para onde vão os dados de saúde, e isso obviamente se estende ao uso da IA com os pacientes. 94% dos pacientes afirmam querer leis fortes que regulem a utilização dos seus dados de saúde. Os pacientes hesitam em usar ferramentas digitais se não compreenderem as considerações de privacidade. Há muito trabalho que precisamos fazer na área de regulamentação. Mas mesmo que não seja legalmente exigido, há muitas coisas que os desenvolvedores de IA podem fazer para fortalecer a confiança no uso de dados de IA.
Escolha sua grande empresa de tecnologia favorita. Você confiaria a eles seus dados médicos? E se houvesse uma violação de dados Enviando fotos confidenciais de partes do corpo para seus servidores para potencialmente se preocupar? Você pode me fornecer informações sobre a condição? Para quem você liga? Portanto, acho que precisamos de uma oportunidade para sermos mais transparentes sobre o destino da nossa coleta de dados. Como posso cancelar o pool de dados, compartilhamento, etc.?
Infelizmente, a HIPAA não resolve tudo isso. Na verdade, muitas dessas aplicações não são cobertas pela HIPAA. Mais trabalho precisa ser feito para garantir a segurança e a privacidade dos dados de saúde.
P: Onde e como você vê a IA tendo o impacto mais positivo na saúde e na medicina?
Dr. Jesse Ehrenfeld: Precisamos de utilizar tecnologias como a IA e precisamos de abraçar estas tecnologias para resolver a crise da força de trabalho que existe hoje no setor da saúde. Este é um problema mundial. Não se limita à América. 83 milhões de americanos não têm acesso a cuidados primários. Há também uma escassez de médicos na América hoje. Se continuarmos a trabalhar e a prestar cuidados de saúde da mesma forma, nunca abriremos escolas médicas e programas de residência suficientes para satisfazer essas exigências.
Quando falamos sobre IA do ponto de vista AMA, na verdade gostamos de usar o termo inteligência aumentada em vez de inteligência artificial. Porque remonta ao princípio básico: as ferramentas devem ser ferramentas que melhorem as capacidades das equipas médicas, dos médicos, dos enfermeiros e de todos os envolvidos para prestar cuidados de forma mais eficaz e eficiente. Mas o que precisamos é de uma plataforma. Existem muitas soluções pontuais por aí que não estão integradas e acho que as empresas estão começando a se mover rapidamente nessa direção. Obviamente, queremos que isso aconteça também na área médica.
Estamos experimentando diferentes métodos para garantir que tenhamos voz ativa durante todo o processo de design e desenvolvimento. Temos uma rede de inovação médica. É uma plataforma online gratuita que reúne médicos empreendedores para impulsionar mudanças e inovação e lançar melhores produtos no mercado. As empresas querem informações clínicas e os médicos querem se conectar com os empreendedores. O Vale do Silício também possui uma incubadora de tecnologia chamada Health2047. Eles usaram os insights que adquirimos como médicos da AMA para criar cerca de uma dúzia de empresas.
Em última análise, será importante assegurar um quadro regulamentar que garanta que apenas produtos clinicamente validados sejam introduzidos no mercado. E precisamos de garantir que as nossas ferramentas cumprem realmente o que prometem e são um trunfo e não um fardo.
Não acho que a IA substituirá os médicos, mas acho que os médicos que usam IA substituirão os médicos que não usam IA. Os produtos de IA têm um grande potencial e deverão reduzir os encargos administrativos suportados pelos médicos e clínicas. Em última análise, esperamos ver muito sucesso no aproveitamento da IA diretamente no atendimento ao paciente. Há muito entusiasmo por aí, mas claramente existem ferramentas e tecnologia para enfrentar desafios como preconceito racial, erros que podem causar danos, segurança, questões de privacidade e ameaças às informações de saúde que você precisa verificar. Os médicos precisam de compreender como gerir estes riscos e gerir as suas responsabilidades antes de confiarem num número crescente de ferramentas.
(Divulgação: sou co-apresentador do podcast AI Today)
