“Primeiro, não faça mal.” O princípio fundamental da medicina, conhecido como Juramento de Hipócrates, é-nos ensinado pela primeira vez na faculdade de medicina. A primeira consideração ao avaliar um paciente e considerar as opções de tratamento é “não causar danos”. O juramento não nos impede de inovar, cuidar ou ser os melhores naquilo que fazemos. No entanto, garante que o fazemos de forma responsável.
Formado na Universidade de Yale, trabalhou no atendimento direto ao paciente, na política de saúde na Health and Human Services, atendeu clientes em todo o mundo na Price Waterhouse Cooper Consulting e agora como CEO de uma empresa de saúde, a primeira regra é sempre: Inofensivo.
Trabalho na área da saúde há décadas e tenho visto inteligência artificial e algoritmos usados de diversas maneiras em todo o processo de atendimento. Em alguns casos, a IA pode melhorar a eficiência e libertar largura de banda para que os especialistas humanos se concentrem em tarefas mais complexas. No entanto, os fornecedores de IA utilizam variáveis no caso de um paciente para determinar se outra camada de autorização prévia é necessária para receber o tratamento recomendado pelo médico ou para recomendar um tratamento específico ao paciente. Às vezes, levamos um passo em frente com as capacidades atuais dos nossos produtos. ainda mais para analisá-los. Antes que a IA seja devidamente treinada.
Às vezes, minha equipe é solicitada a modificar a lógica da IA depois que ela já foi implantada na produção. E isso é compreensível na estrutura atual, certo? Os fornecedores de tecnologia têm grandes objetivos de crescimento e expansão, e os técnicos de laboratório não clínicos que não têm o mesmo treinamento que os médicos podem usar a IA além do seu conhecimento clínico atual quando não há regras para escrever. Acho difícil resistir à tentação de fazê-lo. expandir. eles pensam muito. Eles também não têm conhecimento clínico para saber que podem ou estão causando danos.
A medicina e o conhecimento médico estão se expandindo exponencialmente a cada ano. Doenças que eram mortais há décadas são agora controláveis ou tratáveis, mas ainda há muitas coisas que ainda precisam ser descobertas.
O mesmo se aplica à IA, e as suas aplicações e utilização estão a expandir-se a um ritmo acelerado todos os anos. Há apenas três anos, ninguém sabia o que era o “Chat GBT”, mas agora as escolas estão a utilizar a IA para garantir que os seus alunos aprendem, em vez de apenas fazerem o trabalho.
Ao contrário da medicina, a IA atualmente não tem a máxima “não causar danos”. Em vez disso, a tecnologia é dominada pela ideia de “agir rapidamente e quebrar as coisas”, o que pode ser bom quando se trata de tecnologia de consumo, mas não é aplicado a tecnologias que podem impactar os profissionais de saúde.
Existem poucas proteções para desenvolvedores e aqueles que incorporam IA em seus produtos, sujeitos às mesmas regras dos profissionais médicos. Não existe uma estrutura de “não causar danos” à qual a IA esteja vinculada, pelo menos ainda não.
Um coro de legisladores em todo o país reconhece não só o poder da tecnologia de IA para melhorar as nossas vidas, mas também a importância de fornecer algumas proteções, o equivalente digital de “não causar danos” na tecnologia. Connecticut deveria considerar-se afortunado por um dos líderes nacionais nesse esforço ser o nosso próprio senador estadual, James Maloney.
No final do mês passado, o Senado estadual aprovou a SB 2, uma lei de inteligência artificial que fornece uma estrutura para regular o desenvolvimento e o uso de IA. O projeto de lei de 53 páginas e 19 artigos estabelece uma estrutura para regular o desenvolvimento e o uso de IA. Este projeto de lei estabelece as regras e esclarece como esta poderosa tecnologia será gerenciada.
Embora existam muitas maneiras pelas quais a IA pode ser aproveitada para melhorar as nossas vidas, também existem sérios riscos sociais e pessoais decorrentes da IA não regulamentada. Na semana passada, vimos um indivíduo nefasto usar uma ferramenta de “nudificação” alimentada por IA para gerar imagens de atletas femininas, incluindo as estrelas da UConn. Neste momento, não há penalidades claras para isso. Este projeto tornaria o uso da IA igual à pornografia de vingança nos tribunais.
Os desafios decorrentes da crise e da pandemia dos opiáceos estão a iluminar os desafios de saúde mental que a nossa sociedade enfrenta. Embora não exista nenhuma lei que impeça atores mal-intencionados de usar IA para criar e distribuir imagens íntimas de alguém, esta lei poderia pelo menos criar um mecanismo de penalidades para essa ação e, mais importante, pode tornar a sociedade claramente consciente de que o comportamento é inaceitável. .
Nós, da área médica, entendemos os benefícios da IA e como ela pode melhorar a qualidade de vida das pessoas. Muitos de nós estamos muito otimistas e entusiasmados com o potencial da IA para melhorar a qualidade de vida da sociedade. Mas aqueles de nós que trabalharam em departamentos de emergência viram em primeira mão as consequências de atos malignos e de infortúnios. Compreendemos os riscos que surgem quando a IA pode ser desenvolvida e utilizada sem regras.
A primeira regra da IA, tal como na medicina, deveria ser “não causar danos”, e o Projeto de Lei 2 do Senado deste ano é um passo importante para tornar isso uma realidade. Espero que a Câmara aprove este projeto de lei nos restantes dias desta sessão legislativa e que o governador adote este importante quadro para aproveitar o poder da IA e, ao mesmo tempo, reduzir as consequências não intencionais e os maus atores. Aplicar o conceito central de “primeiro, não causar danos” à IA, tal como aderir ao Juramento de Hipócrates, não impede que os cuidados de saúde dos EUA sejam inovadores, compassivos e de classe mundial. Isso apenas nos torna pessoas melhores, mais saudáveis, mais felizes e mais seguras.
O Dr. Kevin Carr é dono de diversas empresas, incluindo a Trusted Medical e a Compass Innovations, com sede em Connecticut.
