Os desenvolvedores de IA estão monitorando de perto o Congresso para determinar como a legislação futura afetará a sociedade. … [+]
Os programadores de inteligência artificial têm vivido em grande parte sob uma nuvem de incerteza sobre como os reguladores irão impactar o seu trabalho, mas pela primeira vez essa nuvem está a começar a dissipar-se.
A União Europeia, um líder declarado no estabelecimento de regras para o desenvolvimento da IA, aprovou recentemente a sua legislação mais significativa até à data centrada na IA. A Lei da UE sobre IA representa um elemento do plano da UE para “apoiar o desenvolvimento de IA confiável” e define claramente como e onde os desenvolvedores podem construir IA. No que parece ser um terreno baldio de tecnologia em grande parte indomado, a UE começou a construir estradas que moldarão novas ferramentas e capacidades.
Embora os legisladores comecem a acompanhar os desenvolvedores, as empresas de tecnologia de saúde precisam de alguma capacidade para prever o futuro. Embora o ritmo da ação legislativa dos EUA esteja muito aquém da velocidade vertiginosa da inovação em IA, os desenvolvedores dos EUA estão de olho na UE porque ela poderia fornecer uma estrutura para os EUA imitarem. Para aqueles que criam soluções para a saúde, enfrentamos o maior risco de salvar vidas e uma intensa supervisão regulatória. Precisamos pesar as diretrizes já em vigor e as leis que estão gradualmente sendo aprovadas pelo governo para construir soluções que funcionem de acordo com as regulamentações atuais e futuras.
Esta é uma visão do cenário regulatório atual em relação à IA e da legislação pendente que os desenvolvedores de tecnologia devem ficar de olho enquanto ela tramita no Congresso.
Regras atualmente em vigor
Em dezembro, o Gabinete do Coordenador Nacional de Tecnologia da Informação em Saúde (ONC) finalizou novas regras com componentes essenciais para desenvolvedores de IA.de Dados de saúde, tecnologia e interoperabilidade: atualizações do programa de certificação, transparência algorítmica e regras de compartilhamento de informações (HTI-1) Contém requisitos para soluções de TI de saúde com certificação ONC para construir algoritmos de forma transparente para soluções de IA.
Demonstrou-se que algumas implementações iniciais de IA tinham preconceitos nas suas previsões, incluindo preconceitos raciais, o que pode ampliar as disparidades nos resultados de saúde para pacientes pertencentes a minorias. A decisão da ONC visa aliviar estes riscos, dando “acesso” aos utilizadores clínicos. [to] Fornece informações básicas consistentes sobre os algoritmos usados para ajudar a identificar problemas.
“Transparência” tornou-se uma palavra-chave nas discussões sobre a regulamentação da IA, incluindo a ordem executiva da administração Biden sobre IA no outono passado, que exigia que os desenvolvedores compartilhassem os resultados dos testes de segurança com o governo. Os primeiros sucessos na IA, como a solução de diagnóstico da Google para a retinopatia diabética, e os fracassos, como os planos do Medicare que negam os cuidados necessários, apresentam oportunidades de aprendizagem para melhorar o desenvolvimento e a implementação da IA através da partilha de dados.
O Medicare já tomou medidas para melhorar a utilização de algoritmos nas decisões de cobertura, emitindo novas directrizes que apelam a um equilíbrio da influência humana no processo de tomada de decisão. Isto significa que a determinação da cobertura do Medicare não pode depender apenas de um processo algorítmico, mas deve considerar “o histórico médico individual do paciente, recomendações médicas ou registros clínicos”. Os desenvolvedores de IA na área da saúde devem ter em mente que as soluções que constroem precisam servir como um complemento para os médicos, e não como a palavra final nas decisões de atendimento ao paciente. Eles também precisam padronizar a forma como os resultados dos testes são compartilhados com os reguladores para fornecer uma visão clara e consistente do processo de desenvolvimento.
Leis notáveis
O senador Ron Wyden, D-Ore., apresentou a Lei de Responsabilidade Algorítmica em setembro passado. Criaria um novo gabinete dentro da Comissão Federal do Comércio dedicado a receber relatórios de impacto dos construtores de IA e a utilizar esses relatórios para construir um repositório de informações sobre ferramentas de IA.
O projeto de lei visa esclarecer onde exatamente a IA está influenciando a tomada de decisões na saúde e em outras áreas, como a triagem de inquilinos ao alugar uma casa. Também visa fornecer uma estrutura para relatórios de IA sem criar uma agência inteiramente nova. Ao trabalhar diretamente com a FTC, os criadores de IA poderiam aumentar ainda mais a confiança dos pacientes, que manifestaram em grande parte desconfiança na IA nos cuidados de saúde.
A IA generativa, ou IA baseada em modelos de linguagem em grande escala, também atrairá certamente a atenção dos reguladores devido à sua propensão para “ilusões” e imprecisões. Algumas empresas, incluindo o KeyBank, já restringiram ou proibiram o uso interno da IA gerada em antecipação às preocupações com a privacidade dos dados e às restrições dos legisladores.
De acordo com relatórios recentes, a Apple e o Google estão em negociações para incorporar a plataforma Gemini AI do Google no iPhone. Esta parceria coloca o Google firmemente no controle de como os consumidores usam a Gen AI. É da mesma forma que o Google se tornou a ferramenta de busca de fato para a extensa base de usuários do iPhone da Apple. No entanto, esta parceria certamente atrairá a atenção do Departamento de Justiça como uma conduta anticoncorrencial, semelhante à investigação sobre a parceria de motores de busca entre as duas empresas. Como as regras do Departamento de Justiça relativas a cada uma dessas parcerias moldam o relacionamento entre a Geração AI e os consumidores?
Neste ponto, há mais perguntas do que respostas sobre as diretrizes de IA, e a situação está se tornando mais incerta a cada dia. Observar o contexto de algumas das leis já em vigor e das regulamentações previstas ajudará os desenvolvedores a construir ferramentas bem-sucedidas baseadas em IA que tenham um impacto positivo na saúde e que permaneçam dentro das regulamentações federais.
