DENVER (AP) — A inteligência artificial está ajudando a decidir quais americanos terão entrevistas de emprego, apartamentos e até cuidados médicos, mas o primeiro caso importante a ser dominado por preconceitos na tomada de decisões em IA A proposta enfrenta ventos contrários de todas as direções.
Os legisladores que trabalham nesses projetos de lei em estados como Colorado, Connecticut e Texas se reunirão na quinta-feira para defender suas propostas, enquanto grupos de direitos civis e a indústria se envolvem em um cabo de guerra sobre as partes principais dos projetos de lei.
Os sindicatos, os defensores dos consumidores e outros grupos apelam a uma maior transparência empresarial e ao alargamento das vias legais para ações judiciais públicas sobre a discriminação da IA. A indústria manifestou apoio provisório, mas continua a prosseguir estas medidas de responsabilização.
Os legisladores bipartidários apanhados no meio, incluindo os do Alasca, Geórgia e Virgínia, trabalharam em conjunto para aprovar legislação sobre IA face à inacção federal. O objetivo da conferência de imprensa é destacar os esforços dos estados e das partes interessadas e enfatizar a importância da cooperação e do compromisso nas primeiras etapas regulatórias.
Os senadores incluem o senador democrata James Maloney, de Connecticut, o líder da maioria democrata no Senado, Robert Rodriguez, do Colorado, e o senador republicano Shelley Hughes, do Alasca.
“Neste momento, não tenho confiança de que o governo federal possa aprovar algo rapidamente e penso que há necessidade de regulamentação”, disse Maloney, acrescentando que “os defensores da indústria, o governo e a academia são importantes que trabalhemos. juntos para criar os melhores regulamentos e leis possíveis.”
Os legisladores dizem que o projeto é o primeiro passo para desenvolvimentos futuros.
Mais de 400 projetos de lei relacionados com a IA estão a ser considerados em assembleias estaduais em todo o país este ano, mas a maioria visa apenas uma indústria ou parte da tecnologia, como deepfakes usados em eleições ou para criar imagens pornográficas.
O maior projeto de lei apresentado por esta equipa de legisladores proporcionaria um quadro mais amplo para a supervisão, especialmente no que diz respeito a um dos dilemas mais incômodos da tecnologia: a discriminação da IA. Os exemplos incluem a IA que não conseguiu avaliar com precisão os pacientes médicos negros e a IA que rebaixou os currículos das mulheres ao filtrar os pedidos de emprego.
Ainda assim, até 83% dos empregadores utilizam algoritmos para auxiliar na contratação, de acordo com estimativas da Comissão de Igualdade de Oportunidades de Emprego.
Se não fizermos nada, quase sempre haverá preconceitos nesses sistemas de IA, disse Suresh, professor de computação e ciência de dados na Brown University que ministra uma aula sobre como mitigar preconceitos no design desses algoritmos.
“Temos que fazer algo tangível para impedir que as pessoas sejam tendenciosas em primeiro lugar”, diz ele.
Estas propostas, principalmente no Colorado e Connecticut, são complexas, mas o seu argumento central é que as empresas seriam obrigadas a realizar “avaliações de impacto” em determinados sistemas de IA. Esses relatórios incluirão como a IA será incorporada na tomada de decisões, nos dados recolhidos e na análise dos dados. Uma análise dos riscos de discriminação e uma explicação das medidas de segurança da empresa.
A principal coisa que o deixa satisfeito é quem pode ver o relatório. Um maior acesso à informação sobre os sistemas de IA, tais como avaliações de impacto, significa maior responsabilização e segurança para o público. Mas as empresas também temem que isso também aumente o risco de processos judiciais e de exposição de segredos comerciais.
De acordo com projetos de lei no Colorado, Connecticut e Califórnia, as empresas não teriam de submeter regularmente avaliações de impacto ao governo. Além disso, as empresas serão as principais responsáveis por divulgar ao procurador-geral caso descubram discriminação. Os governos e as organizações independentes não testam estes sistemas de IA quanto a preconceitos.
Sindicatos e académicos estão preocupados com o facto de depender demasiado dos auto-relatos das empresas poder pôr em risco a capacidade do público e dos governos de identificar a discriminação baseada na IA antes que esta ocorra.
“Já é difícil quando se tem uma grande empresa multibilionária”, disse Gersten Forseth, presidente da AFL-CIO do Colorado, uma federação de sindicatos que se opõe ao projeto de lei estadual. “Essencialmente, você está dando a eles um contrabando extra para perseguir trabalhadores e consumidores.”
As empresas tecnológicas argumentam que o aumento da transparência revelará segredos comerciais num mercado cada vez mais competitivo. David Edmonson, da TechNet, uma rede bipartidária de CEOs de tecnologia e executivos seniores que pressionam por uma legislação sobre IA, disse em um comunicado que sua organização está trabalhando com legisladores para “garantir que toda a legislação seja implementada, permitindo ao mesmo tempo que a inovação floresça”. os riscos são abordados.”
A Câmara de Comércio da Califórnia se opõe ao projeto de lei do estado, preocupada que as avaliações de impacto possam ser tornadas públicas em litígios.
Outro elemento polêmico do projeto é quem pode processar de acordo com a lei, que o projeto geralmente limita aos procuradores-gerais estaduais e outros procuradores públicos que não sejam cidadãos.
A Workday, uma empresa de software financeiro e de recursos humanos, apoiou a proposta depois que uma disposição que permitia que os residentes processassem foi removida do projeto de lei da Califórnia. Workday argumenta que as ações civis movidas por cidadãos estariam sujeitas ao julgamento de juízes, muitos dos quais não são especialistas em tecnologia, e poderiam levar a abordagens inconsistentes à regulamentação.
“É claro que os governos terão de intervir em algum momento porque não podemos impedir que a IA se torne parte da nossa vida quotidiana, mas também é óbvio que a própria indústria quer um bom ambiente para prosperar”, disse o vice-presidente Chandler Morse. Políticas Públicas e Assuntos Internos da Jornada de Trabalho.
Sorel Friedler, professor da Universidade de Haverford que se concentra no preconceito da IA, discorda.
“É comum que a sociedade americana faça valer os nossos direitos através de ações judiciais”, disse Friedler.
O senador Maloney, republicano de Connecticut, disse que ele e o deputado Giovanni Capriglione (republicano do Texas) foram “autorizados pela indústria”, apesar de a indústria gastar milhões de dólares fazendo lobby contra o projeto. Ele disse que houve reação contra um artigo que afirmava que ele estava. promovendo o projeto de lei.
Maloney observou que um grupo industrial, a Consumer Technology Association, está veiculando anúncios e construindo websites instando os legisladores a rejeitarem o projeto.
“Acreditamos que estamos no caminho certo. Temos trabalhado com pessoas da indústria, da academia e da sociedade civil”, afirmou.
“Todos querem se sentir seguros e temos regulamentações em vigor que permitem uma IA segura e confiável”, acrescentou.
_____
Os repórteres da Associated Press Tran Nguyen contribuíram de Sacramento, Califórnia, Becky Boler de Anchorage, Alasca, e Susan Haig de Connecticut.
___
Bedayn é membro do corpo da Associated Press/Report for America Statehouse News Initiative. Report for America é um programa de serviço nacional sem fins lucrativos que coloca jornalistas em redações locais para cobrir questões secretas.
