O projeto de lei, de autoria do senador estadual democrata Scott Wiener, de São Francisco, pode assustar os tecnólogos que buscam construir ferramentas de IA no estado, acrescentando burocracia e impedindo-os de ter um começo difícil. líderes da indústria. UPS.
Os oponentes do projeto argumentam que os desenvolvedores podem até ser mandados para a prisão se sua tecnologia for usada para prejudicar as pessoas, uma afirmação que Wiener nega veementemente.
Depois que o projeto foi aprovado por um comitê do Senado da Califórnia no início deste mês, Alice Friend, chefe de IA e política de tecnologia emergente do Google, enviou uma carta ao presidente chamando as disposições de “tecnicamente inviáveis”. ele ou ela será punido.'' Seja responsável. ”
Weiner disse que a lei é necessária para prevenir os riscos potenciais mais extremos da IA e inspirar confiança na tecnologia. Ele disse que a aprovação do projeto é urgente dada a promessa dos republicanos de usar a Lei de Produção de Defesa para rescindir a ordem executiva de 2023 do presidente Biden, que exige que as empresas de IA compartilhem informações sobre testes de segurança com o governo.
“As ações do presidente Trump tornam ainda mais importante que a Califórnia aja para promover uma forte inovação em IA”, disse Wiener ao X na semana passada.
ser pego em
Histórias que mantêm você informado
O projeto tornaria Sacramento um centro para a luta pela regulamentação governamental da IA. Também destaca os limites do entusiasmo do Vale do Silício pela supervisão governamental, mesmo quando líderes importantes como o CEO da OpenAI, Sam Altman, exortam publicamente os decisores políticos a agirem.
Até agora, ao exigir esforços voluntários, Nicole Turner Lee, diretora do Centro de Inovação Tecnológica da Brookings Institution, disse que o projeto de lei de Wiener vai além do que os líderes tecnológicos estão dispostos a aceitar.
Isto “sugere que as grandes empresas de tecnologia precisam ser mais responsáveis”, disse Lee, acrescentando que “isso não foi bem recebido na indústria”.
Dylan Hoffman, diretor executivo da TechNet para a Califórnia e o Sudoeste, disse que a carta do amigo, juntamente com cartas anteriores da Meta e da Microsoft, mostra o “peso e a importância” que as empresas atribuem à medida. “É um passo bastante incomum para eles saírem de trás da associação da indústria e colocarem seus nomes em uma carta”.
Porta-vozes do Google, OpenAI e Meta não quiseram comentar. “A Microsoft não está tomando posição sobre este projeto de lei e continua a apoiar a lei federal como o principal meio de regular as questões que aborda”, disse Robin Hines, diretor sênior de assuntos governamentais da Microsoft.
Mesmo antes de Weiner anunciar seu projeto de lei em fevereiro, a Califórnia já havia se estabelecido como a legislatura de tecnologia de fato. Após anos de debate no Congresso, a Califórnia aprovou a lei de privacidade digital mais abrangente do país em 2018. E o Departamento de Transportes da Califórnia tornou-se o principal regulador dos veículos autônomos.
Quando se trata de IA, a ordem executiva de Biden em Outubro passado marcou o esforço de maior alcance de Washington para regular a tecnologia emergente. No entanto, os republicanos anunciaram planos para revogar esta ordem se o presidente Trump vencer em 5 de novembro, e cada estado levantará a bandeira para reforçar a regulamentação da IA.
De acordo com o TechNet, um grupo industrial cujos membros incluem OpenAI e Google, mais de 450 projetos de lei relacionados à IA estão sendo debatidos em assembleias estaduais nas capitais de todo o país este ano. Mais de 45 casos estão pendentes na Califórnia, mas muitos foram abandonados ou estão pendentes em comissão.
Mas o projeto de lei de Wiener é o mais proeminente e controverso de todos. As empresas de IA que implantam uma certa quantidade de poder computacional correm o risco de que seus modelos possam apoiar o desenvolvimento de armas químicas ou biológicas ou levar a riscos “catastróficos”, como invasão de infraestruturas essenciais ou apagões na rede elétrica. é verdade ou não. As empresas apresentarão relatórios de segurança a uma nova agência governamental, a Frontier Model Division (FMD), que terá o poder de atualizar quais os modelos de IA abrangidos pela lei, mas os opositores argumentam que isso poderá levar a mais incertezas.
Este projeto exigiria que o governo construísse um sistema de computação em nuvem. Estará disponível para pesquisadores e startups desenvolverem IA sem depender dos custos exorbitantes das grandes empresas de nuvem de tecnologia.
Dan Hendricks, fundador da organização sem fins lucrativos Center for AI Safety, foi consultor sobre o projeto. No ano passado ele organizou um evento aberto Uma carta assinada por proeminentes pesquisadores e executivos de IA argumenta que a IA pode ser igualmente perigosa. para a humanidade como guerra nuclear e pandemias.
Alguns argumentam que tais riscos são exagerados e é pouco provável que se materializem durante muitos anos, se é que se materializarão. Os céticos em relação ao projeto de lei também apontam que não existe uma forma padrão de testar esse risco, mesmo que seja iminente.
“Tamanho é a métrica errada”, disse Oren Etzioni, pesquisador de IA e fundador da organização sem fins lucrativos de detecção de deepfake AI TrueMedia.org. “Também pode haver modelos que não envolvem contato, mas são potencialmente mais perigosos.”
O foco em riscos “catastróficos” também frustra alguns pesquisadores de IA, sugerindo que as ferramentas tecnológicas são injetadas com preconceitos racistas e sexistas, ou que as empresas de tecnologia estão tentando manipular a vida pessoal das pessoas. como fornecer outro local para os dados serem desviados. Também visa abordar outros projetos de lei que tramitam no Legislativo da Califórnia.
O foco do projeto de lei em riscos catastróficos levou o chefe de IA da Meta, Yann LeCun, a chamar Hendrix de “líder de culto apocalíptico”.
“A ideia de que se levarmos a sério os riscos da IA para toda a sociedade nos transformará em ‘líderes de cultos apocalípticos’ é ridícula”, disse Hendricks.
Hendrycks fundou recentemente uma empresa chamada Gray Swan, que desenvolve software para avaliar a segurança de modelos de IA. Na quinta-feira, o site de notícias de tecnologia Pirate Wires informou que a empresa representa um conflito de interesses para Hendricks porque poderia ganhar negócios ajudando as empresas a cumprir se a Lei de IA fosse aprovada. Um artigo contendo a informação foi publicado.
“Os críticos me acusaram de ter um esquema elaborado para ganhar dinheiro, embora eu tenha passado minha carreira profissional promovendo questões de segurança de IA”, disse Hendrix. E o que ganho com esta pequena startup é apenas uma pequena parte dos riscos económicos que impulsionam as ações daqueles que se opõem ao projeto de lei. ”
Hendricks foi recentemente criticado por alguns residentes do Vale do Silício, e líderes de empresas que se opõem à lei emitiram alertas semelhantes sobre os perigos de poderosos modelos de IA. Executivos seniores de IA do Google, Microsoft e OpenAI assinaram uma carta distribuída pelo grupo de Hendricks em maio passado alertando que a humanidade enfrenta “a ameaça de extinção da IA”. Numa audiência no Congresso naquele mesmo mês, Altman disse que a IA poderia: “Isso causa sérios danos ao mundo.”
A OpenAI também lançou um grupo industrial no ano passado para trabalhar com a startup Anthropic, Google e outras empresas de tecnologia para desenvolver padrões de segurança de modelos de IA novos e mais fortes. Na semana passada, o ITI, um grupo comercial de tecnologia cujos membros incluem Google e Meta, lançou um conjunto de práticas recomendadas para “sistemas de IA de alto risco”, incluindo testes proativos.
Ainda assim, essas empresas recusam a ideia de transformar suas promessas em lei.
Numa carta de 20 de junho compilada pela incubadora de startups Y Combinator, os fundadores opuseram-se à imposição de supervisão especial em projetos que utilizam grandes quantidades de poder computacional. “Essas métricas específicas podem não capturar adequadamente a funcionalidade e os riscos associados a modelos futuros”, afirma a carta. “É importante evitar a regulamentação excessiva da IA.”
Os líderes de startups também temem que o projeto de lei torne mais difícil para as empresas desenvolver e lançar tecnologia de “código aberto”, que qualquer pessoa pode usar ou modificar. Em uma postagem no X em março, o atual candidato republicano à vice-presidência, J.D. Vance, disse que o código aberto é a chave para construir modelos politicamente imparciais com OpenAI e tecnologia do Google.
Wiener fez alterações no projeto de lei em resposta aos comentários e críticas da indústria, incluindo tornar os desenvolvedores de código aberto não responsáveis por questões de segurança causadas por alterações de terceiros em sua tecnologia. Os comentadores da indústria argumentam que estes ajustamentos não são suficientes.
Enquanto isso, outros projetos de lei tramitando no Legislativo da Califórnia receberam menos atenção da indústria de tecnologia.
A deputada democrata Rebecca Bauer-Kahan, que representa os subúrbios do leste da Bay Area, foi autora e aprovou vários projetos de lei de IA, incluindo um que exigiria que as empresas testassem modelos de IA quanto a preconceitos. Outro de seus projetos proibiria os desenvolvedores de usar informações pessoais de crianças para treinar modelos de IA sem o consentimento dos pais, desafiando a prática da indústria de tecnologia de extrair dados de treinamento de sites.
Lá Projetos de lei apresentados por outros legisladores da Califórnia incluem: Exige que as empresas de tecnologia publiquem resumos descrevendo os dados usados para desenvolver modelos de IA, criem ferramentas para detectar conteúdo gerado por IA e apliquem marcas d'água digitais para tornar identificável o conteúdo gerado por IA. Algumas empresas, incluindo o Google, já estão experimentando.
“Queremos que o governo federal assuma a liderança aqui”, disse Bauer-Kahan. “Mas como eles não estão funcionando e não vão aprovar leis como esta, sentimos que Sacramento precisa dar um passo à frente”.
