WILMINGTON, Del. – 16 de janeiro: Alondra Nelson nomeada vice-presidente do OSTP pelo presidente eleito Joe Biden … [+]
Em meio ao frenesi da discussão sobre IA ativa, a ideia de regulamentação competente e governança política pode se perder. Você não deveria. Porque o governo desempenha um papel fundamental na forma como avançamos.
Se você quiser ter uma ideia melhor de como isso funciona, confira os comentários da Dra. Alondra Nelson em 30 de abril, quando ela recebeu um prêmio da AI World Society Initiative do Boston Global Forum.
Nelson é ex-vice-chefe de gabinete do presidente Joe Biden e atuou como diretor interino do Escritório de Política Científica e Tecnológica da Casa Branca. Ela também é professora do Instituto de Estudos Avançados. No seu discurso de abertura, ela fez algumas observações úteis sobre o que podemos esperar à medida que os governos lidam com esta enorme mudança tecnológica.
Uma das partes mais fascinantes da sua palestra foi a sua visão sobre o desenvolvimento de uma “Declaração de Direitos da IA” e como esta será aplicada em todo o país e em todo o mundo em esforços relacionados, à medida que a sociedade antecipa o impacto da IA. para apresentar algumas dicas sobre como funciona. Revolução da IA.
No nível federal, disse ela, tudo começou com um artigo de opinião na revista Wired solicitando feedback do público americano.
“Lemos esses e-mails e interagimos com o público dessa forma”, disse ela, acrescentando que mesas redondas e sessões de escuta também fizeram parte do esforço.
Ele disse que o programa foi implementado em outubro de 2022, antes da introdução do ChatGPT, e afetou vários governos estaduais.
“Houve um florescimento fascinante”, disse ela, detalhando como isso funcionou em cada estado, citando esforços na Califórnia, Connecticut e Oklahoma como exemplos.
“O ímpeto aqui foi que os Estados Unidos tiveram de reinterpretar os direitos (direitos civis e humanos) ao longo da sua trajetória”, disse ela. “Criamos um governo forte, mas um governo forte requer verificações fortes. Se pensarmos na IA como uma ferramenta poderosa, como pensamos sobre essas verificações? impedir o desempenho da pior maneira possível?”
Para ajudar nisso, ela estabeleceu cinco princípios orientadores como metas para a IA.
Mantendo a IA segura e eficaz
Impedir a discriminação algorítmica
Garanta a privacidade dos dados
Fornecer aviso e esclarecimentos
Forneça uma alternativa ou substituto humano
Colocando isto em contexto, ela disse que era importante que as pessoas afectadas em áreas como o emprego e a habitação pudessem saber até que ponto as decisões importantes foram tomadas.
Ela também disse que a greve dos roteiristas é um exemplo de como a humanidade está lutando contra a invasão da IA nos meios de subsistência.
“Eles entenderam o quão importante era para suas vidas”, diz ela, acrescentando que o uso da voz e das imagens humanas é a questão mais importante na era da IA.
Voltando ao tema da inovação política, Nelson falou sobre como é difícil tentar fazer progressos quando muitas partes interessadas estão contra, por razões como falta de financiamento ou de votos.
“Como posso dizer 'sim'?”, ela perguntou. “Como podemos fazer alguma coisa quando o Congresso não funciona?”
No entanto, ela insistiu que superar a falta de adesão é fundamental.
“A formulação de políticas consiste em criar possibilidades”, disse Nelson.
Como explicou Nelson, a IA é duplamente difícil em alguns aspectos porque é muito nova e confusa para todos. Ela mencionou uma aversão inerente a lidar com IA em qualquer nível, incluindo legisladores e outros.
“Não entendemos isso. É muito complicado”, disse ela. “Não queremos tocá-lo.”
É importante ressaltar que Nelson delineou três princípios gerais para superar esses desafios.
Uma é voltar aos primeiros princípios. Ela sugeriu que deveríamos nos concentrar no bem público em vez de “enlouquecer” com a tecnologia, e apontou para o valor de simplificar o desconhecido no contexto do nosso contrato social partilhado.
O segundo princípio que ela afirmou é que as leis, regulamentos e normas existentes continuam a ser aplicadas.
“Mesmo que você use a IA para discriminar, ainda assim será discriminação”, diz ela. “Se você usa IA para cometer fraude, ainda é fraude.”
Terceiro, ela sugeriu que podem ser necessárias novas leis, normas e padrões.
“Você tem o direito de conhecer a ciência”, disse ela. “Você tem o direito de participar.”
Em relação às iniciativas, Nelson falou sobre o relatório provisório das Nações Unidas sobre “Governing AI for Humanity”, lançado em 18 de dezembro, e o “Scientific Chip Act” anunciado pela Casa Branca em 9 de agosto do ano passado. . Ela falou sobre disposições como formação profissional para veteranos e mães e cuidados infantis para os pais, e enfatizou que a governação não tem de significar sufocar a inovação.
Esta ideia ecoa muitas das declarações de Nelson ao considerar o desafio de aumentar a consciencialização sobre a IA a todos os níveis, aplicar novas tecnologias ao bem público e promover esforços de boa fé para melhorar a qualidade de vida das pessoas. .
“Segurança e inovação não são mutuamente exclusivas”, concluiu, recebendo aplausos. “Dado o cenário (da IA), temos motivos para estar um tanto otimistas, porque já tivemos algum sucesso na gestão dos resultados que desejamos, e isso é prudente. Acreditamos que pode ser alcançado por meio de políticas e de um povo cada vez mais capacitado.”
