NOVA IORQUE – Um vídeo adulterado que imita o áudio da vice-presidente Kamala Harris dizendo coisas que ela não disse está levantando preocupações sobre o poder da inteligência artificial para enganar, quase três meses antes do dia das eleições.
O vídeo ganhou atenção na noite de sexta-feira, quando o bilionário da tecnologia Elon Musk o compartilhou em sua plataforma de mídia social X, sem declarar explicitamente que foi originalmente publicado como uma paródia.
O vídeo apresenta muitos dos mesmos recursos visuais do anúncio de lançamento da campanha que Harris, o provável candidato presidencial democrata, fez na semana passada. No entanto, no vídeo, o áudio da narração é substituído por outra voz que se faz passar por Harris de forma convincente.
“Eu, Kamala Harris, sou a candidata presidencial democrata porque Joe Biden finalmente revelou seu idiota no debate”, diz a voz no vídeo. O jornal afirma que Harris é um “recurso de diversidade” porque é uma mulher e uma pessoa negra e que não sabe “nada sobre como governar um país”. O vídeo mantém a marca “Harris for President”. Também foram adicionados alguns clipes autênticos de Harris.
Mia Ehrenberg, porta-voz da campanha de Harris, disse em email à Associated Press: Não as mentiras fabricadas e manipuladas de Elon Musk e Donald Trump. ”
O vídeo amplamente partilhado destaca como imagens, vídeos ou clipes de áudio gerados por IA têm sido usados para zombar ou enganar sobre a política à medida que os EUA se aproximam das eleições presidenciais. O artigo argumenta que, embora as ferramentas de IA de alta qualidade tenham se tornado muito mais disponíveis, até agora tem havido uma falta de ação federal significativa para regular a sua utilização, e as regras que orientarão a IA na política são em grande parte deixadas aos estados e às redes sociais. plataformas.
O vídeo também levanta questões sobre a melhor forma de lidar com conteúdo que confunde a linha entre o que é considerado um uso apropriado de IA, especialmente conteúdo que se enquadra na categoria de sátira.
O usuário original que postou o vídeo, um YouTuber conhecido como Sr. Regan, esclareceu no YouTube e no X que o vídeo manipulado era uma paródia. Mas a plataforma disse que a postagem de Musk, que foi vista mais de 123 milhões de vezes, incluía apenas a legenda “Isso é incrível” e um emoji risonho.
Os usuários X que estão familiarizados com a plataforma podem saber que se você clicar na postagem do Sr. Musk e acessar a postagem do usuário original, verá a divulgação. A legenda de Musk não o instrui a fazer isso.
Alguns participantes do recurso “Notas da Comunidade” do X, que adiciona contexto às postagens, sugeriram adicionar um rótulo à postagem de Musk, mas até a tarde de domingo, esse rótulo não havia sido adicionado. Alguns usuários online questionaram se suas postagens violam a política de X, que afirma que os usuários estão proibidos de usar “composições que possam enganar, confundir ou causar danos.
A política abre exceções para memes e sátiras, a menos que causem “confusão significativa sobre a credibilidade da mídia”.
No início deste mês, Musk apoiou o candidato republicano e ex-presidente Donald Trump. Nem Regan nem Musk responderam imediatamente aos pedidos de comentários por e-mail no domingo.
Dois especialistas especializados em mídia gerada por IA examinaram o áudio dos anúncios falsos e descobriram que a maioria deles foi gerada usando tecnologia de IA.
Um deles, Hany Farid, especialista em perícia digital da Universidade da Califórnia, Berkeley, disse que o vídeo mostra o poder da IA generativa e dos deepfakes.
“As vozes geradas por IA são muito boas”, disse ele por e-mail. “A maioria das pessoas não vai acreditar que é a voz do vice-presidente Harris, mas ter as palavras na voz dela torna o vídeo mais poderoso.”
Ele disse que as empresas de IA generativa que disponibilizam ferramentas de clonagem de voz e outras ferramentas de IA ao público deveriam fazer um trabalho melhor para garantir que seus serviços não sejam usados de maneiras que possam prejudicar as pessoas ou a democracia.
Rob Wiseman, codiretor do grupo de defesa Public Citizen, discordou de Farid e disse que muitas pessoas seriam enganadas pelo vídeo.
“Não acho que seja obviamente uma piada”, disse Wiseman em entrevista. “Tenho certeza de que a maioria das pessoas que assistem isso não acha que seja uma piada. A qualidade não é ótima, mas é boa o suficiente. E exatamente como isso se relaciona com os temas existentes que circulam ao seu redor. A maioria das pessoas acreditará que é real porque é dá.
A organização de Wiseman defende que o Congresso, as agências federais e os estados regulem a IA generativa e disse que o vídeo é “o tipo de coisa sobre a qual temos alertado”.
Outros deepfakes generativos de IA nos EUA e em outros lugares tentaram influenciar os eleitores com desinformação, humor ou ambos. Na Eslováquia, em 2023, dias antes da votação, um clipe de áudio falso foi reproduzido, representando candidatos discutindo fraude eleitoral e planos de aumentar os preços da cerveja. Na Louisiana, em 2022, um comitê de ação política sobrepôs satiricamente o rosto de um candidato a prefeito da Louisiana a um ator que interpreta um estudante do ensino médio com baixo desempenho.
O Congresso ainda não aprovou qualquer legislação relativa à IA na política, as agências federais tomaram apenas medidas limitadas e a maioria das regulamentações existentes nos EUA são deixadas para os estados. De acordo com a Conferência Nacional de Legislaturas Estaduais, mais de um terço dos estados promulgaram as suas próprias leis que regulamentam o uso da IA em campanhas e eleições.
Além da X, outras empresas de mídia social também criaram políticas relativas à mídia sintética e manipulada compartilhada em suas plataformas. Por exemplo, os usuários da plataforma de vídeos YouTube devem divulgar se usaram inteligência artificial generativa para criar seus vídeos ou enfrentarão suspensão.
___
A Associated Press recebe apoio de diversas fundações privadas para melhorar a nossa cobertura explicativa das eleições e da democracia. Saiba mais sobre a Iniciativa para a Democracia da AP. A AP é a única responsável por todo o conteúdo.
