Quando Adrian Perkins estava concorrendo à reeleição como prefeito de Shreveport, Louisiana, ele ficou surpreso com os duros golpes que recebeu em sua campanha.
O comercial satírico de televisão, financiado por um comitê de ação política rival, usou inteligência artificial para retratar Perkins como um estudante do ensino médio chamado à sala do diretor. Em vez de castigá-la duramente por colar em um teste ou brigar, o diretor culpou Perkins por não ter conseguido manter a comunidade segura e criar empregos.
No vídeo, o rosto de Perkins estava sobreposto ao corpo do ator que o interpretava. O anúncio, que dizia ter sido criado usando “tecnologia computacional de aprendizado profundo”, era poderoso e ressoou entre os eleitores, disse Perkins. Ele não tinha dinheiro ou pessoal de campanha suficiente para combater isso e acredita que esse foi um dos muitos motivos pelos quais perdeu a campanha de 2022. Representantes das organizações que publicaram os anúncios não responderam aos pedidos de comentários.
“Anúncios deepfake afetaram 100 por cento nossa campanha porque fomos votados contra e não tínhamos os recursos”, disse Perkins, um democrata. “Tive que escolher onde colocar meus esforços.”
Esses ataques são a base da política selvagem das campanhas políticas, mas o anúncio direcionado à Perkins foi notável. Acredita-se que este seja um dos primeiros exemplos de deepfakes de IA introduzidos em uma eleição política nos EUA. Também prenunciou o dilema que enfrentaríamos à medida que a IA generativa se tornasse mais prevalente e mais fácil de utilizar, aumentando o número de candidatos em numerosas eleições estaduais e locais este ano.
A tecnologia, que pode fazer tudo, desde agilizar as campanhas diárias até à criação de imagens, vídeos e áudio falsos, já está a ser implementada em algumas eleições em todo o país e em eleições em todo o mundo. Apesar do seu poder como instrumento enganoso, os esforços para a regulamentar têm sido graduais ou adiados, lacunas que poderão ter o maior impacto em eleições de baixo perfil nas posições mais baixas do escrutínio.
Para os candidatos que realizam tais campanhas, a inteligência artificial é uma faca de dois gumes. Modelos de IA baratos e fáceis de usar podem ajudar você a economizar tempo e dinheiro em algumas tarefas diárias. Mas muitas vezes não têm pessoal ou experiência para combater as falsidades geradas pela IA, e um deepfake de 11 horas poderia enganar um número suficiente de eleitores e fazê-los entrar numa corrida inclinada que é decidida por uma margem estreita.
Josh Lawson, Diretor de IA e Democracia do Aspen Institute, disse: “As ameaças alimentadas pela IA são um desafio a ser enfrentado em disputas acirradas e competições discretas, onde pequenas mudanças são importantes e onde geralmente há menos recursos para corrigir artigos enganosos. afeta o.”
falta de salvaguardas nacionais;
Desde um candidato republicano ao Senado estadual no Tennessee que usou fotos de inteligência artificial para parecer mais magro e mais jovem, até um xerife democrata na Filadélfia que promoveu um artigo de notícias falsas gerado pelo ChatGPT durante sua campanha de reeleição. Os candidatos locais para o departamento já enfrentaram críticas. por introduzir a IA de forma enganosa.
Um dos desafios em separar os factos da ficção é o declínio dos meios de comunicação locais. Em muitos lugares, isto levou a um declínio significativo na cobertura dos candidatos que concorrem a cargos estaduais e locais, especialmente a cobertura que investiga os antecedentes dos candidatos e a forma como fazem campanha. O senador Mark Warner, republicano da Virgínia, disse que a falta de familiaridade com os candidatos pode tornar os eleitores mais propensos a acreditar na desinformação.
O democrata, que trabalhou extensivamente na legislação relacionada com a IA como presidente do Comité de Inteligência do Senado, disse que a desinformação gerada pela IA está sob maior escrutínio, tornando-a mais fácil de detectar em disputas de alto nível e mais difícil de combater. fácil de fazer. Quando uma chamada automática gerada por IA se fez passar pelo presidente Joe Biden nas primárias deste ano em New Hampshire para impedir os eleitores de irem às urnas, foi rapidamente noticiada e investigada na mídia, e as conexões por trás disso tiveram sérias consequências para as pessoas.
Mais de um terço dos estados aprovaram leis que regulamentam a inteligência artificial na política, especialmente projetos de lei destinados a combater deepfakes relacionados às eleições, de acordo com o Public Citizen, um grupo sem fins lucrativos de defesa do consumidor que tem apoio bipartidário em cada estado onde foi aprovado.
Mas o Congresso ainda não agiu, apesar de vários grupos bipartidários de legisladores terem proposto tal legislação.
“O Congresso é patético”, disse Warner, acrescentando que está pessimista com a possibilidade de o Congresso aprovar legislação para proteger as eleições da interferência da IA este ano.
Travis Brim, diretor executivo da Associação dos Secretários de Estado Democratas, disse que o medo da desinformação da IA em eleições negativas é um problema em evolução e as pessoas “ainda estão trabalhando para descobrir a melhor maneira de fazê-lo”.
“Este é um verdadeiro desafio, e é por isso que vimos líderes democratas trabalhando nisso e tentando aprovar legislação real com penalidades reais para o uso indevido de IA”, disse Brim.
Um porta-voz do Comitê Republicano do Secretário de Estado não respondeu a um pedido de comentário da Associated Press.
Como você regula a integridade?
Embora especialistas e legisladores estejam preocupados com a forma como os ataques generativos de IA podem distorcer as eleições, alguns candidatos a cargos estaduais e locais acreditam que as ferramentas de IA podem ser inestimáveis para as suas campanhas. Sistemas de computador, software ou processos poderosos podem emular aspectos do trabalho e da cognição humana.
Glenn Cook, um republicano que concorre a deputado estadual no sudeste da Geórgia, tem um perfil mais discreto e tem muito menos dinheiro de campanha do que o titular que enfrentará no segundo turno das eleições de terça-feira. Por isso, ele investiu em um consultor digital que criou grande parte do conteúdo da campanha usando modelos de IA generativos baratos e disponíveis publicamente.
Em seu site, artigos gerados por IA são intercalados com imagens geradas por IA de membros sorridentes da comunidade conversando, mas nenhum deles realmente existe. O episódio do podcast gerado por IA usa uma versão clonada de sua voz para discutir suas posições políticas.
Cook disse que consideraria tudo antes de torná-lo público. A economia de tempo e dinheiro permitiu-lhe bater em mais portas no seu distrito e participar em mais eventos de campanha presenciais.
“Minha esposa e eu caminhamos 4.500 portas até aqui”, disse ele. “Isso lhe dá liberdade para fazer muitas coisas.”
O oponente de Cook, o deputado estadual republicano Stephen Sainz, disse acreditar que Cook está “se escondendo atrás do que equivale a um robô, em vez de comunicar verdadeiramente suas opiniões aos eleitores”.
“Não estou agindo com base em promessas geradas artificialmente, mas com base em resultados do mundo real”, disse Sainz, acrescentando que não usou IA em sua campanha.
Os eleitores republicanos no distrito não tinham certeza de como usariam a IA na campanha, mas disseram que se preocupavam mais com os valores e as atividades de campanha do candidato. Patricia Lowell, uma ex-eleitora do condado de Cook, disse que gostou do fato de ele ter ido à sua comunidade três ou quatro vezes durante sua campanha, enquanto Mike Perry, um eleitor autônomo de Sainz, disse que sentiu um toque mais pessoal de Sainz.
Ele disse que o uso crescente da IA na política é inevitável, mas questionou-se como os eleitores poderiam dizer o que é verdade e o que não é.
“É liberdade de expressão e não estou tentando interferir na liberdade de expressão, mas o discurso público depende da integridade do povo”, disse ele. É muito difícil. ”
As campanhas locais são vulneráveis
Uma empresa digital que vende modelos de IA para campanhas políticas disse à Associated Press que até agora a maior parte do uso de IA nas eleições locais tem sido mínima, incluindo a análise de dados de pesquisas e a cópia de mídias sociais para combinar palavras específicas. a eficiência de tarefas tediosas, como redação. limite.
Os consultores políticos recorrem cada vez mais a ferramentas de IA para ver o que funciona, de acordo com um novo relatório de uma equipa liderada por investigadores da Universidade do Texas, em Austin. Mais de duas dezenas de agentes políticos de todo o espectro ideológico estão a experimentar modelos generativos de IA nas campanhas eleitorais deste ano, embora temam que mais actores inescrupulosos possam fazer o mesmo.
“As eleições a nível local vão tornar-se ainda mais difíceis porque as pessoas irão atacar”, disse Zelli Martin, principal autor do relatório e membro sénior do Centro para o Envolvimento dos Media da universidade. “E que recursos eles têm para reagir, ao contrário de Biden e Trump, que têm mais recursos para se defender de ataques?”
Existem diferenças significativas em termos de pessoal, financiamento e experiência entre campanhas eleitorais para legisladores estaduais, prefeitos, conselhos escolares e outros cargos locais e eleições para cargos federais. As campanhas locais podem ter apenas alguns funcionários, mas as campanhas concorrentes na Câmara e no Senado dos EUA têm dezenas de funcionários, e as campanhas presidenciais podem chegar a milhares no final da campanha, existe uma possibilidade.
As campanhas de Biden e do ex-presidente Donald Trump estão experimentando IA para melhorar seus esforços de arrecadação de fundos e de sensibilização dos eleitores. A porta-voz da campanha de Biden, Mia Ehrenberg, disse que também há planos para desmascarar a desinformação gerada pela IA. Um porta-voz da campanha de Trump não respondeu às perguntas da Associated Press sobre os planos para abordar a desinformação gerada pela IA.
A pequena equipe do ex-prefeito de Shreveport, Perkins, decidiu ignorar o ataque e continuar a campanha quando uma falsificação dele sendo levado ao escritório do diretor foi ao ar na televisão local. Na época, ele achava que os anúncios deepfake contra ele eram um truque sujo clássico, mas a ascensão da IA apenas dois anos de campanha o fez perceber o poder da tecnologia como uma ferramenta para enganar os eleitores.
“Na política, as pessoas estão sempre forçando os limites para serem eficazes”, diz ele. “Não tínhamos ideia de quão importante isso se tornaria.”
___
Burke relatou de São Francisco, Melica de Washington e Swenson de Nova York.
___
Este artigo faz parte da série “AI Campaign” da Associated Press que explora o impacto da inteligência artificial no ciclo eleitoral de 2024.
___ A Associated Press recebe apoio de várias fundações privadas para melhorar nossas reportagens explicativas sobre eleições e democracia, e da Rede Omidyar para apoiar nossas reportagens sobre inteligência artificial e seu impacto na sociedade. A AP é a única responsável por todo o conteúdo. Saiba mais sobre os critérios da AP para trabalhar com filantropia, uma lista de apoiadores e locais de financiamento em AP.org.
