Taipei, Taiwan – “O sonho americano. Dizem que é para todos, mas é mesmo?”
Assim começa um vídeo animado de 65 segundos gerado por IA que aborda questões polêmicas nos Estados Unidos, desde o vício em drogas e as taxas de encarceramento até o fosso cada vez maior entre ricos e pobres.
Nuvens de tempestade se reúnem sobre uma paisagem urbana que lembra a cidade de Nova York e, quando o vídeo termina, as palavras “AMERICAN DREAM” aparecem no céu escuro.
A mensagem é clara. Apesar da promessa de uma vida melhor para todos, os Estados Unidos estão em declínio terminal.
O vídeo, intitulado “American Dream” ou “American Mirage”, foi transmitido pela emissora estatal chinesa CGTN como parte da série animada “A Fractured America” e apresenta vários segmentos que foram amplamente compartilhados nas redes sociais.
Outros vídeos da série incluem “American Workers in Trouble: Unbalanced Political and Economic Consequences” e “Revealing the Real Threat: America's Military-Industrial Complex” Contém títulos semelhantes que evocam imagens.
Além de mensagens antiamericanas ferozes, todos os vídeos compartilham uma estética altamente estilizada gerada por IA e um áudio misterioso gerado por computador.
A CGTN e a embaixada chinesa em Washington, D.C., não responderam aos pedidos de comentários.
Trabalhadores americanos em turbulência: as consequências de políticas e economias desequilibradas #primeiravoz pic.twitter.com/JMYTyN8P2O
-CGTN (@CGTNOfficial) 17 de março de 2024
A série Fractured America explora como a inteligência artificial (IA), que pode gerar multimédia de alta qualidade em segundos com o mínimo esforço, está a começar a moldar os esforços de propaganda de Pequim para minar a posição dos Estados Unidos no mundo. Este é apenas um exemplo.
Henry Ajdar, um especialista em IA generativa baseado no Reino Unido, diz que a série CGTN não pretende ser um vídeo real, mas mostra como a IA tornou mais fácil e barato a produção de conteúdo em massa. Ele disse que este é um exemplo claro. disto.
“A razão pela qual fizeram isso dessa maneira é porque poderiam ter contratado animadores e dubladores para fazer isso, mas provavelmente levaria mais tempo no final. Custará mais”, disse Ajder à Al Jazeera.
“Esta é uma maneira mais barata de ampliar sua criação de conteúdo. Se você puder combinar todos esses módulos diferentes, poderá gerar imagens, animá-las ou apenas gerar vídeos do zero. Você pode gerar uma síntese de fala muito envolvente e semelhante à humana , o que significa que você tem um pipeline de criação de conteúdo totalmente automatizado, ou pelo menos altamente gerado sinteticamente.”
A China há muito que utiliza o vasto alcance e a natureza sem fronteiras da Internet para conduzir campanhas de influência no estrangeiro.
O vasto exército de trolls da Internet da China, conhecido como “wumao”, tornou-se conhecido há mais de uma década por inundar websites com histórias sobre o Partido Comunista Chinês.
Desde o advento das redes sociais, os esforços de propaganda do governo chinês passaram a contar com plataformas como X e Facebook e influenciadores online.
Enquanto os protestos Black Lives Matter varriam os Estados Unidos em 2020, após o assassinato de George Floyd, o governo chinês restringia as críticas ao seu histórico de discriminação contra minorias étnicas, como os muçulmanos uigures, no país. No entanto, as contas estatais chinesas nas redes sociais expressaram apoio.
“Não consigo respirar.” pic.twitter.com/UXHgXMT0lk
– Hua Chunying 华春莹 (@SpokespersonCHN) 30 de maio de 2020
O Centro de Análise de Ameaças da Microsoft afirmou num relatório do ano passado que a introdução da IA tornou mais fácil a criação de conteúdo viral e, em alguns casos, mais difícil identificar que o conteúdo foi criado por um ator estatal.
De acordo com a Microsoft, a organização apoiada pelo governo chinês tem implantado conteúdo gerado por IA desde pelo menos março de 2023, e esse “conteúdo visual de qualidade relativamente alta já está recebendo taxas mais altas de usuários genuínos de mídia social”. nível de engajamento.”
“Durante o ano passado, a China publicou automaticamente imagens que podem ser usadas para operações de influência destinadas a imitar os eleitores dos EUA em todo o espectro político e a provocar controvérsia em termos raciais, económicos e ideológicos. “Aperfeiçoámos novas capacidades para gerar novas capacidades. “, dizia o relatório.
“Esse novo recurso é alimentado por inteligência artificial que busca criar conteúdo de alta qualidade que possa ser espalhado pelas redes sociais nos Estados Unidos e em outras democracias.”
A Microsoft também identificou mais de 230 funcionários da mídia estatal se passando por influenciadores das redes sociais, com um alcance de 103 milhões de pessoas em pelo menos 40 idiomas.
Suas histórias seguiram um roteiro semelhante ao da série de vídeos da CGTN. A China está a crescer e a vencer a corrida pela superioridade económica e tecnológica, enquanto os Estados Unidos estão em colapso e a perder amigos e aliados.
À medida que modelos de IA como o Sora da OpenAI geram vídeos, imagens e áudio cada vez mais surreais, a identificação de conteúdo gerado por IA se tornará cada vez mais difícil, alimentando a proliferação de deepfakes.
O astroturfing, a prática de construir um amplo consenso social sobre uma questão específica, está preparado para uma “melhoria revolucionária”, de acordo com um relatório publicado no ano passado pela Rand, um think tank parcialmente financiado pelo governo dos EUA. preparado.
A série de vídeos da CGTN, embora use uma gramática às vezes estranha, captura muitas reclamações compartilhadas por cidadãos dos EUA em plataformas como X, Facebook, TikTok, Instagram e Reddit (sites onde modelos de IA coletam dados para treinamento).
A Microsoft disse em seu relatório que, embora o advento da IA não torne mais provável que o governo chinês interfira nas eleições presidenciais dos EUA de 2024, torna mais provável que “se o governo chinês decidir intervir, fará interferência eleitoral é mais provável.” “É muito provável que seja eficaz.” .
Os Estados Unidos não estão sozinhos na preocupação com o potencial de conteúdo gerado por IA e gramados espaciais à medida que avançamos para um ano eleitoral turbulento.
Até ao final de 2024, mais de 60 países terão realizado eleições que afetarão 2 mil milhões de eleitores, num ano recorde para a democracia.
Isto inclui o democrático Taiwan, que elegeu o novo presidente William Lai Ching-toku em 13 de janeiro.
Taiwan, tal como os Estados Unidos, tem um estatuto político questionável e é um alvo frequente das operações de influência de Pequim.
Pequim reivindica Taiwan e as suas ilhas remotas como parte do seu território, embora funcione como um Estado independente de facto.
No período que antecedeu as eleições gerais de janeiro, mais de 100 vídeos falsos de falsos apresentadores atacando o presidente cessante de Taiwan, Tsai Ing-wen, foram criados pelo Ministério de Segurança do Estado da China, informou o Taipei Times, citando fontes de segurança nacional. .
Tal como a série de vídeos da CGTN, estes vídeos careciam de sofisticação, mas mostravam como a IA pode ajudar a espalhar desinformação em grande escala, disse o codiretor do Centro de Investigação Ambiental de Informação de Taiwan (IORG), disse Chihhao Yu.
Yu disse que sua organização acompanhou a disseminação de conteúdo gerado por IA no LINE, Facebook, TikTok e YouTube durante o período eleitoral e descobriu que o conteúdo de áudio gerado por IA era particularmente popular.
“[The clips] Muitas vezes são divulgados através das redes sociais e enquadrados como gravações vazadas/secretas de políticos ou candidatos sobre assuntos pessoais ou escândalos de corrupção”, disse Yu à Al Jazeera.
O especialista em IA Ajder disse que o áudio deepfake é mais difícil para os humanos distinguirem do real em comparação com imagens adulteradas ou geradas por IA.
Um incidente recente no Reino Unido, onde eleições gerais estão marcadas para o segundo semestre de 2024, apresentou o líder da oposição Keir Starmer aparecendo em um clipe de áudio falso dele abusando de sua equipe.
Tal deturpação convincente não teria sido possível antes sem o “impressionismo impecável”, disse Ajder.
“Os actores alinhados ou ligados ao Estado que têm um motivo ou um objectivo potencial a atingir têm agora novas ferramentas para tentar alcançá-lo”, disse Ajdel.
“E algumas dessas ferramentas podem ajudar-nos a alargar o que já estamos a fazer. Mas, em algumas situações, podemos fazer essas coisas utilizando meios inteiramente novos que já são difíceis de serem abordados pelos governos”.
