Bangalore, Índia – No início de março, uma imagem realista gerada por IA do primeiro-ministro indiano Narendra Modi vestido como Bhishma Pitama do antigo épico hindu Mahabharata foi promovida como um anúncio político no Instagram.
Com longos cabelos grisalhos e ondulados, uma marca em forma de sol na testa e um colete à prova de balas, esta imagem retrata o que os fãs de Modi consideram seu papel no mundo de hoje: combater ameaças estrangeiras. Ela retrata a reencarnação de Bhishma, o comandante supremo.
A imagem do Instagram, criada pela página de direita Hokage Modi Sama e postada pela primeira vez em 2023, foi promovida como anúncio político durante dois dias em março e recebeu mais de 35 mil impressões.
A Al Jazeera examinou dados da meta-biblioteca de anúncios políticos na Índia nos últimos três meses e descobriu que entre 27 de fevereiro e 21 de março, Hokage Modi Sama gerou cerca de 50 imagens de Modi geradas por IA. Ficou claro que a empresa tornou-se um grande anunciante na Índia. Imagens Modi geradas por IA no Instagram.
A Meta Ad Library é um arquivo público que hospeda uma coleção de anúncios políticos veiculados em plataformas como Instagram e Facebook.
Um tema comum em todas as imagens compartilhadas no cabo era a reputação de Modi como líder hindu. Uma imagem popular de IA através de uma postagem patrocinada sobre Hokage Modi Sama mostra Modi como a reencarnação do filho divino Bhishma, que abraça as tradições hindus e usa um terno usado pelo rei hindu Rashtra no trono. Ela recebeu milhões de curtidas e visualizações. (Hindu Rashtra é uma ideologia controversa do governo da maioria hindu na Índia que busca romper com os princípios fundadores seculares da nação.)
“Através dessas imagens, a tentativa parece ser dar a Modi uma qualidade de sábio e de guerreiro ao mesmo tempo, ambos indomáveis, invictos, acima de qualquer reprovação e, portanto, nosso. líder que merece lealdade inquestionável”, disse Amog Dar Sharma, professor de comunicação política na Universidade de Oxford, à Al Jazeera.
No entanto, a publicação de imagens de IA do primeiro-ministro Modi pelos mais prolíficos anunciantes online sugere que as imagens manipuladas serão utilizadas para fins de propaganda entre os eleitores que não compreendem completamente o grau de alteração que pode ser feito nas fotos e imagens. ilustra os desafios da aplicação de regras relacionadas à IA nas redes sociais, em meio a preocupações de que as regras relacionadas à IA possam ser usadas nas redes sociais. O meme pode ter passado.
A Meta está ciente desse uso e começará a divulgar o uso de anúncios políticos no Instagram e no Facebook criados com inteligência artificial (IA) a partir de janeiro, antes do crítico ano eleitoral de 2024. A empresa anunciou que é necessário fazê-lo, e que existe o risco de ser banido se não for divulgado.
Nos 30 dias encerrados em 29 de março, Hokage Modi Sama gastou 537.799 rúpias indianas (US$ 6.500) em 363 itens, incluindo imagens e vídeos, em sua página do Instagram, de acordo com dados da Meta Advertising Library. Nossa análise mostra que quase 14% de todos os anúncios patrocinados (o equivalente a 50 imagens) são gerados por IA.
Todos os anúncios de IA do Hokage Modi Sama foram postagens patrocinadas no Instagram, e a divulgação do uso da IA foi feita por meio de hashtags como #aiartwork, #midjourneyart e #midjourneyai.Midjourney, ao qual a hashtag parece se referir, é um programa popular de inteligência artificial generativa.
Mas Mehta disse à Al Jazeera que as hashtags não são aceitáveis como divulgação de publicidade criada ou modificada digitalmente. Se um anunciante for obrigado a divulgar que o conteúdo foi criado ou modificado digitalmente, a Meta incluirá a biblioteca de anúncios e adicionará o rótulo “Criado Digitalmente” próximo ao aviso de isenção de “Valor Pago”. Atualmente, esses rótulos não existem nos anúncios Hokage Modi Sama AI.
Mehta diz que os anúncios gráficos do primeiro-ministro Modi violam a política do país de retratar pessoas reais fazendo coisas que não estão fazendo ou retratando eventos que não ocorrem de forma realista. Ele não respondeu às perguntas específicas da Al Jazeera sobre se ele havia feito isso.
Em vez disso, Mehta indicou aos repórteres da Al Jazeera uma postagem no blog de março de 2024 sobre os requisitos de divulgação de IA para anunciantes e os preparativos da empresa para as eleições na Índia.
Prateek Wagre, diretor executivo da Internet Freedom Foundation (IFF), com sede na Índia, disse à Al Jazeera que esses anúncios específicos são marcados com #aiart, então os criadores de conteúdo estão de alguma forma. Ele disse que é necessário reconhecer as tentativas de promover imagens de IA. Restringir as divulgações para cumprir as políticas recentemente atualizadas da Meta que exigem a divulgação de IA.
IA costumava impulsionar “narrativas estratégicas”
Tal como a Al Jazeera noticiou anteriormente, as campanhas eleitorais indianas estão lentamente a utilizar imagens e vídeos gerados pela IA, incluindo a utilização da IA para ressuscitar líderes políticos mortos e usá-los como arte de campanha nas contas oficiais dos partidos. É um meio de espalhar a palavra. Apesar da ameaça de desinformação eleitoral gerada pela IA, os deepfakes não estão a ser usados apenas para enganar os eleitores. Em vez disso, a IA generativa é empregada para construir a narrativa.
“Embora a desinformação seja, sem dúvida, uma questão séria que requer a nossa atenção, ela desvia a atenção das formas mais potenciais através das quais o conteúdo gerado pela IA poderia ajudar a promover as narrativas estratégicas dos partidos políticos.” Também pode levar a problemas”, diz Sharma, da Universidade de Oxford. disse à Al Jazeera após o estudo de IA. anúncio de imagem.
“Não se trata apenas de a IA estar a 'enganar' os eleitores, fazendo-os acreditar em coisas que são flagrantemente falsas. Em vez disso, a IA está a permitir a criação de conteúdos mais criativos e que podem alavancar referências culturais mais inovadoras. “Isto torna a propaganda política mais interessante e mais partilhável. , e permite uma circulação mais ampla”, acrescentou.
Por exemplo, a imagem de IA mais popular postada pela página Hokage Modi Sama é ‘Nosso super-herói Saffron’. O primeiro-ministro Modi é fotografado vestindo um kurta-pijama cor de açafrão e andando sob uma capa esvoaçante sob a bandeira de Om, um símbolo espiritual hindu. A imagem da IA recebeu quase 2 milhões de curtidas, com comentários como “Quem quer que a Índia se torne uma nação hindu?” Na seção de comentários do Instagram. A maioria das imagens reformula o primeiro-ministro indiano como um “salvador”, “guardião vestido de açafrão do futuro da Índia” ou “símbolo do renascimento hindu”.
Sharma destacou que mitificar líderes políticos ou apresentá-los em épicos hindus não é novidade, mas a IA está tornando isso mais sutil.
“Essas imagens de Narendra Modi geradas por IA parecem ser a mais recente iteração da estratégia de longa data do Partido Bharatiya Janata de criar seguidores de culto.” [Modi] Como um líder sábio e inteligente”, disse Sharma.
As páginas do Instagram e do Facebook de Hokage Modi Sama não têm isenções de responsabilidade claras sobre a afiliação direta ao Partido Bharatiya Janata (BJP) do primeiro-ministro Modi, mas as páginas contêm conteúdo pró-Hindutva e pró-BJP. Tem um histórico de publicação. Anteriormente, esta página era imagem Vestiu Elon Musk, proprietário da plataforma de mídia social X, como um monge hindu e legendou: “Nosso companheiro Bakht Elon”, para mostrar que Musk é um nacionalista hindu.
Muitas tentativas de entrar em contato com o administrador do Hokage Modi Sama não tiveram sucesso. No anime “NARUTO'', “Hokage'' é um título honorário dado ao líder de uma aldeia, e sama é a palavra japonesa para “sensei'' para mostrar respeito, então esta página é vagamente definida como “ `líder.'' significa “Senhor Modi”. O Instagram, que tem 130.000 seguidores, está atualmente vendendo mercadorias como camisetas, canecas de café e agendas baseadas na imagem de IA do super-herói de Saffron.
Globalmente, as imagens de IA estão a ser utilizadas em campanhas políticas. Em março, os apoiantes da campanha do candidato presidencial dos EUA, Donald Trump, usaram uma imagem falsa de IA dele posando com eleitores negros, numa tentativa de fornecer “apoio estratégico” à comunidade negra. Na Argentina, dois candidatos presidenciais usaram imagens geradas por IA para aumentar a sua popularidade e atacar os seus oponentes. E na Indonésia, o presidente eleito Prabowo Subianto, que já foi um temido ditador militar, usou imagens de IA para se autodenominar um “vovô fofo” durante sua campanha eleitoral.
Na Índia, antes das eleições estaduais de Telangana em dezembro de 2023, a emissora de verificação de fatos BOOM Live anunciou que o líder político local K. Chandrashekhar Rao lançará um esquema de refeições gratuitas para estudantes. Foi relatado que as imagens de IA representavam incorretamente o evento, mas Rao nunca havia participado. .
Em uma revisão da meta-biblioteca de anúncios da Al Jazeera em dezembro de 2023, a página Mana Telangana postou várias imagens falsas de IA do líder da oposição indiana Rahul Gandhi posando com crianças e agricultores. Foi revelado que ele as havia compartilhado no Instagram e no Facebook. Os agricultores constituem o influente bloco eleitoral da Índia e têm protestado frequentemente contra as leis agrícolas favoráveis ao mercado do primeiro-ministro Modi.
A imagem falsa de Gandhi com os agricultores era acompanhada por uma legenda que dizia: “Rahul Gandhi tem empatia pelos agricultores e promete apoio inabalável e uma promessa de abordar as suas preocupações individualmente”. A postagem patrocinada incluiu as hashtags #aigenerated e #aiimages para indicar que foi gerada por IA e recebeu cerca de 7.000 impressões.
Ocidente vs Sul Global
Existem também disparidades na forma como as plataformas Ocidental e Sul Global abordam a tendência de imagens de IA antes das eleições.
Por exemplo, para reduzir o potencial de utilização indevida de imagens de IA antes das eleições presidenciais dos EUA em Novembro, a popular empresa de geração de imagens de IA Midjourney anunciou em Março que a criação de imagens falsas do Presidente Joe Biden e do Presidente Donald Trump era proibida.
No entanto, tais medidas não foram tomadas na Índia, levantando “preocupações sobre a aplicação justa das políticas pelas plataformas tecnológicas em diferentes regiões”, disse Babers Orsek, diretor-gerente da Logically Facts, à Al Jazeera. Logally Facts faz parte do programa terceirizado de verificação de fatos da Meta e da Aliança Anti-Desinformação da Índia.
A tentativa da Al Jazeera de gerar uma imagem de IA do Sr. Modi e do Sr. Gandhi apertando as mãos no meio da jornada foi bem-sucedida, mas o prompt que gerou a notificação da imagem do Sr.
“Esta decisão destaca as disparidades na forma como essas políticas de moderação são aplicadas globalmente, especialmente no contexto do Sul Global, incluindo países como a Índia, que enfrenta as eleições mais importantes do ano”, disse Olsek.
A Al Jazeera enviou um e-mail ao Midjourney sobre a discrepância na moderação, mas ainda não recebeu resposta.
Isto é semelhante à forma como as empresas de redes sociais, como o Facebook e o Twitter, são tendenciosas em relação ao Ocidente e muitas vezes ignoram as perspectivas do Sul Global quando se trata de manter as suas plataformas seguras, disse Wagle, da IFF.
