Lia Figer: Em alguns casos, você poderá vincular-se a uma empresa específica.
Vitória Elliot: sim.
Lia Figer: Ele próprio está fazendo IA generativa.
Vitória Elliot: Sim, completamente. Por exemplo, houve um deepfake apresentando o ex-primeiro-ministro paquistanês Imran Khan, que está preso sob acusações de corrupção. Seu partido foi desqualificado para disputar as eleições gerais no início deste ano. Ele conseguiu fazer um discurso de campanha usando IA generativa.
Lia Figer: selvagem.
Vitória Elliot: Para fazer isso, eles recorreram à Eleven Labs, a mesma empresa usada para chamadas automáticas falsas de Joe Biden no início deste ano. Às vezes você conhece as empresas envolvidas, mas muitas vezes não.
Lia Figer: Como é que estas empresas dizem que planeiam abordar as eleições deste ano?
Vitória Elliot: Bem, empresas mais legítimas como Midjourney e ChatGPT e OpenAI e Google disseram: “Vamos colocar barreiras de proteção. Não vamos permitir a geração de imagens políticas.” O ChatGPT é baseado em texto, mas eles dizem coisas como: “Não é legal usar nossas ferramentas para gerar material político para campanhas” ou “Não é legal rodar chatbots em nossa interface”. não faça isso.” Mas eles não fizeram um bom trabalho em aplicá-la. Houve um relatório do Center to Counter Digital Hate que cobrimos em março, onde eles olharam para todos esses geradores de imagens e disseram: “Dê-nos imagens de Trump fazendo isso, Biden fazendo isso”. 'está fazendo.' ” E isso foi feito muitas vezes. No ChatGPT, Dean Phillips, um congressista que concorreu brevemente à presidência.
Lia Figer: Congressista Dean Phillips, ex-candidato presidencial.
Vitória Elliot: Construímos um chatbot chamado Dean.bot sobre a interface ChatGPT da OpenAI, e ele não foi retirado até que a imprensa disse: “Isso não é contra a sua política?”
Lia Figer: Eu me lembro bem. O que me lembro na época é que Dean Phillips tinha muitos apoiadores no Vale do Silício. Parece um pouco nebuloso. Algo como: “Sim, você não deveria usar Dean.bot, mas ainda amamos e apoiamos você”. Há um vaivém estranho aí. Por exemplo, Sam Altman estava obcecado com o que Dean dizia sobre a IA generativa e a legislação contra ela.
Vitória Elliot: Sim. Isso é apenas nos EUA. Por exemplo, havia uma empresa na Indonésia que criou um aplicativo chamado Pemilu para as eleições indonésias. Os fundadores do aplicativo alegaram ter construído algo sobre o ChatGPT que lhes permite escrever discursos eleitorais em vários idiomas locais.
Lia Figer: oh.
Vitória Elliot: A ideia era recolher informações que lhes permitissem adaptar as suas mensagens a grupos demográficos específicos, como jovens e mulheres.
Lia Figer: Bem, vamos falar dos efeitos num país com tantas línguas.
Vitória Elliot: Sim. Eles estão espalhados pelas ilhas e têm necessidades diferentes.
