LONDRES (AP) – A falsificação de IA está se tornando um dos maiores problemas que enfrentamos online. O surgimento e o uso indevido de ferramentas generativas de inteligência artificial resultaram em uma proliferação de fotos, vídeos e áudio enganosos.
Deepfakes de IA representando todos, de Taylor Swift a Donald Trump, estão surgindo quase todos os dias, tornando cada vez mais difícil dizer o que é real e o que não é. Geradores de vídeo e imagem como DALL-E, Midjourney e Sora da OpenAI tornam mais fácil para pessoas sem habilidades técnicas criarem deepfakes. Basta inserir sua solicitação e o sistema irá cuspi-la para você.
Estas imagens falsas podem parecer inofensivas. No entanto, podem ser utilizados para fraude, roubo de identidade, propaganda e manipulação eleitoral.
Veja como evitar ser enganado por deepfakes.
Como identificar um deepfake
Nos primeiros dias dos deepfakes, a tecnologia estava longe de ser perfeita e muitas vezes deixava sinais óbvios de manipulação. Os verificadores de fatos apontaram imagens com erros óbvios, como uma mão com seis dedos e óculos com lentes de formatos diferentes.
No entanto, à medida que a IA avança, torna-se muito mais difícil. Henry Ajder, fundador da empresa de consultoria Latent Space Advisory e um dos principais especialistas em IA generativa, compartilha alguns de seus conselhos amplamente compartilhados, como procurar padrões de piscar não naturais nos olhos das pessoas em vídeos deepfake.
Ainda assim, há algumas coisas a procurar, disse ele.
Muitas das fotos deepfake de IA, especialmente de pessoas, têm um brilho eletrônico que lhes dá “uma espécie de efeito de suavização estética” e faz a pele parecer “incrivelmente polida”, disse Ajder Ta.
No entanto, ele alertou que as solicitações criativas às vezes podem eliminar esses e muitos outros sinais de manipulação da IA.
Verifique a consistência das sombras e da iluminação. Freqüentemente, o assunto está claramente focado e parece real, mas os elementos de fundo podem não ser tão realistas ou sofisticados.
olhe para o seu rosto
A troca de rosto é uma das técnicas deepfake mais comuns. Os especialistas aconselham observar atentamente as bordas do rosto. O tom da pele do rosto combina com o resto da cabeça e do corpo As bordas do rosto são nítidas ou desfocadas?
Se você suspeita que o vídeo da pessoa falando é adulterado, observe a boca dela. Os movimentos dos lábios correspondem perfeitamente ao áudio?
Ajder sugere olhar os dentes. Eles estão claros ou embaçados e não correspondem à sua aparência na realidade?
A empresa de segurança cibernética Norton diz que a falta de contornos individuais dos dentes pode ser uma pista, já que o algoritmo pode ainda não ser sofisticado o suficiente para gerar dentes individuais.
Pense no panorama geral
Às vezes o contexto é importante. Pense por um momento se o que você está vendo é plausível.
O site Poynter Journalism informa que se você testemunhar uma celebridade fazendo algo “exagerado, irreal ou inacreditável”, pode ser um deepfake.
Por exemplo, o Papa está realmente vestindo uma jaqueta de alta qualidade, conforme retratado na infame foto falsa? Em caso afirmativo, fotos e vídeos adicionais poderiam ser divulgados por fontes legítimas?
Trajes chamativos foram o foco principal do Met Gala, o que aumentou a confusão. No entanto, esses eventos de alto perfil geralmente são cobertos por fotógrafos oficialmente credenciados, que tiram muitas fotos para ajudar na verificação. Uma pista de que a foto de Katy Perry era falsa foi o carpete da escada, que alguns usuários experientes das redes sociais apontaram ser de um evento de 2018.
Use IA para encontrar falsificações
Outra abordagem é usar IA para combater a IA.
A OpenAI anunciou terça-feira que lançará uma ferramenta para detectar conteúdo criado com DALL-E 3, a versão mais recente de seu gerador de imagens de IA. A Microsoft desenvolveu uma ferramenta de autenticação que pode analisar fotos e vídeos e fornecer uma pontuação de confiança sobre se eles foram manipulados. O FakeCatcher da Chipmaker Intel usa um algoritmo para analisar os pixels de uma imagem para determinar se a imagem é real ou falsa.
Existem ferramentas online que afirmam detectar falsificações quando você carrega arquivos ou cola links para materiais questionáveis. No entanto, algumas ferramentas, como as ferramentas da OpenAI e o sistema de autenticação da Microsoft, estão disponíveis apenas para parceiros selecionados e não estão disponíveis ao público. Parte do motivo é que os pesquisadores não querem alertar os bandidos e dar-lhes uma enorme vantagem na corrida armamentista falsa.
O acesso aberto às ferramentas de detecção também pode dar às pessoas a impressão de que as ferramentas de detecção são “tecnologias divinas para as quais o pensamento crítico pode ser terceirizado”, quando deveriam estar cientes de suas limitações, disse Ajdel.
Obstáculos para encontrar falsificações
Dito isto, a inteligência artificial está a avançar a uma velocidade vertiginosa, com modelos de IA a serem treinados em dados da Internet para produzir conteúdos de qualidade cada vez mais elevada e com menos falhas.
Ou seja, não há garantia de que este conselho ainda será válido após um ano.
Especialistas dizem que pode até ser perigoso impor o fardo de se tornar um Sherlock digital às pessoas comuns. Isso poderia dar ao público uma falsa sensação de confiança, à medida que os deepfakes se tornam cada vez mais difíceis de detectar, mesmo para um olho treinado.
___
Swenson relatou de Nova York.
___
A Associated Press recebe apoio de diversas fundações privadas para melhorar a nossa cobertura explicativa das eleições e da democracia. Saiba mais sobre a Iniciativa para a Democracia da AP. A AP é a única responsável por todo o conteúdo.
Kelvin Chan e Ali Swenson, Associated Press
