Usuários do TikTok, X e Facebook compartilharam vídeos apontando supostas trilhas de IA, incluindo um anel desaparecendo e reaparecendo na mão de Katherine. Alguns disseram que o cabelo se movia de forma anormal e que o canteiro de narcisos ao fundo estava suspeitosamente imóvel.
“Não sei mais em que acreditar”, disse uma mulher em um vídeo que foi visto 1,4 milhão de vezes no TikTok, citando alguns eventos noticiosos e imagens online em meio a rápidos avanços na tecnologia de IA. O vídeo capturou a confusão geral em torno da situação. . A mulher, cujo perfil no TikTok a descreve como “viajante do mundo, fotógrafa, designer e investidora imobiliária”, analisou o que ela afirma serem sinais de IA nos comentários gravados da Duquesa Kate, contribuindo para a confusão.
A BBC Studios, o braço de produção televisiva da BBC, admitiu ter filmado um vídeo da mensagem de Kate no Castelo de Windsor na semana passada, e o Palácio de Kensington disse ao Washington Post que as acusações de adulteração da IA eram “factualmente incorrectas”. Vários especialistas forenses em deepfake concordaram, dizendo que examinaram o vídeo e não encontraram sinais de manipulação de IA.
“Todos os analistas forenses de gabinete que afirmam ter encontrado evidências de manipulação de IA são uma combinação perfeita de ignorância e arrogância”, disse Hany Farid, professor da Universidade da Califórnia, Berkeley, especializado em análise de imagens digitais. Farid disse que revisou o vídeo e não encontrou “absolutamente nenhuma evidência” de que a IA estivesse envolvida.
No início desta semana, o TikTok pareceu distanciar os usuários de pesquisas relacionadas a tais alegações. Quando pesquisei “Kate Middleton cancer ai”, o resultado foi “Kate Middleton cancer”. Os usuários tiveram a opção de prosseguir para os resultados da pesquisa original. A TikTok não quis comentar.
Este episódio destaca como, na era da IA, está se tornando cada vez mais difícil dizer o que é real e o que não é. O ex-presidente Donald Trump já acusou anúncios políticos inescrupulosos de usar conteúdo gerado por IA, e imagens falsas de políticos reais de ambos os lados do corredor foram amplamente divulgadas nas redes sociais, desestabilizando o conceito de verdade nas eleições de 2024.
“A IA está se aproximando bastante”, disse Farid. Os principais momentos online são “instantaneamente suspeitos” e alimentam uma cultura de conspiração.
As especulações nas redes sociais sobre a Duquesa Kate explodiram após uma série de eventos misteriosos, deixando o público querendo mais informações sobre a saúde e o bem-estar da princesa. Em janeiro, o Palácio de Kensington divulgou um comunicado dizendo que Kate havia sido submetida a uma cirurgia abdominal “bem-sucedida”. Várias semanas se passaram sem que a princesa aparecesse em público. E no início de março, o palácio divulgou uma foto hilária de Kate e seus três filhos pequenos, que mais tarde admitiu ter sido editada. O incidente levantou ainda mais questões e alimentou teorias de conspiração, já que os principais meios de comunicação retiraram as fotos.
E no vídeo de sexta-feira, Catherine, de aparência frágil, está sentada sozinha em um banco em frente a um jardim repleto de flores primaveris. Depois de dar a notícia de sua doença, ela falou sobre seus esforços dolorosos para “explicar tudo para George, Charlotte e Louis da maneira certa e tranquilizá-los de que eu estava bem”. E ela pede ao mundo que a deixe cuidar da sua jovem família em paz.
A revelação de seu diagnóstico de câncer chocou os telespectadores e provocou uma onda de amor pela princesa. Alguns teóricos da conspiração online pediram desculpas por espalhar boatos sobre sua longa ausência da vida pública. Mas logo surgiram novas questões. “Alguém pode explicar como nada se move no fundo, flores, grama, etc?”, questionou um usuário.
Wael Abd-Almagied Professor de IA na Clemson University Ele, que desenvolve software de detecção de deepfake, disse que ele e seus alunos passaram os vídeos por um detector e não encontraram sinais de conteúdo de IA. Abd al-Maguid desacelerou o vídeo e o inspecionou manualmente, mas novamente não encontrou nenhuma evidência de adulteração da IA. Se detalhes como o anel dela parecem borrados, disse ele, é por causa do desfoque de movimento e da compressão de vídeo.
Outro especialista, Hao Li, CEO e cofundador da empresa de efeitos de vídeo de IA generativa Pinscreen, também observou que os insetos voando na frente do rosto da Duquesa Kate e as flores amarelas ao fundo balançavam sutilmente. Eles notaram que o vídeo era genuíno e concordaram que o vídeo era genuíno.
Apenas um especialista em IA contactado pelo Post manifestou apoio às alegações. A Deep Media, uma startup de detecção de deepfake contratada pelo Departamento de Defesa, disse ter descoberto que a voz e o rosto da Duquesa Kate “provavelmente” foram manipulados pela IA.
Mas outros especialistas, incluindo Farid, Abd al-Majied e Claire Wardle, cofundadora e codiretora do Instituto para o Futuro da Informação da Universidade Brown, divulgaram as conclusões da Deep Media a pedido do Post. convincente.
Dado que mesmo os especialistas em desinformação têm agora dificuldade em avaliar a credibilidade do conteúdo online, Brown's Wardle apelou a instituições como o Palácio de Kensington e a BBC para que tomem medidas antes que as conspirações online se espalhem.
Ela disse que a contínua especulação em torno da Duquesa Kate destaca a dificuldade de avaliar o que é verdade em um ambiente de mídia impulsionado pela IA e a dificuldade de distinguir fato da ficção. Ele também destacou os riscos de confiar em detectores de deepfake.
“A maioria das pessoas não tem acesso às ferramentas para fazer este tipo de análise”, disse Wardle. “E mesmo as pessoas que dizem ter essas ferramentas nunca podem ter 100% de certeza.”
