Mantenha-se informado com atualizações gratuitas
Basta se inscrever inteligência artificial myFT Digest – entregue diretamente na sua caixa de entrada.
O TikTok torna-se a primeira plataforma de redes sociais a rotular automaticamente alguns conteúdos gerados por inteligência artificial, à medida que os rápidos avanços na IA gerada aprofundam as preocupações sobre a propagação de desinformação online e deepfakes.
Grupos online como Meta e TikTok, proprietário do Facebook, já estão pedindo aos usuários que divulguem se imagens, áudio ou vídeos realistas são criados por meio de software de IA.
O aplicativo de vídeo viral, de propriedade da chinesa ByteDance, anunciou quinta-feira que dará um passo além e introduzirá um recurso exclusivo que rotulará vídeos que podem ser identificados como gerados por IA como tal. Isso inclui conteúdo criado usando a ferramenta Firefly da Adobe, o gerador de imagens de IA do próprio TikTok e o Dall-E da OpenAI.
“O desafio, e sabemos pelos muitos especialistas com quem trabalhamos, é… conteúdo prejudicial gerado pela IA”, disse Adam, chefe de operações e confiança e segurança da TikTok.・O Sr. Presser diz:
“Isso é muito importante para a nossa comunidade, porque a autenticidade é uma das coisas que torna o TikTok uma comunidade tão vibrante e divertida… Eles são criados por humanos e… Queremos ser capazes de entender o que está sendo aprimorado ou gerado pela IA.”
Plataformas de mídia social como TikTok, Meta, X e YouTube estão explorando maneiras de integrar IA generativa em suas plataformas por meio de chatbots e novas ferramentas para ajudar influenciadores e anunciantes a criar mídia. No entanto, estas plataformas têm sido criticadas por permitirem que os utilizadores sejam bombardeados com conteúdo de spam de baixa qualidade gerado pela IA.
Num ano de eleições importantes em todo o mundo, estas empresas estão a implementar barreiras de proteção contra deepfakes enganosos, a restringir operações de influência encobertas e a garantir que o conteúdo seja devidamente moderado, ao mesmo tempo que permanecem apartidárias.
No início desta semana, a TikTok e sua controladora ByteDance entraram com uma ação judicial contra o governo dos EUA, desafiando as leis que visam forçá-los a vender e banir o aplicativo. Os legisladores expressaram preocupação de que a plataforma pudesse promover desinformação e propaganda.
A TikTok anunciou na quinta-feira que está se juntando a uma coalizão de grupos de tecnologia e mídia liderada pela Adobe para construir as chamadas credenciais de conteúdo em produtos gerados por IA.
A tecnologia incorpora uma impressão digital em conteúdo multimídia de IA, juntamente com outras informações de identificação, como quando, onde e por quem o material foi produzido. O TikTok usa esses indicadores para sinalizar automaticamente quando o conteúdo é criado usando produtos de IA.
A OpenAI anunciou na terça-feira que se juntará à coalizão e incorporará a tecnologia de impressão digital em todas as imagens produzidas por seu modelo de imagem Dall-E 3. Eventualmente, o fabricante do ChatGPT disse que também irá incorporá-los em seu modelo de geração de vídeo Sora. Está amplamente disponível.
Grandes empresas de tecnologia como Google, Microsoft e Sony estão considerando incorporar essa tecnologia em suas ferramentas de IA.
A Meta anunciou no início deste mês que começaria a carimbar o conteúdo gerado por IA com rótulos “Made by AI”, detectando marcadores invisíveis inseridos por grupos como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. O dono do Facebook também disse que está desenvolvendo um classificador de detecção de deepfake.
Especialistas dizem que atores maliciosos e grupos sofisticados de desinformação provavelmente usarão ferramentas de geração de IA de código aberto para criar deepfakes, tornando-os difíceis de rastrear e vulneráveis a impressões digitais e sinalização.
As empresas de tecnologia dizem que os seus esforços são um primeiro passo para resolver o problema.
O consultor jurídico geral e diretor de confiança da Adobe, Dana Rao, disse: “A premissa desta solução é que se você quer ser transparente e ter uma conversa realmente transparente com o seu público, esta ferramenta permite que você faça isso em um mundo onde tudo é feito”. ”
