O TikTok acidentalmente postou um link para uma versão interna de sua nova ferramenta de avatar digital de IA sem grades de proteção, permitindo aos usuários criar vídeos que fazem exatamente isso. O soluço foi descoberto pela primeira vez pela CNN, que lhe permitiu produzir vídeos contendo frases como citações de Hitler e mensagens instruindo as pessoas a beber água sanitária. Desde então, o TikTok removeu esta versão da ferramenta, mas a versão que o TikTok planejava lançar ainda está disponível.
Os Symphony Digital Avatars da TikTok, lançados no início desta semana, permitem que as empresas gerem anúncios usando imagens de atores pagos. Ele também usa dublagens com tecnologia de IA, permitindo que os anunciantes insiram scripts e façam com que seus avatares digam o que desejam, de acordo com as diretrizes do TikTok. Acontece que apenas usuários com conta TikTok Ads Manager podem acessar a ferramenta, mas a versão da CNN permite que qualquer pessoa com conta pessoal experimente.
em uma declaração para A beiraA porta-voz da TikTok, Laura Perez, disse que a empresa resolveu um “erro técnico” que permitiu que “um número muito pequeno de usuários criasse conteúdo usando uma versão testada internamente da ferramenta por vários dias”.
Assim que a CNN descobriu esta ferramenta interna, gerou vídeos de pessoas lendo a “Carta à América” de Osama bin Laden, um slogan da supremacia branca, e instando as pessoas a votarem no dia errado. O vídeo criado pela CNN não tinha marca d’água que deixasse claro que o vídeo foi gerado por IA, que é o que tem uma versão adequada dos Symphony Digital Avatars do TikTok.
Perez disse que a CNN não postou o vídeo no TikTok, mas se o tivesse feito, o conteúdo “teria sido rejeitado por violar nossas políticas”. Desde então, o TikTok removeu esta versão da ferramenta, mas a questão é se as pessoas encontrarão outras maneiras de explorar o criador do avatar digital e se o TikTok está preparado para fazê-lo.
