- autor, fã um
- rolar, BBC Notícias
“Não quero que ninguém pense que alguma vez disse uma coisa tão terrível na minha vida. Usar uma rapariga ucraniana como rosto para promover a Rússia. Isso é uma loucura.”
Olga Roiec vê seu rosto refletido em vários vídeos nas redes sociais chinesas, graças às ferramentas generativas de IA fáceis de usar disponíveis online.
“Eu podia ver rostos e ouvir vozes. Mas foi tudo muito estranho porque me vi dizendo coisas que nunca disse”, disse à BBC o jovem de 21 anos, que estudou na Universidade da Pensilvânia.
Relatos com sua imagem tinham dezenas de nomes diferentes, incluindo Sophia, Natasha, April e Stacey. Essas “meninas” falavam mandarim, língua chinesa que Olga nunca havia aprendido. Eles pareciam ser da Rússia e falavam sobre a amizade sino-russa e promoviam produtos russos.
“Vi cerca de 90% dos vídeos falando sobre China e Rússia, amizade sino-russa, como devemos ser aliados fortes e publicidade de alimentos.”
Uma das maiores contas foi “Natasha Imported Foods”, seguida por mais de 300.000 usuários. “A Rússia é o melhor país. É triste que as mulheres russas queiram vir para a China quando outros países estão virando as costas à Rússia”, disse Natasha, promovendo produtos como os doces russos, antes de começar.
Isto enfureceu pessoalmente Olga, cuja família ainda está na Ucrânia.
Mas a um nível mais amplo, o seu caso chama a atenção para os perigos da tecnologia em rápida evolução e para o verdadeiro desafio de a regulamentar e de proteger as pessoas.
Do YouTube para Xiao Hongsho
Os sósias de IA de língua chinesa de Olga começaram a aparecer em 2023. Ela tinha acabado de lançar seu canal no YouTube, mas não era atualizado com muita regularidade.
Cerca de um mês depois, ela começou a receber mensagens de pessoas que afirmavam tê-la visto falando mandarim nas plataformas de mídia social chinesas.
Intrigada, ela começou a procurar por si mesma e encontrou caricaturas de IA de si mesma no Xiaohongshu (uma plataforma semelhante ao Instagram) e no Bilibili (um site de vídeos semelhante ao YouTube).
“Havia muitos [accounts]. Alguns dos perfis incluíam coisas como a bandeira russa'', disse Olga, que até agora encontrou cerca de 35 contas usando sua imagem.
Depois que seu noivo tuitou sobre essas contas, a Hagen, empresa que ela afirma ter desenvolvido as ferramentas usadas para criar as caricaturas de IA, respondeu.
Eles revelaram que mais de 4.900 vídeos foram gerados usando seu rosto. Eles disseram que bloquearam a imagem dela de ser usada no futuro.
Um porta-voz da empresa disse à BBC que os seus sistemas foram hackeados e o chamado “conteúdo ilegal” foi criado, acrescentando que atualizou imediatamente os seus protocolos de segurança e verificação para evitar novos abusos da sua plataforma.
Mas Angela Chan, da Universidade de Hong Kong, disse que o que aconteceu com Olga foi “uma ocorrência comum na China”.
Ela disse que o país abriga “uma vasta economia subterrânea especializada em forjar, usar indevidamente e criar deepfakes de dados pessoais”.
Isto apesar da China ser um dos primeiros países a tentar regulamentar a IA e os fins para os quais ela é utilizada. O Código Civil também foi revisado para proteger os direitos de retratos de fabricação digital.
De acordo com estatísticas divulgadas pelo Departamento de Segurança Pública em 2023, as autoridades prenderam 515 pessoas por atividades de “troca de rostos de IA”. Os tribunais chineses também tratam de casos nesta área.
Então, como tantos vídeos de Olga foram parar online?
Uma razão pode ser que promoveu a ideia de amizade entre a China e a Rússia.
Pequim e Moscovo aproximaram-se significativamente nos últimos anos. O líder chinês Xi Jinping e o presidente russo Vladimir Putin disseram que “não há limites” para a amizade entre os seus países. Os dois homens devem se encontrar na China esta semana.
“Embora não esteja claro se estas contas funcionavam em conjunto com um propósito comum, é errado promover mensagens que estejam em linha com a propaganda governamental”, disse Emmy Hein, investigadora de tecnologia jurídica nas universidades de Bolonha e Leuven. não beneficiá-los.”
“Mesmo que estas contas não estejam explicitamente ligadas ao Partido Comunista Chinês, [Chinese Communist Party], promover uma mensagem de integridade pode diminuir a probabilidade de sua postagem ser removida. ”
Mas os especialistas alertam que isto significa que pessoas comuns como Olga continuam vulneráveis e em risco de violar a lei chinesa.
Kayla Blomquist, pesquisadora de tecnologia e geopolítica da Universidade de Oxford, disse que “os indivíduos correm o risco de serem enquadrados com conteúdo gerado artificialmente e politicamente sensível” e que “há o risco de serem enquadrados sem o devido processo”. eles podem estar sujeitos a “penalidades rápidas decretadas”.
Ele acrescentou que o foco do governo chinês na IA e na política de privacidade online está na construção dos direitos do consumidor contra atores privados predadores, mas que “os direitos das pessoas contra o seu governo permanecem extremamente fracos”, enfatizou.
“O objectivo fundamental da regulamentação da IA na China é equilibrar a manutenção da estabilidade social com a promoção da inovação e do desenvolvimento económico”, explica Hein.
“Embora as regulamentações pareçam rígidas, existem algumas preocupações, especialmente sobre a geração, que podem ter como objetivo a criação de um ambiente mais favorável à inovação, com o entendimento tácito de que a lei fornece a base para a aplicação. que as regras de licenciamento de IA estão sendo aplicadas seletivamente “se necessário”, disse ela.
“Não é a última vítima.”
Mas o impacto do caso de Olga vai muito além da China. Isto ilustra a dificuldade de tentar regular uma indústria que parece estar a evoluir a uma velocidade vertiginosa e onde os reguladores estão constantemente a tentar recuperar o atraso. Mas isso não significa que eles não estejam tentando.
Em março, o Parlamento Europeu aprovou a Lei da IA, o primeiro quadro abrangente do mundo para limitar os riscos tecnológicos. E em outubro passado, o presidente dos EUA, Joe Biden, anunciou uma ordem executiva exigindo que os desenvolvedores de IA compartilhassem dados com o governo.
A regulamentação a nível nacional e internacional está a avançar lentamente em comparação com a corrida de rápido crescimento da IA, mas requer “uma compreensão mais clara e um acordo mais forte sobre as ameaças mais perigosas e como mitigá-las”, afirma Blomquist.
“No entanto, as divergências dentro e entre os países estão a impedir ações concretas. Os Estados Unidos e a China são atores-chave, mas será difícil construir consenso e coordenar as ações conjuntas necessárias”.
Entretanto, a nível pessoal, parece haver pouco que possa ser feito além de não publicar nada online.
“A única coisa a fazer é não lhes dar material para trabalhar. Não carreguem suas fotos, vídeos ou áudio nas redes sociais públicas”, disse Hein. “Mas os maus atores têm sempre uma razão para imitar os outros, por isso, mesmo que o governo reprima, esperamos ver um crescimento consistente, mesmo no meio de uma crise regulatória.”
Olga tem “100% de certeza” de que não será a última vítima da IA generativa. Mas ela está determinada a não expulsá-la da internet.
Ela compartilhou sua experiência em seu canal no YouTube, e alguns usuários online chineses a ajudaram comentando no vídeo usando sua imagem e apontando que era falso.
Ela acrescentou que muitos desses vídeos já foram excluídos.
“Eu queria compartilhar minha história. Queria que as pessoas entendessem que nem tudo que veem online é real”, diz ela. “Adoro compartilhar minhas ideias com o mundo e nenhum golpista pode me impedir de fazer isso.”
