O Facebook (agora Meta) levantou as sobrancelhas internacionais em 2016, quando tentou encerrar o caso de uma menina de 14 anos na Irlanda do Norte, cujas imagens nuas foram carregadas sem o seu consentimento numa chamada “página da vergonha”. Este foi um movimento interessante por parte de uma organização que afirma levar estas questões a sério.
Desde então, os avanços na tecnologia abriram novas portas perigosas para predadores determinados a transformar as redes sociais em armas, cometendo atos de violência sexual online. Ainda assim, a Meta e outras plataformas online permanecem firmes. Na verdade, eles pressionaram o Congresso para protegê-los da responsabilidade por atividades maliciosas nas suas redes.
O incidente de 2016 aumenta o problema crescente dos “deepfakes” de IA, que transformam imagens de pessoas reais em fotos ou vídeos de aparência realista que as retratam dizendo ou fazendo coisas que nunca aconteceram. Em contraste, continua relevante hoje, à medida que as empresas de mídia social aproveitam proteção abrangente.
Houve um tempo, não muito tempo atrás, em que uma foto adulterada (o termo “Photoshopped” era comum) podia ser vista a um quilômetro de distância. Os avanços na IA tornaram quase impossível detectar imagens reais a partir de imagens manipuladas.
As preocupações sobre os deepfakes de IA concentraram-se principalmente no seu uso para interferência eleitoral nas eleições presidenciais dos EUA deste ano. Mas levantam questões mais sórdidas que deveriam assustar-nos a todos. A pornografia deepfake ocorre quando um programa de software, acessível através de uma simples pesquisa online, pode transformar imagens inocentes de indivíduos inocentes em cenas sexuais ou vídeos que podem ser postados online sem consentimento.
Taylor Swift e milhares de outras celebridades também foram alvo. Crianças inocentes também são vítimas.
Um menino de 14 anos relatou recentemente ao Centro Nacional para Crianças Desaparecidas e Exploradas que foi ameaçado de postar uma imagem pornográfica falsa de si mesmo, a menos que pagasse um resgate.
Outra menina de 14 anos de Nova Jersey disse que foi “chamada” à sala do vice-diretor de sua escola, onde foi informada de que alguns de seus colegas do sexo masculino usaram um programa de IA para transformar suas fotos vestidas em imagens, de acordo com uma reportagem de Nova York disse ao Times. Uma imagem nua postada na internet.
Ela se lembrou do constrangimento que sentiu quando os meninos começaram a rir dela no corredor. Imagens de outras meninas na escola foram alteradas e compartilhadas de forma semelhante.
Uma das vítimas entrou com uma ação judicial contra um colega de classe por seu envolvimento. Não está claro se alguém foi disciplinado, mas é seguro dizer que os meninos da escola não riem mais.
As autoridades locais, estaduais e dos EUA têm demorado a resolver o problema.
““Todos os distritos escolares estão enfrentando os desafios e implicações da inteligência artificial”, diz a declaração improvisada do Superintendente Raymond Gonzalez em resposta ao caso de Nova Jersey. Um projeto de lei estadual recentemente apresentado fez com que “dezenas” de outras vítimas de deepfakes se apresentassem.
As empresas de mídia social podem fazer algo a respeito, mas algumas simplesmente optam por não fazê-lo. Nicholas Kristoff, do New York Times, descobriu que pesquisas por conteúdo pornográfico deepfake no Google e no Bing retornaram toneladas de vídeos falsos de sexo com celebridades, mas o mecanismo de busca do Yahoo não retornou nenhum. Em comparação, uma pesquisa no Google sobre suicídio não retornou resultados sobre como realizar o ato, mas forneceu uma lista de locais onde as pessoas poderiam procurar ajuda.
“Em outras palavras, o Google é socialmente responsável quando quer, mas não se importa quando mulheres e meninas são violadas por produtores de pornografia”, argumenta Kristof.
As empresas de redes sociais não podem policiar-se, mas o Congresso provou que podem.
A Lei de Decência nas Comunicações poderia ser alterada para responsabilizar as empresas de mídia social se imagens pornográficas falsas forem publicadas em suas plataformas. Eles poderiam aprovar legislação que criminalizasse a distribuição de pornografia deepfake, como a Lei de Prevenção de Deepfake de Imagens Íntimas e a Lei SHIELD. Eles poderiam aprovar leis antidefesa que fortaleçam os direitos das vítimas de pornografia deepfake.
No entanto, o Congresso não agiu com ousadia em nenhuma dessas medidas.
As plataformas de mídia social podem ser parte da solução. Eles poderiam trabalhar com as vítimas e mostrar liderança e compaixão ao adotar medidas mais rigorosas para censurar conteúdo deepfake. Eles podem dar o exemplo, pressionando por leis e regulamentos mais rígidos para evitar que imagens sexuais falsas sejam pesquisáveis ou carregadas nas redes que as hospedam.
Em vez disso, procuram soluções para os seus problemas. Enquanto lutam para se protegerem de responsabilidades legais, as vítimas enfrentam vergonha e vergonha ao longo da vida numa plataforma por algo que nunca pretenderam e nunca foram autorizados a fazer.
O Facebook perdeu uma tentativa de arquivar o processo em 2016 e acabou fechando um acordo com uma garota de 14 anos de Belfast. Esta deveria ser uma mensagem para todos os outros que foram vítimas de pornografia de vingança ou pornografia deepfake nessas plataformas: processe-os e acerte-os onde dói.
Enquanto o Congresso continuar a ser descarado com eles, e enquanto as empresas de redes sociais lutarem com unhas e dentes para evitar a responsabilização, as vítimas terão de processar.
Talvez então, e só então, recebam a mensagem de que são responsáveis pela resolução desta crise.
Lyndon Haviland, Ph.D., MPH, é um ilustre estudioso da Escola de Saúde Pública e Política de Saúde da Universidade Estadual de Nova York.
Copyright 2024 Nexstar Media Inc. Todos os direitos reservados. Este material não pode ser publicado, transmitido, reescrito ou redistribuído.
