Gráficos Coco/E+/Getty Images
A polícia australiana está investigando a distribuição de imagens pornográficas falsas de estudantes.
Sydney
CNN
–
As autoridades australianas estão investigando a distribuição de imagens pornográficas falsas de cerca de 50 estudantes, supostamente criadas por um adolescente usando inteligência artificial.
A descoberta ocorre no momento em que o governo federal pressiona por uma nova legislação que imporia penas de prisão aos infratores que criam e compartilham imagens criadas por ferramentas de IA para humilhar ou difamar as vítimas. Fiquei desapontado.
Outros países, incluindo os Estados Unidos, estão a tentar lidar com o aumento alarmante da pornografia deepfake. Na pornografia deepfake, deepfakes nus de estudantes do sexo feminino são criados e compartilhados, em alguns casos, aparentemente por estudantes do sexo masculino.
A Polícia de Victoria confirmou que prendeu e libertou um adolescente “em conexão com imagens explícitas que circulavam online” enquanto se aguarda uma investigação mais aprofundada.
A imagem teria sido criada a partir de fotos postadas nas redes sociais por 50 alunas da Bacchus Marsh Grammar, uma escola mista nos subúrbios de Melbourne, Victoria.
O diretor da escola, Andrew Neil, disse à Australian Broadcasting Corporation (ABC) que a vítima era uma estudante do 9º ao 12º ano e que se acreditava ter entre 14 e 18 anos.
A idade e a identidade do menino são desconhecidas, mas Neil disse à ABC: “Logicamente falando, o menino é… [offender] É alguém da escola. ”
Em declarações à ABC na quarta-feira, a mãe de uma estudante da Bacchus Marsh Grammar de 16 anos (imagem não usada) disse que sua filha vomitou depois de ver a foto “desmembrada” online.
“Quando fui buscar minha filha em uma festa do pijama, ela estava muito chateada e vomitando. Ela parecia incrivelmente ferida”, disse sua mãe à ABC Radio Melbourne, citando apenas seu primeiro nome, Emily Ta.
A escola disse em comunicado que está prestando aconselhamento aos alunos e auxiliando a polícia em suas investigações.
“A saúde dos alunos da Bacchus Marsh Grammar e de suas famílias é de suma importância para a escola e estamos comprometidos com isso”, afirmou em comunicado.
Embora empresas de redes sociais como a X e a Meta afirmem que toda a pornografia não consensual é proibida nas suas plataformas, as imagens explícitas geradas pela IA continuam a espalhar-se rapidamente online.
Em novembro passado, a estudante do ensino médio de Nova Jersey Francesca Mani, 14, alegou que imagens dela e de dezenas de seus colegas de classe na Westfield High School foram manipuladas, e o governo federal dos EUA contra a pornografia deepfake gerada por IA alegou que imagens dela e de dezenas de seus colegas de classe na Westfield High School foram manipulados. Ele liderou as demandas do povo por medidas repressivas do governo.
Vítimas notáveis de imagens explicitamente adulteradas incluem Taylor Swift e a deputada do estado de Nova York, Alexandria Ocasio-Cortez.
Em março, Ocasio-Cortez introduziu uma legislação federal, a Lei de Imagens Explicitamente Falsas e Desencorajadora de Edição Não Consensual de 2024 (Lei DEFIANCE), que daria às vítimas o poder de processar pessoas que criam deepfakes não consensuais.
No entanto, o projeto bipartidário não conseguiu aprovar uma moção de consentimento unânime na quarta-feira com o apoio dos líderes republicanos, de acordo com um comunicado do Comitê Judiciário do Senado.
Victoria é o único estado da Austrália onde compartilhar pornografia deepfake é crime.
Em 2022, o governo estadual introduziu uma pena de prisão de três anos para o uso de tecnologia para criar ou compartilhar material de abuso infantil ou material sexualmente explícito sem consentimento.
O governo australiano introduziu neste mês uma legislação que criminalizaria a distribuição de pornografia deepfake em todo o país.
De acordo com a lei proposta, os infratores podem pegar até seis anos de prisão se compartilharem material falso sexualmente explícito não consensual.
Se o infrator também criar conteúdo deepfake compartilhado sem permissão, a pena poderá subir para sete anos de prisão.
Faz parte da resposta do país à violência baseada no género, que o primeiro-ministro Antony Albanese chamou de “crise nacional”.
De acordo com o projeto Counting Dead Women, 35 mulheres foram assassinadas até agora este ano, muitas aparentemente por parceiros atuais ou antigos.
No mês passado, o governo estadual nomeou o primeiro secretário parlamentar da Austrália para a mudança de comportamento masculino.
Ao assumir o cargo, Tim Richardson disse que se concentraria no impacto da Internet e das redes sociais nas atitudes dos homens em relação às mulheres.
A primeira-ministra vitoriana, Jacinta Allan, disse em comunicado na quarta-feira que as ações da adolescente foram “vergonhosas e misóginas”.
“As mulheres e as meninas merecem respeito na sala de aula, online e em todas as nossas comunidades. É por isso que temos leis para proibir este comportamento e escolas para acabar com a violência antes que ela comece e ensinamos relações respeitosas”.
