Apple e Google removeram aplicativos que prometem nudes deepfake da App Store e do Google Play. De acordo com 404 relatos da mídia.
404 Mídia No início desta semana, foi revelado que o Instagram estava hospedando anúncios de um aplicativo que usa IA para gerar nudes deepfake. Um desses anúncios usava uma foto de Kim Kardashian com o slogan “Qualquer garota pode se despir de graça”. Tente. “Esse serviço, e outros semelhantes, parecem permitir que os usuários carreguem fotos reais de mulheres e gerem fotos falsas delas nuas. O relatório da mídia 404 veio apenas algumas semanas depois. Meta mudou para dificultar o envio e recebimento de nus via Instagram Messengerdisse que a iniciativa visa proteger os usuários adolescentes de predadores.
A nudez deepfake foi um grande problema nos primeiros dias da IA generativa. Nus massivos de Taylor Swift gerados por IA vazaram Em janeiro, uma dessas fotos obteve dezenas de milhões de visualizações e 24 mil republicações. Nus falsos de meninas adolescentes em escolas de Nova Jersey e Washington, e Califórnia O estudo começou no final de 2023. até aqui, Aproximadamente 24 estados dos Estados Unidos introduziram legislação. Reprimir o conteúdo sexualmente explícito gerado pela IA. E no mês passado, Dois adolescentes presos em Miami, Flórida Eles foram acusados de crimes de terceiro grau por supostamente usarem um aplicativo chamado de “despir” para criar nus de seus colegas de classe.
Não existe nenhuma lei federal relativa a nus gerados por IA, mas os senadores dos EUA apresentaram um projeto de lei em janeiro que permitiria às vítimas processar os perpetradores.
“Embora as imagens possam ser falsas, o dano às vítimas da distribuição de deepfakes sexualmente explícitos é muito real”, disseram os senadores norte-americanos Richard Durbin e Lindsey Graham. anúncio de sua conta “As vítimas podem ter perdido o emprego e continuar a sofrer de depressão e ansiedade”.
