Este mês, a Assembleia Legislativa do Estado de Iowa aprovou um projeto de lei de prevenção que criminaliza deepfakes.
O Arquivo 2243 do Senado, aprovado em 6 de março, torna ilegal a criação ou distribuição de deepfakes que mostram representações visuais de pessoas (totalmente ou seminuas) envolvidas em atos sexuais. O House File 2240, aprovado em 25 de março, proíbe a criação de deepfakes sexualmente explícitos de menores. Mas ainda há trabalho a ser feito para responsabilizar todas as partes. Também inclui as plataformas onde esses deepfakes estão sendo espalhados.
Qualquer pessoa que criar esta mídia será acusada de contravenção agravada por retratar um adulto e crime por retratar um menor. Embora já exista uma lei federal que criminaliza a distribuição de imagens sexualmente explícitas de menores, incluindo deepfakes de menores identificáveis, esses projetos de lei recém-aprovados em Iowa também poderiam ser considerados assédio.
De acordo com um artigo de 2022 da Interesting Engineering, a tecnologia deepfake existe desde 2014 e, desde então, as pessoas têm usado essa inteligência artificial para se passar sexualmente por celebridades, políticos e até crianças em todo o país.
Em novembro passado, um estudante do ensino médio de Nova Jersey criou fotos pornográficas falsas de 30 de seus colegas de classe e as carregou na internet, de acordo com um artigo da ABC. Não existiam leis estaduais que pudessem proteger essas vítimas, deixando-as desamparadas. No entanto, uma das vítimas apresentou queixa contra o autor do crime.
Em fevereiro, cinco alunos da oitava série da Beverly Vista Middle School, em Beverly Hills, Califórnia, foram expulsos da escola depois de criarem deepfakes sexualmente explícitos de 16 de seus colegas de classe, de acordo com um artigo da NBC. Na época, não havia nenhuma lei na Califórnia que proibisse deepfakes para crianças.
Em dezembro de 2023, dois alunos da Pinecrest Cove Preparatory Academy, na Flórida, foram suspensos por criarem imagens de nus geradas por IA de dezenas de seus colegas de classe, de acordo com um artigo no . Correio de Nova York. Em 20 de março deste ano, outro caso de uso de IA para fins de exploração ocorreu na Flórida. Um professor de ciências da terceira série foi pego usando fotos do anuário dos alunos para criar pornografia infantil.
Tornou-se incrivelmente fácil renderizar deepfakes pressionando um botão no telefone, tornando a tecnologia acessível até mesmo para adolescentes e crianças.
Os governos estaduais e federais precisam tomar medidas legais proativas contra empresas que criam aplicativos de inteligência artificial que permitem às pessoas criar conteúdo explorador e contra plataformas que os incentivam.
De acordo com um artigo de 5 de março na NBC, a Meta, controladora do Facebook e do Instagram, removeu anúncios do aplicativo de inteligência artificial Perky AI de suas plataformas. Perky AI é um aplicativo que promove a capacidade de despir mulheres usando inteligência artificial. O aplicativo também foi removido da Apple Store, mas quem já baixou ainda pode utilizá-lo.
A Apple Store proíbe aplicativos que contenham pornografia e conteúdo difamatório destinados a envergonhar ou atingir grupos ou indivíduos. Infelizmente, estas regras não foram aplicadas e o dano já estava feito. Estes anúncios não deveriam ter aparecido em plataformas de redes sociais, especialmente onde as crianças os vissem.
As empresas que permitem a criação e partilha de deepfakes sexuais nas suas plataformas não devem apenas ter o conteúdo removido, mas devem ser legalmente responsabilizadas pelo Estado. A base dos deepfakes é a criação de conteúdo sexual de alguém (até mesmo uma criança) sem o seu consentimento. Qualquer pessoa que crie ou compartilhe imagens falsas de crianças, identificadas ou não, também deve enfrentar acusações criminais porque esse comportamento é predatório e explorador.
A Seção 230 da Lei de Comunicações de 1934 afirma que as plataformas de Internet que hospedam terceiros não são responsáveis pelo conteúdo das postagens de terceiros, tornando quase impossível responsabilizar essas empresas de mídia social e de IA. Mas deveria haver uma lei contra empresas que comercializam aplicativos que as pessoas usam para fazer deepfakes, o que é possível porque não é coberto pelas proteções da Seção 230.
A prevalência de deepfakes deve ser abordada imediatamente, pois a sua própria natureza é enganar, explorar e prejudicar outras pessoas. Quantas mais crianças serão mortas antes que existam fortes barreiras legais à pornografia infantil gerada pela IA?
Iowa criminaliza a criação e distribuição de deepfakes sexualmente explícitos de menores, mas há pouco que as autoridades policiais possam fazer se as imagens já estiverem circulando em várias plataformas da Internet. Os legisladores devem tornar ilegal para qualquer plataforma de mídia social gerar IA deepfake ou promover programas que criem tecnologia deepfake de exploração sexual para os usuários.
