na quarta-feira, OpenAI publicou o rascunho ficha técnica do modelo Ele detalha como o modelo de IA deve se comportar. Há uma seção focada em conteúdo NSFW, dando a impressão de que a empresa está explorando formas de: Pornografia de IAmas a empresa diz que isso não está acontecendo.
“Não pretendemos criar pornografia gerada por IA”, disse um porta-voz da OpenAI por e-mail na quinta-feira. “Nossos produtos têm fortes salvaguardas para evitar deepfakes inaceitáveis e priorizamos a proteção das crianças. Também abordamos cuidadosamente as conversas sobre sexualidade em contextos apropriados à idade.
A seção que levou alguns comentaristas a acreditar que a pornografia estava em andamento na OpenAI concentra-se no conteúdo NSFW. A empresa escreveu que seus modelos não deveriam responder a solicitações de conteúdo impróprio, incluindo “erotismo, violência extrema, calúnias ou palavrões não solicitados”. No entanto, o desenvolvedor enfatiza que está “explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em um contexto adequado à idade por meio de nossa API e ChatGPT”. A folha continua dando exemplos de conteúdo NSFW apropriado que é permitido, como ser solicitado a escrever letras que incluam palavrões.
A pornografia AI, especialmente deepfakes, gerou muita controvérsia no ano passado.Taylor Swift enfrentou uma onda de atos não consensuais Imagem adulta falsa de IA Foi usado um retrato dela que se tornou viral nas redes sociais em janeiro.No mês passado, uma mulher do estado de Washington entrou no site da loteria estadual e acabou Sua foto nua gerada por IA.
O Gizmodo pediu a Aylo, empresa controladora do Pornhub, que comentasse sobre o potencial da OpenAI para abrir as comportas para a pornografia gerada por IA, e um porta-voz disse que a empresa está comprometida com o “uso não consensual e não consensual em nossa plataforma”, incluindo deepfakes. . Não toleramos nenhum conteúdo.” . ”
“É proibido deepfakes ou manipulação de imagens de uma pessoa com base em IA, sejam fotos ou vídeos, para criar a ilusão de que a pessoa está falando ou agindo de maneira diferente”, disse o porta-voz por e-mail. “Quando identificamos ou tomamos conhecimento de conteúdo que viole esta política, nossas equipes de confiança, segurança e moderação irão imediatamente: revisar e remover o conteúdo infrator; imprimir a impressão digital do conteúdo em questão; e bloquear futuros uploads do mesmo conteúdo em nosso site. Se apropriado, suspenderemos ou encerraremos permanentemente a conta do remetente em questão.”
