Crescem as preocupações com a IA no entretenimento adulto

No final deste mês, as pessoas em Berlim poderão reservar uma hora com uma boneca sexual de IA, enquanto o primeiro bordel cibernético do mundo lança o seu serviço após uma fase de testes.

Os clientes poderão interagir com a boneca IA não apenas fisicamente, mas também verbalmente.

“Muitas pessoas se sentem mais seguras ao compartilhar assuntos privados com uma máquina porque ela não as julga”, diz Philip Hussenegger, fundador e proprietário da Cybrotel.

“Antes havia muito interesse por bonecos com dubladores, onde os usuários só podiam ouvir vozes e interagir com os bonecos. Agora, a demanda por interação com inteligência artificial é ainda maior.”

Esta é apenas uma das muitas maneiras pelas quais a IA generativa está sendo usada no negócio de entretenimento adulto.

A análise da SplitMetrics revela que o aplicativo complementar de IA atingiu 225 milhões de downloads na Google Play Store.

“Esperamos que mais desenvolvedores de aplicativos observem essa tendência e considerem maneiras de inovar e monetizar ainda mais essa categoria”, disse o gerente geral da SplitMetrics, Thomas Kriebernegg.

Misha Rykov, pesquisador de privacidade do guia “Privacidade não incluída” da Mozilla, diz que os companheiros de IA podem ser lucrativos.

“Dado que a maioria dos chatbots cobra uma taxa e a tecnologia principal é desenvolvida em outro lugar, [such as Open AI], parece um negócio de alta margem. Esses aplicativos também costumam coletar dados pessoais e compartilhá-los com terceiros, como anunciantes, o que é um modelo de negócios testado e comprovado. ”

Mas a fusão das empresas de IA e de entretenimento adulto está soando o alarme.

Um problema reside nos preconceitos inerentes à IA generativa, que gera novos conteúdos com base em dados treinados.

A doutora Kelly McInerney, pesquisadora sênior do Leverhulme Center for Future Intelligence da Universidade de Cambridge, diz que há o risco de que estereótipos retrógrados de gênero sobre sexo e prazer sejam codificados em chatbots sexuais.

“É importante compreender que tipo de conjuntos de dados são usados ​​para treinar chatbots sexuais; caso contrário, eles minimizam o prazer das mulheres e ignoram o sexo que existe fora da relação heterossexual. Existe o perigo de replicar tais ideias sobre sexo.”

Também existe o risco de dependência, disse Rykov. O chatbot de IA supostamente tem como alvo pessoas solitárias, especialmente homens.

“A maioria dos chatbots de IA que investigamos são altamente viciantes e apresentam alguns danos potenciais, especialmente para usuários com problemas de saúde mental.”

A Mozilla adicionou avisos de conteúdo a alguns de seus chatbots de IA “devido a temas encontrados como abuso, violência e relacionamento com menores”, disse Rykov.

Ele também levantou questões de privacidade. Os chatbots de parceria são projetados para coletar “quantidades sem precedentes de dados pessoais”.

Rykov acrescentou que 90% dos aplicativos analisados ​​pela Mozilla “podem compartilhar ou vender dados pessoais”, mas mais da metade não permite que os usuários excluam dados pessoais.

Alguns alertaram sobre os perigos que tal IA representa para as relações do mundo real.

Tamara Wheaton, consultora sênior do serviço de aconselhamento Report, disse: “Em alguns casos, os encontros na vida real são extremamente decepcionantes porque não atendem aos requisitos estritamente definidos que os usuários experimentam com pornografia de IA.'' “Pode haver algumas dificuldades que podem surgir.''

Wheaton acrescentou que, em alguns casos, a pornografia de IA pode levar os usuários a territórios perigosos.

“Não há nada de errado com um pouco de fantasia. Muitas pessoas ficam entusiasmadas com pensamentos que não têm intenção de agir. A pornografia de IA pode ser vista desta forma.

“Com base na experiência de um usuário com conformidade de objetos de IA, se, por exemplo, um senso de direito ou uma suposição de consentimento de que todos são o que o entusiasma, isso é um problema.”

As empresas que utilizam IA na indústria do entretenimento adulto reconhecem que é necessária cautela, mas argumentam que a IA tem um papel importante a desempenhar.

Philip Hamburger, chefe de IA da Lovehoney, disse que a empresa pretende “melhorar a experiência sexual dos nossos clientes, não substituí-la, e esta é uma linha importante a traçar”.

Alguns acreditam que a IA terá um impacto positivo neste campo. Ruben Cruz é cofundador da The Clueless Agency, que criou Aitana López, uma das primeiras influenciadoras de IA radicada em Barcelona.

Ele salienta que a indústria do sexo continuará a existir e que a IA pode aliviar preocupações éticas ao garantir que o conteúdo não seja criado com pessoas reais.

“Esta mudança visa garantir que nem homens nem mulheres precisem ser explicitamente sexualizados no futuro.”