Snapchat exibirá marcas d'água em imagens criadas usando as ferramentas generativas de IA do Snap

O Snapchat anunciou na terça-feira que em breve começará a adicionar marcas d’água às imagens geradas por inteligência artificial (IA) criadas com suas ferramentas. A plataforma permite que usuários premium gerem imagens de IA por meio do chatbot conversacional nativo da plataforma ‘My AI’ e seu recurso Dreams. Marcas d'água são acréscimos visuais que enfatizam a criação sintética e aparecem em imagens compartilhadas em um aplicativo ou exportadas para o rolo da câmera do usuário.

Em uma postagem em seu site, a controladora Snap destacou uma ampla gama de recursos alimentados por IA que adicionou desde 2015, incluindo lentes AR, My AI e papéis de parede de bate-papo gerados por IA. Ele também observa os esforços da empresa para aumentar a transparência quando os usuários interagem com conteúdo alimentado por IA em sua plataforma.

O Snapchat disse que começará a adicionar marcas d'água a todas as imagens geradas por IA para aumentar a transparência. Isso se aplica a imagens geradas pelo bot My AI ou geração de plano de fundo pelo Dreams. A marca d'água é um marcador visual que combina o logotipo fantasma do Snapchat com o ícone de brilho exclusivo da IA.

A página de suporte da empresa para IA gerada alerta os usuários para não removerem a marca d’água “fantasma brilhante” das imagens geradas por IA, acrescentando que isso viola os termos de serviço da plataforma.

Em particular, as imagens DALL-E 3 da OpenAI seguem o protocolo Coalition for Content Provenance and Authenticity (C2PA), que adiciona informações relacionadas à IA aos metadados da imagem. O Google também possui sua própria tecnologia de marca d’água chamada SynthID para conteúdo multimídia criado com suas ferramentas.

O Snapchat também afirma que todos os recursos de IA em sua plataforma passam por rigorosas análises internas e por um AI Red Team para identificar e remover possíveis falhas nos modelos de IA. Red teaming é uma tática usada pelas empresas para ter recursos de teste de estresse de grupo externo e independente para descobrir deficiências.

Atualmente, apenas usuários do Snapchat+ podem acessar o My AI e criar imagens geradas por IA, mas todos os usuários podem criar até oito imagens do Dream. Ambos os recursos foram adicionados pela empresa no ano passado. Na Índia, uma assinatura do Snapchat+ custa Rs 10.000. 49 rúpias por mês. 499 por ano.