A Apple enfrenta novo problema de IA, forçada a remover aplicativos que criam imagens explícitas

Enquanto a Apple está construindo ferramentas de IA que serão reveladas em sua palestra WWDC 2024 em junho, a empresa também enfrenta problemas significativos com IA na App Store. A Apple supostamente removeu vários aplicativos que poderiam ser usados ​​para criar imagens explícitas geradas por IA.

Na verdade, o relatório afirma que esses aplicativos foram capazes de criar imagens explícitas de IA de pessoas sem o seu consentimento. A Apple normalmente tem políticas rígidas contra aplicativos que se comportam mal, mas de vez em quando vemos aplicativos que evitam verificações por meio de outras fontes.

Problemas de imagem gerados pela Apple AI na App Store: aqui está a história

Com o advento da tecnologia de IA, os aplicativos estão flutuando em todas as regras básicas e atraindo os usuários com promessas de edição baseada em IA, troca de rosto e muito mais. A Apple encontrou alguns desses aplicativos na App Store sendo vendidos por meio de anúncios do Instagram.

Esses recursos parecem ter dado ao aplicativo acesso à galeria do telefone e foram explorados para criar imagens explícitas. A Apple tem políticas rígidas contra esses aplicativos, especialmente quando eles abusam da privacidade do usuário.

No entanto, a empresa tomou medidas contra esses aplicativos culpados somente depois que os detalhes foram compartilhados neste relatório. As verificações de segurança da App Store são sólidas, mas casos como esse levantam questões sobre como a Apple funciona, especialmente quando existem grandes ameaças de IA por aí.

Embora seja mais difícil romper com aplicativos promovidos por outras plataformas, o Instagram e outros aplicativos de hospedagem de anúncios também dependem do tipo de conteúdo, especialmente se conteúdo gerado por IA ou relevante está sendo enviado aos usuários. . Incidentes como este também demonstram a necessidade urgente de rotular o conteúdo, bem como os aplicativos que operam dentro do ecossistema de IA.