- A 404 Media tem relatado a prevalência de imagens de spam de IA como “Shrimp Jesus” há vários meses.
- O ponto culminante disso é uma espécie de “internet zumbi”, onde pessoas falsas postam conteúdo falso.
- Então, por que o Facebook não está tentando impedir isso?
A 404 Media está controlando um grande mistério: “O que está acontecendo com o spam de imagens de IA no Facebook?” Nos últimos meses, eles viram várias versões de humanos de IA esculpindo com motosserras, crianças exibindo bicicletas feitas de vegetais, velhos explodindo bolos de aniversário, crianças morrendo e amputados. Camarão Jesus.
Finalmente, Jason Koebler oferece uma teoria sobre o que significa esse spam de isca de engajamento de IA.
Não acho que o spam de IA do Facebook deva ser visto pelas lentes de uma “Internet morta”. Esta plataforma é agora ainda pior do que bots conversando com bots. Bots falam com bots, bots falam com bots sob instruções humanas, humanos falam com humanos, humanos falam com bots, humanos discutem falsificações criadas por bots, humanos falam com outras pessoas sem o seu conhecimento. Humanos se transformando em bots, humanos preocupados com o fato de os outros humanos com quem conversam serem bots, contas híbridas humano-bot, o fim da realidade compartilhada e, no centro de tudo, a mais valiosa das empresas. Este show de merda é possível porque os executivos e acionistas humanos têm muito dinheiro para fazer qualquer coisa a respeito da introdução em massa de tecnologia destruidora da realidade.
Minha visão: A natureza bizarra e por vezes perturbadora das imagens de IA é fascinante, mas por trás da proliferação destas páginas alimentadas por IA parece haver um caso clássico de isca de envolvimento tradicional. A IA aumenta o número de seguidores em uma página, o que é lucrativo para o proprietário da página.
A questão que me resta é: por que o Facebook está permitindo isso? De acordo com um relatório da 404 Media, o Meta ocasionalmente toma medidas contra páginas específicas, mas apenas em casos realmente especiais, como quando uma conta é hackeada ou quando uma imagem feia de uma criança gerada por IA é removida. limitado a Provavelmente violam outras diretrizes de conteúdo existentes.
Existem várias teorias sobre por que o Facebook permite esse tipo de spam de imagens de IA (por enquanto).
-
Este é um ano eleitoral e o Facebook deve abordar questões maiores em torno da moderação de conteúdo.
-
As imagens em si são em sua maioria inofensivas e as imagens individuais não violam nossas diretrizes de conteúdo. Ebi Jesus é estúpido e coisas assim podem arruinar sua experiência no Facebook a longo prazo, mas por enquanto não se trata realmente de violar as regras de conteúdo.
-
A isca de engajamento também não é necessariamente uma tática proibida. Não há razão para que você não possa postar muito conteúdo envolvente para induzir os Boomers (e outras gerações) a comentar. Embora existam maneiras de violar as regras usando certas táticas de spam, essas contas com tecnologia de IA provavelmente não estão ultrapassando os limites.
-
O Facebook agora detectará e rotulará algumas imagens geradas por IA, mas não existe nenhuma regra que diga que você não pode postar algo só porque foi gerado por IA. (Quando perguntei como eles lidam com isso, um representante da Meta me contou sobre este anúncio de política.)
-
(Teoria da mídia 404): Meta está tão investido em IA que quer que nos acostumemos a ver imagens de IA, então ele vai deixar isso passar.
