- É triste ver imagens geradas por IA sobrecarregando o Facebook com pessoas reais engajadas.
- Na semana passada, pesquisadores escreveram sobre uma página que publica esse lixo. Eles descobriram um mau comportamento desenfreado.
- Por favor, me perdoe, Ebi-Jesus.
Meu pastor nunca falou comigo sobre Jesus como vejo no Facebook hoje em dia. Um bebê cercado por fadas de três braços e velas (má educação, Joseph). Uma cruz adorada pelos comissários de bordo de joelhos ao redor da piscina.
Estas imagens de Jesus são o tipo de imagens geradas pela inteligência artificial que estão a sobrecarregar o Facebook e a tornar a rede social ainda mais deprimente.
Sou um dos poucos millennials que usa o Facebook regularmente. Seu principal objetivo é fazer amizades em grupos de expatriados e mobiliar novos apartamentos através do marketplace (a única parte boa do site). Embora eu goste de rir de coisas como Ebi-Jesus, estou cauteloso com o envolvimento que vejo nessas postagens e com o que isso pressagia para o futuro das mídias sociais.
Há alguns anos, o Facebook lançou as bases para o lixo da IA de hoje, ao desvalorizar o conteúdo de fontes legítimas, como organizações de notícias, em favor de publicações de familiares e amigos. “Sentimos a responsabilidade de tornar nossos serviços não apenas divertidos de usar, mas também bons para a saúde das pessoas”, escreveu o CEO Mark Zuckerberg ao anunciar as mudanças em 2018.
Mas, com exceção de alguns parentes mais velhos e conhecidos da faculdade, ninguém que conheço posta muito. Em vez disso, meu feed é uma mistura de postagens de grupos, anúncios e imagens estranhas de IA. No meu caso, são principalmente casas e resorts falsos, provavelmente porque pertenço a vários grupos de viagens.
A seção de comentários lá As imagens são onde as coisas ficam escuras.
Há uma mistura de golpistas tentando vender criptomoedas e comentários humanos reais nessas fotos. Embora o primeiro seja esperado em qualquer fórum online, o segundo é um triste reflexo da baixa literacia mediática, algo que os investigadores estão a começar a perceber.
Na semana passada, uma dupla da Universidade de Stanford e da Universidade de Georgetown publicou um artigo (ainda não revisado por pares) sobre imagens de IA no Facebook, depois de estudar 120 páginas do Facebook até o início de março. Eles escrevem que as imagens geradas por IA são mostradas porque os algoritmos do Facebook acham que isso levará a mais engajamento, e que algumas das postagens que eles rastrearam na verdade se tornaram virais.
Sem surpresa, os pesquisadores descobriram que algumas pessoas envolvidas com esse conteúdo não parecem estar cientes de que ele é gerado pela IA, e que algumas das pessoas por trás dessas páginas descobriram que o grupo não estava fazendo muito bem. Os pesquisadores escreveram que alguns operadores de páginas se envolveram em “comportamento claramente manipulador”, como roubar páginas e adicionar seguidores falsos para aumentar seu próprio status.
A página “Obrigado, Jesus por tudo”, da qual obtive os recursos visuais desta história, é exatamente o que os pesquisadores descobriram. O proprietário original me disse que a página originalmente pretendia apresentar músicos locais, mas foi hackeada em janeiro de 2023.
Após a aquisição, a página republicou as imagens religiosas dos boomers (pense em orações na fonte Comic Sans em vez de clip-arts grosseiros) que circulavam há muito tempo no Facebook. Essas imagens são de outra página chamada VFit Athlete, uma academia com sede em Indiana que o proprietário me disse que também foi hackeada e desde então mudou para AI Jesus. Juntas, essas páginas têm 130.000 seguidores. Isso é uma fração dos 3 bilhões de usuários ativos mensais do Meta.
O verdadeiro propósito destas páginas permanece obscuro. Além do óbvio golpe de comentários, ele pode ser usado para outros fins, como aumentar as visualizações de páginas e, posteriormente, espalhar informações erradas. – Este é um ciclo que vimos em outras páginas do Facebook antes da IA generativa.
Meta não respondeu ao meu pedido de comentário, inclusive sobre a página hackeada.
O Facebook sabe que a IA generativa é um problema. Isto foi coberto por outros meios de comunicação bem antes do estudo da semana passada. 404 Media escreveu sobre isso em dezembro. O presidente de assuntos globais da Meta disse em fevereiro que a empresa está trabalhando em rótulos generativos de IA a serem lançados ainda este ano. Surpreendentemente, isto acontece num ano eleitoral, já marcado por problemas com a IA generativa, tanto online como offline.
Mas eu não quero ver isso uma etiqueta está anexada Conteúdo de IA gerado em seu feed – Não há necessidade de imagens de IA geradas. Para outro mundo, confira o Instagram da Meta. Lá, você verá fotos e vídeos de pessoas que você realmente ama, atletas e marcas que você ama, intercalados com anúncios direcionados às vezes mordazes.
Ainda não encontrei o Cruise Ship Jesus no Instagram, o que é uma verdadeira bênção.
Vendo algo estranho em seu feed de mídia social? Envie um e-mail para mmorris em insider.com.
