Um artigo chocante foi promovido na “primeira página” ou feed principal do X de Elon Musk na quinta-feira.
A manchete era “O Irã ataca Tel Aviv com grandes mísseis”.
Capturamos as tendências X em 4 de abril de 2024.
Crédito: Captura de tela do Mashable
Este seria certamente um desenvolvimento preocupante nas notícias mundiais.No início daquela semana, Israel realizado Um ataque aéreo à embaixada iraniana na Síria matou dois generais e outros oficiais. A retaliação do Irão parecia um acontecimento provável.
O X de Elon Musk recebeu à força um cheque azul. A situação é a seguinte.
Mas havia um grande problema. O Irã não atacou Israel. A manchete era falsa.
Ainda mais preocupante é que a manchete falsa foi aparentemente gerada por Grok, o chatbot oficial de IA do X, e depois promovido pelo Explore, o produto de notícias de tendência do X, no primeiro dia da versão atualizada do recurso.
Tweet pode ter sido excluído
Como Musk fez isso acontecer?
Alguns anos antes de Elon Musk adquirir a plataforma então conhecida como Twitter, a empresa lançou novos recursos, incluindo: contexto escrito Em tópicos de tendência. Tecnologia para aprimorar a descrição de tendências?Humanos.
Anteriormente, quando uma história era divulgada, o algoritmo do Twitter capturava palavras-chave relacionadas postadas e compartilhava a tendência, mas às vezes não estava claro por que um determinado conjunto de palavras era tendência.
Porém, em 2020, o Twitter montou a seguinte equipe: editor humano Fazemos curadoria de notícias e contextualizamos as tendências. Além disso, os principais tweets que aparecem nos trending topics não serão apenas classificados por um algoritmo, mas também incluirão curadoria humana. Um ano depois, o Twitter parceria Estamos nos unindo à AP e à Reuters para continuar nossos esforços e fornecer contexto com contribuição humana para tópicos de tendência.
Mas logo depois que Musk adquiriu a empresa em outubro de 2022, o contexto escrito em torno do trending topic desapareceu. Musk demitiu o editor humano do Twitter. Conforme relatado pela Reuters em novembro de 2022, “a equipe de curadoria do Twitter, responsável por ‘destacar e contextualizar os melhores eventos e histórias que se desenrolavam no Twitter’, foi demitida”.
Página Explorar recém-atualizada no X
No início desta semana, contas X-Fan como @XDaily compartilharam captura de tela A próxima página Explorar do X reiniciar. A página Explorar do X inclui a infame lista de tópicos de tendência da plataforma e destaques para seções específicas, como “Notícias” e “Esportes”, fornecendo aos usuários artigos de tendência por categorias de assuntos específicos.
Tweet pode ter sido excluído
A página Explorar atualizada de Musk parecia preparada para trazer de volta o contexto escrito fornecido para tópicos e histórias em alta.
Em 4 de abril, X começou a lançar a página Explorar recém-atualizada. Esta atualização exibe as principais postagens dos usuários sobre tópicos de tendência individuais e um resumo fácil de entender do assunto acima do conteúdo do usuário. No topo da página, um título escrito por X fornece informações aos leitores como se estivessem prestes a ler um artigo sobre o assunto.
Além disso, esta atualização adiciona o Explore a um novo local de destaque na plataforma. As histórias de tendências do Explore são incorporadas diretamente na barra lateral direita da página inicial principal do X. Anteriormente, ele abrigava uma lista de trending topics visualizados diariamente por centenas de milhões de usuários do X.
Em uma captura de tela capturada do stream do popular usuário do Twitch, Hasan Piker, um título X falso gerado por IA pode ser visto como tendência na barra lateral da página inicial da plataforma.
Crédito: Hasan Piker no Twitch
Mas Musk não trouxe de volta a equipe de curadoria do Twitter nem contratou um novo editor humano para escrever o contexto que o X fornece atualmente.
O contexto é criado por Grok, o chatbot AI do X.
O perigo do X dependente de IA
Sabemos que Grok faz uso intenso dos recursos de IA promoção por almíscarfortalece o resumo contextual de X porque o próprio X diz isso nas letras miúdas de cada página Explorar.
Tweet pode ter sido excluído
“Grok é um recurso inicial e pode cometer erros”, diz uma pequena nota de X abaixo do contexto na página Explorar. “Por favor, verifique a saída.”
Mashable observou a página “Irã ataca Tel Aviv com grandes mísseis” de X espalhando tendências de notícias falsas na quinta-feira.
Com base em nossas observações, este tópico começou a virar tendência quando contas com marca de seleção azul enviaram spam para copiar e colar informações incorretas sobre o ataque ao Irã (X mensais para recursos premium, incluindo crachás de verificação). Isso parece ser devido a um aumento repentino no número de usuários pagar assinaturas. Israel. Postagens selecionadas fornecidas por X incluíam uma série de contas verificadas espalhando essas notícias falsas junto com vídeos não verificados retratando a explosão.
Uma comparação lado a lado de duas postagens separadas na página X Explore, mostrando uma postagem de notícias falsas de um usuário do Bluecheck que forneceu informações a Grok.
Crédito: Captura de tela do Mashable
A partir daí, parece que o algoritmo de X percebeu possíveis tendências de histórias nas postagens desses usuários e criou a página Explorar histórias. A partir das afirmações do próprio X sobre o funcionamento interno, podemos inferir que Grok deve ter criado uma história documentada de aparência oficial com um título cativante. Tudo isso foi feito com base no compartilhamento de notícias falsas por usuários selecionados, na tentativa de fornecer contexto automaticamente para o que a própria plataforma parece assumir ser a história real.
Esta não é a primeira vez que Grok fornece informações falsas aos usuários. Relatórios anteriores sobre as primeiras versões do chatbot do X descobriram que notícias falsas eram frequentemente criadas em chats privados com alguns usuários selecionados que tinham acesso ao chatbot. Mas a combinação deste incidente recente e o novo recurso Explorar marca a primeira vez que X pegou a desinformação de Grok, empacotou-a como um artigo de notícias de tendência real e promoveu-a para toda a sua base de usuários, ostensivamente como contexto para um evento real. mostra o que você fez.
Sob a administração Musk, a desinformação disparou Com seu novo produto Explore, a empresa espalhou falsidades ao pagar maus atores para ganhar dinheiro em troca de gerar engajamento.
um dia Depois que Grok gerou essa história falsa e X a promoveu por meio de sua página Explorar, a empresa disponibilizou Grok para todos os usuários X que assinassem Premium para que eles também pudessem usar o chatbot de IA que criou a desinformação.
Tweet pode ter sido excluído
