Em vários testes conduzidos pelo The Washington Post este mês, Alexa, da Amazon, não conseguiu encontrar a resposta correta para a questão de quem ganhou as eleições de 2020.
Conforme citado pelo site de notícias RealClearPolitics, Alexa respondeu repetidamente: “Donald Trump é o favorito para a indicação republicana com 89,3%”.
Os chatbots desenvolvidos pela Microsoft e pelo Google, por outro lado, não responderam de forma alguma a essa pergunta.
“Ainda estou aprendendo como responder a essa pergunta. Enquanto isso, tente a pesquisa no Google”, respondeu Gemini, do Google. O Copiloto da Microsoft respondeu: “Parece que não podemos responder a este tópico. Verifique os resultados de pesquisa do Bing.”
erro À medida que as empresas tecnológicas investem cada vez mais em tecnologia que orienta os utilizadores para uma resposta única e definitiva, em vez de fornecer uma lista de websites, ocorrem omissões e cada resposta torna-se mais arriscada. Isso também ocorre no momento em que Donald Trump e seus aliados continuam a alegar falsamente que as eleições de 2020 foram roubadas. Várias investigações não revelaram nenhuma evidência de fraude, e Trump esteve envolvido nos esforços para anular a eleição de Joe Biden, que venceu Trump no Colégio Eleitoral e obteve mais de 51% do voto popular.
Outros assistentes, como ChatGPT da OpenAI e Siri da Apple, responderam com precisão a perguntas sobre as eleições nos EUA.
ser pego em
Histórias que mantêm você informado
Mas Alexa tem enfrentado dificuldades desde outubro, quando o Post relatou pela primeira vez sobre as imprecisões do assistente de voz. Sete meses atrás, a Amazon anunciou que havia corrigido o problema e, em um teste recente do Post, Alexa respondeu corretamente que Biden venceu as eleições de 2020.
Mas pequenas variações na questão, como se Trump venceu em 2020, levaram a respostas estranhas no fim de semana. Em um exemplo, Alexa disse: “De acordo com a Reuters, Donald Trump derrotou Ron DeSantis nas primárias republicanas de Iowa em 2024 por 51% a 21%”. Num outro exemplo, ele disse: “Não sabemos quem vencerá as eleições presidenciais dos EUA em 2020”, e depois apresentou dados de sondagens.
A porta-voz da Amazon, Christy Schmidt, disse que a confiança do cliente é “de suma importância” para a Amazon. (O fundador da Amazon, Jeff Bezos, é dono do Washington Post.)
“Estamos testando continuamente a experiência e monitorando de perto o feedback dos clientes”, disse ela. “Se descobrirmos que uma resposta não atende aos nossos padrões de alta precisão, bloquearemos imediatamente o conteúdo”.
Enquanto isso, a Microsoft e o Google afirmam que projetaram intencionalmente seus bots para se recusarem a responder perguntas sobre as eleições nos EUA, acreditando que era menos arriscado direcionar os usuários para encontrar informações por meio de mecanismos de busca.
As empresas estão a adoptar uma abordagem semelhante na Europa, onde o site de notícias alemão Der Spiegel informou no início deste mês que os bots o tinham escapado. Perguntas básicas sobre eleições parlamentares recentes (como quando serão realizadas eleições). De acordo com a mídia alemã, Gemini, do Google, também não conseguiu responder a questões políticas mais amplas, incluindo uma que pedia a identificação do primeiro-ministro.
“Mas não deveriam as principais ferramentas de IA das empresas digitais também ser capazes de fornecer tais respostas?”, escreveu o jornal alemão.
As empresas impuseram restrições aos chatbots na Europa depois de um estudo ter descoberto que eles estavam a espalhar desinformação sobre as eleições. Isto poderia violar uma nova lei histórica sobre redes sociais que exige que as empresas de tecnologia estabeleçam salvaguardas contra “influência adversa no discurso público ou no processo eleitoral” ou enfrentarão multas pesadas. Até 6% da receita global.
Por cautela antes das eleições globais, o Google disse que desde dezembro tem “limitado os tipos de consultas relacionadas às eleições às quais o aplicativo Gemini responde”.
O porta-voz da Microsoft, Geoff Jones, disse que à medida que a empresa refina seu chatbot para novembro, “algumas solicitações relacionadas às eleições podem ser redirecionadas para pesquisa”.
Jacob Glick, consultor político sênior do Instituto de Defesa e Advocacia Constitucional da Universidade de Georgetown, que atuou no comitê da Câmara que investigou o caso em 6 de janeiro, disse que as empresas de tecnologia precisam ter muito cuidado ao divulgar informações imprecisas.
“À medida que a desinformação em torno das eleições de 2024 se intensifica, queremos contar com as empresas de tecnologia que nos fornecem clareza sobre factos indiscutíveis sem hesitação ou talvez mesmo vacilação. “Acho que sim”, disse ele. “As decisões que estas empresas tomam não são neutras. Não são tomadas no vácuo.”
O Vale do Silício é cada vez mais responsável por separar os fatos da ficção online à medida que cria assistentes habilitados para IA. Na segunda-feira, a Apple anunciou uma parceria com a OpenAI para levar recursos generativos de IA a milhões de usuários e potencializar seu assistente de voz Siri. Enquanto isso, a Amazon se prepara para lançar uma nova versão de inteligência artificial. O assistente de voz foi disponibilizado como serviço por assinatura em setembro, segundo documentos internos obtidos pelo jornal. A Amazon se recusou a confirmar uma data de lançamento.
Não está claro como o Alexa, com tecnologia de IA da empresa, lidará com as questões eleitorais. Um protótipo demonstrado em setembro deu repetidamente respostas incorretas às perguntas. A Amazon ainda não disponibilizou a ferramenta ao público e a empresa não respondeu às perguntas sobre como a nova versão da Alexa lidará com questões políticas.
A Amazon planeja lançar o novo produto um ano após a primeira demonstração, mas problemas com reações imprevisíveis deixaram alguns na empresa questionando se ele está pronto, segundo funcionários que pediram anonimato para proteger seus empregos. .
Por exemplo, um funcionário da Amazon que estava testando o novo Alexa reclamou com o assistente de voz sobre um problema que estava tendo com outro serviço da Amazon, e Alexa ofereceu a ele um mês grátis de Prime. Os funcionários disseram ao Post que não sabiam se a IA poderia realmente fazer isso ou se eles tinham permissão para fazê-lo.
A Amazon disse que continua testando sua nova IA Alexa e enfrenta grandes obstáculos para seu desempenho antes de ser lançada.
Amazon e Apple demoraram a alcançar os chatbots de IA, já que inicialmente dominaram o mercado de assistentes de voz com Alexa e Siri. “Alexa AI está repleta de questões técnicas e burocráticas”, disse o ex-cientista pesquisador da Amazon, Mikhail Erik, em um post no X na quarta-feira.
A divisão de dispositivos da Amazon, que desenvolveu o Alexa, tem enfrentado dificuldades recentemente, perdendo seu chefe, David Limp, em agosto e seguida por uma série de demissões. A equipe é atualmente dirigida pelo ex-executivo da Microsoft Panos Panay.
Mas a tecnologia na qual esses dispositivos são construídos é um sistema mais programado, ao contrário da IA generativa que alimenta ferramentas como ChatGPT, Gemini e Copilot.
“Esta é uma arquitetura completamente diferente”, disse Grant Berry, professor de linguística da Universidade Villanova que trabalhou no Alexa para a Amazon.
Berry disse que os assistentes de voz são projetados para interpretar solicitações humanas e responder com a ação correta, como “Alexa, toque música” ou “Alexa, diminua as luzes”. Em contraste, os chatbots generativos de IA são projetados para serem conversacionais, sociáveis e informativos. Segundo Berry, transformar o primeiro no segundo não é uma simples atualização, mas sim uma reconstrução da parte interna do produto.
Quando Amazon e Apple anunciaram seus novos assistentes, Berry disse que combinariam um assistente “orientado para objetivos” com um chatbot “orientado socialmente”.
“Quando essas coisas ficam confusas, você tem todo um novo conjunto de problemas para resolver”, disse Berry.
