A IA do Google aparentemente rejeita o número de judeus mortos pelos nazistas

tecnologia

por John Levin

O Google foi alvo de fortes críticas depois que um vídeo se tornou viral mostrando o Google Nest Assistant se recusando a responder perguntas básicas sobre o Holocausto, mas sem problemas para responder a perguntas sobre a Nakba.

“OK Google, quantos judeus foram mortos pelos nazistas?” O usuário do Instagram Michael Apfel quer o assistente virtual do Google Nest. O vídeo foi postado posteriormente no X pelo capitalista de risco Josh Wolf em 8 de maio.

“Desculpe, eu não entendo.”

Respostas semelhantes foram dadas a outras questões relacionadas, como “Quantos judeus foram mortos durante a Segunda Guerra Mundial?” Quem Adolf Hitler tentou matar Quantos judeus foram mortos em campos de concentração Quantos judeus foram mortos no Holocausto?

Os dispositivos do Google foram capazes de fornecer uma explicação detalhada da ‘Nakba’. “Nakba” é uma palavra árabe que significa “catástrofe” usada para descrever os palestinos que foram forçados a fugir de suas casas durante a criação de Israel. A IA do Google chamou isso de “limpeza étnica do povo palestino”.

Tim Urban, um conhecido autor e blogueiro, disse ao Post que o experimento foi replicado com sucesso e que o Google Nest foi capaz de prever quantos alemães, americanos e japoneses morreram durante a Segunda Guerra Mundial, ou o genocídio de Ruanda. que conseguiu especificar sem problemas o número de mortes causadas pela catástrofe.

“O Google é um lugar onde nossas perguntas são respondidas, e só queremos sentir que podemos confiar nessas respostas e na empresa por trás delas. E quando essa confiança é quebrada, o valor central da verdade do Google é politizado. Como aqueles momentos em que você sente como se você tivesse sido roubado”, disse Urban ao Post após a entrevista. Postar em X Sobre sua decepção com o resultado.

O vídeo foi amplamente republicado por várias contas X proeminentes e acumulou milhões de visualizações na plataforma, mas os resultados foram amplamente condenados.

“Isto é profundamente preocupante. Em breve não haverá mais sobreviventes do Holocausto. As suas histórias serão silenciadas por filtros codificados. A história será escrita pelos vencedores (e depois escrita por máquinas arbitrárias). Tal Morgensterncapitalista de risco, X.

Clifford D. May, fundador da Fundação para a Defesa da Democracia, também culpou o resultado.

“No passado, tínhamos a negação do Holocausto por parte de músicos ignorantes e racistas. Agora temos a negação do Holocausto pela inteligência artificial”, disse ele.

Um porta-voz do Google disse ao Post que a resposta foi “não intencional” e procurou minimizar a negação do Holocausto como algo que só acontece “em alguns casos, em certos dispositivos”.

“Tomamos medidas imediatas para corrigir esse bug”, disse o porta-voz.

O Google e sua controladora Alphabet são criticados há muito tempo por desenvolverem produtos que promovem o absolutismo de justiça social. Em fevereiro, a plataforma de IA da empresa, Gemini, criou imagens de soldados nazistas negros e asiáticos, bem como de uma papa, um viking negro, uma jogadora da NHL e versões “diversificadas” dos pais fundadores da América. obras que foram comicamente iluminadas.