O Google foi criticado depois que um vídeo se tornou viral mostrando o Google Nest Assistant se recusando a responder a perguntas básicas sobre o Holocausto. No entanto, ele não teve dificuldade em responder perguntas sobre a Nakba.
“OK Google, quantos judeus foram mortos pelos nazistas?” Vídeo do Instagram do usuário do Instagram Michael Apfel Google Nest. “Desculpe, não entendo”, respondeu a IA.
O Google Nest forneceu as mesmas respostas para outras perguntas, como “Quantos judeus foram mortos durante a Segunda Guerra Mundial?” Quem Adolf Hitler tentou matar Quantos judeus foram mortos em campos de concentração Quantos judeus foram mortos no Holocausto? ”
No entanto, o dispositivo forneceu respostas detalhadas sobre “A Nakba”. Palavra árabe que significa “catástrofe”. A história é sobre palestinos que foram forçados a fugir de suas casas durante a criação de Israel. O Google Nest descreveu isso como “limpeza étnica do povo palestino”.
“Intervenção humana maliciosa”
O renomado autor e blogueiro Tim Urban compartilhou o vídeo no X e colocou a legenda: “Achei que era falso, então tentei sozinho. O mesmo resultado.” Mais tarde, ele disse ao New York Post que, quando replicou o experimento, ele foi usado durante a Segunda Guerra Mundial e no genocídio de Ruanda. perguntas sobre quantos alemães, americanos e japoneses morreram. “O Google é um lugar onde nossas perguntas são respondidas, e só queremos sentir que podemos confiar nessas respostas e na empresa por trás delas. E quando essa confiança é quebrada, o valor central da verdade do Google é politizado. Como aqueles momentos em que você sente como se você tivesse sido roubado”, disse Urban.
O capitalista de risco Tal Morgenstern também compartilhou o vídeo, escrevendo: Isso não deveria ter acontecido. E a razão pela qual isso aconteceu é quase certamente devido à intervenção humana maliciosa, e não à IA maliciosa. Espero que o Google faça uma investigação e uma auditoria do modelo ou das configurações de acesso para ver quem fez isso. ”
Clifford D. May, fundador da Fundação para a Defesa das Democracias, condenou os resultados, escrevendo em X: Agora temos a negação do Holocausto através da inteligência artificial. progresso? “
Um porta-voz do Google disse ao New York Post que esta ação foi “não intencional” e que só aconteceu “em alguns casos e em determinados dispositivos”. “Tomamos medidas imediatas para corrigir esse bug”, disse o porta-voz.
