Um relatório da UNESCO divulgado em parceria com o Congresso Judaico Mundial concluiu que à medida que os alunos utilizam cada vez mais a IA generativa para completar tarefas e procurar informações online, as distorções sobre o Holocausto tornam-se mais prevalecentes. estão encontrando novas maneiras de divulgá-lo por meio de conteúdo gerado por IA. . Quatro em cada cinco (80%) jovens com idades entre os 10 e os 24 anos utilizam agora a IA várias vezes ao dia para educação, entretenimento e outros fins, tornando importante garantir que estas novas tecnologias sejam utilizadas de forma ética. passos para levar a isso.
A IA pode absorver e amplificar preconceitos sociais
A IA generativa precisa ser treinada usando grandes quantidades de dados. Esses dados são frequentemente extraídos da Internet e podem conter conteúdo enganoso ou prejudicial. Portanto, os sistemas de IA podem herdar preconceitos humanos, deturpando informações sobre determinados eventos e reforçando-os. Isto é especialmente verdade no contexto do Holocausto, uma vez que a desinformação sobre este acontecimento é generalizada. O relatório também observa que as ferramentas generativas de IA poderiam ser treinadas com base em dados de websites de negação do Holocausto devido à falta de supervisão, orientação e moderação por parte dos criadores de IA.
O uso da IA também foi documentado para permitir que maus atores distorcessem conteúdos relacionados ao Holocausto, criassem testemunhos fabricados e alterassem registros históricos. Imagens deepfake e conteúdo de áudio criados com IA generativa são particularmente persuasivos para os jovens que podem encontrá-los em plataformas de mídia social. O aplicativo Figuras Históricas permite que os usuários conversem com nazistas famosos como Adolf Hitler e Joseph Goebbels, afirmando que figuras como Goebbels não estiveram intencionalmente envolvidas no Holocausto e tentando impedir a violência contra os judeus.
História de “alucinações” devido à falta de dados
Os modelos generativos de IA tendem a fabricar ou “alucinar” eventos, pessoas e até fenômenos históricos quando não têm acesso a dados suficientes. O relatório destaca que ChatGPT e Bard do Google produziram conteúdo detalhando eventos relacionados ao Holocausto que nunca aconteceram de fato. ChatGPT fabricou completamente o conceito da campanha “Holocausto por Afogamento”, na qual os nazistas afogaram judeus em rios e lagos, e Byrd usou citações falsas de testemunhas oculares para apoiar uma narrativa distorcida do genocídio do Holocausto gerada.
Além dos riscos de manipulação e de “alucinações” que minam a confiança nos factos e nos especialistas estabelecidos, o relatório também alerta que a IA pode simplificar excessivamente uma história complexa, privilegiando uma gama restrita de fontes e alguns eventos. tendência. Nos motores de busca alimentados por IA, 60-80% dos principais resultados de imagens vêm de um único local do Holocausto: Auschwitz-Birkenau.
Solução: Agir de forma decisiva para implementar os princípios éticos da UNESCO
A UNESCO apela aos governos para que acelerem a implementação das Recomendações sobre a Ética da IA da organização, a primeira e única norma global neste domínio, que foi adotada por unanimidade pelos estados membros em 2021. Esta recomendação já foi incorporada nas leis de mais de 50 países. .
A UNESCO também apela às empresas tecnológicas para que implementem as suas normas e assumam a responsabilidade de garantir que princípios como justiça, transparência, direitos humanos e devida diligência sejam incorporados nas aplicações na fase de concepção. Em Fevereiro de 2024, oito empresas tecnológicas assinaram pela primeira vez um compromisso com o Director-Geral da UNESCO de aplicar uma abordagem ética ao desenvolvimento de novas ferramentas de IA.
As empresas tecnológicas precisam de trabalhar em estreita colaboração com as comunidades judaicas, os sobreviventes do Holocausto e os seus descendentes, educadores, especialistas em antissemitismo e historiadores ao desenvolverem novas ferramentas de IA.
A UNESCO também apela aos sistemas educativos para que ajudem a proteger os factos do Holocausto, não só através da compreensão da sua história, mas também dotando os jovens de literacia digital e competências de pensamento crítico.
