A desinformação gerada pela IA será vista como a maior ameaça no ano eleitoral de 2024
À medida que avançamos para o ano eleitoral de 2024, a desinformação gerada pela IA está a tornar-se cada vez mais perigosa para os utilizadores da Internet e das redes sociais.
notícias de seta reta
Um diretor atlético de uma escola secundária de Baltimore foi preso e acusado na quinta-feira de usar inteligência artificial para se passar pelo diretor em gravações de áudio que incluíam comentários depreciativos sobre alunos e funcionários, anunciaram as autoridades.
O professor de educação física e diretor atlético da Pikesville High School, Dazon Darien, é acusado de usar software de inteligência artificial para alterar as gravações de áudio do diretor Eric Eiswart, de acordo com o chefe de polícia do condado de Baltimore, Robert McCullough. A gravação falsa se tornou viral depois de ser compartilhada nas redes sociais em janeiro, gerando indignação e condenação generalizadas entre a comunidade das Escolas Públicas do Condado de Baltimore.
“Temos evidências conclusivas de que as gravações não são genuínas. O Departamento de Polícia do Condado de Baltimore chegou a essa conclusão depois de conduzir uma extensa investigação”, disse McCullough em entrevista coletiva na quinta-feira. “Com base nessas descobertas e em investigações adicionais, foi determinado que as gravações foram geradas através do uso de tecnologia de inteligência artificial.”
Darien, 31, foi preso na quinta-feira e acusado de múltiplas acusações, incluindo roubo, perseguição, obstrução de operações escolares e retaliação contra uma testemunha, disse a polícia. Depois de comparecer ao tribunal na tarde de quinta-feira, Darien foi libertado sob fiança não garantida de US$ 5.000.
O procurador do condado de Baltimore, Scott Shellenberger, disse na quinta-feira que o caso parece ser um dos primeiros desse tipo no país. Ele observou que o Legislativo estadual precisa atualizar a lei para incorporar novas tecnologias.
O caso de Baltimore é o mais recente numa onda de uso indevido de inteligência artificial (IA) em escolas de todo o país. A maioria dos casos envolve “deepfakes”, ou mídia sintética gerada por IA, que são imagens, vídeos e áudio que manipulam digitalmente a aparência, a voz e os movimentos de um indivíduo.
As escolas têm lutado para policiar a tecnologia no ano passado, com meninos do ensino fundamental e médio usando IA para criar fotos nuas de seus colegas de classe. Alguns casos resultaram em detenções, enquanto outros enfrentaram consequências menos graves devido a diferenças nas políticas distritais e nas leis estaduais.
Deepfakes fazem parte das eleições de 2024. O governo federal irá regulá-los?
Polícia: “A gravação falsa pode ter sido feita em retaliação à investigação escolar''
A polícia do condado de Baltimore iniciou uma investigação em 17 de janeiro, depois que uma gravação de áudio de Eiswart supostamente fazendo comentários racistas e anti-semitas sobre estudantes e funcionários foi postada no Instagram. A gravação causou uma reação massiva online e gerou uma investigação por parte do distrito escolar.
Na gravação, a voz afirma que os alunos negros não podem “tentar sair de um saco de papel” e se pergunta “quão difícil é fazer com que esses alunos atendam às expectativas de sua série”. A gravação também incluía comentários depreciativos sobre os judeus e mencionava nomes de funcionários que “nunca deveriam ter sido contratados”.
O Baltimore Banner informou que os funcionários da escola acreditam que Eiswart fez comentários discriminatórios. Eiswart negou ter feito os comentários e não trabalhou na escola desde o início da investigação, segundo meios de comunicação.
McCullough disse que, como parte da investigação policial, os investigadores trabalharam com o FBI e analistas forenses da Universidade da Califórnia, Berkeley, e determinaram que a gravação não era autêntica. “A análise mostra que as gravações contêm vestígios de conteúdo gerado por IA”, disse McCullough.
McCullough disse que a polícia acredita que Darien fabricou a gravação em retaliação contra Eiswart, que estava investigando uma possível fraude estudantil na época.
Funcionários do Departamento de Transportes de Maryland levaram Darien sob custódia na manhã de quinta-feira no Aeroporto Internacional de Baltimore-Washington, disse McCullough. Darien foi parado quando estava prestes a embarcar em um avião e questionado sobre como havia embalado a arma de fogo que havia declarado.
Os policiais investigaram os antecedentes de Darien e um mandado de prisão aberto foi emitido, acrescentou McCullough.
As Escolas Públicas do Condado de Baltimore disseram em um comunicado que o distrito está tomando “medidas apropriadas” em resposta às ações de Darien, incluindo a recomendação de suspensão.
A ascensão dos Deepfakes: “Entrando em uma nova fronteira profundamente preocupante”
Deepfakes são frequentemente usados de forma maliciosa ou para espalhar informações erradas. De acordo com o Centro de Tecnologia Democrática, já foi demonstrado que a mídia sintética gerada por IA tem um impacto negativo nas escolas, com os alunos criando deepfakes de seus colegas em poses íntimas, zombando e intimidando uns aos outros. Em alguns casos, os alunos criaram deepfakes de seus professores.
“Está claro que estamos entrando em uma fronteira nova e muito alarmante”, disse o executivo do condado de Baltimore, Johnny Olszewski, na quinta-feira. “Embora continuemos a abraçar a tecnologia emergente e o seu potencial de inovação e benefício social, devemos também permanecer vigilantes contra aqueles que a exploram com intenções maliciosas.”
Em abril passado, um estudante em Houston, Texas, foi acusado de alterar digitalmente uma foto de seu professor e compartilhar a imagem explícita online, informou a FOX 26 Houston.
Em dezembro, dois meninos do ensino médio na Flórida foram presos sob suspeita de usar um aplicativo de IA para criar fotos nuas de seus colegas de 12 a 13 anos, de acordo com mandados de prisão. Os meninos foram acusados de crimes de terceiro grau de acordo com uma lei estadual de 2022.
E em fevereiro, administradores escolares acusaram um estudante do ensino médio de Beverly Hills, Califórnia, de usar IA para criar fotos falsas de nus de seus colegas de classe, de acordo com a NBC News. O superintendente disse à NBC News que a imagem incluía o rosto do aluno alterado digitalmente para um corpo nu.
Colaboradores: Zachary Schermele e Natasha Lovato, USA TODAY
