Esta voz é gerada automaticamente. Por favor, deixe-nos saber se você tiver algum comentário.
Nova orientação do Departamento de Educação dos EUA Departamento de Tecnologia Educacional descreve uma filosofia de “responsabilidade compartilhada” para que os provedores de tecnologia educacional construam a confiança dos líderes distritais ao integrar a inteligência artificial em seus produtos e plataformas.
Isto significa que os fornecedores de tecnologia educacional precisam gerenciar proativamente os riscos representados pela tecnologia em rápida evolução, disse o ministério.
Nas orientações publicadas em 8 de julho, o Departamento de Educação descreveu oito “categorias de risco” ao usar IA nas escolas.
- “Corrida para a Libertação.”
- Preconceito e justiça.
- Privacidade e segurança de dados.
- Conteúdo prejudicial.
- Sistema ineficiente.
- uso malicioso.
- Gestão de desinformação.
- Transparência e explicabilidade.
- Usuários despreparados.
Refletindo a atual desconfiança em relação à IA, o departamento citou Patrick Gitislibungle, superintendente assistente do Lynwood Unified School District, na Califórnia.
“Posso comprar um produto generativo de IA? Sim, mas nenhum deles está pronto para adoção hoje! Devido a questões não resolvidas, como justiça de acesso, privacidade de dados, preconceito de modelo e segurança, Há falta de uma base de investigação clara e de provas de segurança e eficácia. ”
Em 2023, o presidente Joe Biden apelou aos fornecedores de tecnologia educacional para partilharem com as escolas a responsabilidade de trazer a IA para a sala de aula. ordem presidencial. De acordo com a ordem executiva, aproveitar a IA e ao mesmo tempo mitigar os riscos exigirá “um esforço de toda a sociedade, incluindo o governo, o setor privado, a academia e a sociedade civil”.
A orientação deste mês para fornecedores de tecnologia educacional também inclui:pessoa no circuitoAbordagens para usar IA nas escolas.
Ainda assim, o departamento disse este mês que “não é realista nem justo exigir que os educadores revisem cada uso de IA ou cada produto baseado em IA”. É, portanto, importante que os fornecedores de tecnologia educativa também assumam responsabilidade partilhada ao analisar a utilização e os resultados da IA, acrescentou o ministério.
A agência delineou cinco áreas principais que os fornecedores de tecnologia educacional devem considerar à medida que desenvolvem esta responsabilidade partilhada com as escolas.
- Design para a educação. Os desenvolvedores precisam começar a compreender o valor e os desafios educacionais específicos. O feedback do educador e do aluno deve ser incluído em todos os aspectos do desenvolvimento do produto.
- Forneça evidências de justificativa e impacto. As instituições educacionais precisam de evidências das soluções que as ferramentas tecnológicas de ED apregoam.
- Promover a equidade e proteger os direitos civis. Os fornecedores de tecnologia educacional precisam estar cientes da representação e preconceito dos conjuntos de dados, da discriminação algorítmica e de como garantir a acessibilidade para alunos com deficiência.
- Garantindo segurança e proteção. Os fornecedores de Edtech precisam desenvolver a forma como protegerão a segurança dos usuários de suas ferramentas de IA.
- Promova a transparência e ganhe confiança. Construir confiança com os líderes distritais requer colaboração entre fornecedores de tecnologia educacional, educadores e outras partes interessadas.
A orientação do departamento observou que os estados e distritos escolares também desenvolvem as suas próprias diretrizes para o uso da IA. Até junho, 15 estados disponibilizaram recursos para a integração da IA na educação. A agência acrescentou que os fornecedores de tecnologia educacional devem considerar orientações relevantes sobre IA escolar e estadual ao considerarem trabalhar com distritos escolares.
