O Reino Unido lançou o que chama de um conjunto de ferramentas inovador para testes de segurança de inteligência artificial (IA).
A nova proposta é anunciado Sexta-feira (10 de maio) Instituto de Pesquisa de Segurança de IAuma biblioteca de software chamada “Inspect” que pode ser testada por testadores como startups e acadêmicos. e Os desenvolvedores de IA governamentais internacionais avaliam recursos específicos de modelos de IA individuais e geram pontuações com base em seus resultados.
Inspect é a primeira plataforma de testes de segurança de IA supervisionada por uma agência patrocinada pelo estado e liberada para uso mais amplo, de acordo com um comunicado de imprensa do instituto.
“Como parte da batida constante da liderança do Reino Unido em segurança de IA, passei pela plataforma de inspeção do AI Safety Institute (chamada Inspect). Código aberto,” Disse Michelle DonnellanSecretário de Estado da Ciência e Inovação do Reino Unido e tecnologia.
“Isto colocará a engenhosidade britânica no centro do esforço global para tornar a IA segura e consolidar a nossa posição como líderes mundiais neste campo.”
O anúncio ocorre pouco mais de um mês depois de os governos do Reino Unido e dos EUA se comprometerem a trabalhar juntos no desenvolvimento seguro da IA. concordar em cooperar Sobre testar modelos de IA de ponta.
“A IA continua a desenvolver-se rapidamente e ambos os governos reconhecem a necessidade de agir agora para garantir uma abordagem comum à segurança da IA que aborde os riscos emergentes da tecnologia.” Departamento de Comércio dos EUA ele disse na época.
Os dois países também concordaram em fazer parceria com outros países para promover a segurança da IA em todo o mundo, realizando pelo menos um teste conjunto num modelo acessível ao público e estabelecendo um plano para alavancar a experiência colectiva através da exploração de intercâmbios. .
Esta parceria é Cúpula de Segurança de IA Na reunião, realizada em Novembro passado, os líderes mundiais consideraram a necessidade de cooperação global para combater potenciais riscos associados às tecnologias de IA.
“Esta nova parceria significa que será colocada uma responsabilidade ainda maior sobre as empresas para garantir que os seus produtos sejam seguros, confiáveis e éticos.” andre perry Uma empresa global de automação inteligente abby conversou com PYMNTS logo após o anúncio da colaboração.
“Inovadores em tecnologia disruptiva tendem a lançar produtos com a mentalidade de ‘enviar primeiro, consertar depois’ para obter a vantagem de ser o pioneiro. Por exemplo, a OpenAI forneceu alguma transparência sobre os riscos potenciais do ChatGPT, mas eu. Lançado para uso comercial generalizado Apesar dos efeitos nocivos. ”
Para toda a nossa cobertura de PYMNTS AI, assine nossa assinatura diária Boletim informativo sobre IA.
