Mais de uma dúzia dos maiores fornecedores de tecnologia e desenvolvedores de IA do Japão lançado A Coalition for Secure AI (CoSAI) é considerada uma comunidade de código aberto dedicada a fornecer aos profissionais e desenvolvedores orientação e ferramentas para criar sistemas de inteligência artificial seguros desde o projeto.
O grupo disse que seus “principais patrocinadores” na fundação foram Google, IBM, Intel, Microsoft, NVIDIA e PayPal, enquanto outros patrocinadores fundadores incluíram Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI e Wiz. ser feito.
CoSAI faz parte do OASIS, um consórcio sem fins lucrativos com sede em Woburn, Massachusetts, dedicado ao desenvolvimento e implantação de padrões abertos e projetos de código aberto em uma variedade de categorias de tecnologia, incluindo segurança, blockchain, computação em nuvem e troca de dados operada pela Open. .
A coligação afirma que pretende “fortalecer a confiança e a segurança na utilização e implantação da IA” e “desenvolver medidas de segurança abrangentes que abordem os riscos clássicos e únicos dos sistemas de IA”.
O grupo afirma que seu escopo inclui “construir, integrar, implantar e operar sistemas de IA com segurança, com foco na mitigação de riscos como roubo de modelo, envenenamento de dados, injeção imediata, exploração em massa e ataques de inferência considerados incluídos”.
Para atingir estes objetivos, a coligação disse que incluirá três fluxos de trabalho iniciais:
- Segurança da cadeia de suprimentos de software para sistemas de IA: melhore o monitoramento da configuração e da procedência para proteger aplicativos de IA.
- Preparar os defensores para um ambiente de segurança cibernética em mudança: Enfrentar os desafios de investir e integrar a IA e os sistemas tradicionais. e
- Governança de segurança de IA: Desenvolva melhores práticas de segurança de IA e estruturas de avaliação de risco.
David LaBianca, diretor sênior do Google e copresidente do comitê diretor do CoSAI, disse que a criação da organização está “enraizada na necessidade de democratizar o conhecimento e os avanços essenciais para a integração e implantação seguras da IA”.
“Estamos comprometidos em trabalhar com organizações na vanguarda da tecnologia de IA responsável e segura”, disse Omar Santos, Distinto Engenheiro da Cisco e Copresidente do Conselho de Administração da CoSAI. “Na CoSAI, combinaremos nossa experiência e recursos para avançar rapidamente no desenvolvimento de padrões e práticas robustas de segurança de IA que beneficiarão toda a indústria.”
