SEOUL, Coreia do Sul (AP) – As principais empresas mundiais de inteligência artificial abriram uma mini-cimeira sobre IA, comprometendo-se a desenvolver a sua tecnologia com segurança, incluindo recuar se os riscos mais extremos não puderem ser contidos.
Espera-se que os líderes mundiais cheguem a acordos adicionais sobre inteligência artificial quando se reunirem virtualmente na terça-feira para discutir não só os riscos potenciais da IA, mas também os seus benefícios e formas de promover a inovação.
Cúpula de IA em Seul Uma sequência discreta do evento de destaque de novembro Cúpula de Segurança de IA Realizado em Bletchley Park, no Reino Unido, os países participantes concordaram em trabalhar em conjunto para limitar os riscos potencialmente “catastróficos” representados pelos incríveis avanços na IA.
A conferência de dois dias, co-organizada pelos governos sul-coreano e britânico, também contará com a participação de empresas líderes de tecnologia, incluindo: meta, OpenAI e Google Implante a versão mais recente do seu modelo de IA.
O governo do Reino Unido disse que estavam entre as 16 empresas de IA que assumiram compromissos voluntários sobre a segurança da sua IA quando as negociações começaram. anúncio. As empresas também incluem Amazon, Microsoft e uma empresa francesa. IA MistralZhipu.ai da China e Emirados Árabes Unidos G42está comprometida com a governança responsável e a transparência pública e prometeu garantir a segurança dos seus modelos de IA de ponta.
Este compromisso inclui a publicação de um quadro de segurança que defina como os riscos destes modelos serão medidos. Em casos extremos em que os riscos são graves e “insuportáveis” e os riscos não podem ser mitigados, as empresas de IA terão de apertar o interruptor e parar de desenvolver e implementar os seus modelos e sistemas.
Desde a conferência do ano passado no Reino Unido, a indústria de IA “concentrou-se cada vez mais nas suas preocupações mais urgentes, incluindo desinformação e desinformação, segurança de dados, preconceito e vigilância humana”, disse o CEO da Cohere, Aiden Gomez. Número de empresas de IA que assinaram o acordo. “É importante continuar a considerar todos os riscos possíveis, priorizando aqueles que têm maior probabilidade de causar problemas se não forem tratados adequadamente.”
O presidente sul-coreano Yun Seok-Yeol e o primeiro-ministro britânico na noite de terça-feira Rishi Sunak Realizaremos reuniões virtuais com outros líderes mundiais, chefes da indústria e chefes de organizações internacionais. A cúpula online será seguida por uma reunião presencial com ministros digitais, especialistas e outros na quarta-feira, disseram os organizadores.
Embora a reunião no Reino Unido tenha se concentrado em questões de segurança de IA, a agenda da reunião desta semana foi ampliada para incluir “inovação e inclusão”, disse Wang Yoon-jeong, vice-diretor da Agência de Segurança Nacional da Coreia do Sul, aos repórteres na segunda-feira. .
Wang disse que os participantes irão então “discutir não apenas os riscos representados pela IA, mas também os aspectos positivos da IA e como ela pode contribuir para a humanidade de forma equilibrada”.
Park Sang-wook, chefe de gabinete de ciência e tecnologia do presidente Yoon, disse que o acordo de IA incluirá os resultados das discussões sobre segurança, inovação e inclusão.
Os governos de todo o mundo estão a lutar para desenvolver regulamentos em torno da IA, mesmo quando a tecnologia da IA avança rapidamente e ameaça transformar muitos aspectos da vida quotidiana, desde a educação e o local de trabalho até aos direitos de autor e à privacidade. Os avanços na IA roubarão empregos e enganarão as pessoas. Espalhar informações falsas.
A conferência desta semana é apenas um dos muitos esforços para desenvolver proteções para IA. Assembleia Geral das Nações Unidas Aprovou a primeira resolução sobre o uso seguro de sistemas de IA; EUA e China Realizámos recentemente as primeiras consultas de alto nível sobre IA e as primeiras consultas mundiais da União Europeia. Lei de IA Espera-se que entre em vigor ainda este ano.
__
Chan contribuiu para este relatório de Londres.
