Cinco anos depois dessa reunião, a chegada da IA tornou-se inevitável – como o próprio Papa disse no ano passado, quando uma imagem dele vestindo uma jaqueta Balenciaga se tornou viral e inaugurou uma nova era de deepfakes. E à medida que a tecnologia se expande, o Vaticano posicionou-se como a consciência de empresas como a Microsoft e emergiu como uma voz surpreendentemente influente no debate sobre a governação global da IA.
Francisco O Papa, que chegou ao sul de Itália na sexta-feira, tornou-se o primeiro pontífice a discursar no fórum de líderes mundiais do G7 e participou na sessão da cimeira dedicada à IA.
“A presença do Papa será uma contribuição decisiva para a definição do quadro regulamentar, ético e cultural da inteligência artificial”, afirmou a primeira-ministra italiana, Giorgia Meloni, num comunicado anunciando o convite.
ser pego em
Histórias que mantêm você informado
Tal como o Papa procurou aumentar a urgência das alterações climáticas, Francisco está agora a concentrar-se na IA. A IA é uma tecnologia que representa um “risco para a nossa sobrevivência” e pode “colocar em perigo a nossa casa comum”, disse o Papa.
As suas preocupações centram-se menos nas previsões de máquinas malévolas nos filmes de ficção científica e mais na forma como o potencial da IA senciente desafia a definição fundamental da vida. Em vez disso, ele se concentra no potencial apocalíptico da IA armada. Ele teme que, à medida que os algoritmos comecem a determinar o resultado de tudo, desde pedidos de asilo a empréstimos bancários, a empatia humana desapareça. Ele anuncia “oportunidades entusiasmantes” para a tecnologia, mas preocupa-se com o seu poder de aprofundar ainda mais as desigualdades dentro e entre os países. Estes riscos precisam de ser geridos através de um tratado global que regule a IA, argumenta.
“A capacidade exclusivamente humana de fazer julgamentos morais e decisões éticas é mais do que uma coleção complexa de algoritmos; não pode ser reduzida à programação de uma máquina”, disse o Papa em dezembro. “Portanto, é essencial garantir uma supervisão humana adequada, significativa e consistente dos sistemas de armas.”
Na sexta-feira, espera-se que os líderes mundiais apresentem uma espécie de distintivo de honra, com o apoio do Vaticano, de acordo com pessoas familiarizadas com as discussões do G7. O novo rótulo será concedido às empresas que concordem em desenvolver ferramentas de IA de forma segura e ética, segundo pessoas familiarizadas com as discussões do G7. Ele falou sobre o plano sob condição de anonimato antes do anúncio. Este rótulo será uma iniciativa “voluntária” apoiada por um sistema de monitorização e comunicação.
A questão da IA proporcionou uma oportunidade para a Igreja, enfraquecida pela sua resposta ao abuso sexual do clero, reafirmar a sua autoridade moral. À medida que a indústria enfrenta desafios de relações públicas em torno da tecnologia que pode automatizar empregos, amplificar a desinformação e criar novos riscos de segurança cibernética, a Microsoft e pelo menos algumas outras empresas tecnológicas enfrentam desafios por parte da Igreja Católica.
O Apelo de Roma à Ética da IA, um documento de 2020 cujos signatários originais incluíam o Vaticano, a Microsoft e a IBM, está a emergir como o padrão ouro para as melhores práticas de IA. Representantes do Judaísmo e do Islão assinaram-no no ano passado. No próximo mês, várias religiões orientais juntar-se-ão à lista, juntamente com centenas de empresas, universidades e agências das Nações Unidas que prosseguem directrizes globais.
O Vaticano deu à Big Tech um lugar à mesa. Instituições antigas com registos científicos mistos (ver o julgamento de Galileu) enviam agora representantes para grandes eventos tecnológicos.
O reverendo Paolo Benanti, o principal especialista em IA do Vaticano, um padre franciscano e um engenheiro treinado que é creditado por cunhar o termo “algoritmo”, foi nomeado no ano passado pelo órgão consultivo das Nações Unidas sobre inteligência artificial. e se tornou um ator importante na inteligência artificial. Desenvolver uma política nacional de IA para a Itália, um país do G7. A pedido do Vaticano, o IMB organizou a Cúpula Universitária Mundial na Catedral de Notre Dame e colocou a ética da IA na vanguarda do currículo.
As opiniões do Vaticano influenciam decisões comerciais específicas. Smith disse ao Post: E decidimos não lançá-lo. Ele acrescentou que Rome Call é “parte dos esforços da Microsoft para adotar uma abordagem mais ampla ao desenvolvimento de IA, inclusive dentro das quatro paredes da empresa. Não há dúvida sobre isso, mas acho que forneceu uma estrutura humanística e intelectual mais ampla”.
Natasha Crampton, diretora de IA da Microsoft, disse que o compromisso sublinha o compromisso da empresa em lançar uma bolsa que reúna investigadores e líderes da sociedade civil, principalmente do Sul Global, para avaliar o impacto da tecnologia. Os bolsistas ajudaram a empresa a desenvolver avaliações multilíngues de seus modelos de IA para garantir que ela compreenda os contextos locais e as normas culturais ao desenvolver novos produtos.
Nem todas as empresas subscrevem os Princípios de Roma. Algumas empresas estão a avançar com a utilização de vozes controladas por IA, que os investigadores alertam que podem ser utilizadas indevidamente para enganar os eleitores antes das eleições.
Nem todos estão autorizados a aderir ao clube cigano. “A Huawei fez o pedido”, disse o arcebispo Vincenzo Paglia, presidente da Pontifícia Academia da Vida. “E dissemos não, porque realmente não sabemos o que vai acontecer.” [people in charge there] pensar. “
Entretanto, o Vaticano continua preocupado com o uso indevido da IA de código aberto. Benanti disse que a tecnologia pode trazer benefícios significativos para a saúde e a educação. “Mas também pode gerar muitos elementos negativos na sociedade, e não podemos espalhar a IA por todo o lado sem uma tomada de decisão política, porque amanhã poderemos acordar e ver um aumento da desigualdade e das armas biológicas devido ao seu género”, disse ele. disse.
Autoridades do Vaticano já alertaram sobre o uso antiético de sistemas de reconhecimento facial implantados durante a repressão de 2019-2020 aos manifestantes em Hong Kong, e de algoritmos de processamento de refugiados na Alemanha e em outros países onde a linguística baseada em IA foi introduzida. considera ser um uso potencialmente perigoso. Foram realizados testes para determinar se os requerentes de asilo mentem sobre o seu país de origem.
A relação do Vaticano com os inovadores da IA começou com um discurso de Benanti em 2018 sobre a ética da IA. Um representante sênior da Microsoft na Itália também estava presente e os dois começaram a se reunir regularmente. Eles trouxeram Paglia, que estava interessado em expandir o mandato da academia para além de questões centrais, como a ética da pesquisa com células-tronco.
Antes da visita de Smith ao papa, Paglia mostrou-lhe o “Juízo Final” de Michelangelo na Capela Sistina e mostrou-lhe a pintura de Galileu da Terra orbitando o Sol. Essa teoria foi o que levou o Sr. Smith a ser colocado em prisão domiciliar pelo resto de sua vida após o julgamento na igreja. .
Mas a relação do Vaticano com a ciência nem sempre foi ludita. Durante a Idade Média, estudiosos católicos fundaram universidades na Europa que se tornariam as maiores universidades da Europa. E embora a teoria da evolução de Darwin tenha sido alvo de alguns clérigos, nunca foi formalmente contestada pelo Vaticano.
A Igreja declara oficialmente que “fé e razão” não são contraditórias.
“A Bíblia não nos diz como funciona o céu, mas sim como chegar lá”, disse Paglia, citando Galileu. O arcebispo está realizando visitas oficiais à sede da Microsoft, perto de Seattle, e aos escritórios da IBM em Nova York.
Investimentos agressivos em IA fizeram da Microsoft a empresa mais valiosa do mundo, avaliada em mais de 3 biliões de dólares. Mas o seu sucesso contínuo depende da redução das percepções negativas da IA. As preocupações de que a tecnologia possa destruir empregos, exacerbar a desigualdade, sobrecarregar a vigilância e desencadear novos tipos de guerra levaram governos de todo o mundo a impor regulamentos rigorosos que poderiam reduzir as ambições da empresa.
A União Europeia está a preparar uma legislação antitrust histórica que poderá restringir modelos de IA generativos mais avançados. A Comissão Federal de Comércio está investigando o acordo da Microsoft com a startup de IA Inflexion, investigando se a gigante da tecnologia configurou intencionalmente o investimento para evitar a revisão da fusão. E as autoridades policiais dos EUA estarão sob maior escrutínio sobre como a empresa está exercendo seu poder para controlar a inteligência artificial, incluindo seu investimento multibilionário na fabricante do ChatGPT, OpenAI. O relacionamento também expõe a Microsoft a novos riscos de reputação, já que o presidente-executivo da OpenAI, Sam Altman, sempre gerou polêmica.
Sob a liderança de Smith, a Microsoft construiu uma das mais sofisticadas organizações de lobby globais para resolver desafios regulamentares e demonstrar que é o gigante da tecnologia em que o mundo pode confiar para construir IA, tentando convencer as pessoas. Smith reúne-se regularmente com líderes mundiais e participou na cerimónia de abertura da fábrica com o presidente Biden no mês passado. Smith disse que para a Microsoft ser um negócio eficaz, precisa de encontrar uma forma de fazer lobby junto dos governos e garantir que a sua tecnologia pode ir além deles.
“A organização global mais antiga do mundo” pode ser uma professora e parceira única nesse esforço, disse ele. O catolicismo e outras religiões não estão limitados por fronteiras – assim como as aplicações A Microsoft vende em todo o mundo.
“Em algum nível, você pode olhar para nós dois e pensar que somos estranhos companheiros de cama”, disse Smith. “Mas, por outro lado, também é a combinação perfeita.”
Zakruszewski relatou de Washington.
