No seu discurso na cimeira do G7, o Papa Francisco discutiu as ameaças e oportunidades da inteligência artificial, a “condição tecno-humana”, a tomada de decisões humanas e algorítmicas, os ensaios escritos pela IA e a necessidade de cooperação política em tecnologia.
Escrito por Joseph Tulloch
Na tarde de sexta-feira, o Papa Francisco discursou na cimeira do G7 em Puglia, Itália.
É a primeira vez que um papa discursa num fórum que reúne líderes dos Estados Unidos, Reino Unido, Itália, França, Canadá, Alemanha e Japão.
IA: perigo e promessa
O Papa dedicou o seu discurso no G7 ao tema da inteligência artificial.
Ele começou dizendo que o nascimento da IA representa uma “verdadeira revolução industrial cognitiva” que trará “mudanças complexas e inovadoras”.
O Papa disse que estas mudanças terão aspectos positivos e negativos, como a “democratização do acesso ao conhecimento”, “avanços significativos na investigação científica” e a redução do “trabalho exigente e árduo”. potencial para Por exemplo, “mais desigualdades entre países desenvolvidos e em desenvolvimento, ou entre classes sociais dominantes e oprimidas”.
Papa Francisco cumprimenta líderes do G7
“Condição tecno-humana”
O Papa observou que a IA é “antes de tudo uma ferramenta” e falou do que chamou de “condição tecno-humana”.
Ele explicou que se referia ao fato de que a relação entre o homem e o meio ambiente sempre foi mediada por ferramentas criadas pelo homem.
O Papa disse que algumas pessoas veem isso como uma fraqueza ou uma falha. Mas ele insistiu que era realmente uma coisa positiva. Isso vem do fato de que estamos “inclinados para o que está fora de nós” e estamos “radicalmente abertos para o outro lado”, disse ele.
O Papa Francisco diz que esta tolerância é a raiz da nossa “condição tecno-humana”, a raiz da nossa tolerância para com os outros e com Deus, e a raiz da nossa criatividade artística e intelectual.
Papa falando no G7
Tomada de decisão: humano versus máquina
O Papa passou então ao tema da tomada de decisões.
Ele disse que a IA pode fazer “escolhas algorítmicas” ou “técnicas” “entre várias possibilidades baseadas em critérios bem definidos ou inferência estatística”.
No entanto, os humanos “não só têm a capacidade de escolher, mas também de tomar decisões em nossos corações”.
O Papa explicou que isto acontece porque eles têm o que os antigos gregos chamavam de sabedoria. phrónesis (um tipo de inteligência que se preocupa com a ação prática) e ouvir a Bíblia.
Por isso, o Papa enfatizou que é muito importante que as decisões importantes “devem ser sempre deixadas aos humanos”.
Como exemplo deste princípio, o Papa apontou o desenvolvimento de armas letais autónomas que podem ceifar vidas sem intervenção humana e disse que, em última análise, devem ser banidas.
Algoritmos “não são objetivos nem neutros”
O Papa também enfatizou que os algoritmos utilizados pela inteligência artificial para chegar às escolhas “não são objetivos nem neutros”.
Ele apontou para um algoritmo projetado para ajudar os juízes a decidir se concedem confinamento domiciliar aos presidiários. Esses programas baseiam suas seleções em dados como tipo de crime, comportamento na prisão, avaliação psicológica, origem étnica do preso, formação educacional e classificação de crédito, disse ele.
Mas o Papa sublinhou que isto é redutor, dizendo: “Os seres humanos estão em constante evolução e podem surpreender-nos com as suas ações. Isto é algo que as máquinas não podem levar em conta”.
Outro problema, sublinhou o Papa, é que os algoritmos “só podem verificar a realidade quando esta é numericamente formalizada”.
Papa se dirige ao G7
Ensaio gerado por IA
O Papa voltou-se então para o facto de muitos estudantes confiarem cada vez mais na IA para os ajudar a estudar, especialmente na redação de ensaios.
O Papa disse que é fácil esquecer que “estritamente falando, a chamada inteligência artificial generativa não é realmente ‘generativa’”. A inteligência artificial é uma forma atraente que não “desenvolve novas análises e conceitos”, mas “repete o que descobriu e os entrega”. ”
Isto corre o risco de “minar o próprio processo educativo”, disse o papa.
Ele disse que a educação deveria proporcionar oportunidades para “reflexão genuína”, mas em vez disso “corre o risco de se tornar uma repetição de conceitos, onde os conceitos são repetidos simplesmente porque são repetidos e serão cada vez mais vistos como irrefutáveis”.
Rumo à “ética algorítmica”
O Papa concluiu o seu discurso sublinhando que a IA será sempre moldada pela “visão do mundo das pessoas que a inventaram e desenvolveram”.
Particularmente preocupante a este respeito, disse ele, é que hoje é “cada vez mais difícil encontrar consenso sobre as principais questões da vida social”. Por outras palavras, há cada vez menos acordo sobre a filosofia que deveria moldar a inteligência artificial.
O que é necessário, portanto, disse o Papa, é o desenvolvimento de uma “ética algorítmica”, um conjunto de princípios “globais e pluralistas” que “possam encontrar o apoio de culturas, religiões, organizações internacionais e grandes empresas”.
“Se lutarmos para definir um único conjunto global de valores”, disse o Papa, “podemos pelo menos encontrar princípios comuns para abordar e resolver dilemas e conflitos sobre a forma como vivemos”.
Papa ouve nova intervenção do G7
política necessária
Diante deste desafio, o Papa disse que “é urgentemente necessária uma ação política”.
O Papa sublinhou que “só uma política saudável, envolvendo os mais diversos campos e competências, pode enfrentar os desafios e as promessas da inteligência artificial”.
O Papa Francisco concluiu que o objetivo não é “suprimir a criatividade humana e os seus ideais de progresso”, mas sim “direcionar as suas energias para novos canais”.
Você pode ler o texto completo do discurso do Papa ao G7 aqui.
