Naquela manhã, J. Robert Oppenheimer, que liderou o projeto que culminou na experiência, ponderou a possibilidade de que esta força destrutiva pudesse de alguma forma contribuir para uma paz duradoura. Ele lembrou a esperança do empresário e filantropo sueco Alfred Nobel de que a invenção da dinamite por Nobel acabaria com as guerras.
Depois de ver como a dinamite era usada para fazer bombas, Nobel confidenciou a um amigo: mais Mais do que isso, armas capazes seriam o melhor meio de garantir a paz. Ele escreveu: “A única coisa que impede as nações de entrarem em guerra é o terrorismo”.
A nossa tentação pode ser recuar perante este tipo de cálculo difícil, recuar para a esperança de que se apenas aqueles que têm armas deporem as armas, os instintos pacíficos da nossa espécie não prevalecerão. Mas nos quase 80 anos desde o primeiro teste nuclear no Novo México, as armas nucleares só foram utilizadas na guerra duas vezes, em Hiroshima e Nagasaki. Para muitas pessoas, o poder e o medo das bombas parecem distantes, sutis, quase abstratos.
O registo do controlo desta arma pela humanidade é incompleto e, de facto, dezenas de vezes mais devastador, mas surpreendente. Uma espécie de paz prevaleceu no mundo durante quase um século, sem conflitos militares entre grandes potências. Pelo menos três gerações, milhares de milhões de pessoas e os seus filhos e netos, nunca ouviram falar de uma guerra mundial. John Lewis Gaddis, professor de história terrestre e marítima na Universidade de Yale, descreveu a ausência de grandes conflitos após a guerra como um “longo período de paz”.
A era nuclear e a Guerra Fria levaram a décadas de cálculos extremamente pouco atraentes e potencialmente dispendiosos entre grandes potências, que resultam numa verdadeira escalada, em vez de escaramuças e testes de força nas margens dos conflitos regionais, essencialmente solidificados ao longo do tempo. Steven Pinker tem uma discussão mais ampla “A redução da violência pode ser o desenvolvimento mais importante e menos apreciado na história da humanidade.”
Não seria razoável atribuir a totalidade ou a maior parte deste crédito a uma única arma. Todos os outros desenvolvimentos desde o final da Segunda Guerra Mundial também fazem parte desta história, incluindo a proliferação de formas democráticas de governo em todo o mundo e um nível anteriormente inimaginável de actividade económica interligada.
Os cálculos das grandes potências que ajudaram a evitar outra guerra mundial poderão mudar em breve. Mas não há dúvida de que a superioridade militar dos EUA ajudou a preservar uma paz frágil. Mas esse compromisso de manter o domínio está a tornar-se cada vez mais obsoleto nos países ocidentais. E a dissuasão como doutrina corre o risco de perder o seu apelo moral.
A era atômica pode estar chegando ao fim em breve. Este é o século do software. As guerras futuras serão alimentadas pela inteligência artificial. O desenvolvimento da inteligência artificial está a progredir muito mais rapidamente do que as armas tradicionais. O caça F-35 foi concebido em meados da década de 1990, e espera-se que o avião, o principal avião de ataque das forças armadas e aliadas dos EUA, permaneça em serviço por mais 64 anos. O governo dos EUA espera gastar mais de US$ 2 trilhões no programa. Mas como perguntou recentemente o general reformado Mark A. Milley, antigo presidente do Estado-Maior Conjunto: “Achamos realmente que as aeronaves tripuladas dominarão os céus em 2088?”
No século 20, o software foi desenvolvido para atender às necessidades de hardware, desde controles de vôo até aviônicos de mísseis. Contudo, com o surgimento da inteligência artificial e a utilização de modelos de linguagem em larga escala para fazer recomendações sobre alvos no campo de batalha, esta relação está a mudar. O software está agora no comando, com o hardware (drones em lugares como a Ucrânia) desempenhando cada vez mais um papel na implementação das recomendações de IA.
E para que um Estado se mantenha num padrão moral mais elevado do que os seus adversários no que diz respeito ao uso da força, não basta ser tecnicamente equivalente aos seus adversários. O facto de uma sociedade ética ter um sistema de armas nas mãos e ser naturalmente cautelosa quanto à sua utilização servirá como um meio de dissuasão eficaz muito mais do que a capacidade de um adversário matar pessoas inocentes. Só se for poderoso.
O problema é que os jovens da América, que são mais capazes de construir sistemas de IA, são muitas vezes os mais ambivalentes quanto ao serviço militar. Em Silicon Valley, os tecnólogos afastaram-se da turbulência geopolítica e das complexidades morais, não querendo envolver-se com elas. Embora o apoio aos esforços de defesa tenha aumentado, a maior parte do financiamento e do talento continua a fluir para os consumidores.
de A elite da engenharia do nosso país está a correr para angariar dinheiro para aplicações de partilha de vídeos, plataformas de redes sociais, algoritmos de publicidade e websites de compras. desim Não hesite em rastrear e monetizar cada movimento online das pessoas e invadir nossas vidas. Mas quando se trata de trabalhar com os militares, muitas pessoas hesitam. Tudo que você precisa fazer é construir. Poucas pessoas perguntam o que construir e por quê.
Em 2018, cerca de 4.000 funcionários do Google escreveram uma carta ao CEO Sundar Pichai sobre um software conhecido como “Project Maven” para as forças especiais dos EUA que foi usado para vigilância e planejamento de missões no Afeganistão e em outros lugares. . Os funcionários pedem ao Google para nunca “construir tecnologia de guerra” e dizem que é “inaceitável” ajudar os soldados a planejar operações direcionadas ou “resultados potencialmente mortais”.
O Google tentou defender seu envolvimento no Projeto Maven alegando que seus esforços eram meramente para “fins não ofensivos”. Esta era uma nuance jurídica, especialmente do ponto de vista dos soldados da linha da frente e dos analistas de inteligência que precisavam de melhores sistemas de software para se manterem vivos. Diane Greene, chefe do Google Cloud na época, realizou uma reunião com funcionários e anunciou que a empresa havia decidido encerrar os trabalhos em projetos de defesa. Um artigo na revista Jacobin declarou esta uma “vitória impressionante sobre o militarismo americano” e observou que os funcionários do Google conseguiram resistir ao que acreditavam ser uma má orientação de talentos.
Mas a paz desfrutada por aqueles que, em Silicon Valley, se opõem à colaboração com os militares é possível graças à ameaça credível de uso da força por parte desses mesmos militares. Na Palantir, construímos arquiteturas de software para as agências de defesa e inteligência dos Estados Unidos e seus aliados que permitem a implantação das armas de IA deste século. Como sociedade, devemos continuar a debater os méritos do uso da força militar no estrangeiro, sem hesitar em fornecer àqueles que se sentem em risco o software de que necessitam para realizar o seu trabalho.
O mais preocupante é que a desilusão e a apatia de uma geração relativamente à defesa colectiva da nossa nação está a conduzir a um redireccionamento generalizado de recursos intelectuais e financeiros para satisfazer as necessidades da cultura de consumo. À medida que diminuem as nossas exigências ao sector tecnológico para produzir produtos de valor duradouro e colectivo, é dado demasiado poder aos caprichos do mercado. David Graeber, que lecionou antropologia na Universidade de Yale e na London School of Economics, escreveu em um ensaio de 2012 para The Baffler: , correios, catálogos de pedidos por correspondência.
O foco da indústria tecnológica nas preocupações dos consumidores está a ajudar a reforçar uma forma de escapismo. É instinto do Vale do Silício ignorar as questões importantes que enfrentamos como sociedade em favor do trivial e do temporário. Desafios que vão desde a defesa nacional e o crime violento até à reforma da educação e à investigação médica são considerados por muitos na indústria tecnológica como demasiado intratáveis, onerosos e politicamente complicados para valer a pena enfrentar.
Um ano após a revolta no Google, uma revolta de funcionários da Microsoft ameaçou interromper o trabalho em um projeto de US$ 480 milhões para construir uma plataforma de realidade aumentada para soldados do Exército dos EUA. Os trabalhadores enviaram uma carta ao CEO Satya Nadella e ao presidente Brad Smith exigindo que a empresa cancelasse o contrato, dizendo que não foram contratados para desenvolver armas.
Em novembro de 2022, quando a OpenAI lançou sua interface de IA ChatGPT ao público, proibiu seu uso para fins “militares e de guerra”. Depois que a empresa suspendeu a proibição geral do uso militar este ano, os manifestantes se reuniram em frente ao escritório do CEO da OpenAI, Sam Altman, em São Francisco, e pediram à empresa que encerrasse seu relacionamento com o Departamento de Defesa. “Não aceitaremos nenhum cliente militar”.
A raiva dessas multidões treinou líderes e investidores em toda a indústria tecnológica para evitarem controvérsias ou quaisquer sinais de desaprovação. Mas a sua relutância tem um custo elevado. Muitos investidores e muitos engenheiros talentosos no Vale do Silício estão deixando de lado os problemas difíceis. A geração de fundadores influentes diz que assume riscos agressivos, mas quando se trata de investimentos mais profundos em questões sociais, a prudência muitas vezes prevalece. Por que entrar na geopolítica quando você pode construir outro aplicativo?
e construir os aplicativos que eles criaram. Com a proliferação dos impérios das redes sociais, os desejos humanos de estatuto e reconhecimento são sistematicamente monetizados e canalizados.
Entretanto, as instituições de política externa têm repetidamente calculado mal quando lidam com países como a China e a Rússia, e a integração económica enfraquece o apoio interno dos líderes e enfraquece o seu interesse na escalada militar no estrangeiro. O erro de Davos foi abandonar o castigo em favor das cenouras. Entretanto, Xi Jinping da China e outros líderes autoritários exerceram o poder de formas que os líderes políticos do Ocidente nunca poderiam compreender.
Durante uma visita aos Estados Unidos em 2015, o Presidente Xi lembrou-se com carinho de ter lido “O Velho e o Mar” enquanto discursava para um grupo de empresários e líderes políticos na Câmara de Comércio de Seattle. Durante sua viagem a Cuba, ele disse que visitou Cojimar, na costa norte, o que inspirou a história de Ernest Hemingway sobre um pescador e um marlim de 5,5 metros de comprimento. Xi disse que “pediu um mojito” com as “folhas de hortelã e gelo” favoritas do autor e explicou o que Hemingway estava pensando quando escreveu a história, dizendo: “Eu queria sentir isso sozinho”. . O líder de um país com cerca de um quinto da população mundial acrescentou: “É importante fazer esforços para compreender profundamente culturas e civilizações que são diferentes das nossas”. Encorajamos você a fazer o mesmo.
A nossa relutância generalizada em avançar no desenvolvimento de sistemas de armas autónomos eficazes para uso militar pode resultar de um cepticismo legítimo sobre o próprio poder. O pacifismo satisfaz a nossa empatia instintiva pelos impotentes. Também o liberta de ter de navegar entre as difíceis compensações que o mundo apresenta.
Chloe Morin, uma autora francesa e antiga assessora do primeiro-ministro, sugeriu numa entrevista recente que deveríamos resistir ao impulso fácil de “dividir o mundo em governantes e governados, opressores e oprimidos”. Igualar sistematicamente a impotência à piedade é um erro e, na verdade, uma forma de condescendência moral. Tanto o conquistado como o conquistador são igualmente capazes de cometer pecados graves.
Não apoiamos o patriotismo frágil e superficial. É uma alternativa ao pensamento e à verdadeira reflexão sobre os pontos fortes e fracos do nosso país. Queremos apenas que a indústria tecnológica dos EUA tenha em mente questões importantes. Não se trata de saber se será construída uma nova geração de armas autónomas com IA. É sobre quem os constrói e com que propósito.
