Uma versão disso aparece no Jornal de Evangelização e Cultura de Inteligência Artificial da Word on Fire, edição 19. Você pode ver daqui.
Tenho algo a confessar. Não tenho medo da inteligência artificial. Mas talvez eu devesse.
A inteligência artificial (IA) permite que os humanos façam mais do que apenas aquilo que as máquinas estão programadas para fazer. aprender Para agir de forma mais eficiente, Aumento Programação com novos recursos e estratégias que os humanos não podem prever e controlar.
Aquilo é, Apenas no caso de, isso é assustador. Mas, como alguém nascido em 1969, vivi toda a minha vida com medo existencial de forças que não consigo compreender ou controlar. E está ficando um pouco velho.
Pessoalmente, sinto o medo da fome global, o medo de uma nova era glacial, o medo do domínio económico do Japão, o medo do domínio económico da China, o medo do colapso económico e o medo dos terroristas nos meus concidadãos americanos. pessoas. O mundo encontra coisas novas para temer, mas descubro que não há nada de novo sob o meu sol.
Ouço preocupações sobre o extremismo político e lembro-me de ter visto Patty Hearst no noticiário da noite. Meus filhos viram o UAP no YouTube. No entanto, uma vez vi um OVNI com meus próprios olhos em um jornal diário. Os críticos levantam a ameaça credível do desastre da IA, mas eu sobrevivi à ameaça credível do desastre do Y2K.
Nem todas estas preocupações são infundadas. Poucos deles eram 100% falsos. E, de fato, nossos medos nos ajudaram a construir barreiras de proteção e a seguir em frente. Então a tecnologia sempre veio junto.
Todas as tecnologias têm benefícios planeados e perdas não intencionais, mas a igreja responde a todas elas da mesma forma. nós os aceitamos. Portanto, a primeira impressão na imprensa foi a Bíblia de Gutenberg, a Bíblia Vulgata Católica. Mas então, depois de Martinho Lutero ter afixado as suas 95 Teses nas portas das igrejas à moda antiga, as impressoras tornaram-na a primeira publicação a tornar-se “viral”.
Guglielmo Marconi fez com que o Papa Pio XI fosse ao rádio em 1931 para apresentar no ar o que parecia ser a declaração técnica da missão da Igreja. É um instrumento que dá aos crentes de todo o mundo a alegria de ouvir a voz do Papa. ”Nos 100 anos seguintes, a Igreja continuou a dar essa alegria ao mundo repetidas vezes, usando os misteriosos poderes tecnológicos do fonógrafo, dos filmes, da televisão, dos CDs e da Internet.
Sou um homem da igreja, por isso abraço a tecnologia, mas recuso-me a juntar-me às pessoas medrosas nos seus bunkers. A meu ver, é como: “Engane-me uma vez, que vergonha.” Que vergonha por me enganar durante décadas com cada filme distópico, cada eleição desde Reagan, cada recessão desde Carter e uma vida inteira de medo indescritível da era moderna. eu mesmo”
O menino chorou como lobo durante toda a vida e eu me acostumei com sua voz.
Mas então me lembrei de algo muito perturbador. O que torna “O Menino Lobo” uma história tão convincente não é o fato de o menino estar errado repetidamente. Foi assim que ele estava da última vez que falou. certo.
Então, ele estará certo desta vez?
problema do gorila
Do que temos medo na IA? Se as peças de xadrez podem ter medo, acho que temos medo disso.
em era da IA, Henry Kissinger e seus coautores explicam como AlphaZero venceu Stockfish no xadrez em 2017. Stockfish é um adversário clássico de xadrez computadorizado. Os programadores alimentaram as melhores estratégias de xadrez da humanidade em uma máquina que pode lembrar instantaneamente os melhores movimentos de todos os tempos. . Desenvolvido pelo DeepThink do Google, o AlphaZero não tinha nada a dizer sobre estratégia humana. São simplesmente dadas as regras e objetivos do jogo.
Após apenas quatro horas de treino e jogando contra si mesmo, AlphaZero derrotou Stockfish por 155-6 com um empate. Mas era como Fiquei tão emocionado por ter vencido. Alpha Zero avançou sobre seus inimigos com uma eficiência implacável além da mente humana até hoje, sacrificando as partes mais preciosas de si mesmo, incluindo sua rainha.
“O xadrez foi abalado até os seus alicerces”, disse o grande mestre Garry Kasparov após a partida. Kissinger e sua equipe temem que “a segurança e a ordem mundial” sejam em breve “abaladas profundamente”. As capacidades únicas da IA significam que “delegar decisões importantes às máquinas pode tornar-se inevitável”. E se isso acontecer, que cavaleiros e rainhas valiosos a IA sacrificará pela causa?
Escrito pelo empresário de IA Mustafa Suleiman As ondas que se aproximam, Ele teme que suas empresas, DeepMind e Inflection AI, façam parte da ascensão inesperada de um novo tipo de superpotência.
Ele disse que “qualquer pessoa com formação em biologia de nível de pós-graduação ou uma paixão pela aprendizagem autodirigida on-line” poderia obter um sintetizador de DNA e “torná-lo muito além de qualquer coisa que existe na natureza”. Ele prevê um futuro em que os pesquisadores possam “criar novos patógenos que são altamente contagiosos e mortais.” Também pode haver maus atores que são mais do que apenas “consertadores de garagem” que literalmente transformam a tecnologia de IA em armas de maneiras que não podemos imaginar.
Ele diz que um tsunami de aplicações de IA eliminará do mapa os nossos preconceitos e a nossa segurança e proteção. Na verdade, os “reparadores de garagem” e os maus atores podem estar mais preparados para os avanços da IA do que os burocratas que navegam pela devida diligência e pelas restrições legais. Suleiman teme uma enorme transferência de poder, uma rápida “hiperevolução” das capacidades da IA e uma aceleração interminável das aplicações da IA em direcção à “omni-utilização”, e que quando tudo estiver dito e feito, “os humanos serão deixados no circuito”. Vou participar?”, ele pergunta. ”
“Ao longo da história, a tecnologia tem sido ‘apenas’ uma ferramenta”, diz Suleiman. “Mas o que acontece quando essa ferramenta ganha vida?” Então enfrentaremos o “problema do gorila”. Tal como os humanos mais fracos mantêm os animais mais fortes nos jardins zoológicos, a IA tem o potencial de eliminar os humanos do topo da cadeia alimentar.
descida ao Egito
Quando perguntei ao Dr. Charles Sprouse, da Faculdade Beneditina de Engenharia do Kansas, onde trabalho, sobre o medo da IA, ele deu-me uma lista notável que prova que o medo é tão global e local como a política me disse.
Sim, tememos armas de IA, drones e robôs que caçam e matam com força e coragem sobre-humanas. Mas também tememos carros autônomos. Que decisões os carros autônomos tomarão? E que tipo de mau funcionamento mudaria essa decisão?
Tememos também uma maior intensificação das “notícias falsas”, à medida que programadores inteligentes com intenções duvidosas enganam o público com deepfakes de conteúdo político. Mas você também deve temer comunicações falsas. Se você começar a conversar com sua esposa em realidade virtual usando o recurso Metaverso, como pode ter certeza de que é realmente com ela que você está falando?
Tememos a vigilância do governo por máquinas que podem reconhecer os nossos rostos, corpos, a forma como andamos e observar o que fazemos nos nossos quintais. Mas também devemos temer a IA corporativa que sabe o que e quanto queremos comer. Onde e com que frequência você joga? e o que pensamos enquanto estamos online.
Muitos de nós tememos que a tecnologia tire nossos empregos. Escritores, profissionais jurídicos e educadores temem o ChatGPT. Mas os designers de software, os investigadores farmacêuticos e os técnicos de laboratório também têm ferramentas poderosas para temer.
Todos estes parecem (a princípio) ser medos muito novos, de tipo diferente dos antigos. Mas é isso?
Portanto, tememos que a IA seja um monstro ou que a IA seja um mestre. Um Exterminador do Futuro que não se importa nem se importa com nada que atrapalhe, ou uma Matriz que nos escraviza até seus fins. A IA tem o potencial de tirar a nossa autonomia, liberdade, vida de escolha e privacidade. Ou poderia acabar com a civilização tal como a conhecemos.
Mas será este realmente um novo tipo de medo?
Na verdade, a IA parece um regresso aos dias dos senhores de escravos egípcios, quando “um novo rei pairava sobre o Egipto e não conhecia José”. Ele disse ao povo: “Veja!” O povo de Israel é mais numeroso e mais poderoso do que nós. Vinde, tratemos deles com sabedoria” (Êxodo 1:8-10). E embora tenhamos medo dos drones robôs, pensemos no Antigo Testamento, onde tribos inteiras foram varridas do mapa impunemente.
Seria o cúmulo da ironia se toda a nossa engenhosidade, à parte de Deus, acabasse na construção de novos e grandes senhores de escravos. O faraó artificial nos envolve no vasto exercício de construção de um monumento piramidal a Mamom, mas não é projeto de ninguém. Só podemos imaginar porque o escopo é amplo demais para ser compreendido por qualquer mente humana.
Mas talvez esse não seja o verdadeiro medo, afinal.
O verdadeiro monstro é a solidão
Comecei a dizer que não tenho medo da inteligência artificial, mas na verdade não tenho. Não do jeito que eu descrevi, de qualquer maneira. Uma coisa que aprendi com toda essa nova tecnologia é que sempre temos medo de estar errados.
Talvez o que realmente devamos temer seja o que Sigmund Freud descreve em seu livro. Civilização e seus descontentamentos. ele escreveu:
“Se não existissem ferrovias para percorrer longas distâncias, meu filho nunca teria saído de sua cidade natal e eu não precisaria de um telefone para ouvir sua voz. Se a travessia não tivesse sido introduzida, meu amigo não teria embarcado em uma viagem , e eu não precisaria de telegramas para aliviar minha ansiedade em relação a ele.
Temíamos as terríveis consequências de cada uma dessas tecnologias, exceto uma muito pior: a solidão.
E é isso que mais devemos temer da IA. É um mundo ainda mais distante daquilo que nos torna humanos. uns aos outros.
Imagem: Buanoy, B20180
