Armadilhas da análise de políticas tecnológicas baseadas em impressões

No final de 2022, a OpenAI lançou um modelo de linguagem em larga escala (LLM) baseado em transformador chamado “ChatGPT”. Contrariamente às expectativas da equipe da OpenAI, o ChatGPT se tornou o aplicativo baseado na web de crescimento mais rápido da história, alcançando 100 milhões de usuários ativos em dois meses (superado apenas pelos Threads da Meta). As impressões públicas iniciais do ChatGPT foram de qualidade sublime e um presságio de destruição. Em fevereiro de 2023, Henry Kissinger, Eric Schmidt e Daniel Huttenlocker propuseram que a inteligência artificial generativa (IA) é comparável à revolução intelectual iniciada pela imprensa, desta vez integrando o depósito de conhecimento da humanidade e criando um “Então ele escreve. Em Março de 2023, Eliezer Yudkowsky previu riscos de extinção e implorou aos governos e militares de todo o mundo que suspendessem os projectos de IA e “estejam dispostos a destruir centros de dados desonestos com ataques aéreos”.

Embora estas primeiras impressões representem extremos opostos do espectro, o raciocínio que ocupa o espaço entre elas é comum na análise de políticas tecnológicas. Por outras palavras, as impressões pessoais da IA ​​generativa permeiam os pressupostos subjacentes à análise política. Quando pressupostos fundamentalmente importantes não são contestados, é fácil cair na armadilha de extrapolar maravilhas tecnológicas futuras a partir do estado actual da tecnologia. Analistas de política tecnológica de todas as esferas da vida estão a fazer um excelente trabalho, mas é hora de identificar as lacunas no nosso raciocínio e almejar mais alto, individual e colectivamente.

Os exemplos mostram tendências gerais. Paul Scharre, do Centro para uma Nova Segurança Americana, aborda o futuro da IA ​​em seu livro Four Battlegrounds (um tesouro de insights em geral), mas ele se inclina para os seguintes pensamentos: Isso resulta em um modelo mais robusto. Conjuntos de dados multimodais podem ser úteis para construir modelos que possam relacionar conceitos expressos em vários formatos, como texto, imagens, vídeo e áudio. ”Essa expectativa é baseada na ideia de que a expansão dos sistemas de IA (aumentando sua capacidade interna e conjuntos de dados de treinamento) lhes dará novas capacidades, e os benefícios de tais técnicas são discutidos em “The Bitter Affirmativamente, de Richard Sutton, faz referência à famosa discussão em “ Lição''.

Pouco tempo depois, os pesquisadores da Microsoft ajudaram a definir o tom para uma série de afirmações excessivamente otimistas sobre o futuro do LLM em seu artigo provocativamente intitulado sobre GPT-4, “Sparks of Artificial General Intelligence”. Não é difícil ver como as impressões pessoais do GPT-4 podem levar a uma sensação equivalente de “estamos à beira de algo grande aqui”. No entanto, isto não justifica permitir que os pressupostos ligados a este sentimento se deteriorem na análise.

Uma extensa pesquisa revelou as limitações do LLM e de outros sistemas baseados em Transformer. As alucinações (declarações oficiais, mas factualmente incorretas) continuam a atormentar o LLM, com alguns pesquisadores sugerindo que são simplesmente uma característica inata da tecnologia. Um estudo recente descobriu que os eleitores que utilizam chatbots para obter informações básicas sobre as eleições de 2024 têm maior probabilidade de serem mal informados sobre locais de votação fantasmas e outras informações falsas ou desatualizadas. Outros estudos mostraram que os LLMs ficam atrás das habilidades humanas na formação de abstrações e na sua generalização. O poder de raciocínio dos sistemas multimodais é uma história semelhante. O mais recente desenvolvimento da OpenAI, o gerador de texto para vídeo Sora, é bom em realismo, mas cria objetos e pessoas do nada e não adere à física do mundo real.

Chega da ideia de que novas modalidades, como imagens e vídeos, levarão aos sistemas de IA confiáveis, robustos e explicáveis ​​que desejamos.

Nada disso sugere que haja apenas O hype no mundo da tecnologia.Matt O'Shaughnessy, da Carnegie, salienta, com razão, que falar de “superinteligência” pode ter um impacto negativo na formulação de políticas. porque Descreva as limitações básicas do aprendizado de máquina. Além disso, embora a ampla ordem executiva da administração Biden sobre IA, emitida em outubro de 2023, invoque dramaticamente a Lei de Produção de Defesa para autorizar a vigilância de certos sistemas de IA com uso intensivo de computação, o tom da decisão foi mais diversificado do que eu esperava.

Mas o problema que identificamos aqui não é de exagero em si. O que é hype? resultado Cair num quadro de análise que é facilmente ignorado em favor de publicações fáceis e de autopromoção pessoal ou organizacional. Para que você não acredite erroneamente que esta é simplesmente uma tendência idiossincrática exclusiva do LLM, a decepção dos drones autônomos habilitados para IA nos campos de batalha da Ucrânia levanta sobrancelhas sobre o suposto rápido surgimento de avanços radicais em 2023. Deveria ser escondido. Além disso, é fácil encontrar nuances. Mas, ao mesmo tempo, parece haver pouca reflexão pessoal ou colectiva à medida que começamos a pensar que o futuro da sua jóia da coroa, a computação quântica, será degradado.

Mas a IA generativa de hoje começa a parecer uma paródia da Revolução em Série de Mao. Transformar esta tecnologia numa inteligência “geral” semelhante à humana, ou em qualquer outra maravilha da imaginação tecnológica, requer sempre uma atualização de modelo, o que não é permitido. sucumbir aos desafios dos órgãos reguladores e dos movimentos populares;

É importante ressaltar que os analistas políticos fazem escolhas ao avaliar tecnologias. A escolha de um pressuposto específico em detrimento de outros apresenta ao analista um conjunto específico de opções políticas possíveis. às custas de outros. As primeiras impressões dos indivíduos sobre as novas tecnologias são inevitáveis ​​e podem ser uma fonte de diversidade de opiniões. O problema com a análise de políticas é que os profissionais não conseguem despejar as suas primeiras impressões (ou segundas impressões, terceiras impressões, etc.) num caldeirão partilhado que expõe ideias instáveis ​​a críticas intelectuais acaloradas, garantindo assim que isso ocorre devido à incapacidade de orientar pessoas no sentido de esclarecerem as suas questões políticas. As soluções podem ser derivadas sem ignorar indevidamente outras possibilidades.

A análise política normalmente combina elementos da indústria, da política interna e dos assuntos internacionais.A simples identificação de que existe um desafio político não é suficiente Também Mas é a partir de uma ligação intuitiva entre as necessidades e valores de uma sociedade e os impactos esperados ou reais dos desenvolvimentos dentro das suas fronteiras ou no exterior. Esta intuição é algo que todos temos e deve ser o foco do nosso escrutínio honesto e partilhado.

Vicente J. Kalkidi Ele é bolsista não residente do Programa de Tecnologia Estratégica e Segurança Cibernética do Middle East Institute. Ele também é membro da Coorte de Política Externa 2024 da Iniciativa da Próxima Geração da América.