Os agentes de IA podem automatizar tarefas complexas no lugar de operadores humanos, mas isso pode ter consequências terríveis.
isso é oceano Atlântico Intelligence é um boletim informativo onde nossos redatores ajudam você a entender a inteligência artificial e a nova era das máquinas. Assine aqui.
A IA é elogiada por seus defensores porque pode automatizar tarefas e libertar os usuários de tarefas tediosas (ou, em um exemplo menos lisonjeiro, inundar a web com coisas inúteis). O que acontece quando essa tendência se torna extrema?
Em artigos recentes, atlântico, Jonathan Zittrain escreve sobre a próxima era dos agentes de IA, bots que agem em nome de humanos e não apenas respondem a solicitações específicas, mas também realizam interações mais complexas, como fazer compras ou responder a e-mails de Masu. “Essa rotinização da IA, não apenas falando conosco, mas agindo em todo o mundo, cruzará a barreira hematoencefálica entre digital e analógico, bits e átomos”, escreve Zittrain. “Isso deve nos dar uma pausa.”
Zittrain menciona um homem que criou um bot que pode gerenciar todas as etapas do processo de pedido de pizza. O bot ligaria para uma pizzaria local, “falaria” com voz sintética, atenderia a ligação, solicitaria os recheios adequados e atenderia às condições necessárias. endereço do homem, etc. É lindo! Mas surge um problema quando estes agentes relativamente autónomos estão constantemente a flutuar no éter da Internet, trabalhando incessantemente em direcção a objectivos que há muito perderam a sua relevância, ao mesmo tempo que consomem recursos. E Zitrain aponta que algumas pessoas podem usar esses bots para fins nefastos. “Imagine um grupo de agentes pró-Vladimir Putin juntando-se a um fórum de passatempos, discutindo apaixonadamente esses passatempos e jogando o longo jogo de esperar que surja uma oportunidade aparentemente orgânica para fazer o trabalho.
Zittrain aponta medidas razoáveis que podem ser tomadas agora para evitar desastres futuros sem comprometer os benefícios potenciais que poderiam ser obtidos com esta nova geração de assistentes digitais.
Preciso controlar meu agente de IA agora
Escrito por Jonathan Zittlein
Em 2010, muito antes do surgimento de modelos brilhantes de IA de conversação, como ChatGPT e Claude, um enxame de bots eliminou brevemente US$ 1 trilhão em valor na Nasdaq e em outras bolsas de valores. Uma investigação de longo prazo foi conduzida para descobrir o que aconteceu, por que aconteceu e como evitar que acontecesse novamente. Um relatório da Securities and Exchange Commission sobre o assunto acusou algoritmos de negociação de alta frequência de se envolverem em compras e vendas estúpidas de “batata quente”, enviando contratos inesperadamente entre si.
O “flash crash”, como foi chamado o incidente, pode parecer estranho comparado ao que está por vir. Isso porque, em meio a todo o hype da IA, uma parte iminente da revolução da IA – os agentes – não está sendo considerada o suficiente. Um agente é uma IA que atua de forma independente em nome de um ser humano. Como mostrou o Flash Crash de 2010, os bots automatizados já existem há anos. Mas os modelos de linguagem em grande escala permitem a qualquer pessoa expressar objectivos simples e transformá-los em instruções concretas que os computadores podem interpretar e executar, não apenas num domínio restrito e especializado, como a negociação de valores mobiliários, mas através dos mundos digital e físico. . . Tais agentes são difíceis de compreender, avaliar e neutralizar e, uma vez libertados, podem operar indefinidamente.
Leia o artigo completo.
O que ler a seguir
- O lixo gerado pela IA está inundando o Etsy: “O ChatGPT e outras ferramentas de IA tornaram-se dominantes na cultura popular, assim como a ideia de que você pode perguntar qualquer coisa”, escreveu Caitlin Tiffany no ano passado. “Você também pode me pedir para torná-lo rico.”
P.S.
Você provavelmente já viu as notícias hoje sobre como o bug CrowdStrike deixou off-line grande parte da infraestrutura digital do mundo, aterrou aviões, televisões e interrompeu hospitais. No artigo atlânticoSamuel Arbesman descreveu a situação de uma forma que imediatamente traz à mente o boom da IA. “Nossos sistemas tecnológicos são complexos demais para serem totalmente compreendidos.”
—Damon
