ARLINGTON, Virgínia (AP) – Muito antes do boom da IA generativa, uma empresa do Vale do Silício contratada para recolher e analisar dados não confidenciais sobre o comércio ilícito de fentanil na China conseguiu convencer as agências de inteligência dos EUA a aceitá-la.
Os resultados desta operação excederam em muito a análise apenas humana, encontrando o dobro de empresas e 400% mais pessoas envolvidas no comércio ilegal ou suspeito de opiáceos mortais.
Entusiasmados, funcionários da inteligência dos EUA elogiaram publicamente os resultados (a IA foi baseada em grande parte em dados da Internet e da dark web) e os compartilharam com as autoridades em Pequim, provocando uma repressão.
Um dos principais aspectos da operação de 2019 é chamada lança de zibelina, Isso não foi relatado antes. A empresa usou IA generativa para fornecer às agências governamentais dos EUA resumos de evidências em possíveis casos criminais, três anos antes do lançamento do produto inovador ChatGPT da OpenAI, economizando inúmeras horas de trabalho.
“Não é possível fazer isso sem inteligência artificial”, disse Brian Drake, então diretor de IA e coordenador de projetos da Agência de Inteligência de Defesa.
A empreiteira Rhombus Power usaria mais tarde IA generativa para prever uma invasão russa em grande escala na Ucrânia com quatro meses de antecedência, com 80% de precisão, para outro cliente do governo dos EUA. A Rhombus disse que também está alertando os clientes do governo (que não mencionou) sobre os iminentes lançamentos de mísseis norte-coreanos e as operações espaciais chinesas.
As agências de inteligência dos EUA estão correndo para abraçar a revolução da IA, acreditando que serão sobrecarregadas pelo crescimento exponencial de dados à medida que a tecnologia de vigilância gerada por sensores cobre uma maior parte do planeta.
Mas as autoridades dizem que a tecnologia ainda é nova e frágil, e que a IA generativa (modelos preditivos treinados em vastos conjuntos de dados para gerar textos, imagens, vídeos e conversas humanas sob demanda) estou perfeitamente ciente de que não foi criada para fins arriscados. transações. Está impregnado de engano.
Os analistas precisam de “modelos sofisticados de inteligência artificial que possam digerir grandes quantidades de informações de código aberto e obtidas secretamente”, disse o diretor da CIA, William Burns. Escrevi recentemente sobre isso em Foreign Affairs. Mas não é fácil.
Nand Mulchandani, o primeiro diretor de tecnologia da CIA, disse que os modelos de geração de IA “mostraram alucinações” e são capazes de grande percepção e criatividade, mas são propensos a preconceitos e são “loucos, bêbados, acho melhor tratá-los como amigos”. . Existem também questões de segurança e privacidade. Os inimigos podem roubá-los ou envenená-los e também podem conter dados pessoais confidenciais que os policiais não têm permissão para ver.
No entanto, isso não impede os experimentos, que em sua maioria são realizados em segredo.
Exceção: Existem atualmente milhares de analistas em 18 agências de inteligência dos EUA. Usa Gen AI desenvolvida pela CIA chamado Osíris. Isto é feito com base em dados públicos ou comerciais não classificados, os chamados dados de código aberto. Ele cria resumos anotados e sua funcionalidade de chatbot permite que os analistas se aprofundem nas consultas.
Mulchandani, que não quis citar nomes, disse que a empresa emprega vários modelos de IA de diferentes fornecedores comerciais. Também não disse se a CIA está a utilizar IA genética para fins sensíveis em redes sensíveis.
“Ainda é cedo e os nossos analistas precisam de ser capazes de marcar a origem da informação com certeza absoluta”, disse Mulchandani. A CIA tentou todas as principais gerações de modelos de IA, mas não se comprometeu com nenhum, em parte porque a IA continua a superar-se mutuamente em termos de capacidades, disse ele.
Mulchandani disse que a Geração AI se destaca principalmente como assistente virtual, procurando a “agulha em uma pilha de agulhas”. As autoridades argumentam que os analistas humanos nunca podem ser substituídos.
Linda Weisgold, que se aposentou como vice-diretora de análise da CIA no ano passado, acredita que os jogos de guerra serão um “aplicativo matador”.
Durante o seu mandato, a agência já utilizava IA regular (algoritmos e processamento de linguagem natural) para tarefas como tradução e alerta de analistas após o expediente sobre desenvolvimentos potencialmente importantes. A IA não será capaz de explicar o que aconteceu e será classificado, mas poderá dizer: “Ei, há algo que preciso vir aqui e investigar”.
Espera-se que a Gen AI melhore esses processos.
Anshu Roy, CEO da Rhombus Power, acredita que o uso mais potencial dessa inteligência está na análise preditiva. “Esta é provavelmente uma das maiores mudanças de paradigma em todo o domínio da segurança nacional: a capacidade de prever o que um adversário poderá fazer.”
As máquinas de IA da Rhombus utilizam mais de 5.000 fluxos de dados em 250 idiomas coletados ao longo de 10 anos, incluindo fontes de notícias globais, imagens de satélite e dados do ciberespaço. Tudo de código aberto. “Você pode rastrear pessoas, você pode rastrear objetos”, disse Roy.
Os gigantes da IA que disputam os negócios de inteligência dos EUA incluem a Microsoft, que anunciou em 7 de maio que ofereceria o GPT-4 da OpenAI para redes ultrassecretas.
O concorrente Primer AI lista duas agências de inteligência anônimas como clientes, incluindo os serviços militares, de acordo com documentos publicados online para um recente workshop militar de IA. Ele oferece pesquisa com tecnologia de IA em 100 idiomas para “detectar sinais emergentes de emergência” e identificar “pessoas, organizações e locais importantes” de fontes como Twitter, Telegram, Reddit e Discord Help. Segmentação da lista Primer Usos anunciados da tecnologia. em Manifestação em uma conferência do exército dias após o ataque do Hamas em 7 de outubro Em relação a Israel, os executivos da empresa explicaram como a sua tecnologia separa os factos da ficção no meio da enxurrada de informações online provenientes do Médio Oriente.
Os primeiros executivos não quiseram ser entrevistados.
No curto prazo, a forma como as agências de inteligência dos EUA aproveitam a IA geracional pode ser menos importante do que combater a forma como os adversários a utilizam. espalhar informações falsas E procura minar a capacidade de Washington de ler as suas intenções e capacidades.
E com o Vale do Silício impulsionando a tecnologia, a Casa Branca está preocupada que cada geração de modelos de IA empregados pelas agências governamentais dos EUA possa ser comprometida e contaminada. Muito ameaçador.
Outra preocupação é garantir a privacidade dos “americanos” cujos dados possam estar incorporados em modelos linguísticos de grande escala.
“Quando você conversa com pesquisadores e desenvolvedores que treinam modelos de linguagem em larga escala e pergunta se é possível remover basicamente uma informação discreta de um LLM e esquecê-la, você descobrirá que não há nenhuma evidência empírica robusta. Você pode Não garanto esse esquecimento, mas é impossível”, disse John Byler, diretor de IA do Gabinete do Diretor de Inteligência Nacional, em entrevista.
Esta é uma das razões pelas quais a comunidade de inteligência não está no modo “agir rapidamente e quebrar as coisas” quando se trata de implementar a IA da próxima geração.
“Podemos agir rapidamente e introduzir um desses recursos e, dois ou três anos depois, descobrir que eles têm alguma informação, algum impacto ou algum comportamento novo que não esperávamos. um mundo onde as pessoas percebam isso”, disse Byler.
Por exemplo, seria preocupante se uma agência governamental decidisse utilizar a IA para pesquisar tecnologia de armas biológicas ou cibernéticas.
William Hartung, pesquisador sênior do Instituto Quincy para Estados Responsáveis e Estudos Estratégicos, disse que as agências de inteligência precisam garantir que a IA seja usada para garantir que não tenha consequências indesejadas, como vigilância ilegal ou aumento de vítimas civis em conflitos. avaliar cuidadosamente se essa possibilidade existe.
“Tudo isto segue um padrão recorrente em que os departamentos militares e de inteligência têm alardeado 'armas milagrosas' e abordagens revolucionárias, desde os campos de batalha electrónicos do Vietname ao programa Guerra nas Estrelas da década de 1980 até à 'revolução militar que está a acontecer no interior.' Nas décadas de 1990 e 2000, eles se mostraram inadequados”, disse ele.
Funcionários do governo dizem que são sensíveis a tais preocupações. Além disso, dizem que a missão da IA variará muito dependendo da agência envolvida. Não existe um método único para todos.
Considere a Agência de Segurança Nacional. Interceptar comunicações. ou a Agência Nacional de Inteligência Geoespacial (NGA). Esse trabalho envolve ver e compreender cada canto do planeta. depois disso, Informações sobre medições e assinaturasusado por diversas agências para rastrear ameaças usando sensores físicos.
Alimentar estas missões com IA é claramente uma prioridade.
Em dezembro, a NGA anunciou: Solicitação de Proposta Um tipo completamente novo de modelo generativo de IA. Seu objetivo é usar imagens coletadas de satélites e do solo para coletar informações geoespaciais precisas com comandos simples de voz ou texto. Mark Mansell, diretor de inovação da NGA, disse em uma entrevista que os modelos Gen AI não mapeiam estradas ou ferrovias e “não entendem os fundamentos da geografia”.
O Sr. Mansell disse em sua palestra: Conferência de abril Arlington, Virgínia, descobriu que o governo dos EUA atualmente modela e rotula apenas cerca de 3% da Terra.
As aplicações Gen AI também fazem muito sentido para conflitos cibernéticos, onde atacantes e defensores estão constantemente em combate e a automação já está em vigor.
Mas grande parte do importante trabalho de inteligência não tem nada a ver com ciência de dados, diz o ex-oficial de inteligência de defesa Zachary Tyson Brown. Ele acredita que se as agências de inteligência implantarem IA geracional muito rápida ou completamente, isso significará um desastre. O modelo não tem razão. Eles estão apenas prevendo. E seus designers não conseguem explicar completamente como funcionam.
Portanto, não é a melhor ferramenta para competir em inteligência com mestres rivais do engano.
“A análise de inteligência geralmente é semelhante à velha metáfora de montar um quebra-cabeça, exceto que alguém está sempre tentando roubar suas peças enquanto coloca peças de um quebra-cabeça totalmente diferente na pilha em que você está trabalhando. faça isso”, disse Brown. Eu escrevi recentemente No diário interno da CIA. Os analistas trabalham com “peças de informação incompletas, ambíguas e muitas vezes contraditórias”.
Eles depositam grande confiança em seus instintos, colegas e memória institucional.
“A IA não substituirá os analistas tão cedo”, disse Weisgold, ex-vice-diretor de análise da CIA.
Talvez seja necessário tomar decisões rápidas de vida ou morte com base em dados incompletos, mas os modelos de IA da geração atual ainda são muito opacos.
“Não creio que algum dia seria aceitável para qualquer presidente que a comunidade de inteligência chegasse e dissesse: ‘Não sei, a caixa preta acabou de dizer isso'”, disse Weisgold.
