Os pesquisadores acadêmicos sabem que a tecnologia de inteligência artificial (IA) tem o potencial de revolucionar os aspectos tecnológicos de quase todos os setores. E embora sejam formados para aplicar estas inovações de uma forma ética e justa em comparação com as empresas tecnológicas com fins lucrativos, têm acesso limitado às tecnologias caras e poderosas necessárias para a investigação em IA.
Este abismo deixou académicos e investigadores financiados pelo governo preocupados com o facto de a corrida do ouro dos avanços na IA poder deixar para trás as pessoas marginalizadas.
Por exemplo, os radiologistas podem usar agentes generativos de IA para ler raios X, o que teoricamente poderia levar a diagnósticos mais precisos e melhores resultados de saúde. Mas se esse agente de IA for treinado exclusivamente com dados de hospitais em áreas ricas, poderá não ser capaz de reconhecer sinais e sintomas que são mais comuns em áreas de baixos rendimentos.
As pessoas mais ricas “podem ter uma distribuição fundamentalmente diferente de sinais óbvios, e isso não corresponde necessariamente à mesma distribuição em pessoas que têm dificuldade em ir ao médico regularmente, por exemplo”, disse Bronson.・Disse o Sr. Diretor de Ciência do Oak Ridge Leadership Computing Facility do Departamento de Energia dos EUA, no Tennessee. A instalação abriga o Summit, um dos supercomputadores com financiamento público mais poderosos do país, que alguns acadêmicos usam para pesquisas em IA.
“Como os agentes de IA generativa só podem interpretar o que lhes é fornecido, os dados usados para treinar a IA generativa podem conter preconceitos inerentes que são quase impossíveis de identificar após o fato.
divisão de recursos
Eliminar esse preconceito é um dos objetivos mais importantes do Piloto Nacional de Recursos de Pesquisa em Inteligência Artificial (NAIRR), que a National Science Foundation (NSF) ajudou a lançar em janeiro.
“Isso é algo que precisa de atenção, e a academia americana está na melhor posição para investigá-lo”, disse Messer, membro do Grupo de Trabalho de Alocação NAIRR. “Não quero deixar isso para a meta ou para o Google. É uma questão que deveria ser discutida na literatura pública.”
O experimento NAIRR é resultado da ordem executiva do presidente Joe Biden sobre o desenvolvimento e uso seguro e confiável de IA, de acordo com um comunicado de imprensa da NSF, que está liderando o experimento em colaboração com o Departamento de Energia.
Através de um piloto de dois anos, 77 projetos até o momento, a maioria deles associados a universidades, forneceram recursos e recursos de computação e de dados, incluindo acesso remoto ao Summit e outros supercomputadores financiados publicamente. O piloto NAIRR de dois anos está a dar prioridade a projectos centrados no aproveitamento da IA para enfrentar “desafios sociais” em áreas como a agricultura e a saúde.
Os pesquisadores universitários estão na vanguarda da inovação nesses e em outros campos há anos, mas a infraestrutura cada vez mais complexa necessária para conduzir pesquisa e desenvolvimento orientados por IA, conhecida como computação de IA, é cara e concentrada em empresas privadas de tecnologia, como a Open IA e Meta. , em locais geográficos selecionados, como Bay Area, Nova York e Seattle.
Em comparação com as empresas de tecnologia, mesmo as universidades de pesquisa mais bem dotadas do país ficam muito aquém do poder computacional necessário para “consultar, ajustar e treinar modelos de linguagem em larga escala (LLMs) para desenvolver avanços únicos”. Isso é o que diz um artigo da Brookings Institution. E as instituições mais pequenas, a maioria das quais localizadas longe dos principais centros tecnológicos, têm ainda menos recursos e conhecimentos especializados para lidar com a investigação em IA.
Para colocar as coisas em perspectiva, a Reuters informou em abril que a Meta planeja acumular cerca de 600.000 unidades de processamento geográfico (GPUs), chips de computador de última geração que suportam aplicações de IA, até o final do ano. Mas o Summit no Oak Ridge National Laboratory, no Tennessee, tem cerca de 27.000 GPUs.
“Questões fundamentais da democracia”
O impacto potencial desta disparidade nos recursos de investigação em IA é “um verdadeiro problema fundamental para a democracia”, disse Mark Muro, investigador sénior da Brookings Metro especializado na interacção entre tecnologia, pessoas e locais. “Enquanto a IA for um grande impulsionador da produtividade, se isso for verdade, será um problema se apenas alguns lugares realmente beneficiarem do impacto económico.”
O mesmo se aplica à escolha de quais questões de pesquisa investigar e onde e como abordá-las.
“Podemos acabar com questões de pesquisa restritas, escolhidas apenas pelas grandes empresas de tecnologia”, disse Muro.
E essas empresas podem não ter interesse ou incentivos financeiros para abordar questões específicas da região, tais como uma crise sanitária específica ou a gestão de incêndios florestais. “Essas coisas podem realmente ser ativadas por soluções de IA, mas pode não haver ninguém estudando-as naquele local. Mas também há casos em que as soluções baseadas em localização podem ser muito importantes.”
Tal como os escalões superiores da comunidade de investigação académica, a indústria tecnológica é dominada por homens brancos, pelo que também existem preocupações sobre preconceitos raciais e de género.
“Se não expandirmos o conjunto de pesquisas em IA incluindo mais instituições que atendem às minorias e HBCUs, apenas fortaleceremos ainda mais o problema da falta de diversidade neste campo”, disse Jennifer Wang, da Computers. estudante da Escola de Ciências da Universidade Brown e coautor de um artigo da Brookings sobre a lacuna de pesquisa em IA com Muro, publicado no início deste mês.
“Atualmente, grande parte da pesquisa em IA se concentra no desenvolvimento de modelos melhores e com maior desempenho, e menos atenção é dada aos preconceitos dentro desses modelos”, disse Wang. “Esses modelos não são construídos tendo em mente uma população específica, por isso não levam em conta as nuances linguísticas ou o contexto cultural”.
Democratizar a investigação em IA é um dos principais objetivos do piloto NAIRR. Embora se espere que opere por dois anos, a NSF e os diretores do Escritório Federal de Política Científica e Tecnológica expressaram esperança de que o NAIRR tenha financiamento suficiente para continuar além desse período.
Várias universidades de investigação bem conhecidas receberam atribuições, incluindo a Universidade Brown, a Universidade de Harvard e a Universidade de Stanford, mas instituições de investigação menos conhecidas, como a Universidade de Memphis, a Universidade Estatal da Florida e a Universidade Estatal de Iowa, também estão a participar no piloto NAIRR. Eu sou.
Como exemplo, um projeto da Universidade Estadual de Iowa está usando o supercomputador Frontera no Texas Advanced Computing Center da Universidade do Texas em Austin para “identificar pragas agrícolas e, em última análise, fazer recomendações para controle. ferramentas baseadas em inteligência artificial para Vá para o comunicado de imprensa da universidade.
acesso justo
Mas sem a ajuda dos pilotos do NAIRR, o lançamento poderia não ter acontecido.
“A investigação universitária está muitas vezes numa fase inicial e tem a flexibilidade para se concentrar em questões socialmente relevantes nas quais a indústria não está actualmente interessada, garantindo que questões críticas como a resiliência agrícola recebem a atenção que merecem”, disse Bhaskar Ganapathysubramanian. um professor de engenharia que está liderando o projeto. O diretor do Instituto de IA para Agricultura Resiliente do Estado de Iowa disse por e-mail. “Isso permite que a pesquisa acadêmica priorize o interesse público em detrimento dos interesses comerciais e se concentre em considerações éticas e no impacto social de longo prazo.”
Katy Antipas, diretora da Divisão de Infraestrutura Cibernética Avançada da NSF, disse em um e-mail que, enquanto houver recursos disponíveis, a NSF espera que “o próximo conjunto de projetos seja anunciado em breve, e aproximadamente mensalmente a partir de então”. e-mail.
No entanto, dado que o Congresso reduziu o orçamento do ano fiscal de 2024 da NSF em 8 por cento, não está claro se a NAIRR se tornará um elemento permanente do empreendimento de investigação académica.
“Acreditamos que o piloto NAIRR de dois anos tem um grande potencial”, disse Julia Jester, vice-presidente de relações governamentais e políticas públicas da Associação de Universidades Americanas, por e-mail. “No entanto, para atingir o objetivo do projeto de melhorar amplamente o acesso à infraestrutura de IA necessária para avançar a pesquisa e treinar a próxima geração de pesquisadores, a NSF e outras agências precisarão de significativamente mais recursos.”
Suresh Venkatasubramanian, professor de ciência da computação e de dados na Brown University e diretor do Center for Technology Accountability da universidade, pretende desenvolver ferramentas para aumentar a transparência dos dados usados no treinamento LLM. Acabamos de iniciar nosso projeto piloto NAIRR.
À medida que a tecnologia de IA começa a permear todas as profissões, incluindo a investigação, as empresas e os cuidados de saúde, é importante considerar plenamente o seu impacto.
“Acredito que as instituições de ensino superior como um todo devem abraçar o que vemos na IA, aprender sobre ela, brincar com ela e reimaginar como ela pode ser usada além da nossa imaginação para ajudar aqueles que trabalham na educação a entregar soluções”. muito importante para empresas de tecnologia”, disse Venkatasubramanian. “Você não pode fazer isso sem acesso justo às principais unidades de computação.”
