É fácil esquecer que há muita logística envolvida na implantação de LLMs, agentes de IA e motores que estão transformando rapidamente o nosso mundo.
Em outras palavras, as pessoas tendem a pensar nesses sistemas apenas como ferramentas criativas, deixando de lado todos os requisitos técnicos necessários para executar qualquer tipo de programa, inclusive aqueles que utilizam LLMs e redes neurais.
A programação de IA é um obstáculo
Eu tinha ouvido falar sobre uma coisa nova chamada Aplicativos de Análise Semântica. Isso ajuda na otimização declarativa e garante que o programa se comporte bem em diferentes ambientes.
A programação de IA é um obstáculo
Como apontam aqueles que trabalham nesses sistemas, já vimos esse tipo de coisa antes, como na década de 1970, quando os engenheiros de banco de dados estavam evoluindo seus métodos de processamento de dados. Em outras palavras, estamos procurando maneiras de manter algo funcionando corretamente mesmo quando o ambiente muda. Rapidamente.
Como os especialistas costumam apontar, você está constantemente lidando com mudanças de nível que podem causar chicotadas.
Os programadores (ou mais precisamente, os manipuladores) também estão tentando gerenciar os fundamentos de como construir e executar sistemas que façam coisas cognitivas. (Em outras palavras, é como um tratador de zoológico dando um belo bife a um leão?)
Existem novas GPUs, novo hardware, novos serviços, novas ferramentas, novos recursos, e tudo se torna esmagador.
O cientista pesquisador do MIT, Michael Caffarella, disse:
“Imagine que, como programador, você tem alguns objetivos específicos. Você também deseja que eles sejam muito rápidos, baratos e de alta qualidade.”
“Podemos estar processando centenas, milhares ou até milhões de objetos de dados, portanto coisas como tempo de execução e custo são muito importantes.”
“Toda a infraestrutura treme logo abaixo de você todos os dias.”
“Existem milhões de preocupações concorrentes na cabeça de um programador.”
“Nos bastidores,[nosso sistema]está criando hipóteses e testando centenas ou milhares de maneiras de implementar o que você descreveu. Tentamos escolher a implementação mais rápida e que ofereça a melhor qualidade.
Nosso sistema: Palimpzest*
Na palestra recente mencionada acima, dei um exemplo de uma ferramenta imobiliária multimodal e de um sistema chamado Palimpzest que pode agilizar as operações com base no contexto. Esses tipos de ferramentas são úteis como mecanismos de automação que mudam em resposta a outras mudanças, eliminando tarefas como gravação imediata e rotulagem de dados.
Amostra de aplicativo de IA
Portanto, a otimização declarativa pode ajudar a construir a próxima geração de sistemas de IA. Isto é especialmente verdadeiro se você se deparar com alguns fatores limitantes (em termos de cálculos, etc.) com os quais poderá lidar no longo prazo.
