A inteligência artificial conquistou o mundo, mas sua ascensão não foi barata.
“A IA multimodal resultou em um aumento exponencial na quantidade de dados e no poder computacional usado para treinar sistemas modernos de IA.” RK AnandCofundador e Diretor de Produto reconhecerele disse ao PYMNTS.Efeito de IA” Series.
Ele explicou que era parte do treinamento de hoje. máximo modelo básicoas empresas passam meses Ano, E mais de centenas de milhões de dólares.
e essa Gastos Não termina quando o modelo está pronto. Como apenas um exemplo, metaEspera-se que as previsões independentes para as despesas de capital do ano fiscal para o desenvolvimento de IA e Metaverso estejam na faixa de US$ 35 bilhões a US$ 40 bilhões até o final deste ano, sugerindo que o Meta acelerará o retorno do investimento em IA. seus gastos. 5 bilhões de dólares mais do que era originalmente originalmente Planejado.
É por isso que é tão importante impulsionar o desenvolvimento de sistemas de próxima geração para soluções de inferência de IA que possam melhorar o desempenho e a eficiência energética, ao mesmo tempo que minimizam o custo total de propriedade, disse Anand.
“É na inferência que a IA crescerá em escala e demanda. faça acontecerPortanto, construir a tecnologia mais eficiente em termos de custo de energia e custo operacional total é chave No caso da IA, disse ele.
Melhorar a eficiência energética se traduz diretamente em custos operacionais mais baixos.
Leia também: Por que é importante medir o ROI para tecnologias transformacionais como GenAI? difícil
Crie uma infraestrutura melhor projetada para cargas de trabalho de IA mais inteligentes
Como explicou Anand, a inferência de IA é o próximo passo na IA treinamento, É aquele com o qual o usuário final está mais familiarizado.
O treinamento em IA é processo de construção Um modelo com pesos apropriados e algoritmos de entrada/saída desejados que permite ao sistema de IA fazer inferências precisas acima de um limite de qualidade definido. A inferência de IA é o processo pelo qual um sistema de IA gera previsões ou conclusões que atendem aos seus limites de saída.
“Inferência ocorre quando o modelo não está aprendendo nada novo, mas está fazendo seu trabalho de responder às solicitações do usuário e às chamadas de API”, diz Anand. “E agora podemos otimizar essa tarefa.”
Quase todas as aplicações de IA do mundo real dependem de inferência de IA. e expressão inferencial Custos contínuos de energia e computação. Quando um modelo de IA está sendo usado ativamente, ele faz inferências adicionais continuamente; Isso acontecerá eventualmente É muito caro, pelo menos se a economia unitária do sistema de IA não for estrategicamente otimizada para compensar esse custo.
“O treinamento é um centro de custos inevitável”, explicou Anand. “A construção de modelos custa muito dinheiro. Mas a inferência pode ser o centro do lucro. Isso ocorre porque os elementos envolvidos na inferência são quanto custa para operar esse sistema de inferência. Porque se trata de quanto custa.” Sou eu? planeja cobrar dos clientes uma taxa de uso; você tem Existe diferença de lucro para eu prestar esse serviço? A economia de inferência é fundamental. ”
Veja também: Recogni levanta US$ 102 milhões para permitir computação para aplicações de IA solicitar
A remoção de pesos excessivos e a redução da precisão do modelo por meio da quantização são duas maneiras comuns de projetar modelos mais eficientes que melhoram o desempenho durante a inferência.ele adicionou.
Porque até 90% da vida útil de um modelo de IA é é gasto No modo de inferência, a maior parte do custo e da pegada energética da IA também está presente, tornando a otimização da IA e a redução dos custos operacionais uma proposta atraente.
“As empresas podem pegar modelos robustos e de alta qualidade e trazê-los internamente, seja na nuvem ou no local, para obter maior produtividade, maior retorno sobre o investimento e tarefas de inferência. ”, disse Anand. “Para fazer isso, a inferência deve ser a mais eficiente, a mais econômica e a mais eficiente em termos de energia.”
A menos que a economia unitária da IA comece a fazer mais sentido numa base de custos, a indústria “estará em apuros”, explicou Anand, acrescentando que o ambiente de negócios está apenas a gerar mais dados que só a IA pode aproveitar. chegamos a um ponto de inflexão.solução na posição perfeita Analise e reconheça de forma eficaz chave padrão.
“Não existe uma maneira humana de analisar, compreender e extrair esses dados”, disse ele. “Portanto, precisamos de grandes máquinas de IA.”
“As pessoas utilizam ferramentas e sistemas apenas quando isso melhora a sua produtividade, mas isso não lhes custa mais do que custa actualmente para crescer e operar os seus negócios”, disse Anand. “As empresas não podem aumentar significativamente os seus gastos operacionais só porque querem usar IA. Atualmente, temos uma regra 80/20, o que significa que 80% da computação. é usado É usado para treinar IA, mas à medida que mais pessoas usam IA em seu trabalho diário, 80% mudarão para inferência. ”
Para toda a nossa cobertura de PYMNTS AI, assine nossa assinatura diária Boletim informativo sobre IA.
