A Meta promete que sua próxima geração de chips de IA personalizados será mais poderosa e capaz de treinar modelos de classificação com mais rapidez.
O Meta Training and Inference Accelerator (MTIA) foi projetado para funcionar melhor com os modelos de classificação e recomendação do Meta. Os chips ajudam a tornar o treinamento mais eficiente e a inferência (e, portanto, a tarefa de inferência real) mais fácil.
A empresa disse em um blog que a MTIA é uma parte fundamental de seu plano de longo prazo para construir infraestrutura em torno de como usa IA em seus serviços. A empresa deseja projetar seus chips para se alinharem à infraestrutura tecnológica atual e aos avanços futuros da GPU.
“Atingir nossos objetivos para silício personalizado significa investir não apenas em silício computacional, mas também em largura de banda de memória, rede, capacidade e outros sistemas de hardware de próxima geração”, postou Meta.
A Meta anunciou o MTIA v1 em maio de 2023 e está focada em levar esses chips aos data centers. A próxima geração de chips MTIA provavelmente também terá como alvo os data centers. O MTIA v1 não estava programado para ser lançado até 2025, mas Mehta disse que ambos os chips MTIA estão agora em produção.
Atualmente, o MTIA treina principalmente algoritmos de classificação e recomendação, mas Mehta disse que o objetivo é eventualmente expandir as capacidades do chip para começar a treinar IA generativa como o modelo de linguagem Llama.
Mehta disse que os novos chips MTIA estão “fundamentalmente focados em fornecer o equilíbrio certo entre computação, largura de banda de memória e capacidade de memória”. O chip terá 256 MB de memória on-chip a 1,3 GHz em comparação com 128 MB e 800 GHz na v1. Os primeiros resultados dos testes da Meta mostraram que o desempenho do novo chip foi três vezes melhor do que a versão de primeira geração nos quatro modelos avaliados pela empresa.
A corrida para comprar chips poderosos destacou a necessidade de chips personalizados para executar modelos de IA. A demanda por seus chips cresceu tanto que a Nvidia, que atualmente domina o mercado de chips de IA, está avaliada em US$ 2 trilhões.
