Com a combinação de Snowflake e Nvidia, os modelos personalizados estão melhor equipados com dados empresariais abrangentes para permitir respostas mais precisas possíveis.
Os dois parceiros conseguirão isso integrando a plataforma de software Nvidia AI Enterprise e Snowflake Cortex AI. Este serviço Snowflake analisa dados de texto e pode ser usado para construir aplicativos de IA. “Juntos, estamos construindo uma tecnologia de IA que permite que clientes de todos os setores e níveis de habilidade criem aplicativos de IA personalizados com facilidade, eficiência e confiança com base em dados corporativos”, disse o CEO da Snowflake, Sridhar Ramaswamy. “
Especificamente, Cortex AI usa o microsserviço Nvidia AI Enterprise NeMo Retriever. A estrutura NeMo foi projetada para construir, personalizar e implantar IA generativa. NeMo Retriever concentra-se especificamente na funcionalidade RAG. Este é um microsserviço de pesquisa semântica que permite que aplicativos de IA forneçam respostas mais precisas por meio de algoritmos otimizados para Nvidia. Os desenvolvedores podem usá-lo para conectar seus aplicativos a dados corporativos na nuvem ou no datacenter.
pontas: O que é geração de extensão de pesquisa?
Além disso, a Cortex AI agora aproveitará o Triton Inference Server, um software da Nvidia para padronizar a implantação de modelos. Essa integração com os componentes Nvidia AI Enterprise permite implantar, executar e estender a inferência de IA para qualquer aplicativo em qualquer plataforma.
O microsserviço de inferência Nvidia NIM é o componente final que funciona melhor com Snowflake. Isso permite que você implante contêineres de IA criados pela Nvidia diretamente no Snowflake como aplicativos nativos desenvolvidos pelo Snowpark Container Services. Este aplicativo oferece suporte à implantação de modelos básicos em sua nuvem de dados.
Colaboração em relação ao Arctic-LLM
Snowflake e Nvidia também colaborarão ainda mais no LLM Arctic. Este modelo foi introduzido pela Snowflake em abril deste ano e apoia principalmente o trabalho de desenvolvimento. A Nvidia oferece o Arctic como um microsserviço NIM, dando aos desenvolvedores acesso rápido a novos modelos para Snowflake por meio do catálogo API da Nvidia.
pontas: Snowflake junta-se à guerra LLM com a introdução do Ártico
