Door de combinatie van Snowflake met Nvidia zijn op maat gemaakte modellen beter te voorzien van uitgebreide bedrijfsdata, om de reacties zo accuraat mogelijk te maken.
Dit realiseren de twee partners via een integratie van het Nvidia AI Enterprise-softwareplatform met Snowflake Cortex AI. Deze Snowflake-dienst wordt gebruikt voor het analyseren van tekstdata en het bouwen van AI-applicaties. “Samen ontsluiten we een nieuw AI-tijdperk waarin klanten uit elke sector en elk vaardigheidsniveau met gemak, efficiëntie en vertrouwen aangepaste AI-applicaties kunnen bouwen op hun bedrijfsdata,” zegt Snowflake-CEO Sridhar Ramaswamy.
Specifiek maakt Cortex AI gebruik van de Nvidia AI Enterprise-microservice NeMo Retriever. De NeMo-frameworks zijn bedoeld voor het bouwen, aanpassen en inzetten van generatieve AI. NeMo Retriever richt zich dan in het bijzonder op RAG-mogelijkheden. Het dient als een semantic-retrieval microservice die AI-applicaties accuratere reacties laat geven via door Nvidia geoptimaliseerde algoritmes. Ontwikkelaars die hiervan gebruikmaken kunnen de apps verbinden met bedrijfsdata in clouds en datacenters.
Tip: Wat is RAG (Retrieval-Augmented Generation)?
Daarnaast zal Cortex AI voortaan Triton Inference Server benutten, de Nvidia-software voor het standaardiseren van modeldeployment. De samenwerking met dit Nvidia AI Enterprise-onderdeel maakt het mogelijk AI-inference te deployen, draaien en schalen voor iedere applicatie op ieder platform.
Nvidia NIM inference microservices is het laatste onderdeel dat beter zal samenwerken met Snowflake. Hierdoor kunnen door Nvidia gebouwde AI-containers direct in Snowflake worden uitgerold als native-app, aangedreven door Snowpark Container Services. Deze app ondersteunt het deployen van foundation models in de Data Cloud.
Tip: Snowpark Container Services: wat betekent het in de praktijk?
Samenwerking omtrent Arctic-LLM
Snowflake en Nvidia gaan verder ook samenwerken rond LLM Arctic. Dit model introduceerde Snowflake in april van dit jaar en helpt vooral bij ontwikkelwerkzaamheden. Nvidia zal nu Arctic aanbieden als een NIM-microservice, zodat developers via de Nvidia API-catalogus snel toegang krijgen tot het nieuwe model van Snowflake.