Gebruikers van Oracle Cloud Infrastructure (OCI) kunnen nu generatieve AI-modellen trainen met Nvidia-hardware. Ze kunnen gebruikmaken van het Nvidia DGX Cloud AI supercomputingplatform en Nvidia AI Enterprise.
De trainingsfunctionaliteit van DGX Cloud en AI Enterprise zijn nu beschikbaar in de Oracle Cloud Marketplace, geven beide techgiganten aan. Voor OCI-gebruikers is het daardoor mogelijk met simpele handelingen toegang te krijgen tot de benodigde rekenkracht en software voor het draaien van veilige, stabiele en ondersteunde AI-mogelijkheden die direct in productie kunnen worden genomen.
OCI en Nvidia DGX Cloud AI-omgeving
Bedrijven kunnen op deze manier direct vanuit de Oracle Cloud Marketplace hun modellen in de Nvidia DGX Cloud AI-omgeving trainen. De Nvidia DGX Cloud AI-omgeving geeft OCI-gebruikers toegang tot multi-node AI-trainingsfunctionaliteit op Nvidia GPU’s. Iedere instance omvat acht Nvidia Tensor Core GPU’s met netwerkinterconnectie die speciaal geschikt is voor multi-node training.
Het beheer wordt uitgevoerd via het Nvidia Base Command Platform. Dit enkel dashboard geeft gebruikers toegang tot een AI-supercomputer via een webbrowser.
Mogelijkheden Nvidia AI Enterprise-software
De koppeling met de Nvidia AI Enterprise software maakt het mogelijk de eerder getrainde modellen direct uit te rollen op OCI.
Hiervoor beschikt de software onder meer over Nvidia NeMo frameworks voor het bouwen van LLMs, Nvidia RAPIDS for data science-toepassingen en Nvidia TensorRT-LLM- en Nvidia Triton Inference Server voor het ‘superchargen’ van de productie-AI. Ook is Nvidia-software voor security, computer vision en spraak-AI toegevoegd.
OCI-gebruikers kunnen verder hun universal cloud credits gebruiken om de AI-trainings- en uitrolmogelijkheden van Nvidia in hun eigen ontwikkel- en uitrol-pipelines te integreren.
Lees ook: Nvidia laat klanten AI-supercomputer huren met DGX Cloud
2 dagen geleden
Expert bijdrage
