HPE en Nvidia hebben tijdens HPE Discover 2023 in Barcelona aangekondigd dat men samen een ‘enterprise computing’-oplossing voor generatieve AI gaan leveren. Voor de samenwerking integreren beide partijen hun software-stack, waardoor organisaties AI op eigen schaal en voor eigen doeleinden kunnen inrichten.
Men legt uit dat GenAI voor allerlei toepassingen wordt ingezet, van zoekopdrachten in bedrijfsdata en process automation tot het creëren van nieuwe content. Dit alles vereist snelle deployment en een grote mate van aanpasbaarheid. Daarom benadrukken HPE en Nvidia dat klanten gebruik kunnen maken van de hardware en software die beide bedrijven hebben ontwikkeld.
De inzet van GenAI vereist veel controle over de data die men gebruikt om zo nuttig mogelijk te zijn voor een bedrijf. Daarom benadrukken beide partijen dat organisaties beginnen met een foundation model, waarna eigen data en finetuning-tools de rest van het werk verrichten. Zo hopen HPE en Nvidia de moeite die het kost om AI in te zetten, aanzienlijk te verkleinen.
“Ready-out-of-the-box”
Nvidia-CEO Jensen Huang stelt dat bedrijven dankzij de samenwerking “ongeëvenaarde productiviteit” zullen behalen. Door voor deze oplossing te kiezen, kunnen bedrijven van allerlei formaten aan de slag met een “ready-out-of-the-box”-aanbod. Het voornaamste voorbeeld voor toepassingen blijven AI-chatbots.
Qua hardware maakt HPE gebruik van de eigen ProLiant Compute DL380a-servers, waarin standaard Nvidia-hardware voor “hyperscale AI” is ingebouwd. De oplossing koppelt 16 van deze servers, waardoor 64 L40S-GPU’s van Nvidia samen een schaal van Meta’s Llama 2 70B-model toestaan.
Door gebruik te maken van de HPE Machine Learning Development Software kunnen ontwikkelaars terecht bij een “AI-studio”. Deze tool maakt het mogelijk om prototype- en testversies van LLM’s en ML-modellen te creëren.
Het aanbod zal begin 2024 beschikbaar zijn.
Het is dit jaar een trend om Nvidia te partneren op deze manier, zoals we onlangs hebben gezien bij AWS en bijvoorbeeld al eerder bij VMware.
20 uur geleden
Expert bijdrage
