Microsoft heeft de ND H100 v5 Virtual Machine-series geïntroduceerd, waarmee bedrijven een verbeterde infrastructuur krijgen voor het trainen en draaien van generatieve AI-modellen in Azure. Bedrijven die zich inschrijven op de wachtlijst kunnen de VM’s vanaf volgend jaar verwachten.
De nu geïntroduceerde ND H100 v5 Virtual Machine-series moeten het makkelijker maken grotere (generatieve) AI-modellen te trainen en te gebruiken, vindt Microsoft. De nieuwe instances zijn daarvoor gebaseerd op de H100 GPU’s van Nvidia met diens Hopper-architectuur. In totaal hebben de instances acht van deze specifieke GPU’s aan boord.
Daarnaast beschikken de betreffende instances ook over de laatst vierde generatie van Intel Xeon Scalable-processors en low-lantecy networking via de Quatum-1 CX7 InfiniBand-technologie van Nvidia.
Overige features
Overige features van de instances zijn PCIe Gen5 voor een bandbreedte van 64 GB per GPU en DDR5-geheugen voor snellere data-overdrachtssnelheden. Dit laatste moet het trainen van de grootste AI-modellen bespoedigen, is de gedachte.
Geïnteresseerde bedrijven kunnen zich vanaf vandaag op een wachtlijst zetten voor de ND H100 v5 Virtual Machine-series. Volgend jaar moeten honderdduizenden instances beschikbaar zijn voor klanten die deze willen gebruiken.
21 uur geleden
Expert bijdrage
