Microsoft gaat Azure-clusters aanbieden met AMD’s MI300X-chip. Door deze stap is Microsoft niet meer afhankelijk van Nvidia om krachtige AI-workloads te laten draaien.
Meer details volgen tijdens Microsoft Build volgende week, meldt Reuters. Microsoft zal tegelijkertijd meer vertellen over een nieuwe lijn aan Cobalt 100-processoren binnen de eigen datacentra, waar Snowflake al gebruik van maakt.
MI300X
De MI300X lanceerde in december en liet imposante prestaties zien tegenover Nvidia’s H100. Wie een AI-model dagelijks draait voor het genereren van outputs (inferencing), kan circa 40-60 procent snellere prestaties verwachten dan met de H100. Dat trekte Nvidia even in twijfel omdat de eigen GPU’s in AMD’s benchmarks niet optimaal werden benut. Opnieuw claimde AMD echter met de aangepaste benchmarks dezelfde prestatiewinst.
AMD verwachtte eerder 2 miljard te gaan binnenhalen met de MI300-serie. Inmiddels voorspelt het bedrijf een verdubbeling van dat eerder genoemde bedrag.
De haalbaarheid van een overstap naar AMD zal per cloudklant verschillen. Wie bijvoorbeeld uitvoerig met Nvidia’s eigen AI-platform werkt en alles heeft geoptimaliseerd voor CUDA (de architectuur fundamenteel aan Nvidia-hardware), zal veel frictie ervaren. Die lock-in is afwezig voor eenieder die andere diensten gebruikt als TensorFlow, PyTorch en/of Microsofts Azure AI Studio. De prijs voor het GPU-gebruik is vooralsnog onbekend.
AMD-opmars
Ook bij andere cloudvendoren is AMD in trek. Het bedrijf biedt zowel GPU’s als CPU’s, waarbij het portfolio voor datacentra uit Epyc-processoren bestaat. Onlangs maakte OVHcloud bekend dat het nieuwe servers beschikbaar stelt met 4e generatie Epyc-chips. Hoewel deze chipgeneratie al van eind 2022 afstamt, zijn ze nog altijd competitief met recentere Intel Xeons.
OVHcloud biedt dual-socket configuraties die tot wel 256 cores aan klanten beschikbaar stelt. Als we puur op core count oordelen kan Intel dat overtreffen met maximaal 288 cores, maar dat zijn veel minder krachtige efficiency cores en dus niet met Epyc vergelijkbaar. Een duo van Epyc-chips op een enkel moederbord is momenteel dus de krachtigste CPU-configuratie mogelijk. Hoe dan ook is het opvallend dat OVHcloud niet voor een nieuwere Intel-chip kiest om het aanbod uit te breiden. AMD heeft lang gewacht op een gelijke behandeling van cloudspelers en andere vendoren ondanks dat het al geruime tijd qua prestaties zeer competitief is.
Mogelijk is Intels prijskaartje te fors voor de prestaties die er tegenover staan. Het bedrijf voelt de hete adem van AMD overigens al wat langer. Zo was het verbruik van Epyc versus Xeon vier jaar geleden al imposant genoeg dat Intel druk uitoefende op een niet nader genoemde OEM zodat de precieze getallen niet door recensent ServeTheHome gedeeld werden.
Het laat wederom zien dat AMD aan een opmars bezig is in de processormarkt. Het marktaandeel in servers is groter dan ooit met 23,6 procent. Opvallender is dat het ook een derde van de omzet binnenhaalt. Ook op desktops is AMD’s marktaandeel bijna een kwart met 23,9 procent. Daar zwakte de inhaalactie versus Intel wat af begin 2022, toen het datacenter-CPU’s moest prioriteren met de introductie van nieuwe chiparchitecturen. Het lijkt er nu ook op dat OEM’s overstag gaan. Zo zou een toekomstige versie van de Dell XPS 16 ook met AMD-hardware leverbaar zijn.
Lees ook: Dell voorziet nieuwe XPS-16 laptop mogelijk van AMD-processor