Intel voelt hete adem AMD Epyc 5 met Xeon 6-chips

Intel voelt hete adem AMD Epyc 5 met Xeon 6-chips

Een serverchip voor de felste HPC-workloads en een andere variant voor veel, maar eenvoudig werk. Dat is de propositie van Intel bij de lancering van Xeon 6, dat ondanks alle AI-hype verder zeer behoudend is. Ondertussen belooft AMD prestaties die Epyc aan kop laten gaan, met eveneens twee varianten.

Rondom Computex kiezen zowel AMD als Intel ervoor om uit te pakken op het chipfront. Niet alleen voor consumenten met respectievelijk Ryzen 9000 en Lunar Lake, maar ook op servergebied. We zullen eerst de innovaties omtrent Xeon 6 bespreken, dat zojuist is aangekondigd. Eerder onthulde AMD al de vijfde generatie Epyc, waar we vervolgens naar kijken.

Xeon-cores in 2 formaten

Voor het eerst verschijnt een nieuwe Xeon-serie met verschillende soorten cores. ‘Granite Rapids’ is hierbij de Xeon 6-variant dat de Xeon 5 vervangt. Er zijn maximaal 128 cores aanwezig, een verdubbeling ten opzichte van de vorige Xeon-generatie. Hierbij gaat het om snelle Redwood Cove-cores, inclusief ondersteuning voor AMX FP16-acceleratie, nodig voor vele conventionele AI-workloads.

Aandacht voor AI dus, waardoor de Xeon-lijn wordt gepresenteerd als een uiterst moderne optie voor datacenters. Echter is de E-core variant van Xeon 6 een stuk opvallender. Eerder stond dit product bekend onder de codenaam Sierra Forest, waarvan we al wisten dat het van Crestmont-cores gebruik zou maken. Dit aanbod is niet voor AI specifiek ontworpen, maar bedoeld voor grootschalige compacte workloads. Intel zelf haalt microservices aan als ideale use case. Een duizelingwekkende 288 aan E-cores zitten maximaal aan boord bij de efficiënte versie van Xeon 6.

Intel kiest in de presentaties voor onhandig logge benamingen om de Xeon 6-opties te onderscheiden, maar vanaf hier zullen we aan ze refereren met Xeon 6-P voor de versie met P-cores en Xeon 6-E voor de E-cores-optie.

Meteor Lake XL?

De oplettende lezer weet dat deze core-architecturen bekend terrein zijn. Dit in tegenstelling tot het zojuist aangekondigde Lunar Lake voor (niche) laptops, die in Q3 2024 verschijnen. Xeon 6 is in beide manifestaties simpelweg een herhaling van de architectuur achter Meteor Lake, tevens enkel in laptops te vinden. Het verschil bij Xeon, afgezien van de toespitsing op datacenters, is dat elke chip homogeen is. Voor de maximale betrouwbaarheid en stabiliteit is er dus gekozen voor bekende, gelijkwaardige cores in elk product.

Het is niet verrassend, want Xeon 6 is onder de eerdere codenaam al lang en breed in detail besproken. Toch is de officiële onthulling van Xeon 6 als zodanig een goed moment om een strategische keuze van Intel aan te kaarten. Daar waar Nvidia prat gaat op het feit dat het de eigen GPU-architecturen debuteert binnen datacenters, zijn de CPU’s van Intel conservatief. Meer dan driekwart van alle serverracks draait Xeons, dus enige behoudendheid is wellicht te verwachten.

Minder rackspace, minder stroom

Zoals gebruikelijk contrasteert Intel haar nieuwste Xeon voornamelijk met de generatie ervoor én met producten van vijf jaar eerder. Dat laatste doet men vooral omdat een significant deel van datacenterbeheerders deze termijn aanhoudt om de eigen servers te upgraden. Bij deze ‘5 year refresh’ staat er een belangrijke keuze te wachten: Xeon 6-P of Xeon 6-E. Het lijkt erop dat Intel voor deze klanten de E-variant het duidelijkst aanprijst, mogelijk omdat gebruikers met een dermate trage upgradecyclus niet de zwaarste CPU-workloads opzoeken. Meermaals is de verbetering hierbij net boven de 2,5 keer (web, microservices, media, dataservices), met een uitschieter op het gebied van networking (3,4 keer sneller).

Xeon 6-P wordt vergeleken met Xeon 5, waarbij AI (2x), High-Performance Compute (HPC, 2,3x) en algemene rekentaken (2x) uitgelicht worden. AI-inferencing staat in schril contrast met AMD’s eerdere Epyc-aanbod (3,7x), hoewel dat bedrijf inmiddels eveneens op dat gebied een grote prestatiewinst belooft.

De 6700E-versie van Intel Xeon, uitgerust met E-cores, verschijnt vandaag. In Q3 van dit jaar volgt de 6900P (dus een P-core variant), terwijl andere opties in het eerste kwartaal van 2025 verschijnen. Wat de 6700E betreft benadrukt Intel dat klanten een reusachtige hoeveelheid severracks kunnen vrijmaken voor dezelfde taken als voorheen. Waar nu 200 racks nodig zijn met een 2e generatie Xeon van vijf jaar geleden, voldoen 66 met de 6700E. Dat scheelt volgens Intel 80.000 MWh in een tijdspanne van vier jaar en 34 miljoen kilo aan CO2.

AMD gaat verder groeien met Epyc Turin

Terwijl Intel al geruime tijd details biedt over Xeon 6, pakt AMD groots uit tijdens Computex met Epyc. Het heeft dezelfde keuze gemaakt als Intel als het om cores gaat: er is zowel een Epyc-lijn met volwaardige Zen 5-cores als eentje met Zen 5c. Let wel: bij AMD zijn de c-versies van de cores een stuk dichterbij de reguliere optie. Epyc bevat maximaal 128 Zen 5-cores of 192 Zen 5c-cores.

Het resulteert in een prestatiewinst van 5,4x qua AI-inferencing ten opzichte van Xeon 5. Wie een chatbot op de CPU draait, is dus vele malen beter uit met een Epyc-chip momenteel. Het lijkt erop dat die conclusie hetzelfde zal blijven met de komende generaties, hoewel de exacte prestaties pas na de lancering duidelijk zijn. Zowel Intel als AMD kunnen enkel ‘eerlijk’ vergelijken met het ietwat verouderde product van de concurrent, aangezien men elkaar logischerwijs geen engineering samples geeft.

Opvallend is dat Epyc inmiddels een derde van de servermarkt bezit volgens AMD-CEO Lisa Su. Het is een inhaalactie van de lange adem ten opzichte van Xeon, dat in 2021 nog 80 procent bezat van deze sector. AMD is sinds dat jaar gegroeid van 11 procent naar 33 procent. We zien geen reden om een trendbreuk op dit gebied te verwachten, zeker omdat partijen als OVHcloud steeds vaker AMD-opties bieden voor hun servers. Dit is precies de adoptie die AMD nodig heeft en vooralsnog op laptops niet ontvangt van OEM’s. Nu dat bij servers wel aan het gebeuren is, breekt de dominante rol van Intel af.

AMD innoveert er daarnaast op los met opties als Epyc 4004, dat server-functionaliteit op een desktop-socket levert. Sinds de dood van Intels workstation-Xeons een paar jaar geleden is er geen equivalent hiervan in het aanbod van dat bedrijf. Combineer dat met de recente aankondiging van Microsoft dat het op Azure AMD AI-chips als Nvidia-alternatief beschikbaar stelt en het wordt duidelijk dat AMD goed op weg is.

Lees verder: Microsoft biedt AI-chip van AMD als alternatief voor Nvidia

Wattage schiet de lucht in

We stellen bij zowel AMD als Intel wel wat vraagtekens bij het gestelde verbruik. Zowel Xeon 6 als vijfde generatie Epyc gaan voor maximaal 500 Watt voor de topmodellen. Dat vereist niet alleen veel stroom, iets dat veel kostbaarder is op de lange termijn dan de aanschafprijs, maar dwingt serverparken tot nieuwe koeloplossingen.

Wel zijn klanten goedkoper uit met hun stroomverbruik als de workloads hetzelfde blijven ten opzichte van de oude serverchips. Voor bestaande vierde generatie Epyc-klanten is dit een aantrekkelijke optie, aangezien het behoud van de socket een drop-in upgrade mogelijk maakt. Bij Xeon 6 is dit niet het geval.

Lees ook: Nvidia-concurrenten stimuleren ontwikkeling AI-hardware voor datacenters