ASUS is er klaar voor om ASUS AI POD’s te produceren met een lancering in maart. Deze all-in-one AI-oplossingen draaien op Nvidia’s GB200 NVL72-platform, gebaseerd op de gloednieuwe Blackwell-architectuur.
De ASUS AI POD is een wat eenvoudigere naam om te herinneren, maar GB200 NVL72 legt wel uit wat er in dit ASUS-aanbod te vinden is. 36 Nvidia Grace-CPU’s werken samen met 72 Blackwell-GPU’s (respectievelijk de G en de B in de naam), die verbonden zijn via NVLink, Nvidia’s eigen snelle interconnect. Een enkele Grace met twee Blackwells staat bekend als een losse GB200 “Superchip” en integreert Arm-gebaseerde cores met de GPU-compute waar AI-workloads om vragen.
Proof of concept
Voor een gelimiteerde periode lanceert ASUS ook een proof of concept voor de ASUS AI POD. In feite gaat het hier om een haarfijne uitleg voor het optimale gebruik van de compute-mogelijkheden die deze oplossing kan realiseren. In combinatie met Nvidia’s software-ecosysteem kunnen AI-developers overigens meerdere GB200 NVL72-systemen samen een workload laten draaien.
De cijfers zijn duidelijk: inference-prestaties schieten bijvoorbeeld met een factor van 30x omhoog op het nieuwe platform ten opzichte van Hopper, de vorige architectuur waarop Nvidia’s datacenter-GPU’s draaiden. Hoppers zijn nu overal ter wereld binnen datacenters te vinden, met name bij hyperscalers. Voor hen zal de upgrade dus significant zijn.
ASUS-innovatie
ASUS’ AI POD heeft een aantal innovaties om aan de steeds grotere hardware-eisen te voldoen. 72 Blackwell-chips die nauw verpakt zitten samen met 36 Grace-CPU’s wekken enorm veel hitte op. Om alsnog aan de beoogde Power Usage Effectiveness (PUE) te voldoen, is er liquid cooling nodig. Dit betekent dat er een doelgerichte oplossing nodig is voor de AI POD.
Zo zijn er discrete CPU/GPU-koellichamen, distributie-units en koeltorens die een minimaal energieverbruik kosten. Hierdoor kunnen alle beschikbare watts richting de stroomhongerige GB200 Superchips. Daarbovenop belooft ASUS dat het met tests het eigen ontwerp uitvoerig heeft gevalideerd, zodat het dagelijkse gebruik voor eindklanten zo soepel mogelijk is.
Lees ook: Langverwachte Nvidia Blackwell AI-chips als eerst naar SoftBank