Oracle investeert fors in AI-infrastructuur, het bedrijf investeert maar liefst 40 miljard dollar in Nvidia’s meest geavanceerde GB200 superchips. Dit gigantische budget is bestemd voor het eerste Amerikaanse Stargate datacenter in Abilene, Texas. OpenAI zal de voornaamste klant worden van al die AI-rekenkracht, OpenAI wil de infrastructuur gebruiken voor AI-training. De vraag is nog wel of het datacenter voldoende stroom kan leveren voor al deze superchips.
Volgens verschillende bronnen zal Oracle voor deze investering ongeveer 400.000 Nvidia GB200 superchips ontvangen. De GB200 superchips maken gebruik van Nvidia’s krachtigste Blackwell GPU’s en de eigen Grace CPU. Er worden straks 36 van deze chips gecombineerd in een NVL72-systeem wat goed is voor 1,4 exaFLOPS. Dat komt neer op een enorme rekenkracht voor AI-toepassingen.
Stroomverbruik is uitdaging in Abilene
Oracle gaat het 1,2 gigawatt datacenter inrichten met zo’n 11.000 racks, wat neerkomt op bijna 16 zettaFLOPS aan rekenkracht. Elke rack heeft een prijskaartje van ongeveer 3,5 miljoen dollar. Er zijn echter twijfels of het datacenter genoeg elektriciteit kan leveren om alle systemen tegelijkertijd te laten opereren.
Elk rack verbruikt maximaal 120 kilowatt, daarbovenop komt nog het algehele verbruik van het gebouw en de koeling van het datacenter. De energievraag van moderne datacenters stijgt door AI in rap tempo, in theorie zou deze AI-infrastructuur meer verbruiken dan de capaciteit van het datacenter. Berekeningen gaan richting de 1,5 gigawatt.
In de praktijk draait infrastructuur echter nooit volledig op 100 procent. Een deel van de superchips zal ook worden ingezet voor taken als inference, data-generatie en reinforcement learning. Die verbruiken minder stroom dan intensieve AI-training. Hierdoor kan het datacenter straks wel volledig operationeel zijn.
Gefaseerde uitrol tot 2026
Voordat het datacenter volledig opertioneel is, moet de capaciteit nog wel worden uitgebreid. Dit jaar is er slechts 200MW aan datacentercapaciteit beschikbaar. Dat is genoeg voor ongeveer 1.500 NVL72 racks oftewel 54.000 GB200 superchips. De resterende gigawatt wordt pas in 2026 verwacht. De vraag is wanneer Nvidia de 400.000 chips gaat leveren aan Oracle. De vraag naar Nvidia-chips is vele malen hoger dan het bedrijf kan leveren. Oracle huurt het datacenter voor minimaal 15 jaar, het ligt voor de hand gezien de investering dat OpenAI ook voor een langere periode heeft ingetekend. De relatie tussen OpenAI en Microsoft lijkt hiermee versneld af te koelen.
OpenAI Stargate
OpenAI breidt ondertussen het Stargate-programma internationaal uit. Het bedrijf kondigde plannen aan voor extra gigawatt aan rekenkracht in de Verenigde Arabische Emiraten, in samenwerking met Oracle, Nvidia en andere partners.