Tijdens Advancing AI te San Francisco hebben OpenAI en AMD aangekondigd op uitgebreide manier samen te werken. De partnership zal onder meer de toekomstige MI500 GPU-reeks en driver-optimalisatie versterken. Bovenal is het voor zowel OpenAI als AMD een voordeel om samen de invloed van Nvidia af te laten nemen.
Het toverwoord tijdens Advancing AI is ‘co-design’. AMD lijkt vooral te willen garanderen dat AI-bedrijven het product krijgen dat ze daadwerkelijk verlangen. GPU’s moeten flexibel zijn, maar bepaalde architecturele keuzes kunnen sterk beïnvloeden of nieuwe chipgeneraties de theoretische prestatiewinst ook echt behalen. Feitelijk zijn prestaties rondom AI-training en -inferencing verreweg de belangrijkste wapenfeiten voor GPU’s in het datacenter.
Maanden toegang
OpenAI heeft al maanden toegang gehad tot Helios, het nieuwe rackscale-systeem van AMD als concurrent voor Nvidia Vera Rubin NVL72. In feite is dit één AI-systeem met terabytes aan geheugen voor het draaien van de grootste LLM’s.
Lees ook: Helios: AMD groeit naar rack-scale AI-systeem
“Ik heb meer rekenkracht nodig”, stelde OpenAI VP of Compute Strategy Sachin Katti tegenover AMD-CEO Lisa Su op het podium van Advancing AI. Maar welke rekenkracht precies, wordt steeds complexer om te bepalen. CPU’s, GPU’s, networking en koeling moeten volgens Katti allemaal tegelijk worden ontworpen voor de optimale functionaliteit.
Vaag maar duidelijk
De partnership heeft momenteel het voordeel gehad dat AMD samen met OpenAI zo vroeg mogelijk bugs in Helios kon ontdekken en patchen. Ook is de optimalisatie vermoedelijk een stuk sterker dan bij eerdere AMD-generaties.
Belangrijker is de vraag of dit op termijn meer voordelen oplevert. OpenAI grijpt in ieder geval ook naar AI om de AI-infrastructuur te verbeteren. De inzet is duidelijk: het oplossen van de problemen rondom instabiele software waardoor AI-training op AMD lang niet reëel was.
Desondanks blijft het vaag hoe de partnership de positie van AMD precies zal verbeteren. Voor nu zal Nvidia zich niet zoveel zorgen maken aangezien het elke GPU al maanden of jaren van tevoren heeft verkocht. Op de langere termijn is het in het belang van zowel de AI-modelbouwers als AMD om een geduchte concurrent te worden.