Nee, niemand wordt zomaar een ‘Nvidia-rivaal’

Met veel bombarie wordt de ene na de andere AI-start-up als een ‘Nvidia-rivaal’ omschreven. Het is tijd om daarmee te stoppen. Naast het feit dat niemand op korte termijn op kan boksen tegen de ingebakken voorsprong die Nvidia heeft opgebouwd, doet de berichtgeving onrecht aan wat AI-bedrijven wel kunnen klaarspelen.

Een concreet voorbeeld van waar we aan refereren: Sapeon, een Zuid-Koreaanse start-up met steun van de forse SK Group, zou een gooi doen naar de AI-kroon van Nvidia met de kersverse X330-chip. Althans, dat is de indruk die het achterlaat na een blik op de berichtgeving van publicaties als Reuters, Bloomberg en CNBC.

De stelling van Sapeon is echter hetzelfde als wat we onlangs vanuit cloudleverancier Scaleway hoorden: voor inferencing, niet de allerzwaarste AI-workload, zijn er efficiëntere alternatieven voor Nvidia. Het gaat daarbij om het dagelijks draaien van AI in datacentra, met kleine modellen of berekeningen niet erg tijdgevoelig zijn. Voor het trainen van state-of-the-art LLM’s zul je ergens anders terecht moeten.

Dat is het verhaal omtrent vermeende “Nvidia-concurrenten” in het klein, maar er zijn talloze andere voorbeelden. Zo denkt The Information acht geduchte rivalen voor Nvidia te hebben gevonden. CNBC grijpt vaker naar deze retoriek, met het Amerikaanse Kneron als een relatief recent voorbeeld. Het aanbod van al deze start-ups is niet bedoeld voor klanten die razendsnel grote AI-modellen willen trainen.

In plaats van dat we allerlei soortgelijke partijen opsommen, is het wellicht zinniger om te bekijken waarom Nvidia ongenaakbaar is voor welke start-up dan ook.

Waarom Nvidia zo stevig in het zadel zit

Het zal weinig lezers ontgaan zijn dat Nvidia met jan en alleman een samenwerking is aangegaan. Iedereen van AWS en HPE tot VMware en IBM spreekt over een uitgebreide deal om te integreren met het aanbod van Nvidia. Let wel, het gaat hierbij niet alleen om de hardware-stack, maar ook met name om Nvidia AI Enterprise, de software die grote organisaties kunnen inzetten om te sleutelen aan AI-modellen.

Nvidia verkoopt niet alleen de krachtigste generatieve AI-chips ter wereld, maar vormt daarnaast de markt in een richting die bedrijven afhankelijk maakt van de eigen software. Het is niet voor niets dat Nvidia dit softwarepakket karakteriseert als het “besturingssysteem” van enterprise AI. Het succes van deze strategie is duidelijk, want AI-ontwikkelaars bouwen eerst hun applicaties op Nvidia, omdat het een combinatie levert van de beste hardware en de meest volwassen software.

Kortom: Nvidia heeft er alles aan gedaan om de koppositie verder uit te bouwen. Het beargumenteert zelfs dat klanten goedkoper uit zijn met de peperdure top-of-the-line GPU’s. “Wie holistisch kijkt naar de daadwerkelijke kosten van een datacenter, ziet dat significante prestatiewinsten de vereisten voor gereedschap en onderhoud verlagen, waardoor er op kapitaal en operationele kosten wordt bespaard,” aldus Nvidia.

Concurrentie, maar geen zorgen op korte termijn

Nu is Nvidia ondanks de oppermachtige positie wat AI-hardware betreft niet onfeilbaar. De prijzen voor de zo gewilde producten rijzen dermate de pan uit dat de concurrentie kansen kan pakken. Intel plaatst de eigen Gaudi-chips als zinnig en haalbaar alternatief, terwijl AMD met de Instinct MI300 eveneens een kersvers aanbod heeft om AI op te draaien. Het is dus niet zo dat iedereen gevangen zit in het Nvidia-ecosysteem.

Ook is het bedrijf afhankelijk van de eerder genoemde berg aan samenwerkingen om de AI-hardware daadwerkelijk bij de klant te krijgen. Of dat nu on-prem is samen met Dell of via de clouddiensten van AWS, Microsoft en Google. Bij die grote cloudspelers is het eveneens zo dat er AI-chips gemaakt of in ontwikkeling zijn die de afhankelijkheid van Nvidia dienen te verkleinen.

Er zijn dus wel degelijk kapers op de kust, ook al is er op korte termijn geen enkele reden tot zorg. Wat betreft start-ups die AI-hardware willen ontwikkelen, zorgt de Nvidia-dominantie voor wegblijvende investeerders. Niet meer dan logisch, gezien de gigantische ‘moats’ die Nvidia en andere chipbedrijven inmiddels hebben opgebouwd tegen potentiële nieuwe AI-spelers.

Waar start-ups wel slagen

Start-ups kunnen hun borst dus nat maken. Echter blijkt dat de berichtgeving vanuit grote nieuwssites voor een misleidend beeld zorgen. Daar waar de ene na de andere start-up wordt gebombardeerd tot Nvidia-rivaal, zien we dat dit zelden het uitgesproken doel is van deze partijen. Op hardware-gebied concentreert men zich veelal op het eerder genoemde inferencing, terwijl de ontwikkelaars van AI-software zich juist op heel andere vlakken bevinden. Men concurreert niet met Nvidia, want dat is een verloren zaak.

Een goed voorbeeld hiervan is te vinden in de loopbaan van Naveen Rao, momenteel VP of Generative AI bij Databricks. Nadat hij Intel verliet, leidde hij MosaicML, een AI-start-up die in 2021 het levenslicht zag en inmiddels is overgenomen door Databricks. Rao had al gauw door dat er geen reëel alternatief voor de Nvidia AI-stack was. In directe vergelijkingen bleek geen enkele andere optie namelijk krachtig en wendbaar genoeg om ontwikkelaars van Nvidia af te krijgen. In plaats van dat hij een hardware-concurrent wilde opbouwen, koos hij er met MosaicML voor om zich te specialiseren in software. Het devies was dus om de eigen expertise als aanvulling te positioneren voor wat Nvidia al qua hardware en software had klaargespeeld. MosaicML ging zich namelijk richten op software die bedrijfsdata veiligstelt bij het trainen van AI-modellen en inferencing in veilige omgevingen toestaat.

Databricks schatte dit aanbod van MosaicML op een waarde van tenminste 1,3 miljard, toen het de start-up eerder dit jaar overnam voor dat bedrag. Databricks sloot overigens al in 2020 een partnership met Nvidia.

Ter conclusie: AI-start-ups hebben zeker wat aan te bieden, maar het helpt niemand als de krantenkoppen ze als Nvidia-concurrent bombarderen. Wie op hardware-gebied iets ontwikkelt, presenteert inferencing-opties die voor dagelijks gebruik geschikt zijn. Die opties bestaan overwegend omdat Nvidia simpelweg niet genoeg chips voor een voordelige prijs kan produceren om aan de vraag te voldoen. Wat software en infrastructuur betreft zijn het de grote spelers waar Nvidia eveneens van afhankelijk is, terwijl start-ups hierin specialisaties kunnen vinden om in uit te blinken. Er is op AI-gebied dus zeker ruimte voor hen, al helemaal gezien de prille staat van generatief AI-gebruik. Echter is het onjuist om de centrale rol van Nvidia daarbij te ontkennen en te suggereren dat er een reëel alternatief is. Die bestaat momenteel niet, en zal er naar alle waarschijnlijkheid niet snel arriveren.

Lees ook: Nvidia domineert de AI-markt, waar zijn de grenzen aan de groei?