DeepSeek breidt zijn software uit om AI-modellen efficiënter op chips van Huawei te laten draaien. De Chinese AI-ontwikkelaar stelt daarvoor programmeertools voor het Ascend-platform als open source beschikbaar. Daarmee richten DeepSeek en Huawei zich niet alleen op alternatieve AI-hardware, maar ook op een van Nvidia’s belangrijkste sterke punten: het software-ecosysteem rond zijn GPU’s.
Nvidia dankt zijn dominante positie in AI niet alleen aan krachtige processors. CUDA, het programmeerplatform dat ontwikkelaars gebruiken om software voor Nvidia-GPU’s te bouwen en te optimaliseren, vormt een belangrijke drempel voor concurrenten. Wie andere hardware wil inzetten, moet immers ook beschikken over geschikte ontwikkelsoftware en bibliotheken.
DeepSeek probeert die drempel voor Huawei’s Ascend-processors te verlagen. Volgens Reuters stellen de bedrijven onder meer reken- en communicatiebibliotheken beschikbaar die voor het Ascend-platform zijn geoptimaliseerd. Huawei heeft DeepSeek ondersteund bij de ontwikkeling daarvan.
Een centrale rol is weggelegd voor TileLang, een opensource-programmeertaal voor AI-chips. Daarmee kunnen ontwikkelaars op een hoger abstractieniveau aangeven welke berekeningen moeten worden uitgevoerd, terwijl de software de vertaalslag naar de onderliggende hardware verzorgt. DeepSeek stelt dat dit een eenvoudiger programmeermodel oplevert dan CUDA.
Meerdere leveranciers
Volgens de South China Morning Post gaat het om een bredere verzameling van kernsoftware die DeepSeek geschikt heeft gemaakt voor Ascend. Daarmee brengt het bedrijf technologie die het eerder rond Nvidia-hardware ontwikkelde naar Huawei’s platform. Het doel is uiteindelijk dat ontwikkelaars minder afhankelijk worden van één specifieke leverancier van AI-accelerators.
De samenwerking beperkt zich niet tot programmeertools. DeepSeek en Huawei hebben ook gewerkt aan een supernode met 128 Ascend 950-processors. Daarbij zijn zowel de verdeling van berekeningen als de communicatie tussen de chips geoptimaliseerd, aldus Reuters.
Huawei presenteerde twee weken geleden een nieuwe generatie Ascend-processors en systemen waarin grote aantallen van deze chips worden gecombineerd. Eerder maakte het bedrijf al duidelijk dat het met eigen HBM-geheugen en nieuwe SuperPod-technologie de concurrentie met Nvidia verder wil opvoeren. Huawei verwacht dat dergelijke systemen vanaf volgend jaar vaker voor het trainen van AI-modellen worden gebruikt.
Voor Huawei is juist de combinatie van hardware en software van belang. Alleen een processor ontwikkelen die met Nvidia kan concurreren is niet voldoende wanneer ontwikkelaars vervolgens afhankelijk blijven van software die specifiek voor CUDA is geschreven. Met de samenwerking rond TileLang en de bijbehorende bibliotheken proberen Huawei en DeepSeek ook die afhankelijkheid te verkleinen.