Nvidia brengt deze week zijn compacte Grace-Blackwell-workstation op de markt: de DGX Spark.
Het kleine maar krachtige systeem levert volgens The Register tot één petaFLOP aan rekenkracht en beschikt over 128 GB gedeeld geheugen. Daarmee richt Nvidia zich op ontwikkelaars en onderzoekers die behoefte hebben aan een betaalbare maar professionele AI-oerkstationoplossing.
De DGX Spark werd begin dit jaar al aangekondigd tijdens CES onder de naam Project Digits. Het systeem is ongeveer even groot als een Intel NUC en draait op een aangepaste versie van Ubuntu Linux in plaats van Windows. Volgens Nvidia is het apparaat bedoeld voor ontwikkelaars in kunstmatige intelligentie, robotica en datawetenschap die modellen tot zo’n 200 miljard parameters willen kunnen draaien zonder afhankelijk te zijn van grote serveropstellingen.
De DGX Spark wordt aangedreven door Nvidia’s nieuwe GB10-chip, een compacte variant van de Grace-Blackwell Superchip die ook in de grote NVL72-datacentersystemen wordt gebruikt. De GB10 combineert een GPU en CPU in één system-on-a-chip en maakt gebruik van een NVLink-verbinding met een bandbreedte van 600 GB/s. De GPU kan tot een petaFLOP aan FP4-prestaties leveren of 31 teraFLOPS bij FP32-precisie, vergelijkbaar met de prestaties van een high-end consumentenkaart, maar met aanzienlijk meer geheugenruimte.
Samenwerking met MediaTek
De CPU is ontwikkeld in samenwerking met MediaTek en bestaat uit twintig ARMv9.2-cores, waarvan tien high-performance X925-cores en tien energiezuinige Cortex A725-cores. De CPU en GPU delen dezelfde pool LPDDR5x-geheugen, goed voor een bandbreedte van 273 GB/s. Door deze geïntegreerde architectuur kan het systeem aanzienlijk efficiënter omgaan met geheugenintensieve workloads dan traditionele workstations.
Met een startprijs van ongeveer 3.000 dollar is de DGX Spark niet goedkoop, maar wel aanzienlijk voordeliger dan traditionele AI-workstations. Een professionele GPU zoals de RTX Pro 6000 met 96 GB geheugen kost bijvoorbeeld meer dan 8.000 dollar exclusief de rest van het systeem. De DGX Spark moet daarmee een aantrekkelijk alternatief vormen voor kleinere AI-projecten of lokale modelontwikkeling.
Nvidia positioneert het systeem als een instapmodel in de DGX-serie, bedoeld voor individuele ontwikkelaars en onderzoeksinstellingen die niet over datacenterinfrastructuur beschikken. Ondanks het compacte formaat claimt het bedrijf dat het systeem geschikt is voor inferentie en training van modellen tot 200 miljard parameters, een schaal die normaal gesproken datacenterhardware vereist.
Een opvallend kenmerk van de DGX Spark is de aanwezigheid van geïntegreerde ConnectX-7-netwerktechnologie met twee QSFP-ethernetpoorten van 200 Gbps. Deze kunnen worden gebruikt om twee DGX Spark-systemen direct met elkaar te verbinden. In die configuratie kunnen gebruikers modellen tot 405 miljard parameters uitvoeren met 4-bit precisie.
De DGX Spark zal beschikbaar komen via verschillende hardwarepartners, waaronder Acer, Asus, Dell Technologies, Gigabyte, HPE, Lenovo en MSI. De marktintroductie staat gepland voor 15 oktober. Met de lancering van dit systeem lijkt Nvidia een nieuwe categorie workstations te creëren: compact, energiezuinig en krachtig genoeg voor moderne AI-toepassingen buiten het datacenter.