Nvidia lanceert BlueField-2 Data Processing Unit voor datacenters

Abonneer je gratis op Techzine!

Nvidia komt met een nieuwe BlueField-2 Data Processing Unit (DPU) voor het offloaden van rekenkracht voor bepaalde infrastructuurbeheertaken in datacenters. De DPU is ontwikkeld in samenwerking met Mellanox.

Volgens Nvidia moet de nu ontwikkelde DPU in datacenters een gedeelte van de benodigde rekenkracht offloaden voor specifieke administratieve beheertaken voor de infrastructuur in datacenters. Bijvoorbeeld het scannen van netwerkverkeer voor malware of het orkestreren van storage-apparatuur.

De achterliggende gedachte hierbij is dat met vrijgekomen rekenkracht, vaak tussen de 20 en 30 procent, servers beter kunnen worden ingezet voor zwaardere en meer waardevolle rekentaken. Dit moet dan uiteindelijk de algemene prestaties verbeteren. Een enkele Nvidia DPU moet infrastructuurbeheertaken kunnen afhandelen die normaal tot 125 CPU-cores nodig hebben.

DPU-technologie

Nvidia heeft de BlueField-2 DPU ontwikkeld in samenwerking met zijn netwerkdochter Mellanox. Deze netwerkdochter, die eerder dit jaar door Nvidia werd overgenomen, was al enige tijd bezig om de DPU-technologie te ontwikkelen.

De DPU bestaat concreet uit acht Arm Cortex-A27 CPU-cores. De cores worden ondersteund door zogenoemde acceleratie-units. Dit zijn gespecialiseerde circuits zij zijn geoptimaliseerd voor securitytaken. De BlueField-2X-versie is nog krachtiger door het toevoegen van GPU’s van Ampere. De BlueField-2 DPU’s worden binnen datacenters in de vorm van een Network Interface Controller (NIC)-kaart. Bedrijven kunnen deze NIC aan hu servers toevoegen via standaard PCIe-interconnect.

SDK

De DPU is verder voorzien van de DOCA SDK. Hiermee kunnen bedrijven applicaties voor de chipsets bouwen. Met deze applicaties kunnen zij vervolgens diverse dataprocessingtaken draaien. Denk daarbij aan het sturen van netwerkverkeer, het versnellen van virtualisatie en het comprimeren van storage. Ook kan de DPU hiermee data ver- en ontsleutelen, scannen voor malware, integreren met tools voor beheer op afstand of een control plane draaien voor applicaties voor de Arm-cores.

De SDK omvat hiervoor onder meer programming interfaces voor interactie met de circuits en code te sampelen. Ook biedt het documentatie en libraries en andere componenten om DPU-software te bouwen.

Toekomstige ontwikkelingen

Nvidia is bezig de DPU-technologie verder uit te bouwen. Inmiddels wordt al gewerkt aan de BlueField-3 en de BlueField-4. Deze DPU’s hebben geen aparte GPU- en CPU-circuits, maar een enkele geïntegreerde chip. Uiteindelijk moet de BlueField-4 tegen 2023 ongeveer 400 biljard OPS voor AI-workloads mogelijk maken.

De BlueField DPU’s zijn nu beschikbaar via verschillende partners, zoals VMware. De virtualisatiespecialist gebruikt de DPU’s in zijn Cloud Foundation om een beter architectuur te leveren voor onder andere AI-, machine learning, high troughput en datacenterafhankelijke applicaties.