Nvidia heeft onlangs zijn netwerkplatform Spectrum-X gepresenteerd. Dit platform moet high-speed Ethernet-connectiviteit voor AI-workloads in meerdere cloudomgevingen verzorgen.
Het platform zal volgens Nvidia het ontwikkelen van multi-tenant hyperscale AI-cloudomgevingen bevorderen. Dit door het verbeteren van de efficiency van de benodigde Ethernet-netwerken en hoe deze data verplaatsen.
Uiteindelijk wil Nvidia hiermee dat cloudaanbieders, die Ethernet-connectiviteit gebruiken in plaats van Infiniband, makkelijker generatieve AI-modellen in de cloud laten trainen en draaien.
Samenstelling platform
Het Spectrum-X-platform bestaat uit de ethernet switch-technologie van Nvidia, afkomstig van Mellanox, in combinatie met de BlueField-3 DPU’s. Deze omgeving kan de prestaties en energiezuinigheid van AI-workloads in een stack met een factor 1.7 versnellen.
De Spectrum-4 switches zijn configureerbaar in 64 800 GbE-poorten of 128 400 GbE-poorten. Verder faciliteren zij een throughput van 51,2 Tbps aan switching en routing.
Aantrekkelijk voor cloudaanbieders
Daarnaast is Spectrum-X van Nvidia interoperabel met bestaande Ethernetstacks, zodat het voor cloudaanbieders aantrekkelijker wordt AI-workloads in hun bestaande cloudinfrastructuur te draaien.
Meer concreet worden datacenters voor cloudomgevingen ondersteund voor het verwerken van data en het afleveren van meer effectieve AI-workloads, zonder concessies aan het al aanwezige op Ethernet gebaseerde multi-tenantmodel.
Ook de grote infrastructuuraanbieders als Dell Technologies, Lenovo en Supermicro hebben Nvidia Spectrum-X omarmd.
Israëlische supercomputer
Nvidia ontwikkelt op dit moment in Israël een supercomputer die Spectrum-X gebruikt. Deze supercomputer Israel-1 moet een testomgeving voor Spectrum-X worden. De supercomputer bestaat uit Dell PowerEdge XE9680-servers met acht Nvidia H100 GPU’s. Dit moet acht exaflops aan AI-prestaties opleveren en 130 petaflops voor wetenschappelijke rekenworkloads.
12 uur geleden
