GPU-servers te duur? Testomgeving van S3S moet meerwaarde tonen

Abonneer je gratis op Techzine!

Professionele GPU-servers zijn bij uitstek geschikt voor zware workloads. Ze zijn echter ook vrij prijzig, wat nog regelmatig een afschrikkende werking heeft op organisaties. Is het een dergelijke hoge investering waard? Om antwoord te geven op die vraag, heeft het Belgische S3S samen met Gigabyte een oplossing bedacht. Die partijen hebben samen een testomgeving gemaakt voor geïnteresseerde klanten. We gaan in dit artikel dieper in op de samenwerking en de testomgeving.

S3S staat voor Server Storage Solutions en is een Belgisch bedrijf met al behoorlijk wat geschiedenis in de markt. Het bedrijf is begin jaren ’90 opgericht als distributeur om de concurrentie aan te gaan met partijen zoals Ingram Micro en Techdata. Van die benadering is inmiddels echter niet veel meer over. Vanaf begin jaren ‘00 heeft het bedrijf steeds meer nadruk gelegd op het samenstellen van hardware voor klanten en in 2010 hebben de huidige eigenaren het overgenomen. Hiermee was het distributiemodel volledig verleden tijd. De nadruk kwam meer te liggen op het bouwen van systemen voor klanten en op de diensten en ondersteuning die daarbij horen.

De klanten van S3S vallen globaal uiteen in drie verschillende typen. Allereerst is er de software-leverancier die graag volledige oplossingen bij klanten neerzet en dus graag software en hardware op elkaar wil afstemmen. Het tweede type klant zijn de grotere bedrijven, universiteiten en overheidsinstellingen. Als derde en laatste algemene klant heeft S3S hostingbedrijven.

S3S en Gigabyte, een goede match

Als we zo eens naar het verhaal van S3S luisteren en dat naast het verhaal leggen dat Gigabyte vertelt, is het best logisch dat de twee partijen bij elkaar zijn uitgekomen. Gigabyte staat in de top vijf van OEM’s voor NVIDIA en heeft het grootste aanbod van GPU-servers op de markt. Als S3S dan wil evangeliseren in de markt rondom GPU-servers, dan is Gigabyte een goede partij om dit samen mee te doen.

Verder horen we ook in de manier waarop men de markt benadert een belangrijke overeenkomst. Zowel S3S als Gigabyte heeft het over flexibiliteit richting de markt. Dat wil zeggen, ze richten zich allebei op leveren wat klanten daadwerkelijk willen of nodig hebben. Ze werken dus beide niet met standaard producten waar je het als klant maar mee moet doen. Het feit dat Gigabyte ten tijde van de eerste gesprekken tussen de twee partijen al een next-gen management interface had voor haar servers, heeft verder ook zeker bijgedragen aan de koppeling tussen de twee partijen.

Vanuit al deze klanten komen er vragen om systemen samen te stellen, te plaatsen en daarna te ondersteunen. In dit proces speelt S3S een sterk adviserende rol. Niet alle klanten weten immers wat ze willen. En als ze dat wel denken te weten, dan kan het best zo zijn dat men vanuit S3S toch een ander advies uitbrengt. Er werken dan ook geen hippe verkopers met een beperkte kennis van zaken bij S3S op de verkoopafdeling, maar mensen die daadwerkelijk kennis van zaken hebben.

Uiteraard kunnen ze bij S3S ook niet alles zelf, dus werken ze met partners. Deze moeten vanzelfsprekend wel aan een bepaalde kwaliteitsstandaard voldoen en over de hele breedte goed presteren. Als ook maar een onderdeel van een potentiële partner niet voldoet, bijvoorbeeld de RMA-afdeling, dan is deze al niet meer interessant voor S3S om mee samen te werken. Een van de partners waar ze al een aantal jaren mee samenwerken, is Gigabyte. Wij spreken met Christophe Dekeukeleire en Kris Vaes van S3S en met Hsueh-Li Wang van Gigabyte over een nieuwe dienst die ze gezamenlijk hebben ontwikkeld: een testomgeving waarin (potentiële) klanten een high-performance professionele NVIDIA GPU-server kunnen ervaren.

De mogelijkheden van GPU-servers

De allereerste vraag die wij hebben als we horen dat S3S en Gigabyte een dergelijk aanbod ontwikkelen, is waarom dit eigenlijk nodig is. Het antwoord hierop heeft te maken met de drempel die er bij veel organisaties is om de stap te zetten naar een professionele NVIDIA GPU-server. Deze drempel is de prijs. Die is vrij hoog, vergeleken met de desktop/gaming GPU’s waar veel organisaties dan uiteindelijk toch liever voor gaan. Dit terwijl dit niet de beste keuze is voor de klanten van S3S. Aangezien ze bij S3S het mantra hebben dat ze altijd datgene willen leveren waar de klant echt blij van wordt, was het dus zaak om deze drempel af te vlakken of helemaal weg te halen.

De meerwaarde van professionele GPU’s ten opzichte van traditionele GPU’s kun je eigenlijk niet onderschatten, geven zowel Vaes als Wang aan. NVIDIA heeft sinds 2016 grote stappen gezet op het gebied van onder andere parallellisme (CUDA), het gelijktijdig afhandelen van veel verschillende processen. De professionele GPU’s zoals de NVIDIA HGX A100 zijn hier het verst in doorontwikkeld. Kijken we bijvoorbeeld naar de versie met 4 SXM4 GPU’s, dan zien we dat deze per GPU niet minder dan 80 GB aan geheugen hebben, resulterend in een totale geheugenbandbreedte van 2 TB/s. Doordat de vier GPU’s ook nog eens voorzien zijn van snelle interconnects, kunnen ze ook elkaars geheugen benaderen. Je kunt dan al het geheugen voor dezelfde workload aanspreken, of het juist segmenteren. In het laatste geval kun je iedere workload of gebruiker een eigen ‘sandbox’ geven bijvoorbeeld.

Als je het groter bekijkt dan alleen een enkele GPU-server, kun je met professionele servers ook gewoon groter denken. Dat wil zeggen, je kunt als architect het datacenter als basis nemen, niet zozeer de specifieke servers. Met op NVIDIA A100 GPU’s gebaseerde servers kun je workloads zelfs distribueren tot buiten je datacenter. Je micromanaget de compute resources die je tot je beschikking hebt dus over je datacenter en zelfs daarbuiten.

De Gigabyte G262-ZR0 die S3S in de testomgeving heeft opgenomen.

De testomgeving

Ondanks de grote voordelen die professionele GPU’s zoals de NVIDIA A100 bieden voor met name zware workloads, bijvoorbeeld rond AI of big data, is het dus toch de prijs die organisaties regelmatig doet besluiten om het toch maar niet te doen. S3S heeft al lang een testomgeving waar het alle hardware die het voor klanten assembleert test voordat het verscheept wordt. De stap naar het inrichten van een permanente testomgeving voor potentiële klanten was dan ook niet zo heel groot.

Klanten kunnen via een beveiligde verbinding bij het testsysteem. Daar kunnen ze dan een paar weken hun workloads op draaien, om te zien wat wel en wat niet werkt. Op basis daarvan kunnen ze dan uiteindelijk een beslissing nemen. Biedt het meerwaarde voor hun use case of niet? Als voorbeeld noemt Vaes een softwareleverancier die AI wil toevoegen aan bijvoorbeeld het maken van back-ups. Aangezien AI vaak behoorlijk wat compute nodig heeft, is een professionele GPU-server het overwegen zeker waard. Ook als je als onderzoeksinstituut verbonden aan een universiteit aan genoomanalyse doet, behoor je tot de doelgroep van dit aanbod.

Let wel, het is niet de bedoeling van S3S en Gigabyte dat zomaar iedereen in kan tekenen op deze testomgeving. Klanten of potentiële klanten moeten wel een goed verhaal hebben. Het is ook zeker niet bedoeld als omgeving die op termijn als een soort dienst aangeboden gaat worden, om organisaties tijdelijk even wat meer compute te geven. Het einddoel is wel dat klanten na het testen overgaan tot de aanschaf van een GPU-server bij S3S.

Testsysteem: de specs

In de bodytekst hebben we al enkele details van het testysteem uit de doeken gedaan. De liefhebbers willen ongetwijfeld nog wat meer details. Die hebben we ook. Het gaat in de basisconfiguratie van het systeem zoals S3S het aanbiedt om een Gigabyte G262-ZR0, een 2U-server met daarin twee maal AMD Epyc Rome 7282 CPU’s en een NVIDIA GPU-bord met daarop de vier SXM4 GPU’s waar we het in de bodytekst al over hadden. Verder is er voorzien in 256 GB RAM, verdeeld over 16 Samsung DDR4-3200 modules van 16 GB. Op het gebied van opslag zijn er in totaal drie SSD’s geplaatst van elk 1 TB, Samsung PM983’s. Zowel memory als opslag is overigens aan te passen naar de wensen van de klant.

Investering in de toekomst

Onder de streep is de testomgeving die S3S aankoopt met de Gigabyte-server voor beide partijen een investering richting de toekomst. De machine is zeker niet goedkoop. Hoeveel hij exact kost, willen Gigabyte en S3S tijdens het gesprek niet kwijt, maar het is een behoorlijk investering, waar zowel Gigabyte als NVIDIA een steentje aan bijdragen. Deze bijdrage doen de partijen, omdat er nog het nodige evangelisatiewerk te doen valt rondom professionele GPU-servers. Deze investering kan echter op termijn veel meer opleveren. Niet alleen voor Gigabyte, NVIDIA en S3S, maar ook zeker voor de klanten van S3S. Niets doen is in ieder geval voor niemand een optie, geeft Dekeukeleire tot slot aan. Stilstand is immers achteruitgang, en dat wil niemand.

Gigabyte en S3S lieten ons na ons gesprek weten dat ze binnenkort gezamenlijk een webinar organiseren rondom de NVIDIA A100 GPU. Hieronder kun je je daarvoor inschrijven.

Op 14 en 16 september organiseren S3S en Gigabyte samen met NVIDIA het gratis online NVIDIA A100 GPU Boot Camp. Wil je hier graag bij zijn en kans maken op een NVIDIA A10 GPU? Of heb je nog vragen over het S3S testplatform? Kijk dan snel hier.