Dell voorziet zijn AI Factory van nieuwe infrastructuur en diensten waardoor bedrijven betere middelen krijgen om AI zelf in te zetten. Het bedrijf geeft aan dat AI-adoptie voor bedrijven een ‘echte uitdaging’ kan zijn, wat maakt dat ervoor is gekozen de oplossing te vereenvoudigen.
In het kader van Supercomputing 2024 kondigt Dell vernieuwingen aan voor de AI Factory. De meerderheid van de vernieuwingen bevindt zich dan ook in de basis van de AI Factory: de data-opslag en de computing-bronnen. Op deze infrastructuur staat een open ecosysteem van partnerships met enkele van de belangrijkste spelers in het AI-veld en Dell-diensten. Met dit geheel zet de Dell AI Factory data om naar gebruiksscenario’s en stippelt het voor bedrijven uit waar het inzetten van AI handig kan zijn voor de bedrijfsvoering.
Server-producten
Voor de basis focust Dell zich op uitbreiding van het Dell Integrated Rack Scalable Systems (IRSS)-programma. Het gaat om een programma dat onmiddellijk inzetbare rack-scale-systemen aanbiedt. De koeling van deze systemen is op basis van de behoefte te voorzien met lucht- en waterkoeling. Bovendien kunnen gebruikers steeds rekenen op onmiddellijke hulp bij problemen met slechts één gesprek naar een Dell-medewerker.
In het programma zullen voortaan volgende servers ook worden aangeboden: Dell PowerEdge XE9685L en PowerEdge XE7740. Deze kunnen worden toegevoegd aan het standaard Dell Integrated Rack 5000. De laatste bevat Xeon 6-processoren en gebouwd voor het ondersteunen van enterprise AI, met specifieke focus op AI-inferencing en model fine-tuning.
“In de XE9865L is plaats voor een maximum van 96 Nvidia GPU’s per rack. Daarnaast levert het tot twintig procent betere IO-connectiviteit en bevat het eye-tracking-functionaliteit waardoor onderhoud op afstand kan gebeuren”, verduidelijkt Arunkumar Narayanan, SVP voor het Compute and Networking Portfolio Management bij Dell.
Vernieuwing bestaande partnerships
Dan zijn er aankondigingen op het ecosysteem. Dell geeft aan zoveel mogelijk verschillende partijen samen te willen brengen in een ecosysteem. De meest belangrijke partner van het ecosysteem is Nvidia en dat is duidelijk te merken in de aankondiging.
De eerste vernieuwing is gericht op het nieuwe aanbod van Nvidia-GPU’s die ‘voor het einde van 2024 nog ondersteund zullen worden’, zo geeft Dell aan. “Inferencing wordt een grote factor die bepaalt of AI in de enterprise werkt of niet. Daarom vinden we de ondersteuning van de laatste GPU’s, die tot 1,9 keer hogere inference-prestaties halen, belangrijk”, zegt Varun Chhabra, SVP ISG bij Dell.
Verder wordt Dell Agentic RAG met Nvidia een nieuw onderdeel van het gezamenlijk aanbod van de bedrijven. “RAG geeft klanten de mogelijkheid om eigen data aan een LLM toe te voegen zonder al teveel werk”, weet Chhabra.
Tot slot is er nog een ontwikkeling niet in samenwerking met de AI-partner. Dell brengt Validated Designs uit voor AI-desktops. Deze ontwerpen zijn gemaakt voor ontwikkelaars die problemen ervaren bij het ontwikkelen van AI-apps en met specifiek het inzetten van de NPU’s uit AI-desktops. De designs zijn open-source beschikbaar.
Expertise delen
Een goede infrastructuur en partnerships met sterke spelers in het AI-veld zijn niet zo waardevol als bedrijven niet weten hoe ze met AI aan de slag moeten gaan. Volgens Chhabra is het gebrek aan expertise en vaardigheden namelijk één van de grootste probleempunten die de AI-adoptie momenteel afremt. Andere uitdagingen zijn problemen met de datakwaliteit, kosten, conflict met duurzaamheidsdoelstellingen en security.
Dell biedt zijn diensten aan om het gebrek aan expertise in het bedrijf mee op te vangen door zelf consultancy-diensten aan te bieden. Dell ondersteunt bedrijven met het uitschrijven van hun milieudoelstellingen die zij willen nastreven en geeft advies over AI Networking en Data Management. Tot slot biedt het een dienst om GenAI-functies toe te voegen in service management workflows met Now Assist.
Dell neemt met de updates zijn volledige AI Factory onder handen. Naast dat het gewoon een kwestie is van bij te blijven met de vernieuwingen in het AI-veld die elkaar razendsnel opvolgen, moet het nieuwe zaken bieden die bedrijven het laatste zetje geeft om zelf met AI aan de slag te gaan.
Lees ook: AI is een broodnodige innovatie, maar wees voorzichtig