Red Hat Enterprise Linux AI (RHEL AI) komt naar de Dell PowerEdge-servers, goed nieuws voor iedereen die met AI aan de slag wil zonder zich al teveel zorgen te maken over het onderhouden van een ingewikkelde infrastructuur.
RHEL AI is bedoeld voor foundation-modellen en moet gebruikers in staat stellen om met meer gemak (Gen)AI-modellen te ontwikkelen, testen en implementeren. De samenwerking met Dell betekent dat RHEL AI vanaf nu het voorkeursplatform is voor dergelijke workloads op Dell PowerEdge R760xa servers.
Dit servertype is daarmee meteen de eerste die officieel is gevalideerd voor RHEL AI. Ofwel, deze servers werken optimaal met RHEL AI om bijvoorbeeld LLM’s te draaien ten behoeve van AI-toepassingen als chatbots en slimme zoekmachines. De samenwerking zorgt er volgens de partijen voor dat klanten eenvoudiger AI-strategieën kunnen ontwikkelen, testen en uitvoeren zonder zich al teveel zorgen te maken over compatibiliteit of prestaties.
Hoge mate van customizability
Wat de samenwerking verder interessant maakt, is de combinatie van open source en krachtige hardware. Red Hat levert met RHEL AI een op AI geoptimaliseerd besturingssysteem, inclusief tools als de open source Granite LLM’s van IBM Research. Deze modellen zijn te customizen met behulp van InstructLab, dat tools biedt om modellen aan te scherpen met zelf toegevoegde kennis of instructies.
Samen met de al aanwezige Nvidia-accelerated computing in de PowerEdge-servers, levert dit een betrouwbare en schaalbare AI-oplossing die ook nog eens stevige workloads aankan, zo is de belofte.
Van klein tot groot
Het blijft niet alleen bij losse servers. RHEL AI kan ook draaien binnen Red Hat OpenShift AI, hun platform voor machine learning operations (MLOps). Dit maakt het mogelijk om AI-modellen op grote schaal te implementeren in gedistribueerde omgevingen, waar compute, storage en networking zijn verspreid over meerdere fysieke locaties of machines.
Tegelijkertijd kan de oplossing ook worden ingezet op individuele servers in hybride cloudomgevingen, dankzij de geoptimaliseerde, bootable Red Hat Enterprise Linux (RHEL)-image. Hierdoor is RHEL AI flexibel inzetbaar, van kleinschalige, specifieke workloads tot gebruik in grootschalige infrastructuren.