2min

Tags in dit artikel

, ,

Intel werkt aan een nieuwe chipset, de Infrastructure Processing Unit (IPU), voor de datacenters van grote cloudaanbieders. Hiermee wil de chipsetfabrikant diverse rekenkrachttaken offloaden van serveromgevingen naar de IPU, zodat traditionele server CPU’s elders kunnen worden ingezet.

Volgens Intel moet de nu ontwikkelde IPU cloudaanbieders helpen met een beter en efficiënter gebruik van hun infrastructuur en vooral van hun serveromgevingen. Servers in datacenters voeren niet alleen voor het draaien van applicaties berekeningen uit, maar ook voor een heleboel andere taken. Denk aan het coördineren van netwerkverbindingen, het beheer van storage-aanvragen en andere ondersteunende taken. Dit vergt, naast het dus draaien van de applicaties, veel rekenkracht van de servers.

Introductie IPU

Met de komst van de IPU-chipset wil de chipfabrikant deze processen ‘offloaden’ van de beschikbare rekenkracht van de servers, zodat die elders beter kan worden benut. Bijvoorbeeld voor de workloads en applicaties. De IPU moet de additionele rekenkrachtprocessen die servers uitvoeren, zoals het coördineren van de netwerkverbindingen of het beheer van de storageprocessen, overnemen.

Concreet is de nu aangekondigde IPU een soort netwerk device dat bedrijven aan hun servers kunnen koppelen. Wanneer deze koppeling heeft plaatsgevonden, nemen de IPU’s de hulprekenprocessen over van de CPU van de server. De server CPU heeft dan meer ruimte beschikbaar en deze inzetten voor de andere rekenprocessen.

De IPU voert ondertussen de diverse hulptaken meer efficiënt uit dan de server CPU. Dit komt door de gespecialiseerde circuits op de chipset, die zijn geoptimaliseerd voor zogenoemde ‘low-level’ infrastructuurtaken. De IPU neemt bijvoorbeeld taken als storagevirtualisatie, netwerkvirtualisatie en securityhandelingen over.

De IPU is eigenlijk een evolutie van de bestaande SmartNIC netwerk devices van Intel. Deze devices bieden min of meer dezelfde (CPU-offload) diensten als de nu geïntroduceerde IPU’s. Deze Intel SmartNIC netwerk devices bieden klanten onder meer het vrijmaken van processor cores, schaling tot hogere bandbreedtes en storage IOPS en nieuwe functionaliteit na de uitrol die voor klanten voorspelbare resultaten bieden.

Gebruik door cloudaanbieders

De IPU’s zijn, zoals Intel aangeeft, vooral geschikt voor de datacenters van grote cloudaanbieders. Bijvoorbeeld door het offloaden van diverse infrastructuurtaken naar de chipsets. Hiermee wordt meer efficiëntie bereikt en kunnen de aanbieders straks 100 procent van hun CPU-rekenkracht aan klanten ter beschikking stellen.

Verder krijgen klanten meer mogelijkheden, vanwege de programmeerbaarheid van de IPU’s en de bijbehorende software, de IaaS-omgeving naar eigen wens aan te passen. Bijvoorbeeld door een eigen hypervisor te installeren, zodat de infrastructuur specifiek voor de eigen workloads zijn aan te passen.

Grote cloudaanbieders als Google en Microsoft draaien inmiddels al proeftrajecten met de nieuwe Intel IPU en komen tot rekenkrachtbesparingen voor hun server CPU’s van tussen de 22 en 80 procent in beschikbare CPU cycles. De Intel IPU’s worden de cloudaanbieders voorlopig nog alleen als Field-Programmable Gate Arrays (FPGA) aangeboden. Intel test ook een ASIC-ontwerp voor zijn IPU’s.

Tip: Nvidia zet flink in op servers voor AI-workloads