Broadcom heeft de Tomahawk 6-chip gepresenteerd, waarmee Ethernet-switches in datacenters tot 102,4 terabit per seconde kunnen verwerken. Deze bandbreedte maakt de chips ideaal voor grote AI-clusters, stelt het chipbedrijf.
AI-training verspreidt zich over meerdere GPU’s (doorgaans van Nvidia) die onderling constant data moeten uitwisselen. Deze communicatie vergt aanzienlijke bandbreedte, dat doorgaans de bottleneck vormt voor data-intensieve AI-workloads. Inference, het dagelijks draaien van AI-modellen, stelt eveneens hoge eisen aan het netwerk omdat de GPU’s geregeld data van externe opslag moeten ophalen.
Tomahawk 6 pakt deze bottlenecks in het netwerk aan via wat het Cognitive Routing 2.0 noemt. Deze functionaliteit detecteert congestie en leidt verkeer om naar andere verbindingen. Tegelijk verzamelt het informatie over technische problemen voor monitoring.
Co-packaged optics besparen kosten
Datacenters verbinden AI-servers steeds vaker met glasvezelkabels voor hogere snelheden dan traditionele koperkabels. Voor optische netwerken biedt Broadcom een Tomahawk 6-versie met co-packaged optics (CPO).
CPO integreert transceivers direct in de switchprocessor. Hierdoor zijn geen losse transceiver-apparaten meer nodig, wat hardwarekosten bespaart en het stroomverbruik verlaagt. Data wordt rechtstreeks in de switch omgezet naar licht voor verzending over glasvezel.
Voor koperen kabels ondersteunt de chip long-reach passive copper cables. Standaard koperen kabels hebben beperkte reikwijdte, waardoor AI-servers dicht bij elkaar moeten staan. De nieuwe kabels versoepelen deze ontwerpbeperkingen.
Ondersteuning tot 100.000 processors
In scale-out configuraties kan Tomahawk 6 clusters met maximaal 512 processors aansturen. Netwerken met twee lagen switches maken verbindingen mogelijk tussen meer dan 100.000 processors.
De chip is vanaf vandaag beschikbaar. Volgens Broadcom zijn meerdere klanten van plan om Tomahawk 6 te integreren in AI-clusters met meer dan 100.000 processors.
Lees ook: Nieuwe chips Broadcom voor optische datacenter-netwerken