Cerebras heeft de CS-4 aangekondigd, een nieuw AI-systeem dat drie wafer-scale processors combineert in één rack. De fabrikant richt zich vooral op inference en claimt hogere snelheden en een betere energie-efficiëntie dan bij zijn vorige generatie.
De CS-4 is het eerste systeem op basis van de nieuwe Nexus-architectuur van Cerebras. Het bevat drie WSE-3 Turbo-processors (WSE-3T), die door TSMC op een 5nm-proces worden geproduceerd, meldt Reuters. Iedere chip telt vier biljoen transistors en 900.000 voor AI geoptimaliseerde cores, met 44 GB SRAM direct op de wafer.
Samen leveren de processors volgens Cerebras 750 PFLOPS aan AI-rekenkracht en 129,6 petabyte per seconde aan geheugenbandbreedte.
Minder dataverkeer tussen chips
De omvang van de processors vormt een belangrijk onderdeel van de aanpak van Cerebras. Bij conventionele GPU-systemen moeten gegevens tussen afzonderlijke chips worden verplaatst, wat tijd en energie kost. Doordat veel verwerking binnen één wafer plaatsvindt, kan Cerebras dat dataverkeer beperken.
Bij een test met GPT-OSS-120B zou de CS-4 meer dan 4.400 tokens per seconde per gebruiker verwerken. Cerebras spreekt van een snelheid die in bepaalde configuraties tot dertig keer hoger ligt dan bij GPU-gebaseerde oplossingen. De resultaten zijn afkomstig van het bedrijf zelf en variëren afhankelijk van onder meer modelarchitectuur, contextlengte en configuratie.
Ten opzichte van de CS-3 claimt Cerebras een verdubbeling van de snelheid en tot tien keer meer throughput per watt.
Directe verbinding tussen wafers
De CS-4 biedt een totale I/O-bandbreedte van 7,2 terabit per seconde. Met Direct Wafer Links kunnen processors bovendien rechtstreeks communiceren zonder tussenkomst van een switch. De latency tussen wafers daalt volgens Cerebras van vijf naar minimaal twee microseconden.
Dit maakt het mogelijk meerdere systemen tot grotere clusters te combineren. Cerebras stelt dat de architectuur modellen met meer dan 50 biljoen parameters kan ondersteunen. De I/O-module ondersteunt daarnaast RoCE v2 RDMA over Ethernet voor koppelingen met andere hardware.
Ook de fysieke opbouw is gewijzigd. De processors zitten in modulaire Wafer-Scale Backpacks waarin onder meer stroomconversie, vloeistofkoeling en I/O zijn geïntegreerd. Deze modules bevatten volgens Cerebras ongeveer de helft minder componenten dan hun voorgangers.
Volgende generatie in 2027
De eerste CS-4-systemen worden in het derde kwartaal geleverd. Een prijs is niet bekendgemaakt. Volgens Reuters wil Cerebras in 2027 alweer een volgende generatie van de processor en het serversysteem uitbrengen.
Het bedrijf verwacht tegen eind 2027 voor 600 MW aan compute-capaciteit te leveren. CEO Andrew Feldman zegt dat toekomstige systemen tegen die tijd vier keer zo snel en twintig keer zoveel throughput moeten bieden. Cerebras rapporteerde vorige week een omzet van 180,1 miljoen dollar en een aangepast verlies van 6,9 miljoen dollar.