Cerebras Systems, een AI-startup die focust op deep learning, heeft een AI-chip ontwikkeld met 1,2 biljoen transistors. Daarmee claimt het bedrijf de grootste processor ter wereld tot nu toe te hebben gebouwd.
De Wafer Scale Engine die Cerebras vandaag onthulde, kortweg WSE, meet 21,6 bij 21,6 centimeter en heeft maar liefst 1,2 biljoen transistors. De circuits van de WSE zijn georganiseerd in 400.000 verwerkingskernen die speciaal zijn geoptimaliseerd voor AI. De chip heeft 18 gigabyte aan high speed geheugen aan boord.
Cerebras komt met de chip als onderdeel van een datacenter-device met een eigen waterkoelsysteem. Dit is bedoeld om de grote hitte die deze chip ontwikkelt tegen te gaan. De directeur van Cerebras, Andrew Feldman, liet aan Fortune weten dat de chip 150 keer zo krachtig is als een server met meerdere grafische kaarten van Nvidia. De chip van de startup verbruikt zelfs maar 2 tot 3 procent van de ruimte en energie die een vergelijkbare traditionele serverfarm gebaseerd op Nvidia zou gebruiken.
Maximale efficiëntie
De efficiëntie is te danken aan de grootte van de WSE. Daardoor wordt alle compute op dezelfde chip uitgevoerd, in plaats van op meerdere chips. Een bottleneck door trage verbinding is dan dus verleden tijd.
Volgens SiliconAngle ligt een andere belangrijke uitdaging bij het creëren van een monsterchip als deze bij het productieproces. Het is namelijk erg moeilijk om alle 1,2 miljoen transistors zonder defecten uit productie te laten komen. Defecte transistors worden echter door Cerebras omzeild. Dit gebeurt door een intern netwerk in de chip te bouwen dat defecte onderdelen kan ontwijken.
Het ontwerp “neemt de fundamentele eigenschappen van de kernen, het geheugen en connecties en brengt ze tot hun uitersten”, schreef Andy Hock, directeur product management bij Cerebras, in een blogbericht. “Door alles op de chip te verbinden, is de communicatie vele duizenden keren sneller dan wat mogelijk is met off-chip methoden zoals InfiniBand.”
6 uur geleden
