De Amerikaanse startup Cerebras heeft een AI-supercomputer met 1,3 miljoen cores ontwikkeld. De supercomputer kan een één Exaflop aan AI-rekenkracht en 120 Petaflop aan high-density rekenkracht leveren. Bedrijven en wetenschappers kunnen de supercomputer gebruiken voor large language-modellen.

Volgens de startup biedt de Andromeda AI-supercomputer met één Exaflop evenveel rekenkracht als de grote Amerikaanse Frontier-supercomputer in het nucleaire Oak Ridge National Laboratory. De laatstgenoemde supercomputer wist eerder dit jaar de grens van één Exaflop te doorbreken. De supercomputer van Cerebras beschikt over maar liefst 1,6 keer zoveel cores als de 8,7 miljoen van Frontier. Het aantal Andromeda-rekenkrachtcores is meer dan 1.953 Nvidia A100 GPU’s, aldus de startup.

Onder de motorkap

De supercomputer bestaat uit zestien aaneengeschakelde Cerebras C2-systemen in een eigen datacenter in Santa Clara, Californië. Dit zijn supercomputersystemen op basis van de eigen tweede generatie Cerebras Wafer Scale Engine (WSE-2)-processor, de grootste industriële processor ter wereld. Het model gebruikt daarnaast de MemoryX- en SwarmX-technologieën van Cerebras.

De MemoryX-technologie laat een enkele CS-2-configuratie meerdere biljoenen parametermodellen ondersteunen. De SwarmX-technologie verbindt de MemoryX-technologie met een cluster van Cerebras C2-supercomputers. De cores in de AI-supercomputer worden daarnaast ondersteund door maar liefst 18.176 third-gen AMD EPYC-processors. De Andromeda AI-supercomputer is vooral geschikt voor het afhandelen van large language-modellen zoals GPT-3, GPT-J en GPT-NeoX.

Gebruiksopties

De AI-supercomputer kan tegelijkertijd door meerdere gebruikers worden gebruikt. Gebruikers kunnen daarbij aangeven hoeveel van de C2-supercomputers van Andromeda zij willen gebruiken. Bijvoorbeeld een complete cluster van zestien C2’s voor een enkele gebruiker en een enkele taak, maar ook zestien individuele C2’s voor zestien verschillende eindgebruikers en zestien verschillende taken.

Klanten zijn voornamelijk wetenschappelijke instituten in binnen- en buitenland. Zij krijgen op afstand toegang tot de AI-supercomputer.

Tip: Bosch mikt op een verbonden wereld met miljardeninvestering en IBM quantum computing