Met de nieuwe Trainium 2 en Graviton 4 vernieuwt AWS de chips van eigen huis, terwijl een uitgebreide samenwerking met Nvidia ervoor zorgt dat klanten eenvoudiger toegang krijgen tot de meest geavanceerde AI-hardware. AWS doet de aankondigingen tijdens de eigen Re:Invent-conferentie te Las Vegas.
De naam van de Trainium 2 verraadt het doel van de custom AWS-chip eigenlijk al: het trainen van neurale netwerken, soms zelfs met biljoenen parameters. Ze zijn beschikbaar via EC2, met maximaal 16 Trainiums in een enkele instance. Door deze zogeheten “Trn2”-instances aan elkaar te sluiten (maximaal 100.000), zegt AWS een grote mate van schaalbaarheid te bieden. Een LLM met 300 miljard parameters kan voortaan volgens de cloudleverancier ervoor zorgen dat de trainingstijd van “maanden naar weken” gaat.
Graviton voor allerlei workloads
Hoewel 2023 het jaar van AI is, heeft AWS nog altijd een breder aanbod in huis dat op algemene workloads gericht is. De nieuwe Graviton 4 belooft een verbetering van 30 procent in compute-prestaties te leveren. AWS benoemt prominente klanten als Datadog, Discovery, Formule 1, SAP, Snowflake en Zendesk die de Graviton-chips inzetten voor zaken als databases, analytics, webservers en microservices.
Nvidia mag niet uitblijven
Zoals geen enkele conferentie compleet is zonder AI, blijft ook zelden een (uitgebreid) Nvidia-partnership uit. In dit geval komt de samenwerking met concrete beloftes voor klanten. Zo zal AWS de eerste dienst zijn die de GH200 Grace Hopper “Superchip” van Nvidia aan zal bieden, een combinatie van de Arm-gebaseerde Grace-CPU en H100-GPU. Laatstgenoemde is momenteel de krachtigste optie om AI-modellen te trainen en ontwikkelen, terwijl de GH200 die prestaties combineert met een CPU die specifiek voor AI-workloads geschikt is.
Volgens Nvidia betekent het dat het AWS zelf zal gebruiken als “vooraanstaande cloudprovider voor ML-R&D”, met de implicatie dat dat ook voor andere bedrijven met diepe portemonnees de optimale optie is.
Lees ook: Salesforce heeft AI van AWS nodig om aanbod te versterken
21 uur geleden
Expert bijdrage
