Nvidia’s A100-gpu heeft in de MLPerf-benchmarks voor machine learning-applicaties meerdere records gevestigd. De nieuwe chip presteert in de tests grofweg zes tot acht keer zo goed als zijn voorganger gebaseerd op de Turing-architectuur.
In de MLPerf-benchmark werd de A100 naast onder andere de Nvidia T4 gelegd, maar ook vergeleken met de Xilinx U250 en Intels Cooper Lake-processors. De A100 komt in elk van de zes tests als beste uit de bus.
Zo snel als 1000 servers
Nvidia gaat in zijn blogpost over de testuitslag graag de vergelijking aan met de cpu’s van Intel. Ten opzichte van die processors presteert de grafische processor van Nvidia tot 237 keer zo snel. De chipontwerper geeft als voorbeeld dat één Nvidia DGX A100-systeem, dat is uitgerust met acht A100-chips, in bepaalde applicaties bijna net zo snel is als duizend dualsocketservers met Intel-processors.
Ook inzetbaar in edge-toepassingen
De snelheid van de A100-chip komt ook naar voren in de edge-benchmarks van MLPerf. Ook hier blijkt de A100 vele malen sneller dan de T4, zoals in onderstaande tabel te zien is. De Jetson AGX Xavier-chip, die slechts 10 watt verbruikt, laat overigens ook indrukwekkende prestaties zien.
MLPerf
MLPerf is een benchmark met het doel om te testen hoe verschillende systemen in verschillende AI-applicaties presteren. Hij wordt gesteund door partijen als Amazon, Baidu, Facebook, Google, Intel, Microsoft en de universiteiten van Harvard en Stanford.
De Nvidia A100 is sinds juni beschikbaar. Verschillende organisaties gebruiken de chips inmiddels in hun servers. Ook Google Cloud is in juli begonnen servers met de technologie te verhuren.