Amazon heeft de AWS Trainium aangekondigd. De chip is speciaal ontworpen voor machine learning-taken. Het bedrijf claimt dat de chip sneller is dan concurrerende aanbieders in de cloud.
Trainium biedt ondersteuning voor TensorFlow, PyTorch en MXNet. Volgens AWS hebben instanties met Trainium in vergelijking met gewone GPU-instanties van AWS een 30 procent hogere throughput en 45 procent goedkoper per berekening.
Habana Gaudi
AWS werkt ook samen met Intel om EC2-instanties op basis van Habana Gaudi aan te bieden. Die zouden een 40 procent betere prijs-prestatieverhouding moeten hebben dan de huidige EC2-instanties die op GPU’s gebaseerd zijn. De chips ondersteunen TensorFlow en PyTorch, schrijft TechCrunch.
Nvidia A100
Welke GPU-instanties Amazon precies bedoelt met het huidige aanbod, is niet duidelijk. Nvidia claimde onlangs met zijn A100-GPU de hoogste scores te behalen in de MLPerf-benchmark voor machine learning. Voor zover bekend is de benchmark nog niet op Trainium uitgevoerd.
Beschikbaarheid
De Trainium-instanties zijn vanaf volgend jaar beschikbaar als EC2-instanties en binnen Amazon SageMaker. De Habana Gaudi-instanties komen in de eerste helft van 2021 beschikbaar.
5 uur geleden
