Nieuwe Cloud TPU Pods van Google bieden on-demand AI-supercomputer

Google heeft zijn cloud-platform uitgebreid met de toevoeging van Cloud TPU Pods. Cloud TPU Pods is een nieuwe infrastructuur-optie gericht op grote kunstmatige intelligentie (AI) projecten die grote hoeveelheden computing-kracht nodig hebben.

Een Cloud TPU Pod is een set aan server racks die in één van de datacentra van Google draaien, schrijft Silicon Angle. Ieder rack bevat Google’s Tensor Processor Units, wat aangepaste chips zijn die van de grond af zijn opgebouwd voor AI-applicaties. Het bedrijf gebruikt ze om een reeks aan interne diensten te ondersteunen, zoals de zoekmachine en Google Translate.

Supercomputers

TPU’s zijn sinds kort ook afzonderlijk te huren op Google Cloud. De TPU’s bieden diverse voordelen ten opzichte van de GPU’s die bedrijven normaal gesproken gebruiken voor AI-projecten. Zo hebben de TPU’s vaak hogere snelheden. Ook kunnen ze 19 procent betere prestaties bieden dan vergelijkbare hardware van Nvidia als ze specifieke soorten taken uitvoeren.

Een enkele Cloud TPU Pod kan 256 of 1.024 chips bevatten, afhankelijk van de configuratie. De versie met 256 chips gebruikt de tweede generatie TPU’s uit 2017, en heeft een snelheid van 11,5 petaflops. De 1.024-chip configuratie biedt 107,5 petaflops aan prestaties dankzij de nieuwere derde generatie TPU’s.

Summit, de meest krachtige supercomputer ter wereld, heeft bijvoorbeeld topsnelheden van 200 petaflops. De Cloud TPU Pods kunnen die topsnelheden alleen bereiken als ze minder complexe data verwerken dan wat Summit normaal gesproken afhandelt, maar ze zijn in ieder geval krachtig.

API

De hardware wordt beschikbaar gemaakt via API’s waarmee AI-teams met de TPU’s kunnen werken alsof ze een enkele logische unit waren. Ook kunnen ontwikkelaars de computing-kracht van een Pod opsplitsen over verschillende applicaties.

De Cloud TPU Pods zitten momenteel in bèta. Vroege klanten zijn onder meer eBay en het Amerikaanse biotechnologiebedrijf Recursion Pharmaceutical. Dat bedrijf gebruikt de oplossing om tests op moleculen uit te voeren met mogelijke medische waarde.