Het team achter Untether AI voegt zich bij AMD. Kort hiervoor werden ook stealth startup Brium en Enosemi overgenomen. Deze explosie aan overnames lijkt vooral gericht op AI-inference, hoewel de ambities van AMD steviger dan dat zijn.
Untether AI is zelf overigens niet opgekocht, maar houdt wel op te bestaan. Het team, afgezien van CEO Chris Walker, lijkt vorige maand de overstap al te hebben gemaakt. Saillant detail is dat de durfkapitaaltak van AMD-concurrent Intel een van de geldschieters van deze startup was. Untether richtte zich op zowel hardware als software, met inferencing als speerpunt.
Nvidia-alternatief op alle fronten
De door AMD overgenomen partijen verschillen behoorlijk als je naar de details kijkt, maar op een manier die goed op elkaar aansluiten. Zo bouwde Brium applicaties voor AI-inferencing, terwijl Enosemi photonics als focus kent voor de snelst mogelijke communicatie tussen AI-chips. Samen met eerdere overnames zoals die van het Finse AI-lab Silo AI is duidelijk dat AMD aan een fiks netwerk begonnen is en de nodige expertise inkoopt.
Dit moet uiteindelijk bovenop de bestaande AMD-initiatieven geschroefd worden, zo lijkt het idee. AMD Radeon Instinct-GPU’s gelden als krachtig alternatief voor Nvidia’s chips, maar deze missen de wijdverbreide steun voor CUDA, het door Nvidia opgebouwde API om AI-applicaties te ontwikkelen en te draaien. AMD heeft ROCm, dat net als Intels oneAPI in principe hetzelfde doel als CUDA voor ogen heeft. Echter ontbreekt er een grote massa aan AMD- of Intel-GPU’s in het datacenter om ontwikkelaars over te halen.
Inferencing als kans
Het overgrote merendeel van AI-workloads zullen echter niet draaien om een nauwe interactie met CUDA of de onderliggende hardware. Het doel van menig AI-startup is juist om dit te abstraheren. Voor organisaties moet het enkel uitmaken of een AI-applicatie te draaien is binnen de eigen on-prem omgeving (of zelfs op een “AI-pc”) of daarbuiten. In beide arena’s is er een flink tekort aan geld/aanbod om het dagelijks draaien van imposante AI rendabel te maken. Hyperscalers hebben altijd een mengelmoes van Nvidia, eigen hardware en andere opties nodig, terwijl organisaties geleidelijk aan worden voorzien van steeds meer betaalbare AI-opties. Denk aan “Project Battlematrix” van Intel, dat meerdere professionele GPU’s met elkaar verbindt voor lokale LLM’s.
AMD is daarom bezig met zijn hagelvuur aan overnames. Er zijn allerlei kanten van de AI-wereld aan te spreken, waarbij enkel de enterprise AI-training (weggelegd voor een handjevol bedrijven) echt het domein van Nvidia is als er gezocht wordt naar de snelste, meest ondersteunde hardware. Elders valt er winst te boeken, en op dat gebied is AMD flink aan het bouwen.
Lees ook: AMD’s nieuwste doelwit binnen datacenters: het netwerk