Anthropic is in gesprek met Microsoft over het gebruik van servers met Azure Maia, Microsofts eigen AI-chip. De onderhandelingen zijn volgens The Information nog in een vroeg stadium. Maia 200 is gericht op het zo efficiënt mogelijk draaien van AI-inferencing. Microsoft is een van Anthropics grootste klanten, met 30 miljard dollar aan Azure-uitgaven toegezegd.
Het gaat om de Maia 200, een chip die Microsoft specifiek ontwikkelde voor inferencing. Oftewel: het draaien van bestaande AI-modellen, niet het trainen van nieuwe. Microsoft heeft via Copilot-tools al kostenbesparing gerealiseerd met deze chip, die zowel OpenAI- als Anthropic-modellen ondersteunt. We bespraken deze AI-processor onlangs met Andrew Wall, General Manager van Azure Maia bij Microsoft.
Lees verder: Microsoft Azure Maia-topman voorspelt een complexe toekomst voor AI-chips
Stevige investeringsrelatie
Tussen Microsoft en Anthropic bestaat al een omvangrijke financiële band. Eind vorig jaar kondigde Microsoft plannen aan om tot 5 miljard dollar in Anthropic te investeren. In november werd bovendien een strategisch partnerschap met Nvidia aangekondigd, waarbij Microsoft en Nvidia gezamenlijk tot 15 miljard dollar in Anthropic steken. Anthropic committeert zichzelf op zijn beurt aan 30 miljard dollar aan Azure-uitgaven.
Een onderdeel van die samenwerking is het gebruik van Claude-modellen voor Microsoft Copilot, met een waarde van minstens 500 miljoen dollar voor die deal. Microsoft heeft ook extra bestaande Nvidia-servercapaciteit aan Anthropic toegewezen en bouwt nieuwe serverclusters specifiek voor het AI-bedrijf.
Eigen chips als Nvidia-alternatief
Naar het voorbeeld van Googles TPU’s en Amazons Trainium wil Microsoft een eigen chip-ecosysteem opbouwen. Maia focust daarbij momenteel op inferencing en het verlagen van kosten voor het draaien van modellen. Een AI-model dat competitief is met de sterkste LLM’s heeft het nog niet, maar Microsoft AI (MAI) zou dit op den duur wel willen bewerkstelligen. Dat team werd in maart 2024 opgezet. In gesprek met Wall suggereerden we al dat die inzichten wellicht kunnen helpen om Maia te verbeteren, maar nu blijkt dat advies ook uit een andere hoek kan komen.
Anthropic verwacht namelijk bij de volgende generatie Maia-chips input te kunnen geven in het ontwerpproces. Ondertussen Anthropic zijn infrastructuurkeuzes diverser: het bedrijf sloot een meerjarig contract met CoreWeave voor Nvidia-hardware en legde daarnaast 200 miljard vast bij Google Cloud. Ook draait het op AWS Trainium-chips.