Akamai brengt twee nieuwe diensten naar Akamai Cloud: Akamai Inference voor managed model serving en Akamai Agent Sandbox voor de geïsoleerde uitvoering van code die AI-agents zelf schrijven.
Met de twee nieuwe diensten wil Akamai bedrijven één platform bieden voor het bouwen, draaien en beveiligen van AI-applicaties en agents. Volgens het bedrijf stellen de meeste teams die onderdelen nu nog samen bij verschillende aanbieders, waarna ze de koppelingen daartussen zelf moeten beveiligen. Akamai Cloud loopt van GPU- en CPU-clusters in kernregio’s tot meer dan 4.350 edge-locaties.
“We hebben een AI-infrastructuurstrategie uitgevoerd die uitgaat van het idee dat AI-inference het grootste deel van de focus en investeringen van bedrijven zal opslokken. Onze klanten hebben die stelling bewezen en ons verder getrokken”, zegt Adam Karon, COO en GM van Akamai Cloud.
Open-weight modellen via OpenAI-compatibele API’s
Akamai Inference geeft managed toegang tot open-weight en eigen modellen via OpenAI-compatibele API’s. Bestaande applicaties hoeven daardoor niet herschreven te worden. Klanten kiezen tussen serverless inference op basis van pay-per-use of dedicated deployments. De catalogus telt bij de start twaalf open-weight modellen, van 8 miljard tot 2,8 biljoen parameters. Daaronder vallen Nvidia Nemotron 3 Ultra, OpenAI gpt-oss-120b en Google Gemma 4, aangevuld met embedding-modellen voor RAG. Orchestration, modeluitvoering en authenticatie neemt de dienst voor zijn rekening.
WebAssembly als grens rond agentcode
Agents draaien bij Akamai Agent Sandbox op Akamai Functions, terwijl de code die ze schrijven in een eigen geïsoleerde omgeving terechtkomt, los van de runtime van de agent. De sandbox is een open-source onderdeel van het Spin-framework. Dat framework komt van Fermyon, dat Akamai eerder overnam om serverless edge computing te versterken. Via WebAssembly-isolatie stelt de sandbox limieten aan compute, geheugen, uitgaande verbindingen en systeemrechten.
Akamai laat ontwikkelaars overigens ook kiezen voor managed Kubernetes en dedicated CPU- of GPU-infrastructuur. Daarnaast wil het bedrijf functies toevoegen die bepalen wat agents kunnen bereiken en wat hen kan bereiken.
Blackwell Ultra nu, Vera Rubin in 2027
Op hardwaregebied is de stap groot. Akamai begon met GPU-diensten op basis van Nvidia RTX 4000 Ada-kaarten. Nu bestaat de vloot uit RTX PRO 6000 Blackwell Server Edition-GPU’s voor inference met lage latency en Blackwell Ultra-clusters. Elke node met acht GPU’s heeft 288 GB HBM3e per GPU, in totaal 2,3 TB. Die clusters draaien zonder rate limits of gedeelde wachtrijen. Akamai bereidt zijn datacenters daarnaast voor op het Nvidia Vera Rubin-platform in 2027.
Akamai Inference en Agent Sandbox (via de Spin SDK) zijn per direct in beta beschikbaar. Wie de Nvidia B300-clusters wil gebruiken, kan contact opnemen met Akamai.
Tip: Akamai neemt LayerX over om de browser beter te beveiligen