Net iets meer dan een jaar geleden nam Elon Musk Twitter over voor 44 miljard dollar. Een turbulente periode volgde, met onder andere een naamsverandering, continu aangepaste verdienmodellen, API-afsluitingen en controverses rondom toegestane content en vrijheid van meningsuiting. Eén besluit lijkt hoe dan ook tot het gewenste resultaat te leiden: de overstap van de cloud naar on-prem om X te draaien.
Het Engineering-team (@XEng) van X onthulde onlangs wat er allemaal onder de motorkap van het social media-platform veranderd is. Men heeft de codebase van X drastisch verkleind, waarbij de gepersonaliseerde “For You”-feed voortaan met een reusachtige 90 procent minder programmeercode bevat. De benodigde computerkracht is daardoor gehalveerd. Ook zou deze feature zelfs beter werken dan voorheen. Andere software-gebaseerde optimalisaties betreffen de API, de techstacks voor allerlei functies op X en het weren van bots. De blokkade van content scrapers zou met 37 procent zijn vergroot ten opzichte van 2022. Spam in persoonlijke berichten zou eveneens aanzienlijk gereduceerd: 95 procent daarvan is inmiddels verleden tijd.
Het zal als muziek in de oren klinken van Elon Musk, die zijn ergernis over bots op X en inefficiënties in zijn bedrijf niet onder stoelen of banken stak. Echter zijn er maar weinig Musk-gerelateerde incidenten het afgelopen jaar geweest die voor ons zo opvallend waren als de strijd met cloudgigant AWS: in juni bleken er nog wat rekeningen open te staan en belandden de onderhandelingen over een nieuw cloudcontract op een dood spoor. De oplossing: veel meer on-prem, veel minder cloud.
Kostenbesparing
Het X-team spreekt over grote kostenbesparingen dankzij deze stap naar on-prem. De maandelijkse cloudkosten zijn met 60 procent afgenomen, mede dankzij het weghalen van media/blob-artifacts uit cloudomgevingen. Dit zorgde alleen al voor een 60 procent kleinere opslagruimte in de cloud. Kosten rondom dataverwerking zijn nog drastischer verkleind: er zou een besparing zijn behaald van 75 procent.
Tegenover het afstappen van de cloud staat ook een optimalisatie van de eigen hardware-stack. Zo sluitte men het datacenter te Sacramento en werden de 5200 racks en 148.000 servers opnieuw verdeeld, waarmee 100 miljoen dollar is bespaard en 48W voor andere taken beschikbaar werd. Eigen on-prem GPU Supercompute-clusters zijn opgetuigd en rusten op 43,2Tbps aan network fabric-architectuur. De capaciteit van de “network backbone” van het bedrijf is geoptimaliseerd, waarbij 13,9 miljoen dollar per jaar bespaard is. Geautomatiseerde peak traffic failover tests controleren continu op de schaalbaarheid en beschikbaarheid van het platform. Kortom: een waslijst aan verbeteringen en besparingen.
Onafhankelijkheid
Het lijkt er dus op dat X niet alleen meer onafhankelijkheid heeft opgeëist, maar ook simpelweg goedkoper uit is met eigen hardware. Senior Director of Product Strategy bij Veeam Rick Vanover besprak onlangs op Techzine hoe de cloud ook voor talloze andere partijen tot onvoorziene kosten leidt. “We horen regelmatig verhalen over maandelijkse rekeningen voor diensten die 25 tot 50 procent hoger zijn dan het bedrijf had begroot.” Het gaat hierbij weleens om inefficiënties die de kosten de pan laten uitrijzen, maar fundamenteel zijn cloud-uitgaven dus niet zo overzichtelijk en voorspelbaar als een on-prem oplossing.
X is natuurlijk dermate groot dat de “economy of scale” in het voordeel van het platform werkt bij het bouwen van on-prem oplossingen. Nvidia-CEO Jensen Huang, die als leider van verreweg de grootste GPU-leverancier zowel in de cloud als voor on-prem een cruciale rol in het kostenplaatje speelt, zei een paar jaar geleden al “Hoe meer je koopt, hoe meer je bespaart.” Dat geldt al helemaal voor de uiterst prijzige H100-GPU’s die de sterspeler voor AI-applicaties is gebleken. Daarom is het niet voor iedereen logisch om te kiezen voor on-prem boven de cloud.
Wel spreekt Vanover over een cloud exit-strategie, waarbij een organisatie continu dient te kijken welke kostenbesparingen mogelijk zijn. Wat als je beter naar een andere cloudspeler over kunt stappen of een lokaal datacenter in dient te zetten? De flexibiliteit om je terug te trekken uit de gekozen cloudomgeving, moet volgens Vanover al vóór het kiezen van de clouddienst kraakhelder zijn. “Het is net als bij een brandweerman of politieagent: het eerste waaraan ze denken bij het betreden van een potentieel gevaarlijke situatie is hoe ze eruit kunnen komen als dat nodig is.”
Met andere woorden: X profiteert van de “cloud-exit”, maar voor andere partijen zal het kostenplaatje er anders uitzien. Wie hardware inkoopt, moet er aardig zeker van zijn dat deze benut wordt. Ook kan een upgrade peperduur zijn, zeker als er opeens een hype rondom specifieke hardware ontstaat. On-prem is dus niet gevrijwaard van de grilligheid van de markt. Toch laat het voorbeeld van X zien dat je als bedrijf flexibel moet blijven met je IT-omgevingen, zodat een keuze voor de cloud of on-prem niet definitief hoeft te zijn.
Lees ook: Breng een cloudervaring naar on-prem storage en blijf bij de tijd
18 uur geleden
Expert bijdrage
