AI-kosten lopen uit de hand: tokenomics en de toekomst van AI

AI-kosten lopen uit de hand: tokenomics en de toekomst van AI

AI belooft bedrijven te transformeren, maar de rekening loopt sneller op dan verwacht. In een nieuwe aflevering van Techzine Talks analyseren Sander en Coen de financiële realiteit achter AI, van creatief boekhouden bij Anthropic, de verliezen van OpenAI, de problemen bij Oracle tot de strategische koerswijziging bij Salesforce en de roep om AI-innovatie te vertragen.

AI kan enorm veel waarde en efficiëntie toevoegen aan een organisatie, mits het op een goede manier wordt toegepast en de kosten onder controle blijven. Niet elk bedrijf wordt per definitie meteen beter van AI. Vooral die kosten onder controle houden is voor veel organisaties een probleem. Zo ook voor de makers van al die populaire AI-modellen. In dit tempo gaat de wereld misschien wel failliet aan AI.

De financiële staat van de AI-industrie

De financiële cijfers van grote AI-spelers zijn allesbehalve rooskleurig. Anthropic roept weliswaar dat het winst maakt, maar wie de jaarrekening nader bekijkt, ziet dat de onderzoeks- en ontwikkelingskosten buiten beschouwing worden gelaten. OpenAI gaat naar schatting richting de 300 miljard dollar verlies in 2030, zij tellen de R&D-kosten wel mee. Oracle zag zijn beurskoers in een jaar tijd halveren en heeft een kredietstatus die net boven junk uitkomt.

Oracle sloot een deal ter waarde van 300 miljard dollar aan datacentercapaciteit met OpenAI, maar het project loopt vast op lokale politieke tegenstand. Plannen om het datacenter op gasturbines of brandstofcellen te laten draaien stuitten op bezwaren, waardoor de vraag rijst of het ooit van de grond komt.

Tokenomics: kosten beheersbaar maken

Steeds meer bedrijven beseffen dat het klakkeloos inzetten van grote AI-modellen financieel onhoudbaar is. Het begrip tokenomics, de kosten rondom AI-tokenverbruik is actueler dan ooit. Vorig jaar wilden bedrijven nog zoveel mogelijk tokens verbranden, want dat zou de innovatie versnellen. Daar komt men snel op terug, want dat is een extreem dure grap.

Uber was zo’n bedrijf, maar zag vervolgens dat de ontwikkelaars binnen vier maanden het volledige jaarbudget aan tokens erdoorheen hadden gejaagd. Onbeperkte tokens zijn allesbehalve een goed idee. Inmiddels zijn steeds meer bedrijven zich bewust van hun tokenverbruik, wordt er gekeken hoe ze input- en outputtokens kunnen beperken. Ook is de focus op deterministische workflows weer terug van weggeweest, hoe eerder een AI die kan aanroepen, hoe minder de verwerking kost. Daarnaast stapt men steeds vaker af van grote modellen, zoals die van OpenAI en Anthropic. Kleinere goedkopere modellen zijn vaak net zo goed en vele malen goedkoper. Het volledig vrij laten nadenken van een model om tot een oplossing te komen, iets wat vorig jaar nog gepredikt werd, maakt plaats van deterministische lagen om het model heen. Op die manier kunnen kosten worden verlaagd en voorspelbaarder worden.

Deterministisch versus generatief

Het kernprobleem is dat een AI-agent hetzelfde soort ticket op een volledig andere manier kan oplossen, met compleet verschillende kosten tot gevolg. Financiële afdelingen houden hier niet van, die willen structuur en voorspelbaarheid. De trend is dan ook om AI meer als een tool in te zetten binnen vooraf gedefinieerde workflows, in plaats van als een allesomvattende probleemoplosser.

Salesforce: een strategische rollercoaster

Salesforce is een grootverbruiker van AI-tokens, want het levert allerlei AI-oplossingen en agents aan zijn SaaS-klanten. Het bedrijf doet forse investeringen in AI en ziet het verbruik van tokens fors toenemen en daarmee ook de rekening. Hoewel het eerder riep dat data en context het belangrijkste zijn, heeft het nu toch een eigen AI-model ontwikkeld. Ook dit heeft alles te maken met tokenomics. Elke actie waarvoor Anthropic niet nodig is, maar het eigen model het antwoord kan geven, bespaard Salesforce fors op zijn AI-rekening. Het eigen model is kleiner, efficiënter en doelgericht ontwikkeld voor het Salesforce CRM.

Kleinere modellen en Hugging Face als alternatief

Dat betekent overigens niet dat elk bedrijf nu een eigen model moet ontwikkelen, want dat is ook een dure aangelegenheid. Voor bedrijven die niet zelf modellen kunnen ontwikkelen is er Hugging Face, een platform waar veel open source-modellen zijn te vinden. Kleine, gespecialiseerde modellen zijn vaak uitermate geschikt voor specifieke taken en kunnen op eigen servers worden gedraaid.

Splunk hanteert een vergelijkbare aanpak. Het bedrijf plaatste een klein, doelgericht en deterministisch model naast een groot model. Dit kleine model fungeert als filter, voorkomt dat het grote model onnodig wordt aangesproken en houdt de kosten in toom. Het resultaat: meer transparantie, betere traceerbaarheid en lagere uitgaven.

Prijsmodellen: van per seat naar outcome-based

Het per-seat-licentiemodel dat de softwaremarkt twintig jaar domineerde, staat onder druk. De richting is duidelijk: outcome-based pricing, waarbij bedrijven betalen voor de uitkomst in plaats van voor het gebruik. Maar hoe dat precies wordt ingevuld, is nog niet helder.

Praktisch advies: begin klein en beheers je risico

Voor bedrijven die met AI aan de slag willen, is het advies helder: begin in een gecontroleerde omgeving met voorspelbare uitkomsten. Salesforce biedt inmiddels zeven kant-en-klare agents aan waarmee bedrijven snel voordelen kunnen behalen in sales, marketing en service, zonder zelf complexe systemen te hoeven bouwen.

Dat betekent niet dat AI alles oplost. De analogie van medewerkers die nooit met vakantie gaan, is aantrekkelijk, maar AI heeft ook zijn tekortkomingen. Maak jezelf niet volledig afhankelijk, zorg voor inzicht in de kosten, en kies use cases die transparant en voorspelbaar zijn. AI wordt langzaam volwassen wat organisaties dwingt om ook met een fatsoenlijke strategie te komen, maar dat is niet zo eenvoudig.