Het AI-ecosysteem is nog jong. Dat blijkt uit de regelmatige releases van onvolwassen, maar uiterst tot de verbeelding sprekende open-source oplossingen. Het is aan bedrijven als Red Hat om deze ontwikkelingen te anticiperen en dergelijke tooling op te laten groeien tot een enterprise-ready product. “Bij Red Hat nemen we een project, stabiliseren het en maken er een product van. Dat gaan we ook voor AI doen.”
Het zijn de woorden van Natale Vinto, Technical Director Hybrid Platforms bij Red Hat. De uitgangspositie van een enterprise IT-bedrijf is tegenover open-source maintainers een veelzijdige. Natuurlijk dragen bedrijven zelf bij aan de voortdurende innovatie (denk aan Project Lightwell van IBM en Red Hat of het open-sourcen van MCP door Anthropic), maar veelal is de rol matigend.
Van OpenClaw naar OpenShift
Een vooraanstaand voorbeeld hiervan is OpenClaw. Het was eind januari van dit jaar uitgebracht en was, op zijn zachtst gezegd, ontzettend gevaarlijk. De zeer potente en verraderlijk eenvoudige set aan ‘klauwen’ hield in dat LLM’s, voorheen doorgaans gevangen in vooraf gedefinieerde rollen, opeens allerlei taken konden uitvoeren. Klauwen zijn riskant en OpenClaw was precies dat. AI ging van een “brain in a jar” naar een hersenpan die plotseling kon ageren, vertelt Burr Sutter, Director Developer Experience bij Red Hat.
Wie in een zakelijke omgeving met allerlei gevoelige data wel deze grote mate van agency wilde benutten, moest even wachten. Maar niet zo lang als je zou denken. Nog geen twee maanden later volgde Red Hat met “Bring Your Own Agent” (BYOA) voor Red Hat AI. Het idee is een agent binnen je bestaande, vertrouwde IT-infrastructuur plaatsen met bekende governance en isolatie.
Vinto legt uit hoe Red Hat snel kan schakelen om zoiets als het stabiliseren van OpenClaw voor zakelijke doeleinden te realiseren. “Ik weet dat de snelheid [van AI-innovatie] supersnel is, maar we hebben het geluk dat we niet vanaf nul beginnen.” Decennia aan ervaring in het hardenen van besturingssystemen, platform engineering, applicatie-ontwikkeling, DevOps en meer vormen volgens Vinto de ervaring die nieuwe ontwikkelingen in een vast paradigma plaatsen.
Het helpt daarbij dat Red Hat betrokken is in de open-source community. Vinto omschrijft het bedrijf als “de de facto leider in de open-source AI-community” wegens bijdragen aan onder meer vLLM, llm-d en Kubernetes. “Voor AI begrijpen we de noodzaak om agents te sandboxen, en voor deze agents security, identiteit en autorisatie te regelen. We plaatsen daarom de agent lifecycle in onze producten, verbonden met alles dat nodig is voor het draaien van een agent in productie.”
AI is (niet) nieuw
Het idee achter BYOA, de volwassen versie van wat OpenClaw beloofde, is om reproduceerbare resultaten in productie te krijgen. Dat is een zeldzaam iets in het AI-domein, waar (mede door een gebrek aan diepgaande AI-kennis binnen organisaties) de beloftes van de technologie vaak voorlopen op het werkelijke praktische nut. De technologie zelf kan ontzettend veel bewerkstelligen, maar heeft een richting nodig die helder wordt uitgevoerd.
Experimenten horen daar overigens wel bij. “Je kunt experimenteren met OpenClaw, maar we sandboxen het,” zegt Vinto. “Allereerst beperken we het netwerkverkeer ervan. We plaatsen het in een namespace. Het is alleen jouw gebruiker.” Vinto stelt dat als een aanvaller om wat voor reden dan ook deze OpenClaw-instance overneemt, men enkel de container heeft binnengehaald. Voor de developers betekent het een mate van vrijheid, maar met guardrails.
Eén van de problemen rondom AI draait om de kosten. Onderzoeken hierover zijn spaarzaam, maar we krijgen de indruk dat het de menselijke aard is om voor de best beschikbare optie te gaan in een keuzemenu. Bij AI betekent het dat gebruikers met onbeperkte token-budgetten stelselmatig kunnen kiezen voor reusachtige, maar peperdure LLM’s voor zelfs de meest eenvoudige taken. Vinto vertelt dat semantic routing dit tegengaat op het Red Hat-platform. De vLLM Semantic Router interpreteert prompts voordat ze naar een LLM gaan en kiest op basis van de complexiteit het vereiste model. “Tokenomics” worden zo geautomatiseerd, waarbij een eenvoudige prompt die regelrecht te beantwoorden is met een enkel knowledge base-citaat, niet, bij wijze van spreken, Claude Fable 5 aanspreekt.
Veel schijven
Meer dan ooit bij nieuwe innovaties heeft AI een impact op alle lagen van de IT-infrastructuur. Neem als tegenvoorbeeld Kubernetes. Het heeft portability en abstractie gebracht waar voorheen pijnlijke configuratie en incompatibiliteit domineerden. Maar het is fundamenteel een overwinning voor IT’ers die zich een laagje dieper bevinden dan de meeste collega’s in het werkveld. Ondertussen is AI relevant voor die infrastructuurlaag, maar ook de gebruikerservaring, optimalisatie van resources en integraties tussen applicaties. Waar voorheen deterministische scripts een netwerkpad vormden tussen oplossingen, zijn integraties nu complexer dan ooit. Agents bevragen elkaar, geven elkaar opdrachten en orkestreren interacties boven de SaaS-laag. Dit alles klinkt leuk, maar het IT-fundament moet er wel goed voor staan om die scenario’s te verwezenlijken zonder allerlei onbedoelde gevolgen.
Het idee van Red Hat is dat welk model dan ook, welke agent dan ook, op welke hardware of cloud dan ook kan draaien. De bestuurslaag daarvan dient centraal te blijven. Zo schetst Burr Sutter dat je AI moet plaatsen binnen een soort ‘OS’, zoals andere gebruikersgerichte IT ook al op een besturingssysteem (en veelvuldig die van Red Hat) draait.
Specifiek karakteriseert Sutter de ‘harness’, ofwel het keurslijf waar een LLM in geplaatst wordt en nuttig kan zijn, als het “AI OS”. We hebben frappant genoeg heel veel AI-gerelateerde systemen omschreven zien worden als een AI OS, van dataplatformen tot identity managers. Zelden was de vergelijking treffender. Een agent harness wordt door meer partijen dan alleen Red Hat als het AI OS gezien, vertelt Sutter. Je kunt een vergelijking maken tussen verschillende componenten. Zowel een OS als een harness beheert een centrale processor (bij een harness de LLM, bij een OS de CPU), geheugen (zowel op korte als lange termijn) en device drivers zijn voor een AI-model tools via MCP.
Als kenner van Linux, Kubernetes en enterprise IT-architecturen voelt Red Hat zich geroepen om met onder meer Red Hat AI Inference, Model-as-a-Service, RHEL AI, OpenShift en Ansible in te spelen op deze gedachte van agents met harnesses als beheerbare, geïsoleerde systemen.
Keuzes blijven maken
Wie AI op de voet volgt, raakt soms verdwaald of zelfs duizelig. Gevoelsmatig elke week is er een nieuwe LLM, en elke maand is er wel een nieuwe standaard, protocol of hype geweest. “Prompt engineering” voelt nu bijvoorbeeld al antiek, terwijl we recent ook “tokenmaxxing”- en “agent loop”-trends hebben gezien. Het roept de vraag op hoe Red Hat niet alleen inspeelt op iets als OpenClaw, maar ook de wispelturige aard van AI-sentiment daarbij meeneemt.
In het portfolio van Red Hat zit het antwoord. Zo introduceerde Red Hat AI 3.4 Model-as-a-Service als een governed interface om gecureerde LLM’s te draaien, waarbij admins consumptie en policy enforcement kunnen traceren. Het eerder genoemde RHEL AI is een bootable image met AI-libraries en hardware-geoptimaliseerde inferencing voor Nvidia, Intel en AMD, naast enterprise support en IP-bescherming via Open Source Assurance. Het biedt zekerheid waar wellicht nog veel AI-gedreven twijfels zijn.
Vinto herkent desgevraagd het gat tussen AI-hype en -adoptie. Deze is tevens regionaal, merkt hij op. Niet geheel verrassend zijn gebruikers in Californië veel gretiger als het gaat om de nieuwste AI-oplossingen, en net zo weinig verbazing wordt opgewekt als we andermaal horen dat Europa wat afwachtender is. Dit komt mede door zorgen over zaken als AI-gedreven banenverlies, iets dat Vinto ziet als een overdreven angst. Naast oude banen die mogelijk gedestabiliseerd worden, ziet hij ook ruimte voor geheel nieuwe fte’s in een wereld met AI.
Conclusie: veel kansen, ook voor open-source
We hebben al gezien dat bijvoorbeeld gevestigde SaaS-spelers en IT-hardwarevendoren heel verschillend op de AI-hype reageren en erdoor beïnvloed worden. Het interessantst vinden wij zelf de vendoren die zeker al in het ‘klassieke’ IT-tijdperk veel in de melk te brokkelen hadden, maar nu hun rol opnieuw moeten definiëren. Ook in relatie tot open-source verandert het gedachtengoed. Zo moeten we het niet onopgemerkt laten dat een AI-bouwblok als vLLM of llm-d werkelijk open-source is, terwijl ‘open-source’ AI-modellen enkel downloadbare bestanden zijn die je waar dan ook kunt draaien, met zelden informatie over de data waar het AI-lab op getraind heeft.
“Open-source gaat niet eindigen,” denkt Vinto. “Het wordt getransformeerd. De projecten zullen anders zijn, maar open-source zal blijven. De zakelijke use case voor de keuzevrijheid bij de tool die je nodig hebt, en voor interoperabiliteit en open standaarden, die zal er altijd zijn.”