Alibaba Cloud heeft een systeem ontwikkeld dat technische supportvragen sneller moet afhandelen door grote taalmodellen alleen in te zetten wanneer dat daadwerkelijk nodig is. Voor veelvoorkomende problemen gebruikt het bedrijf vooraf gecontroleerde oplossingen.
De aanpak heet DualLane en wordt beschreven in de paper ‘DualLane: Fast and Reliable LLM Agents for Interactive AIOps via Dual-Path Planning’. Alibaba Cloud presenteerde het onderzoek tijdens SIGKDD 2026. Aanleiding voor het onderzoek waren problemen met AI-agents die supporttickets zelfstandig behandelen. Zulke agents kunnen verkeerde tools kiezen, onjuiste parameters gebruiken of bij complexere taken informatie uit eerdere stappen verkeerd verwerken. Ook bij het formuleren van het uiteindelijke antwoord kunnen fouten ontstaan, meldt The Register.
Snelle en langzame route
DualLane verwerkt iedere supportvraag daarom tegelijkertijd via twee routes. De snelle route probeert te herkennen of sprake is van een bekend en veelvoorkomend probleem. Is dat het geval, dan stopt het systeem de langzamere verwerking en krijgt de klant een oplossing op basis van een vooraf gemaakte template.
De snelle classificatie kost slechts enkele tokens. Voor minder gebruikelijke problemen blijft de tweede route actief, waarbij een LLM-agent tot ongeveer 3.000 tokens kan gebruiken om tot een oplossing te komen. De kosten daarvan zijn voor Alibaba nauwelijks relevant: het bedrijf schat die op ongeveer 0,001 dollar per ticket. Het voordeel zit vooral in snelheid en betrouwbaarheid.
Het systeem kan bovendien patronen ontdekken in vragen die aanvankelijk via de langzame route worden verwerkt. Wanneer bepaalde problemen vaker terugkomen, kunnen medewerkers na controle een nieuwe template maken en deze voortaan via de snelle route laten afhandelen.
Inmiddels in productie
Alibaba Cloud gebruikt DualLane inmiddels in zijn productieomgeving. In offline tests behaalde het systeem volgens de onderzoekers een nauwkeurigheid van 96,5 procent en een lagere latency dan alternatieve benaderingen zoals LLMCompiler en ReAct.
Daarmee gebruikt Alibaba AI niet alleen om supporttaken te automatiseren, maar ook om te bepalen wanneer het efficiënter is een groot taalmodel juist buiten de afhandeling te houden.