De wereld van AI gaat razendsnel. Organisaties zijn druk bezig om AI te implementeren in al hun bedrijfsprocessen. De hoeveelheid winst die organisaties kunnen behalen met de inzet van AI is ongekend. Veel repetitieve taken worden vervangen, processen worden steeds meer autonoom, alles om klanten tevreden te stellen en meer business te creëren. Al die verschillende AI-technologieën zorgen echter ook tot complexiteit, want hoe ga je dat allemaal beheren en hoe hou je overzicht. Dat is precies wat ServiceNow wil bieden met zijn AI Control Tower.
We spraken op Knowledge25 met Pat Casey, ServiceNow’s CTO & EVP DevOps. We gingen met hem in gesprek over wat die AI Control Tower nu precies te bieden heeft. Waar het begint en waar het eindigt en waar de potentie voor de toekomst ligt. De AI Control Tower is namelijk nog zeker niet af, het is al wel bruikbaar en de nodige partners zijn al aangesloten, maar in de toekomst is er ongetwijfeld meer zichtbaarheid en controle nodig.
Wat is de AI Control Tower?
De AI Control Tower is ontworpen om bedrijven te helpen bij het volgen en beheren van hun groeiende aantal AI-technologieën. Of het nu gaat om AI-agents, het gebruik van LLM’s of zelfs workflows. Dit is zeker cruciaal in gereguleerde sectoren zoals banken, waar transparantie en controle essentieel zijn. Echter is het voor grote organisaties die tientallen AI-agents hebben ook al snel een waardevol hulpmiddel om overzicht te behouden.
Functies van AI Control Tower:
- Tracking en Monitoring: De Control Tower volgt alle geïmplementeerde AI-agenten, monitort hun effectiviteit en stuurt workflows aan.
- Agent Management: De Control Tower beschouwt AI-agents als technologische assets, niet als mensen (hoewel toekomstige toepassingen dit wellicht kunnen veranderen). Het systeem registreert details zoals aanroepen, nauwkeurigheid en andere relevante metrics.
- Integratie met derde partijen: Hoewel de Control Tower gedetailleerde data biedt voor ServiceNow-agents, is de data voor AI-agents van derden (zoals Microsoft en Google) momenteel beperkt. Dit komt doordat die organisaties nog niet alle loginformatie delen. Daarover lopen wel gesprekken.
- Compliance en Governance: De Control Tower helpt bij het handhaven van compliance-richtlijnen, zoals het gebruik van goedgekeurde LLM-leveranciers en -modellen. AI kan ook worden gebruikt om te controleren of nieuwe agents aan deze standaarden voldoen.
- Security: De focus ligt nu niet op het monitoren van de datastroom, maar op het analyseren van prompts op gevoelige informatie. De beveiliging van AI-modellen is een nieuwe uitdaging, met prompt injection-aanvallen als belangrijke zorg. ServiceNow werkt aan het patchen van beveiligingslekken en het volgen van modeldefecten.
AI Control Tower van de toekomst
De AI Control Tower is nog in een vroeg stadium van ontwikkeling, maar biedt al nu bruikbare functionaliteiten zoals dashboards en datastructuren. In de toekomst moet de AI Control Tower nog meer inzichten krijgen in wat AI-agents exact doen, welke data ze verwerken en welke acties ze uitvoeren. Ook als ze draaien op platformen van derde partijen. De integratie met deze derde partijen zal dus nog verder uitgebouwd moeten worden. Hoe dat er precies uit komt te zien is nog even afwachten.
De ServiceNow AI Control Tower biedt al met al een zeer essentiële oplossing voor het beheren van AI. Het is een eerste in zijn soort en ongetwijfeld niet de laatste, maar inzicht houden in autonome processen is en blijft essentieel. Hoewel het systeem zich nog in een vroeg stadium bevindt, biedt het al veel waardevolle functionaliteiten en belooft het een cruciale rol te spelen in de toekomst van AI-management.
Lees ook: ServiceNow wil Salesforce disrupten met nieuw AI gebaseerd CRM