Wie de afgelopen jaren een AI-pilot draaide, kent het patroon: de demo overtuigt, het evaluatierapport is positief en daarna blijft het stil. Volgens bestuurders, IT-leiders en securityspecialisten ligt dat zelden aan het model, maar aan wat eronder zit: data, eigenaarschap, ethiek, security en de vraag wie verantwoordelijk is als het misgaat. Stijn Kerskes van Microsoft schetst een veelzeggend beeld: een oude dieselauto met een accu op het dak gesjord die groter is dan de auto zelf. Die komt natuurlijk nooit vooruit. Toch is het precies wat veel organisaties met AI doen: ze binden een enorme laag technologie op een bestaand proces en verwachten dat het daarmee een ander voertuig wordt.
Dat AI-projecten vastlopen, is geen gevoel maar een statistiek. Volgens Stijn Kerskes, Senior Director AI Business Solutions voor Frankrijk en de Benelux bij Microsoft, leverde meer dan 70 procent van de AI-projecten van de afgelopen twee jaar niet op wat werd beoogd. In de ouderenzorg was het beeld nog somberder. Nico Drost van Pieter van Foreest, een zorgorganisatie met zo’n 6.000 medewerkers, zag in 2023 zijn eerste pilot met spraakherkenning voor het cliëntdossier mislukken. “Het taalmodel klopte niet, er waren geen regels voor de ethiek en juridisch was het niet rond te krijgen.” Destijds slaagde volgens hem 2 procent van alle AI-initiatieven, en maar de helft daarvan stelde gebruikers tevreden.
Maarten van Montfoort, CEO van IT-dienstverlener Interstellar, legt de oorzaak niet bij de technologie. “Je kunt AI implementeren, maar zonder goede data, zonder dat je je mensen uitlegt wat je wilt bereiken en zonder goede security boek je misschien wel voortgang, maar zeker geen vooruitgang.” Wie begint bij een tool in plaats van bij een concrete uitdaging, versnelt vooral zijn fouten: “Een AI-model met slechte data gaat uiteindelijk alleen maar slechte data nog sneller verwerken.”
Kerskes is het daarmee eens en zet er getallen bij. In zijn ‘rule of success’ bepaalt de technologie 10 procent van het succes, IT-systemen, data en security 20 procent, en organisatiecultuur en veranderkracht 70 procent. Daar ontstaat de dieselauto met de accu op het dak. “We proberen bestaande processen te voorzien van een laagje AI en denken dat daarmee magie gebeurt.” Peter Hinssen, een Belgische ondernemer, keynotespreker en auteur van boeken als ‘The New Normal’, ‘The Day After Tomorrow’ en ‘Never Normal’, gebruikt bijna dezelfde woorden: organisaties hebben jarenlang “de oude processen een klein digitaal laagje” gegeven. Dat volstaat niet meer.
Succesverhalen versus eerlijke cijfers
Over wat AI oplevert, lopen de verhalen uiteen. Kerskes noemt grote cijfers. Het klantcontactcentrum van Microsoft moest na de overname van Activision een verdubbeling van het aantal contacten opvangen en tegelijkertijd 750 miljoen dollar besparen. “En het mooie is: dat is gelukt.” Bij Gasunie bespaart een projectassistent die managementrapportages voorbereidt naar schatting twee werkdagen per project.
Drost laat de andere kant zien. Hij heeft inmiddels wel toepassingen in productie, van een HR-chatbot tot AI die huisartsenoverdrachten van soms honderd pagina’s samenvat. Spraakgestuurde rapportage via Attendi gaat naar productie, nadat 71 procent van de pilotdeelnemers het als zeer behulpzaam ervoer. Maar hij maakt zijn cijfers niet mooier dan ze zijn. Dat AI vrijwel alle ICT-meldingen verwerkt, zegt volgens hem nog niets over de vraag of ze ook goed zijn afgehandeld. Een andere toepassing haalt de eigen norm voor beschikbaarheid niet. En of spraakgestuurde rapportage zorgmedewerkers echt meer tijd voor cliënten oplevert, is nog niet aangetoond.
Volgens Drost ontstaan de grootste risico’s precies daar: tussen pilot en structurele dienstverlening. Denk aan versnippering doordat elke leverancier zijn eigen AI-oplossing wil installeren, onduidelijk eigenaarschap, te weinig controle op hallucinaties en baten die niet aantoonbaar zijn. De toepassing is het topje van de ijsberg; daaronder liggen elf bouwstenen, van governance tot AI-geletterdheid. En de verantwoordelijkheid verschuift niet mee. “Als het fout gaat, is het niet de AI die de schuld krijgt, maar de arts.”
Ook Kerskes erkent dat het meten anders moet. Organisaties die vooral tokens verbranden om te experimenteren, moeten volgens hem naar outputgestuurd denken: van ’token-maxxing’ naar ‘value-maxxing’.
Agents als collega, en als achterdeur
Dat agents collega’s worden, daarover is weinig discussie. Kerskes kent een Belgisch bedrijf met 40 medewerkers en 29 agents. Hinssen sprak in Silicon Valley een oprichter met driehonderd ‘medewerkers’, “of which 30 are meat-based”. Agents zijn volgens Kerskes “net als mensen in onze organisatie”: ze moeten worden ingewerkt, aangestuurd en weer uitgeschreven, en ze hebben een identiteit nodig.
Daar begint het probleem. Aan boards die zeggen nog niet met AI bezig te zijn, vraagt Kerskes hoeveel agents er al draaien en of die passen in hun identitybeheer. “Eigenlijk is het antwoord altijd nee. Of op zijn best: ik weet het niet.” Edwin Tump, die bij Interstellar het dreigingsbeeld volgt, ziet de gevolgen. Het aantal niet-menselijke identiteiten voor API’s en AI-agents explodeert, en ze worden vaak slecht gemonitord. Riskant wordt het als een agent extern kan communiceren, toegang heeft tot gevoelige data én onbetrouwbare inhoud van buiten verwerkt. Dan kan een aanvaller via prompt injection data laten weglekken.
Aanvallers zelf hebben het makkelijker. Een groep als ShinyHunters benadert slachtoffers via Teams of telefoon als zogenaamde IT-helpdesk en onderschept via een phishingsite inloggegevens én MFA-token. “Ik ga inloggen in plaats van inbreken,” vat Tump de logica samen. Van Montfoort kent het uit de praktijk: bij een klant vulde een medewerker zijn gegevens in op een nagemaakte Microsoft 365-pagina. Alleen doordat de afwijking binnen minuten werd opgemerkt, werd voorkomen dat een betaling van bijna 7 ton werd goedgekeurd.
Technisch kan het morgen
Soms is de techniek klaar, maar de organisatie niet. Drost werkt aan een voice agent voor bewoners met dementie, die hun zoon of dochter soms twintig, dertig keer per dag bellen. De familie neemt niet meer op en voelt zich schuldig, de cliënt raakt van slag en de zorgmedewerker vangt de gevolgen op. “Hier heb je alleen maar verliezers.” Een agent zou die gesprekken kunnen overnemen. “Technisch gezien kan ik het morgen operationeel hebben.”
Maar met twee minuten audio kan de agent ook de stem van een zoon nabootsen: mag dat? En wat is transparantie waard als een cliënt na een paar minuten vergeten is dat hij met een digitale assistent praat? Er zijn inmiddels vijftig guardrails, van het alarmeren van de zorg bij een val tot een verbod op medicatieadvies. “Dat heeft weinig met de techniek te maken, dat heeft heel veel met configuratie te maken.” Er komt een kleine pilot met vier families. “Ik vind dat hele lastige onderwerpen. Ik heb daar ook niet altijd direct het antwoord op.”
Het sluit aan bij wat Van Montfoort zegt: technologie rekent sneller dan mensen, “maar uiteindelijk bepalen mensen welke risico’s verantwoord zijn”.
Eerst kiezen, dan versnellen
Wat betekent dit voor de strategie? Van Montfoort pleit voor minder doen. Bij zijn eerste bedrijf zei hij overal ja tegen; nu zegt hij: “Bij groei kan alles doen een grote valkuil worden. Focus is daarbij veel belangrijker dan snelheid.” Strategie gaat volgens hem “vooral ook over datgene wat je niet doet”.
In security draait het intussen steeds meer om tempo, ziet Tump. De tijd tussen het bekend worden van een kwetsbaarheid en het misbruik ervan is geslonken van maanden “tot dagen, uren, soms zelfs minuten”. Richting 2027 verschuift cybersecurity volgens hem “van een mensgedreven domein naar een machinegedreven domein”, waarin niet de omvang van je team telt, maar de snelheid van detectie en respons. Hij pleit daarom voor automatisering van incident response en patching. Daarnaast is zijn advies even nuchter als dat van Van Montfoort: zorg dat de basis op orde is. “De aanvallen blijven hetzelfde, de kwetsbaarheden blijven hetzelfde.”
Volgens Hinssen komt het uiteindelijk neer op leiderschap. Hij citeert de CEO van Walmart: “I was the right leader for digital transformation. I am not the right leader for this.” Het is misschien de ongemakkelijkste les. De technologie is grotendeels klaar; wat achterblijft zijn keuzes, eigenaarschap, data, ethiek en de juiste mensen aan het roer. Of, met de woorden van Peter Drucker die Hinssen aanhaalde: het grootste gevaar in turbulente tijden is niet de turbulentie, maar handelen met de logica van gisteren. Hoe groot je de accu op het dak ook maakt, de diesel eronder wordt er geen elektrische auto van.
De sprekers in dit artikel traden op 4 november op tijdens Fusion Forward, het event van Interstellar in Amersfoort.
Dit is een ingezonden bijdrage van Interstellar. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.