Stel je voor: een medewerker vraagt een AI-agent om een klantdossier bij te werken. De agent zoekt de juiste gegevens op, past informatie aan en stuurt een bericht naar een collega. Alles binnen enkele seconden, zonder dat iemand zich er verder mee hoeft te bemoeien. Handig, natuurlijk. Maar wat als diezelfde agent toegang heeft tot informatie die de medewerker zelf nooit had mogen inzien? Of namens iemand beslissingen neemt die helemaal niet aan hem zijn toevertrouwd?
Welkom in de wereld van agentic AI. We hebben het inmiddels niet meer alleen over systemen die vragen beantwoorden of teksten samenvatten. AI-agents kunnen zelfstandig taken uitvoeren, andere systemen aansturen en namens medewerkers handelen. Daarmee krijgen ze steeds meer bevoegdheden binnen organisaties. En precies daar begint een cybersecurityvraagstuk waar we nog onvoldoende bij stilstaan.
Uit internationaal onderzoek van DXC Technology onder bijna 2.500 ICT-beslissers blijkt dat 67 procent van de organisaties agentic AI al test of implementeert. Tegelijkertijd heeft slechts 47 procent passende governancemaatregelen genomen. Ondertussen groeit het aantal digitale identiteiten dat organisaties moet beveiligen razendsnel. Ander onderzoek laat zien dat er inmiddels gemiddeld 109 machine-identiteiten zijn voor iedere menselijke identiteit binnen organisaties. Dat zijn niet allemaal AI-agents, maar ook serviceaccounts en andere geautomatiseerde systemen. Met de opkomst van autonome AI-agents krijgt een groeiende groep digitale identiteiten bovendien de mogelijkheid om zelfstandig handelingen uit te voeren.
Van wie naar wat
In cybersecurity stellen we ons al tientallen jaren dezelfde vraag: Who has access to what? Wie mag welke gegevens bekijken, welk systeem gebruiken en welke handelingen uitvoeren? We hebben daar complete beveiligingsmodellen voor ontwikkeld, met gebruikersaccounts, rollen, toegangsrechten en controles.
Maar met de komst van autonome AI-agents verandert die vraag fundamenteel. We moeten ons steeds vaker afvragen: What has access to what?
Want wie of wat handelt er eigenlijk wanneer een AI-agent zelfstandig een database raadpleegt, een bestand wijzigt of een opdracht verstuurt? Is dat de medewerker die de opdracht gaf? De agent zelf? Of een andere agent die onderweg een deel van de taak heeft overgenomen?
Dat klinkt misschien als een technisch detail, maar het raakt aan de basis van digitale beveiliging. We kunnen een medewerker ter verantwoording roepen als die buiten zijn bevoegdheden handelt. Bij een AI-agent wordt dat ingewikkelder. Zeker wanneer verschillende agents met elkaar communiceren en zelfstandig vervolgstappen bepalen.
Een digitale collega verdient geen vrijbrief
Organisaties zijn gewend om medewerkers alleen toegang te geven tot de systemen en gegevens die ze nodig hebben voor hun werk. Dat principe, least privilege, is al jaren een hoeksteen van cybersecurity. Waarom zouden we dat bij AI-agents anders doen?
Toch bestaat het risico dat organisaties hun agents veel te ruime rechten geven. Niet omdat iemand bewust de beveiliging wil omzeilen, maar omdat het nu eenmaal makkelijker is wanneer een agent overal bij kan. Dan werkt de automatisering tenminste.
Totdat er iets misgaat.
Een agent die namens een medewerker berichten kan versturen via Teams, documenten kan openen en informatie uit verschillende systemen kan combineren, beschikt over behoorlijk wat mogelijkheden. En juist bij die toegang tot informatie kan het misgaan. Stel dat een medewerker de agent vraagt om zijn salarisstrook op te zoeken. Geen probleem, zou je denken. Alleen heeft de agent misschien ook toegang tot de salarisgegevens van andere collega’s. Wat gebeurt er als de medewerker vervolgens vraagt om de salarisstrook van zijn manager? Als de agent te ruime toegangsrechten heeft, kan hij die mogelijk gewoon ophalen. Niet omdat de medewerker daar recht op heeft, maar omdat niemand die grens voor de agent heeft gesteld.
Daarom moeten we niet alleen weten wat een AI-agent kan, maar vooral wat hij mag. Welke digitale identiteit gebruikt hij? Welke rechten horen daarbij? Welke acties worden vastgelegd? En op welk moment moet een mens toestemming geven?
Beheer is nog geen bestuur
Veel organisaties zoeken het antwoord in technische beveiligingsmaatregelen. Die zijn noodzakelijk, maar vormen slechts een deel van de oplossing. Er is een wezenlijk verschil tussen AI beheren en AI besturen.
Beheer gaat over de dagelijkse werking: functioneert het systeem, zijn de toegangsrechten correct ingesteld en kunnen we afwijkend gedrag detecteren? Bestuur gaat over de vragen daarachter. Waarom geven we een agent bepaalde bevoegdheden? Wie heeft dat besloten? Welk risico accepteren we? En wie grijpt in wanneer de technologie iets doet wat we niet hadden voorzien?
Die vragen moeten worden vertaald naar duidelijke afspraken en technische maatregelen. Dat begint met een eigen digitale identiteit voor iedere AI-agent en toegangsrechten die beperkt blijven tot wat de agent nodig heeft voor zijn opdrachten. Organisaties moeten daarnaast vastleggen welke handelingen een agent zelfstandig mag uitvoeren en wanneer menselijke goedkeuring nodig is. Denk bijvoorbeeld aan het delen van vertrouwelijke informatie of het aanpassen van financiële gegevens. Ook moeten de handelingen van agents traceerbaar zijn, zodat achteraf duidelijk is welke acties zijn uitgevoerd en onder wiens verantwoordelijkheid.
Autonome AI kan organisaties veel werk uit handen nemen. Maar autonomie zonder duidelijke grenzen is geen vooruitgang. Het is een risico dat we zelf creëren. We hebben decennialang gewerkt aan het beveiligen van menselijke digitale identiteiten. Nu krijgen we er een hele nieuwe categorie bij: systemen die niet alleen toegang hebben tot informatie, maar er ook zelfstandig iets mee kunnen doen.
De technologie is relatief nieuw. De basisregel niet: geef niemand meer bevoegdheden dan nodig. Ook niet wanneer die ‘niemand’ een AI-agent is.
Dit is een ingezonden bijdrage van DXC Technology. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.