Zowel aanvallers als verdedigers gebruiken steeds vaker generatieve en agentic AI. Je zou kunnen stellen dat het een heuse wapenwedloop is geworden. Toch blijft het met name voor verdedigers lastig om hun ambities op het gebied van AI ook echt te realiseren. Welke concrete maatregelen kunnen organisaties nemen om aanvallers die AI inzetten toch een stap voor te blijven?
Het antwoord op deze vraag ligt niet in het inzetten van losstaande AI-tools, maar in een strategische transformatie van het Security Operations Center (SOC). Toch promoten veel securityleveranciers individuele AI-gestuurde tools. Echter, zonder product-overschrijdende correlatie van data rond detecties, dreigingen, afwijkend gedrag, etc. is de transformatie van het SOC naar AI-gestuurde operaties niet effectief. Sterker nog, organisaties lopen daarmee het risico om overweldigd te worden door valse alarmmeldingen van die AI-tools. Daarnaast worden succesvolle inbreuken zelden gedetecteerd of geprioriteerd door slechts één tool. Om bijvoorbeeld identiteitsgerichte aanvallen te identificeren, moeten securityprofessionals Indicators of Attack (IoA’s) uit meerdere bronnen met elkaar in verband brengen. Dit is waarom het opzetten van de juiste AI-omgeving voor het SOC cruciaal is.
Het bouwen van een AI-omgeving voor het SOC
Platforms zoals de Hugging Face AI-marketplace bieden veel Large- en Small Language Models (LLM’s en SLM’s). De uitdaging is het selecteren van het juiste model voor elke taak. Organisaties proberen vaak alle gebruiksscenario’s af te dekken met één LLM, zoals Anthropic Claude Opus 4.6 of de opvolgers daarvan. Het risico is dat hierbij te veel tokens worden gebruikt, waardoor de kosten de pan uit rijzen. Om token-gebruik te minimaliseren moeten AI-modellen aansluiten bij de specifieke taken van AI-agents en voor het verzamelen van informatie zijn kleinere taalmodellen vaak voldoende.
Verfijnen met een ‘golden dataset’
Agent-workflows kunnen snel worden opgebouwd, maar hebben aanvankelijk vaak hoge foutpercentages. Voor het verfijnen is een zogenaamde ‘golden dataset’ nodig: een gelabelde dataset met bekende, verwachte uitkomsten. Door modellen op deze dataset te testen, kunnen organisaties de prestaties van een agent-workflow meten en de foutpercentages verlagen.
De beschikbaarheid van en toegang tot grote hoeveelheden echte, gelabelde data voor dit proces is hierbij de grootste uitdaging. Een andere uitdaging is iteratie. Vaak beschikken organisaties niet over alle relevante of de meest up-to-date data. Wijzigingen door securityleveranciers, zoals aanpassingen in de structuur van alerts, kunnen afwijkingen in de resultaten veroorzaken. Bovendien kunnen de prestaties van modellen na verloop van tijd afnemen doordat de onderliggende data en omstandigheden veranderen. Daarom moeten ze regelmatig worden geëvalueerd en, indien nodig, opnieuw worden getraind.
De kwestie van betrouwbaarheidsscores
Een belangrijk aspect van AI-agent design is het vaststellen van betrouwbaarheidsniveaus. Vanaf welk punt moet AI autonoom handelen? Wanneer moeten mensen toezicht houden (human-on-the-loop) of ingrijpen (human-in-the-loop)? Als deze drempels te laag zijn, stijgt het foutpercentage. Als ze te hoog zijn, blijft de werkdruk van SOC-teams hoog. Betrouwbaarheidsniveaus moeten tijdens het finetunen zorgvuldig worden afgestemd.
Het wordt aanbevolen om per type alert een golden dataset met consistente historische data te gebruiken, zodat live- en gefinetunede outputs betrouwbaar kunnen worden vergeleken. Consistente data-opslag is hierbij ook essentieel.
Het is ook belangrijk om het bereik van AI-agents te beperken om prestatie- en schaalbaarheidsproblemen te voorkomen. Een AI-agent die bijvoorbeeld zonder tijdsbeperkingen in een ticketsysteem zoekt, kan de volledige geschiedenis doorzoeken, waardoor systemen overbelast raken. Agents herkennen niet automatisch wanneer ze de infrastructuur belasten. API’s moeten de toegenomen systeembelasting door verzoeken van AI-agents aankunnen.
Steekproeven
Regelmatige steekproeven zijn nodig om model- en inputdrift tijdig te signaleren, zodat het foutpercentage beheersbaar blijft en de kwaliteit van de automatisering gewaarborgd is. Organisaties moeten aanvaardbare foutpercentages en betrouwbaarheidsniveaus vaststellen. Deze parameters bepalen hoe vaak kwaliteitscontroles nodig zijn. Zo vereist een foutpercentage van 5%, gemeten met een betrouwbaarheidsniveau van 95%, frequentere validatie dan een lager foutpercentage of een minder strikt betrouwbaarheidsniveau.
Gedistribueerde kwaliteitscontrole
Kwaliteitsborging van AI is een gedeelde verantwoordelijkheid. Datawetenschappers optimaliseren modellen, prompts en workflows. Securityanalisten valideren de uitkomsten. Naarmate SOC’s meer AI-agents inzetten, verschuift hun rol steeds meer naar kwaliteitscontrole. Steekproeven blijven daarbij belangrijk, maar kunnen deels worden geautomatiseerd met een ‘AI judge’: een krachtige LLM die steekproefsgewijs outputs beoordeelt. Alleen afwijkingen worden vervolgens door een medewerker beoordeeld.
De juiste AI-toepassingen identificeren
De hamvraag blijft echter: waar leveren AI-agents het meeste voordeel op? Een praktisch startpunt is om AI te gebruiken om alerts te triageren, aangezien ‘alert fatigue’ voor veel stress zorgt bij securitypersoneel. Daarbij beschikken SOC’s al over draaiboeken die kunnen worden omgezet in workflows voor AI-agents.
AI biedt daarnaast mogelijkheden om dreigingen sneller te detecteren, de incidentrespons te versnellen en security- en compliancerapportages te automatiseren. De grootste kracht hiervan ligt in het omzetten van ruwe data in bruikbare inzichten en het versnellen van routinematige processen. Zo kunnen AI-agents bijvoorbeeld op basis van beschrijvingen van TTP’s (Tactics, Techniques and Procedures) voorstellen genereren voor detectielogica, dreigingen tussen verschillende omgevingen vergelijken en hiaten in de beschikbare telemetrie identificeren.
In discussies rond Claude Mythos wordt soms gesuggereerd dat SOC-teams agentic AI zouden moeten gebruiken om de overstap te maken van kwetsbaarheidsbeheer naar VulnOps, geïnspireerd door DevSecOps. Hoewel exploits een groot risico blijven, vooral voor assets die in verbinding staan met het internet, zal automatisch patchen steeds gangbaarder worden. Aanvallers kunnen echter ook AI gebruiken om verkeerde configuraties te identificeren en te misbruiken. Daarom is geautomatiseerde configuratiecontrole door AI-agents vaak effectiever.
Met de juiste ondersteuning kunnen verdedigers een stap voorblijven
Met AI kunnen aanvallers sneller, goedkoper en op grotere schaal te werk gaan. Verdedigers hebben echter een belangrijk voordeel: zij kennen hun eigen omgevingen. Met AI kunnen zij de security van systemen, detectie en respons optimaliseren. Er zijn enkele barrières die de mogelijk in de weg staan om dit voor elkaar te krijgen, zoals gefragmenteerde data, een wildgroei aan tools, beperkte AI-expertise en een tekort aan securityprofessionals. Maar samenwerking met een Managed Detection and Response (MDR)-aanbieder die de transitie naar een AI-gestuurd SOC al heeft gemaakt, kan overbelaste SOC-teams ondersteunen.
Dit is een ingezonden bijdrage van Arctic Wolf. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.