CrowdStrike maakte Falcon AI Detection and Response (AIDR) algemeen beschikbaar. Met deze uitbreiding richt het beveiligingsbedrijf zich op een relatief nieuw aanvalsoppervlak: de interactielaag van AI-systemen. Denk hierbij aan prompts, AI-agents en de bijbehorende antwoorden.
Volgens CrowdStrike verschuift een deel van de beveiligingsdreiging van traditionele infrastructuur naar de manier waarop organisaties generatieve AI toepassen.
Waar bestaande beveiligingsoplossingen zich vooral richten op data, modellen en infrastructuur, legt Falcon AIDR de nadruk op de interactie tussen gebruikers, applicaties en AI-modellen. Die interactielaag wordt steeds belangrijker nu generatieve AI breder wordt ingezet binnen organisaties, zowel tijdens softwareontwikkeling als door medewerkers in dagelijkse werkzaamheden.
Aanvallen op deze laag bestaan onder meer uit prompt injection, waarbij verborgen instructies worden toegevoegd aan invoer om AI-systemen ongewenst gedrag te laten vertonen. Dit kan leiden tot het omzeilen van beveiligingsmaatregelen, het manipuleren van output of het blootleggen van gevoelige informatie.
Zelfde architecturale benadering als bij EDR
Volgens analyse van SiliconANGLE past CrowdStrike bij AIDR dezelfde architecturale principes toe als eerder bij endpoint detection and response (EDR). In plaats van losse beveiligingsmaatregelen te introduceren, wordt AI-beveiliging geïntegreerd in één platform dat continu telemetrie verzamelt en correleert. Daarmee positioneert CrowdStrike de AI-interactielaag als een volwaardig onderdeel van het bredere beveiligingsdomein, vergelijkbaar met endpoints, cloudworkloads en identiteiten.
Falcon AIDR is ontworpen om organisaties inzicht te geven in hoe AI binnen de onderneming wordt gebruikt. Het platform registreert interacties met AI-systemen en agents, onder meer via runtime-logs die kunnen worden ingezet voor compliance en incidentonderzoek.
Daarnaast biedt de oplossing mogelijkheden om AI-interacties in real time te blokkeren wanneer deze als risicovol worden aangemerkt. Dit omvat onder meer het detecteren en stoppen van prompt injection-aanvallen, jailbreak-pogingen en andere vormen van ongewenste of onveilige AI-output.
Een belangrijk aandachtspunt bij het gebruik van generatieve AI is het risico op het delen van vertrouwelijke informatie. Falcon AIDR kan gevoelige gegevens zoals inloggegevens of gereguleerde data herkennen en voorkomen dat deze worden doorgestuurd naar AI-modellen of externe AI-diensten. Daarmee speelt CrowdStrike in op zorgen rond datalekken en compliance bij AI-gebruik binnen organisaties.
Bredere AI-strategie
Falcon AIDR maakt deel uit van het bestaande Falcon-platform. In gesprekken met SiliconANGLE gaf CrowdStrike eerder aan dat deze ontwikkeling aansluit bij de bredere Enterprise Graph-strategie, waarbij grote hoeveelheden beveiligingstelemetrie worden gecorreleerd om ook in het AI-tijdperk dreigingen sneller te detecteren en te duiden.