Hoewel 81 procent van de bedrijven AI gebruikt voor cybersecurity, vreest 94 procent dat AI juist nieuwe cyberrisico’s introduceert.
Dat blijkt uit onderzoek van Trend Micro. De realiteit van AI-kwetsbaarheden werd duidelijk tijdens het Pwn2Own-evenement in Berlijn. Voor het eerst waren AI-frameworks onderdeel van de hackwedstrijd. De resultaten waren zorgwekkend: onderzoekers ontdekten zeven unieke zero-day kwetsbaarheden in AI-frameworks.
Twaalf entries richtten zich op vier grote AI-frameworks, waarbij de Nvidia Triton Inference Server de meeste aandacht kreeg. Ook Chroma, Redis en de Nvidia Container Toolkit werden succesvol geëxploiteerd, soms met slechts één bug voor een volledige compromittering.
Brede adoptie en groeiende zorgen
Trend Micro publiceerde onderzoek dat een opmerkelijke paradox blootlegt in de cybersecurity-wereld. Terwijl organisaties wereldwijd AI omarmen voor het versterken van hun verdediging, groeit tegelijkertijd de bezorgdheid over nieuwe aanvalsvectoren.
Het onderzoek wijst uit dat organisaties AI vooral inzetten voor geautomatiseerde asset discovery, risicoprioritering en anomaliedetectie. Voor 42 procent van de bedrijven staan AI en automatisering bovenaan de prioriteitenlijst voor cybersecurity-verbeteringen.
Concrete veiligheidsrisico’s
De zorgen zijn niet ongegrond. Britse bedrijven noemen vooral AI-gedreven phishing en social engineering attacks (54 procent), blootstelling van gevoelige data (41 procent) en de groei van shadow IT (38 procent) als grootste risico’s.
Trend Micro’s CPO Rachel Jin waarschuwt dat “aanvallers net zo gretig zijn om AI te gebruiken voor hun eigen doeleinden, wat een snel veranderend dreigingslandschap creëert”.
Proactieve aanpak nodig
De bevindingen benadrukken dat security vanaf het begin moet worden ingebouwd in AI-systemen. Trend Micro roept security-verantwoordelijken op om het risicolandschap proactief te evalueren en strenge veiligheidspraktijken te integreren in elke fase van AI-adoptie.
De leveranciers hebben nu 90 dagen om de gevonden kwetsbaarheden te patchen voordat technische details publiek worden gemaakt. Dit tijdschema volgt standaard responsible disclosure-praktijken.
Met AI die steeds dieper geïntegreerd raakt in enterprise IT-omgevingen, wordt het balanceren van mogelijkheden en risico’s een cruciale uitdaging voor organisaties wereldwijd.