Qualys wil het AI-risicobeperkende platformbedrijf bij uitstek worden. Hoewel, het wil óók nog steeds het (positief) disruptieve bedrijf voor cloudgebaseerde IT-, beveiligings- en compliance-oplossingen zijn. Maar binnen die brede bedrijfsdefinitie wil de organisatie in elk geval het platform zijn waar bedrijven naartoe gaan als ze zeggen: geweldig, we hebben nu AI, maar wacht, welke AI-middelen en -componenten gebruiken we in het bedrijf en hoe robuust, veilig, compliant en onbevooroordeeld zijn ze? Het eenvoudig genaamde Qualys TotalAI maakt holistische ontdekking- en kwetsbaarheidsbeoordeling van AI-workloads mogelijk om datalekken, injectieproblemen en modeldiefstal te detecteren.
De technologie is ontworpen om de uitdagingen en risico’s aan te pakken die gepaard gaan met het beveiligen van toepassingen die gebruik maken van generatieve AI en Large Language Models (LLM’s).
Een groter aanvalsoppervlak
Nu organisaties steeds meer AI en LLM’s integreren in hun producten en oplossingen, krijgen deze bedrijven volgens Qualys te maken met een ‘groter aanvalsoppervlak’ en verhoogde cyberrisico’s.
Maar waarom is dit zo?
Als een groter aanvalsoppervlak ontstaat door het gebruik van generatieve AI en LLM’s, kan dat komen doordat deze nieuwe vormen van intelligentie worden belast met het maken van verbindingen met databronnen buiten de goedgekeurde richtlijnen voor bedrijfstechnologie om, dat wil zeggen dat de AI-modellen en engines zelf sneller beslissingen nemen dan dat het IT-management een redelijk niveau van begeleiding en controle kan bepalen. Misschien nog waarschijnlijker is het feit dat onbekende (of niet-goedgekeurde) LLM’s of AI-modellen (bekend als schaduwmodellen) de blootstelling aan bedreigingen vergroten, waaronder diefstal van modellen en datalekken uit bestaande algemene kwetsbaarheden en blootstellingen (common vulnerabilities and exposures ofwel CVE’s) of verkeerde configuraties. Daarnaast neemt het risico op onopzettelijk gegevensverlies, complianceproblemen en reputatieschade toe als gevolg van ongepaste content en AI-hallucinaties die door deze modellen worden gegenereerd.
Wat is diefstal van AI-modellen?
Voor de volledigheid: er is sprake van diefstal van AI-modellen wanneer een malafide actor (of mogelijk een ex-werknemer die nog inloggegevens heeft) een duplicaat van een machine-learningmodel kan maken zonder dat er daadwerkelijk goedgekeurde directe toegang nodig is tot de parameters of gegevens van het model.
Zoals hier op Securing AI door Marin Ivezic en Luka Ivezic beknopt wordt omschreven: “Modeldiefstal, ook bekend als modelextractie, is de praktijk van reverse engineering van een machine-learningmodel dat eigendom is van een derde partij zonder expliciete autorisatie. Aanvallers hebben geen directe toegang nodig tot de parameters of trainingsgegevens van het model om dit te bereiken. In plaats daarvan communiceren ze vaak met het model via de API of een andere openbare interface, waarbij ze zoekopdrachten uitvoeren (d.w.z. invoergegevens verzenden) en voorspellingen ontvangen (d.w.z. uitvoergegevens). Door systematisch een groot aantal zoekopdrachten uit te voeren en de uitvoer te bestuderen, kunnen aanvallers een nieuw model bouwen dat het gedrag van het doelmodel dicht benadert.”
Als antwoord op deze realiteit breidt Qualys TotalAI dan ook Qualys’ asset visibility, vulnerability detection en remediation-mogelijkheden uit naar generative AI en voegt LLM scanning toe. De oplossing richt zich specifiek op de OWASP Top 10 meest kritieke risico’s voor LLM-applicaties: prompt injection, openbaarmaking van gevoelige informatie en modeldiefstal. Met Qualys TotalAI kunnen organisaties AI gebruiken met inachtneming van strenge beveiligingsnormen.
“We staan nog maar aan het begin van de reis om met de mogelijkheden van AI en LLM waarde te creëren voor bedrijven. Tegelijkertijd moeten we een reisverzekering afsluiten, zodat AI geen nieuwe risico’s toevoegt aan het bedrijf”, zegt Sumedh Thakar, president en CEO van Qualys. “Bij Qualys zetten we ons in om onze klanten te helpen opkomende cyberbeveiligingsrisico’s voor te blijven, en met Qualys TotalAI kunnen ondernemingen zich richten op groei en innovatie, in de wetenschap dat ze beschermd blijven tegen de meest kritieke AI-bedreigingen.”
Met Qualys TotalAI kunnen organisaties al AI-workloads in kaart brengen en alle AI- en LLM-assets classificeren, waaronder GPU’s, software, pakketten en modellen, in productie en ontwikkeling, terwijl hun blootstelling wordt gecorreleerd met het aanvalsoppervlak.
650+ AI-specifieke detecties
Thakar zegt dat de technologie van zijn bedrijf modeldiefstal helpt voorkomen en de kracht van Qualys bestaande TruRisk-technologie van het bedrijf vergroot door kwetsbaarheden in AI-software te beoordelen, prioriteren en verhelpen met meer dan 650 AI-specifieke detecties, gecorreleerd met dreigingsfeeds en blootstelling van assets, om het risico van zowel model- als datadiefstal te voorkomen.
Gebruikers beschikken over uitgebreide herstelmogelijkheden om niet alleen aan securityeisen te voldoen, maar die zelfs te overtreffen, SLA’s na te leven en te voldoen aan de behoeften van het bedrijf. Ze beperken zo potentiële bedreigingen proactief om een naadloze werking en een sterke AI- en LLM-security posture te garanderen. AI-engineers kunnen LLM’s ook beoordelen op kritieke aanvallen, zoals prompt injection, openbaarmaking van gevoelige informatie en de eerder genoemde modeldiefstal volgens de OWASP Top 10 voor LLM’s.
We gingen de mist in met onze AI, wat nu?
Als we kijken naar de werkelijke implementatiemogelijkheden van AI vandaag de dag, probeert Qualys organisaties duidelijk te helpen om voorbij het ‘AI is er, wat doen we als het misgaat’-gesprek te komen, waar veel bedrijven in de nabije toekomst onvermijdelijk mee te maken zullen krijgen. Weten hoe de gekoesterde AI-engine van je bedrijf mogelijk binnenstebuiten wordt gekeerd voor modeldiefstal (en wat het IT-team doet om zich hiertegen te beschermen) hoort vanaf nu bij de verantwoordelijkheid die organisaties moeten nemen, nu ze complexe en krachtige applicaties en dataservices met machine learning enten op de operationele lagen waarop ze zaken doen.
Lees ook: Qualys TotalCloud 2.0 is eerste CNAPP dat ook SaaS-apps beschermt