Onderzoekers houden op AI-gebaseerde antivirusscanner voor de gek

Australische cybersecurity-onderzoekers van Skylight Cyber zijn erin geslaagd om een antivirus-engine malware als veilig te laten markeren, meldt SiliconAngle. De ontdekking is geen goed nieuws voor cybersecurity-firma’s die AI gebruiken als basis voor hun productontwikkeling.

De methode die de onderzoekers hebben gebruikt werkt door het ondermijnen van het algoritme dat gebruikt wordt in het PROTECT-antivirussysteem van Cylance. Het gaat niet om een aanpassing van de code in de malware, maar om een zogenaamde “global bypass”, wat betekent dat strings uit goedaardige code toegevoegd worden aan de malware, waardoor het algoritme kwaadaardige code negeert.

“Voor zover ik weet is een bewezen globale aanval op het mechanisme voor machine learning van een beveiligingsbedrijf een wereldprimeur,” meldt Adi Ashkenazy van Skylight Cyber. “Na ongeveer vier jaar van superhype [over AI], denk ik dat dit een voorbeeld is van hoe de aanpak een nieuw aanvalsoppervlak biedt dat niet mogelijk was met legacy [antivirussoftware]”.

AI niet onfeilbaar

De ontdekking is het eerste bewijs dat deze techniek werkt, maar het idee om gebruik te maken van de zwakheden van AI bestond al langer. Kevin Bocek van cybersecuritybedrijf Venafi stelt dat beveiligingsonderzoekers al geruime tijd weten dat de volgende generatie antivirussoftware kan worden misleid. “We weten dat code-signing-certificaten het mogelijk maken dat een breed scala aan malware zich aan detectie kan onttrekken. Dit is de reden dat Stuxnet – dat ook antivirusdetectie heeft ontdoken – zo succesvol was en dat dit vandaag de dag in veel malware-aanvallen wordt gebruikt.”

De prestatie van de onderzoekers laat zien dat ook next-gen securitysoftware kan worden misleid, en dat AI dus geen ultieme technological fix is tegen infectie door malware. Gregory Webb van anti-malwarefirma Bromium zegt dan ook: “AI zal niet onfeilbaar zijn. Als we te veel vertrouwen stellen in het vermogen van dergelijke systemen om te weten wat goed en slecht is, zullen we onszelf blootstellen aan onnoemelijke risico’s – die, als we ze niet in de gaten houden, enorme blinde vlekken op het gebied van veiligheid kunnen creëren, zoals hier het geval is.”