Cisco Talos brengt CAIRN uit, een open source toolkit die AI-geïntegreerde malware opspoort via metadata in plaats van reverse engineering. Het framework zoekt naar sporen die aanvallers achterlaten.
Aanvallers die large language models in hun tooling verwerken, laten daar onvermijdelijk resten van achter. Denk aan prompt-templates, endpoints van AI-providers, API-sleutels en jailbreak-termen. Cisco Talos noemt die sporen cognitive artifacts en bouwde er een complete jachtmethode omheen.
De methode heet CAIRN, voluit Cognitive Artifact Intelligence Research Network. Het bijzondere eraan: er komt geen enkele download of uitvoering van een binary aan te pas. CAIRN werkt volledig op metadata die VirusTotal al blootlegt, zoals leesbare strings, importnamen, resource-velden en sandbox-gedrag.
24 filters en drie tiers
De toolkit spoort verdachte samples op via maximaal 24 acquisition filters. Eén filter zoekt naar endpoints als api.openai.com, api.anthropic.com en api.deepseek.com. Een ander jaagt op Python-scripts die langchain, litellm of openai importeren. Weer een ander speurt naar lokale inference via ollama, llama.cpp of gguf-bestanden.
Opvallend is het filter ai-analysis-evasion. Dat zoekt naar tekst die aanvallers bewust richten aan AI-analysesystemen, in de trant van “hier valt niets te zien”. Talos traceerde die techniek naar een red team-instructeur en zag hem binnen twaalf maanden opduiken in samples van ongerelateerde actoren.
Alle vondsten belanden in een SQLite-corpus met YARA-regels in drie lagen: primitieve AI-artefacten, gedragscontext en bevestigde malwarefamilies. Daarnaast gebruikt CAIRN semantische clustering via UMAP en HDBSCAN om samples te vinden die geen enkele string delen.
Definitieve verdicts vragen nog altijd om reverse engineering. CAIRN is volgens Talos een onderzoeksproject, geen kant-en-klaar dreigingssignaal.
Tip: Cisco bouwt AI-model met drie decennia aan securitykennis