Windows Recall slaat alle acties van de desktopgebruiker op voor AI-doeleinden. Het is een controversiële feature die regelgevers en securityonderzoekers zorgen baart. Microsoft bindt daarom in: standaard staat Recall uit.
Recall is een kernonderdeel van zogeheten Copilot+-pc’s, computers die Microsoft omschrijft als de “snelste, intelligentste Windows-pc’s ooit”. Concreet zijn het apparaten die het breedste pakket aan AI-diensten onder de noemer Copilot lokaal ondersteunen, gericht op toepassingen van tekstverwerking tot dagplanning. Recall maakt continu screenshots van de desktop om precies te kunnen achterhalen wat een gebruiker uitvoerde. 25GB van deze data wordt (on-device) bewaard. In tegenstelling tot de browsergeschiedenis maakt Recall het verleden van alle applicaties traceerbaar via eenvoudige zoektermen.
Controverse alom
De feature viel direct slecht bij menig securityexpert. Een Britse privacywaakhond vroeg direct aan Microsoft hoe de gevoelige gebruikersdata bewaard wordt. Voormalig Microsoft-medewerker en “cyber-weerman” Kevin Beaumont omschreef Recall als een “ramp” en denkt dat men in Redmond te veel in een echokamer heeft geleefd om de privacy- en securitygevaren van de feature volledig te vatten. Ook wij plaatsen reusachtige vraagtekens bij Recall toen het was aangekondigd tijdens Microsoft Build.
Tip: Onbekommerd Windows-gebruik voorbij nu Recall alles opslaat wat je doet op je pc
Dergelijke waarschuwingen lijken hun vruchten te hebben afgeworpen. Via een blog op vrijdagavond laat Microsoft weten dat Recall een opt-in krijgt. “Als je niet proactief kiest om het aan te zetten, staat het standaard uit.”
Security-rampen
Om AI de desktop te laten veroveren, is inzicht in gebruikersgedrag goud waard. In dit geval niet zozeer omdat Microsoft graag je data verzamelt, maar omdat het Copilot in staat stelt om zich aan de gebruiker aan te passen. Wat je beroep ook is, als er iets recent op je desktop stond dat je niet onmiddelijk voor de geest kan halen, kan Recall het (tot op zekere hoogte) terugzoeken.
De vraag was direct of Microsoft wel de aangewezen partij is voor het introduceren van Recall. Overigens zit ook Google met ChromeOS en Chromebook Plus te denken aan een soortgelijke feature met “Where Was I?”. Eén groot verschil: de AI-mogelijkheden van Google zijn beperkter en grotendeels toekomstmuziek, bij Microsoft is Recall al in previewvorm beschikbaar per 18 juni. Dit terwijl het juist Microsoft is dat met twee grootschalige security-rampen in de afgelopen 12 maanden te maken heeft gehad. Hackers vanuit zowel Rusland als China wisten het bedrijf binnen te dringen. Het Chinese voorval werd volgens de Amerikaanse waakhond CSRB mogelijk gemaakt door een “opeenstapeling van fouten“. Dat is niet het soort cv dat het broodnodige vertrouwen van eindgebruikers voor zich wint.
Opt-in is niet genoeg
Microsoft leunt bij Recall op Windows Hello Enhanced Sign-in Security (ESS). Het betekent dat de versleutelde screenshots enkel na authenticatie toegankelijk zijn. De beveiliging is gedeeltelijk op hardware gebaseerd, maar uit Blackwing Intelligence-onderzoek eind vorig jaar bleek dat dit op laptops van onder andere Dell, Lenovo en Microsoft zelf omzeild kan worden. Combineer dit met het feit dat phishing-tactieken gebruikers kunnen misleiden zodat ze zelf het slot van Recall afhalen. Er valt met deze feature simpelweg meer informatie te stelen dan voorheen.
De opt-in is dus niet genoeg om Recall te vertrouwen. Immers kan Microsoft genoeg functionaliteit aan de optie knopen om het aanzetten ervan wel erg aanlokkelijk te maken. Feit is dat het gehele Copilot+-concept al een ietwat kunstmatige barrière opwerpt tegen pc’s zonder NPU – elke pc met wat paardenkracht kan de AI-workloads via de CPU en GPU draaien, maar Microsoft wil dat niet doen om de accuduur van laptops te besparen. Niets staat Microsoft in de weg om de opt-in voor Recall ook een schakelknop te maken voor allerlei aantrekkelijke Copilot-functies, die simpelweg niet zouden werken zonder het fotografische geheugen van de feature.
Lees ook: De Surface Pro 10 en Laptop 6 zijn een duo dat nu al door de toekomst is ingehaald
De keerzijde
Wel is er een security-keerzijde die verrassend genoeg juist goed uitpakt voor AI-/Copilot+-pc’s en Recall. We spraken onlangs met Trend Micro, dat aanwezig was bij de onthulling van Intel Lunar Lake vlak voor Computex in Taipei. Die partij zet AI in om de veiligheid van e-mailberichten in de gaten te houden. Die analyse moet noodgedwongen in een cloudomgeving. Gezien de gevoelige aard van de gebruikersdata, heeft letterlijk elke e-mail toestemming nodig vanuit de gebruiker wegens privacywetten in de EU en het Verenigd Koninkrijk. Daaraan komt een einde dankzij de AI-pc, en specifiek door de NPU. Trend Micro-software kan namelijk met de 40+ TOPS van NPU’s van Intel, Qualcomm en AMD uit de voeten en on-device analyseren of een e-mail te vertrouwen is.
Het is een voorbeeld van wat de AI-pc kan bieden, waarbij Recall een dergelijke securityfeature nog beter inzetbaar maakt. Immers kan het de context meenemen van eerdere conversaties en herkennen of er verdacht gedrag plaatsvindt in het e-mailverkeer of via andere communicatiekanalen. Als dit alles on-device is én veilig, komt Recall opeens over als een security-lust, en geen -last. Dat verhaal heeft Microsoft nog te verkondigen, hoewel het eerst de eigen reputatie omtrent security weer moet zien te herstellen. Dat heeft tijd en bewijs van goed gedrag nodig.
Beluister ook onze Techzine Talks over Microsofts securityfouten: