McAfee wil deepfakes strenger gaan bestrijden. Met de introductie van Project Mockingbird gaat het securitybedrijf zich vooral richten op het bestrijden van (door generatieve AI) gegenereerde deepfake audio-bestanden, zoals stemmen.
Het gaat bijvoorbeeld om deepfakes van stemmen van bekende personen, zoals nieuwslezers. Op deze manier hoopt McAfee het publiek beter te beschermen tegen fakenieuws, het tegengaan van scams en het beïnvloedden van het publieke gedachtegoed.
Onderliggende technologie
Meer specifiek omvat Project Mockingbird de zelfontwikkelde, door AI ondersteunde Deepfake Audio Detection-technologie van de securityspecialist. Deze technologie detecteert of audio daadwerkelijk van een menselijke persoon afkomstig is of niet, op basis van het luisteren naar de uitgesproken woorden.
De technologie gebruikt ruwe audio-data uit bijvoorbeeld een video en voert deze in een classificatiemodel. Dit model bepaalt op basis van gevaarlijke eigenschappen of deze data in een bepaalde categorie valt. Vervolgens bepaalt het model, op basis van de trainingsdata van McAfee, of deze (audio) data door AI is gegenereerd of dat het echte content is.
McAfee gebruikt deze specifieke classificatiemethode al langer voor het detecteren van malware of het identificeren van webcontent. In plaats van bestanden worden alle specifieke data gescreend op basis van alle data, in plaats van bestanden.
De technologie zou, volgens McAfee, tot 90 procent accuraat kunnen bepalen of audio data vals is of niet.
Recent onderzoek over deepfakes
McAfee waarschuwt al langer tegen deepfake-technologie die schadelijke gevolgen kan hebben voor de samenleving. Uit een recent onderzoek in de VS, gehouden in december 2023, blijkt dat 68 procent van de Amerikaanse respondenten bang is voor de gevolgen van deepfakes. Ongeveer een derde, 33 procent, zegt al met deepfakes te zijn geconfronteerd.
De belangrijkste zorgen van de respondenten over de invloed van deepfakes zijn: beïnvloeding van verkiezingen (52 procent), cyberpesten (44 procent), ondermijning van het vertrouwen in de media (48 procent), zich voordoen als bekende personen (49 procent), het creëren van nep-porno (37 procent), het vertroebelen van historische feiten (43 procent) en het ingaan op cyberoplichting door criminelen om financiële of persoonlijke gegevens te verkrijgen (16 procent).
Lees ook: ElevenLabs maakt kleine stap naar bestrijding van audio deepfakes
19 uur geleden
