Amazon strijdt met Facebook en Microsoft tegen deepfakes

Deepfakes zijn een nieuwe security-dreiging op het internet, en diverse bedrijven maken zich dan ook zorgen over de risico’s van deze nieuwe techniek. Microsoft en Facebook begonnen daarom de Deepfakes Detection Challenge, om de detectie van gemanipuleerde beelden te vereenvoudigen. Amazon sluit zich daar nu bij aan. 

Deepfake is een relatief nieuwe techniek, waarbij aan de hand van kunstmatige intelligentie (AI) beelden aangepast worden om een extreem realistisch lijkende video te maken. Gemanipuleerde video’s van bijvoorbeeld beroemdheden of politici kunnen gebruikt worden om deze mensen af te persen, maar ze worden ook ingezet om nepnieuws te maken.

Onderzoek van beveiligingsbedrijf Trend Micro wees in september uit dat deepfake ransomware – waarbij de gemanipuleerde video’s gebruikt worden voor afpersing – één van de meest gevreesde toekomstige cyberdreigingen is.

Deepfakes Detection Challenge

Microsoft, Facebook en MIT besloten dan ook actie te nemen. Zij begonnen de Deepfakes Detection Challenge, waarbij mensen wereldwijd aangemoedigd worden om technologie te maken om beelden die met AI gemanipuleerd zijn te herkennen.

De bedrijven bieden 10 miljoen dollar en een dataset van 5.000 video’s om deze projecten te ondersteunen. In december worden er nog meer video’s – in totaal zijn er ruim 100.000 gemaakt – naar buiten gebracht.

Deelname Amazon

Amazon Web Services (AWS) heeft zich nu aangesloten bij deze Challenge. Het bedrijf levert de komende twee jaar onder meer AWS credits ter waarde van 1 miljoen dollar aan onderzoekers en academici die meedoen aan de wedstrijd. Met die credits kunnen zij hun projecten testen en ontwikkelen.

Alle deelnemers kunnen aan het begin van het project minimaal 1.000 dollar aan credits opvragen. Later komen er nog extra prijzen van maximaal 10.000 dollar voor projecten die levensvatbaarheid of succes aantonen bij het detecteren van deepfakes.

Daarnaast gaat Amazon de volledige dataset voor de wedstrijd hosten als deze in december beschikbaar is gemaakt. Tot slot wordt er ondersteuning van machine learning-experts binnen het bedrijf aangeboden, om teams te helpen met het begin van hun project.