Een gezichtsherkenningstool die Amazon aan webontwikkelaars verkoopt, identificeerde 28 leden van het Amerikaans Congres verkeerd en gaf aan dat het om verdachten van misdrijven ging. Dat gebeurde bij een demonstratie van burgerrechtenorganisatie American Civil Liberties Union (ACLU), die erg tegen het gebruik van de technologie is.
Persbureau Reuters meldt dat bij de demonstratie foto’s van de gezichten van alle Amerikaanse Congresleden werden geüpload. Daarna werd gekeken of zij te vinden waren in een database met foto’s van verdachten. De ACLU stelt dat de proef laat zien dat dit soort technologie beter niet gebruikt kan worden. Amazon zelf laat in een reactie weten dat de instellingen van de tool niet goed stonden, waardoor er iets mis ging tijdens de proef.
De proef
De ACLU stelt dat het 12,33 dollar moest betalen om Rekognition de foto’s te laten controleren tegen een database van 25.000 politiefoto’s. De technologie vond een match voor 28 Congresleden, en gaf daarbij een zekerheid van tachtig procent aan. Opvallend is dat de meeste matches gevonden werden bij mensen van Afrikaans-Amerikaanse of Latinoafkomst.
Een woordvoerder van Amazon stelt dat de setting van tachtig procent geldt voor het herkennen van objecten, dus niet voor individuen. Daarvoor geldt volgens het bedrijf een zekerheid van 95 procent of soms zelfs hoger voor overheden en politiedepartementen.
Risico’s gezichtsherkenningstechnologie
Desondanks laten de bevindingen de risico’s zien die klampen aan het gebruik van dit soort gezichtsherkenningstechnologie. Sinds mei zet de ACLU samen met andere burgerrechtengroepen druk op de Amazon om te stoppen toegang tot zijn technologie, Rekognition genaamd, te verkopen aan overheden.
Het risico van de gezichtsherkenningstechnologie, die in 2016 onthuld werd, is immers dat mensen verkeerd herkend worden. Op die manier zouden onschuldige burgers als criminelen behandeld kunnen worden. Volgens de groepen is het gebruik van Rekognition door bijvoorbeeld de politiedepartementen van Oregon en Florida onrechtmatig geweest; deze zou zich teveel op immigranten en mensen van niet-blanke afkomst gericht hebben.
1 dag geleden
