Forse kritiek op AWS rond gebruik gezichtsherkenning door politie

Abonneer je gratis op Techzine!

Eind 2016 onthulde Amazon dat het met Rekognition een nieuwe techniek had ontwikkeld voor gezichtsherkenning. Die software werd aangekondigd in een relatief gewone AWS-blog, waarin ook stond dat de Amerikaanse sheriff van Oregon de technologie al toepaste om criminelen mee te identificeren. Nu is daar forse kritiek op.

De American Civil Liberties Union (ACLU) van Noord-Californië stelt dat het documenten in handen kreeg die meer duidelijk maken over de werking van de dienst. Die documenten schetsen volgens de ACLU een zorgwekkend beeld rond “burgerlijke vrijheden en rechten”.

Massa surveillance

De documenten waar het om gaat, draaien vooral om de database van 300.000 foto’s die van criminelen gemaakt zijn. Daarnaast is er een mobiele app die ontworpen is om politieagenten te helpen gezichten te herkennen. AWS zou overal op zoek zijn naar bedrijven om mee samen te werken om de dienst breed uit te rollen, waaronder een bedrijf dat bodycams maakt.

Volgens de ACLU zouden mensen vrij moeten zijn om over de straat te lopen, zonder dat de regering hen in de gaten houdt. Het automatiseren van surveillance, en gezichtsherkenning bedreigt volgens het bedrijf precies die vrijheid. “Zodra dit soort krachtige systemen uitgerold en gebouwd zijn, is het extreem moeilijk om de schade terug te draaien,” aldus de ACLU.

Volgens de Amerikaanse politie wijkt de technologie die nu gebruikt wordt niet heel erg af van reeds bestaande systemen. Er zou geen sprake zijn van ongerichte surveillance. Ook Amazon schrijft zoiets: het bedrijf stelt tegenover TechCrunch dat Rekognition heel nuttig kan zijn in de echte wereld en dat het niet goed zou zijn om een technologie niet door te voeren omdat er het potentieel van misbruik is.