Een studie van de MIT laat zien dat de gezichtsherkenningssoftware van Amazon bevooroordeeld lijkt te zijn ten aanzien van vrouwen met een donkere huidskleur. Ook bleek dat de software er meer moeite mee had om mannen en vrouwen uit elkaar te houden dan soortgelijke technieken van Microsoft en IBM.
Dat blijkt uit een onderzoek dat de MIT afgelopen donderdag gepubliceerd heeft. De Rekognition-software van Amazon bleek in 19 procent van de gevallen vrouwen verkeerd als man aangemerkt te hebben. Daarnaast werden vrouwen met een donkere huidskleur in 31 procent van de gevallen als onterecht als man aangemerkt. Ter vergelijking: de software van Microsoft zat in die laatste situatie slechts 1,5 procent van de tijd verkeerd.
Verschillende analyses
Matt Wood, algemeen manager van kunstmatige intelligentie bij Amazon Web Services, laat weten dat de resultaten van de studie gebaseerd zijn op een gezichtsanalyse en dus niet op gezichtsherkenning. Daarin zit een belangrijk onderscheid, want volgens Wood kan gezichtsanalyse ook gezichten vinden in video’s of beelden en op basis daarvan kenmerken als het dragen van een bril aanmerken. Gezichtsherkenning probeert juist een match van het gezicht van een individu te vinden in video’s en foto’s. De Rekognition-techniek bevat beide functionaliteiten.
“Het is niet mogelijk om een conclusie over de nauwkeurigheid van gezichtsherkenning voor een bepaald geval te bepalen, op basis van resultaten die gebruik maken van gezichtsanalyse.” Volgens Wood maakte de studie ook geen gebruik van de nieuwste studie van Rekognition. Amazon zou zelf een soortgelijke studie hebben uitgevoerd met Rekognition en soortgelijke data en geen enkele fout hebben gevonden.
Scepsis
Maar volgens de auteurs van de studie hebben ze wel degelijk het verschil begrepen tussen gezichtsanalyses en -herkenning. “In onze paper maken we ook duidelijk dat we gekozen hebben om te evalueren in hoeverre het model begrijpt wat het ziet.”
In elk geval zouden mensen volgens de auteurs bepaalde scepsis moeten houden ten aanzien van bedrijven die claimen volledig accurate systemen te hebben ontwikkeld.
10 uur geleden
