IBM stopt met gezichtsherkenning vanwege mensenrechtenschending

Abonneer je gratis op Techzine!

IBM-directeur Arvind Krishna kondigt aan dat het bedrijf geen gezichtsherkenningsdiensten meer zal verkopen. Ook riep hij op tot een “nationale dialoog” over de vraag of gezichtsherkenning überhaupt gebruikt moet worden.

Krishna schrijft in een brief aan het Amerikaanse Congres dat het bedrijf niks meer te maken wil hebben met gezichtsherkenning. Hij geeft aan dat IBM tegen gezichtsherkenningstechnologie is waar massa-surveillance, etnisch profileren en schending van mensenrechten aan gelinkt worden.

Volgens Krishna kan technologie, zoals gezichtsherkenning, politie helpen bij haar taak om burgers te beschermen, maar deze technologie moet niet de ongelijkheid en discriminatie bevorderen. Leveranciers moeten AI bijvoorbeeld testen op vooringenomenheid zodat dit geen nare gevolgen kan hebben in de praktijk. Onderzoekers van MIT concludeerde in 2018 al dat ook AI vooroordelen kunnen aanleren.

Gezichtsherkenning ligt onder vuur

Gezichtsherkenning is al langer een heikel punt in IT. Veel critici zeggen dat gezichtsherkenning op een grote schaal in strijd is met burgerrechten en privacy. Ook heeft AI nog wel eens moeite met het herkennen van vrouwen en zwarte mensen. In 2019 werd bijvoorbeeld bekendgemaakt dat AI-systemen in zelfrijdende auto’s moeite hadden om mensen met een donkere huidskleur te herkennen. In 2017 kwam een zwarte man erachter dat de automatische zeeppomp zijn handen niet herkende, maar handen van zijn blanke vriend wel.

Onrechtmatig gebruik van gezichtsherkenning

Het Amerikaanse bedrijf Clearview AI ligt de afgelopen maanden onder vuur nadat het bedrijf onrechtmatig miljarden foto’s van social media verzamelde om een database te creëren voor zijn gezichtsherkenning-AI. Deze database kon worden gebruikt om de identiteit van personen vast te stellen. Het bedrijf verkocht de software aan politie en opsporingsdiensten in Amerika.

Vorig jaar lanceerde IBM nog een nieuwe database van gezichtsdata die volgens het bedrijf ‘over meer diversiteit beschikt’ dan wat toen op de markt beschikbaar was. IBM ging wel zelf ook de fout in toen het bedrijf één miljoen foto’s gebruikte van de website Flickr om zijn gezichtsherkenning-AI te trainen.