Microsoft heeft geweigerd zijn gezichtsherkenningstechnologie te delen met de politie in Californië, meldt Reuters. De politie in de staat had het bedrijf gevraagd om gezichtsherkenning te installeren in politieauto’s en body camera’s. Reden voor de afwijzing van het verzoek zijn zorgen om mensenrechten.
Microsoft concludeerde dat de inzet van de gezichtsherkenningstechnologie zou leiden tot het ten onrechte langer vasthouden van onschuldige vrouwen en minderheden, omdat de kunstmatige intelligentie voornamelijk getraind is op foto’s van blanke mannen. Diverse onderzoeken hebben bovendien vastgesteld dat kunstmatige intelligentie vaker problemen heeft met het verkeerd vaststellen van de identiteit van vrouwen en minderheden.
“Iedere keer als ze iemand aan de kant van de weg zetten, wilden ze een gezichtsscan uitvoeren tegen een database aan verdachten”, vertelt Brad Smith, president van Microsoft. Hij zei daarbij niet om welke afdeling van opsporingsinstanties het precies gaat. Nadat het bedrijf had nagedacht over de ongelijke impact, concludeerde het dat deze technologie “niet het antwoord” is.
Smith maakte de afwijzing bekend tijdens een conferentie aan de Stanford University, waar hij sprak over “human-centered artificial intelligence”. Daarbij zei hij dat Microsoft ook heeft geweigerd om gezichtsherkenning te installeren in camera’s in een hoofdstad van een niet genoemd land, waarvan de non profit Freedom House heeft vastgesteld dat het geen vrij land is. Volgens Smith zou de technologie de vrijheid van samenkomst onderdrukt hebben.
Gevangenis
Aan de andere kant heeft Microsoft wel toegezegd de technologie te leveren aan een Amerikaanse gevangenis. Dit deed het nadat het bedrijf vaststelde dat de omgeving gelimiteerd zou zijn en het de veiligheid in de niet nader genoemde gevangenis zou verbeteren.
Smith heeft opgeroepen om meer regulatie in te zetten voor gezichtsherkenning en ander gebruik van kunstmatige intelligentie. Tijdens zijn toespraak waarschuwde hij dat bedrijven die de meeste data verzamelen misschien winnen in de race om de beste kunstmatige intelligentie te maken, maar dat dat een race naar de bodem is.
12 uur geleden
