Microsoft gaat meerdere AI-functies afschaffen, waaronder een technologie die de emoties van mensen herkent op basis van video’s en afbeeldingen.

De organisatie veranderde zijn ‘Responsible AI Standard‘, een missie voor het ontwikkelen van eerlijke en betrouwbare AI-technologie. Het document beschrijft de normen en waarden waaraan Microsoft probeert te voldoen. Vanwege het nieuwe beleid koos de organisatie ervoor om de toegang tot gezichtsherkenningstools te beperken.

Nieuwe klanten van Azure Face API, Computer Vision en Video Indexer moeten zich voortaan aanmelden om de diensten te kunnen gebruiken. Bestaande klanten hebben tot het eind van 2022 om een aanmelding in te dienen. Microsoft kan de aanmelding weigeren. De organisatie wil weten waar de technologie voor wordt gebruikt. Voldoet een klant niet aan de nieuwe voorwaarden, dan wordt de dienst niet verleend.

Sarah Bird, Principal Group Product Manager for Azure AI bij Microsoft, lichtte de keuze toe in een blogpost. “Met Limited Access brengen we een extra laag van toezicht aan op het gebruik van gezichtsherkenning. Zo zorgen we ervoor dat de diensten bijdragen aan maatschappelijke voordelen.”

Discrimineren met AI

Een van de functies verdwijnt geheel. Sommige AI-diensten van Microsoft herkennen de emoties van personen. De functie scant beelden van personen op geslacht, leeftijd, haar- en baardgroei, gelaat en makeup. Vervolgens geeft de functie een indicatie van de emotie van personen. Microsoft stopt alle analyses op basis van deze eigenschappen.

“De technologie riep belangrijke vragen op over privacy”, deelt Bird. De AI-manager legt uit dat de functie onethische toegepast kan worden. De manier waarop mensen hun emoties laten blijken verschilt per cultuur. Door mensen met verschillende culturen op dezelfde manier te analyseren, werkt de technologie discriminatie in de hand.

Dat moet Microsoft tegengaan. Overheden hebben steeds meer aandacht voor de maatschappelijke gevolgen van AI. Aankomende Europese wetten proberen het gebruik van AI te reguleren. Techgiganten als Microsoft krijgen met nieuwe regels te maken. Daar bereidt de organisatie zich op voor.

Tip: Eric Schmidt schenkt 110 miljoen euro voor onderzoek naar AI-risico’s