Microsoft roept op tot regulering gezichtsherkenningstechnologie

Er moet wetgeving komen voor gezichtsherkenningstechnologie. Anders dreigt de wereld te veranderen in een Nineteen Eighty-Four achtig scenario dat George Orwell zo mooi schetste in zijn dystopie uit 1949. Daar roept Microsofts Brad Smith toe op tijdens de WebSummit in Lissabon, Portugal.

De manier waarop bedrijven gezichtsherkenningstechnologie ontwikkelen en ook toepassen, kan van grote invloed zijn op de privacy van het gemiddelde individu. “Het betekent potentieel dat, elke keer als je een winkel inloopt, een ondernemer weet wanneer je daar voor het laatst was, welke goederen je oppakte en wat je kocht”, vertelde Smith volgens Recode. “Maar ik geloof dat dit verbleekt bij wat de technologie zou kunnen betekenen voor de relatie tussen individuen en de staat.”

Industrie reguleren

Ondanks dat ook Microsoft gezichtsherkenningstechnologie ontwikkeld heeft, denkt Smith dat het goed zou zijn om de industrie te reguleren. Dat is de meest effectieve manier om te voorkomen dat de boel uit de hand loopt en bedrijven hun macht gaan misbruiken. Natuurlijk begrijpt Smith wel dat het in bepaalde situaties een nuttige techniek is om bijvoorbeeld criminelen op te sporen en illegale activiteiten in kaart te brengen. Tegelijk denkt hij dat er wetgeving moet komen die voorkomt dat dit soort toepassingen de overhand krijgen.

“Voor het eerst, bevindt de wereld zich op de drempel van een technologie die een overheid het vermogen geeft om iedereen overal te volgen”, aldus Smith. “Ze zouden precies kunnen zien waar je heengaat en waar je geweest bent.” De gevolgen voor fundamentele burgerrechten kunnen groot zijn, vooral voor democratische samenlevingen. “Voordat we ons in 2024 bevinden en ontdekken dat het wel heel erg lijkt op 1984, moeten we met z’n allen nadenken over de wereld waarin we willen leven”, vertelt Smith.

Hoe ver de technologie kan gaan bleek al in China. In 2020 rolt het communistische land een sociale score uit, waarbij burgers het burgers beoordeelt op hun gedrag. Mensen die bijvoorbeeld veel geld uitgeven aan nutteloze producten en slecht gedrag vertonen zoals roken op plekken waar dat niet mag, krijgen strafpunten. Dat kan grote gevolgen hebben, zoals verlies van baan, onderwijs- en zelfs reismogelijkheden. Mensen met hoge scores krijgen juist beloningen in de vorm van lagere stroomrekeningen en meer mogelijkheden om te reizen.