‘Amsterdam en andere steden willen AI-regels vormen’

Abonneer je gratis op Techzine!

Verschillende Europese steden, waaronder Amsterdam en Barcelona, hebben een eigen initiatief gelanceerd voor het gebruik van AI binnen hun omgevingen. Doel van het Urban AI Observatory is onderling meer informatie uit te wisselen en vooral ethische standaarden te ontwikkelen.

In Europa wordt nu door de Europese Unie wetgeving ontwikkeld die het gebruik van AI en algoritmes moet gaan reguleren. Kern van deze nieuwe wet- en regelgeving is dat de inzet van AI en onderliggende algoritmes aan bepaalde ethische standaarden wordt gekoppeld. Zo moet er bijvoorbeeld een einde komen aan het gebruik van gezichtsherkenningstechnologie, tenzij deze wordt ingezet voor het bestrijden van ‘serieuze misdaad’.

Deze uitzondering ligt niet erg lekker bij privacy-activisten en diverse toezichthouders. De juridische wetgeving om te bepalen wat ‘serieuze misdaad’ zou zijn, is volgens hen te dun. Dit maakt dat overheden nog steeds betrekkelijk eenvoudig gezichtsherkenningstechnologie kunnen gebruiken.

Oprichting Urban AI Observatory

De privacy-activisten krijgen nu steun van Europese steden als Amsterdam en Barcelona, bericht Politico. Samen met andere internationale steden als Londen en New York hebben beide Europese steden het Urban AI Observatory opgericht. Met dit samenwerkingsverband willen de steden de druk op nationale overheden, maar ook de EU, opvoeren op het (ethisch) gebruik van AI en algoritmes zeer serieus te nemen. Zeker nu steden steeds vaker AI inzetten voor publieke diensten als het openbaar vervoer, het onderwijs en de gezondheidszorg.

Concreet richt het Urban AI Observatory, onderdeel van het al bestaande digitale samenwerkingsverband Cities Coalition for Digital Rights tussen de verschillende steden, zich op het helpen met het juiste gebruik van AI in stedelijke omgevingen. Vooral voor het verbeteren van sociale diensten en ondersteuning op een proactieve manier. Het samenwerkingsverband helpt hiervoor met regelgeving, ontwikkelingsprojecten en use cases. Zaken die het Urban AI Obesrvatory hiervoor wil ontwikkelen, zijn onder meer rapporten, policystandaarden en best practices.

Lobby op ethisch gebied

Vooral op ethisch gebied wil het Urban AI Observatory een belangrijke rol gaan spelen. Volgens de oprichters heeft AI de mogelijkheid om de dienstverlening van steden te veranderen, maar slechte data of samples met vooroordelen kunnen veel schade aanrichten of de ongelijkheid binnen steden vergroten.

Het Urban AI Observatory wil daarom ethische regelgeving voor het gebruik van AI in steden gaan ontwikkelen en de ervaringen van al bestaande initiatieven op dit gebied delen. Concreet voert het Urban AI Observatory bijvoorbeeld nu een grote lobby bij de EU om de inzet van gezichtsherkenning binnen de lidstaten en andere mogelijk schadelijke AI-toepassingen en algoritmes aan banden te leggen. In ieder geval zolang hierover binnen de EU in het in ontwikkeling zijnde wet- en regelgeving geen ethische afspraken zijn gemaakt.

Tip: ‘EU streeft naar strengere wetgeving voor gebruik van AI’