‘EU streeft naar strengere wetgeving voor gebruik van AI’

Abonneer je gratis op Techzine!

De Europese Unie wil het gebruik van AI aan strengere richtlijnen onderwerpen. Dit stelt de politieke nieuwswebiste Politico Europe op basis van een voorstel voor deze wetgeving. Voornaamste doel van de strengere wet- en regelgeving is het voorkomen van het gebruik van AI-systemen met een hoog privacy-risico in de diverse lidstaten.

Volgens het artikel van Politico Europe, dat zich baseert op een wetsvoorstel voor de nieuwe regelgeving voor het gebruik van AI in de EU, gaat het de Europese Commissie om het verbieden van het gebruik van zogenoemde ‘hoog risico’ AI-systemen. Met hoog risico wordt hierbij de extreme invloed op de privacy van inwoners van de EU bedoeld. Denk hierbij aan de dataverzameling die bedrijven uitvoeren via hun eigen devices -zogenaamd vanwege diagnostische redenen- of aan de extreme inzet van AI voor controle van inwoners.

Privacy waarborgen belangrijk

Concreet wil de EU straks het gebruik van AI wel toestaan, maar dus niet als de privacy in het geding komt. AI moet wel kunnen worden gebruikt om te innoveren en zakelijke en ook wel maatschappelijke activiteiten te verbeteren of voor het oplossen van problemen.

Dit betekent dat AI wel kan worden ingezet voor bedrijfsomgevingen, het modelleren van klimaatsveranderingen of het optimaliseren van het energienetwerk. Het gebruik van AI voor processen als het scannen van cv’s, het beoordelen van kredietwaardigheid, het geven van uitkeringen, asielaanvragen of gerechtelijke beslissingen, is dan weer niet toegestaan. Deze laatste soorten toepassingen zijn dan ‘hoog risico.’

Specifieke maatregelen

Meer specifiek moeten AI-oplossingen en -systemen worden verboden of beperkt die ingaan tegen de ‘waarden’ van de EU. Denk aan de in China populaire social scoring-systemen. Andere te verbieden AI-toepassingen zijn systemen die inwoners ‘beschadigen’ door gedrag, meningen of beslissingen te beïnvloedden, kwetsbaarheden van mensen misbruiken en voor het in de gaten houden van grote groepen personen. Ook mogen de systemen niet selecteren op basis van geslacht of ras.

Wel wordt in het wetsvoorstel een uitzondering gemaakt voor autoriteiten om misdaad en terrorisme te bestrijden. Denk hierbij aan een beperkt gebruik van gezichtsherkenning op publieke plaatsen of op beveiligingscamera’s voor het kunnen identificeren en volgen van mogelijke terroristen.

Sanctiebeleid

De EU komt in het wetsvoorstel ook met sancties. Bedrijven die AI-oplossingen en -toepassingen leveren die niet aan deze eisen voldoen, staan mogelijk een hoge boete te wachten. Deze boetes kunnen oplospen tot 20 miljoen euro of 4 procent van de omzet.  De European Artificial Intelligence Board moet op de naleving toezicht houden.

Samenwerking tussen EU en VS belangrijk

Volgens Politico kan de implementatie van deze strenge wet- en regelgeving problemen opleveren met de Verenigde Staten. Voor bedrijven uit dit land kan de EU-markt minder interessant worden door de vergaande maatregelen. Experts stellen daarom dat de EU en de Verenigde Staten gezamenlijk moeten optrekken als het gaat om wet- en regelgeving rondom AI en het verantwoord gebruik hiervan.

Tip: Gemeentes zetten ‘slimme algoritmes’ in voor risicoprofilering