De Nederlandse overheid en bedrijven moeten meer grip krijgen op algoritmes en AI. Moment is het nog onvoldoende voor het tegengaan van potentiële risico’s. Dit stelt de toezichthouder Autoriteit Persoonsgegevens (AP) in een eerste rapport over algoritmerisico’s.
Volgens de toezichthouder biedt het gebruik van algoritmes en AI veel mogelijkheden, maar zijn Nederlandse overheidsorganisaties en bedrijven nog niet sterk bewust van de risico’s. Dit kan tot gevolg hebben dat algoritmegebruik mogelijk leidt tot discriminatie en kansongelijkheid. Vooral bij het gebruik van hoogwaardige algoritmes die impact hebben op het leven van mensen.
De AP wil dat de overheid en het bedrijfsleven hiervoor sneller maatregelen nemen. Zoals het inzetten van meer personeel en scholing. Het (demissionaire) kabinet kan hieraan bijdragen door versneld met wet- en regelgeving te komen, volgens de toezichthouder.
Tip: Illegale dataverzameling UWV doet denken aan overheidssurveillance
Algoritmeregister eerste stap
Het huidige Algoritmeregister voor overheidsorganisaties is volgens de toezichthouder in het rapport een goede eerste stap. Wel roept de AP op het register te beperken tot de meest risicovolle algoritmes om het beheersbaar te houden.
Het demissionaire kabinet wordt ook opgeroepen zich aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen binnen de komende EU-wetgeving hiervoor. Verder moeten overheidsorganisaties één jaar de kans krijgen hun algoritmes met de hoogste risico’s in het Algoritmeregister in te voeren.
Gebruik AI
De AP keek ook naar de opkomst van AI. Volgens de toezichthouder gaat deze zeer snel en moet er daarvoor ook meer regelgeving komen. Overheidsorganisaties en bedrijven worden opgeroepen voordat AI wordt ingezet niet alleen de voordelen in kaart te brengen, maar ook de nadelen.
Lees ook: Autoriteit Persoonsgegevens wil uitleg van minister over visum-algoritme
17 uur geleden
Expert bijdrage
