Rekenkamer: Meer openheid over algoritmes nodig

Abonneer je gratis op Techzine!

De Algemene Rekenkamer vindt dat de overheid duidelijker moet zijn over de plaats die algoritmes hebben in besluitvoering. Dergelijke algoritmes nemen in steeds grotere mate het werk van ambtenaren over.

Uit een rapport van de Rekenkamer blijkt dat de overheid al gebruikmaakt van verschillende algoritmes. Bij een deel daarvan wordt ook kunstmatige intelligentie ingezet. Om de kwaliteit en verantwoorde inzet van de algoritmes te kunnen beoordelen, heeft de Rekenkamer een toetsingskader opgezet. De toets test zaken als sturing en verantwoording, model en data, privacywaarborgen, de beveiliging van de data en ethische vragen.

Transparant

De Rekenkamer pleit ervoor dat de overheid altijd transparant moet zijn over welke keuzes door een algoritme worden gemaakt en welke gegevens daarvoor zijn gebruikt. Momenteel biedt de overheid deze transparantie theoretisch wel, maar in de praktijk blijkt het vaak verre van eenvoudig te zijn om hier inzicht in te krijgen.

Toeslagenaffaire

Het rapport is deels een reactie op de toeslagenaffaire. Om mogelijk frauduleuze toeslagenaanvragen op te kunnen sporen, maakte de overheid voor een deel gebruik van algoritmes. Een van de factoren waar de algoritmes naar keken, was afkomst. De uitkomsten waren bovendien lang niet altijd accuraat, waardoor veel vaak allochtone Nederlanders zonder reden enorm diep in de schulden terechtkwamen.

Overheid centraal

De Rekenkamer vindt dat bij algoritmes niet de burger, maar de overheid centraal staat. Privacy wordt wel in acht genomen, maar er wordt te weinig rekening gehouden met ethische aspecten. Uiteindelijk moeten de algoritmes door burgers te begrijpen zijn, pleit de instantie.

Tip: Belastingdienst overtrad GDPR-privacywet in toeslagenaffaire