De Autoriteit Persoonsgegevens pleit voor een registratieplicht voor algoritmes en AI-systemen bij overheidsorganisaties. Met 1.000 geregistreerde algoritmes in Nederland is de pioniersfase voorbij, maar de meeste overheidsorganisaties ontbreken nog steeds in het register.
De AP benadrukt dat algoritmes en AI steeds breder worden toegepast en kansen bieden, maar ook risico’s met zich meebrengen zoals discriminatie en privacyschending. Sinds begin 2023 zijn er 1.000 algoritmes opgenomen in het Nederlandse Algoritmeregister. Amsterdam en de Douane lopen voorop, samen met andere publieke organisaties. Toch ontbreekt meer dan de helft van de gemeenten nog steeds in het register. Van de zelfstandige bestuursorganen heeft meer dan driekwart helemaal niets geregistreerd.
Transparantie schiet tekort
De voortgang bij het registreren van algoritmes en AI-systemen door overheden en organisaties valt tegen. Voor burgers en klanten blijft het vaak onduidelijk waarvoor en hoe overheden en organisaties AI gebruiken. Een compleet algoritmeregister is volgens de AP de basis voor transparantie, bescherming van grondrechten en controleerbaarheid.
“Registratie is geen doel op zich. Het is de eerste cruciale bouwsteen naar verantwoord, transparant en controleerbaar algoritmegebruik”, aldus de AP. Het registreren van algoritmes biedt proactief inzicht en maakt zowel interne als externe controle mogelijk.
Bredere reikwijdte dan Europese AI-verordening
De AP benadrukt dat algoritmeregisters nodig blijven naast de Europese databank voor hoog-risico AI-systemen. Het doel verschilt op twee punten. De Europese databank richt zich op het productaanbod van aanbieders, terwijl algoritmeregisters een bredere reikwijdte hebben.
Niet alle impactvolle algoritmes zijn hoog-risico AI-systemen. Denk aan relatief simpele beslisalgoritmes zonder AI-elementen, die wel worden gebruikt voor het toekennen van subsidies en toeslagen. Deze vallen buiten de Europese AI-verordening maar kunnen wel grote impact hebben op burgers.
Tip: AP waarschuwt tegen wetsvoorstel centrale opslag banktransacties