De Autoriteit Persoonsgegevens (AP) waarschuwt dat Nederland onvoldoende voorbereid is op de risico’s van kunstmatige intelligentie. Volgens de privacytoezichthouder zijn aanvullende maatregelen nodig om burgers beter te beschermen tegen mogelijke negatieve gevolgen van algoritmes en AI-systemen.
Die waarschuwing volgt uit de nieuwste Rapportage AI en Algoritmes Nederland (RAN). Daarin concludeert de AP dat de ontwikkeling en toepassing van AI sneller verloopt dan de inrichting van toezicht en regelgeving. Volgens de toezichthouder ontstaat daardoor een groeiende kloof tussen technologische innovatie en de bescherming van grondrechten.
Een belangrijk signaal in de rapportage komt van de AI-impactbarometer van de AP. Deze barometer, die de algemene staat van AI-governance en toezicht in Nederland meet, kleurt momenteel rood. Dat betekent volgens de toezichthouder dat er structurele risico’s bestaan rond het gebruik van AI en dat er onvoldoende maatregelen zijn om die risico’s effectief te beheersen.
Indicatoren voor AI-risico’s
De barometer maakt onderdeel uit van de bredere analyse van de AP over de inzet van algoritmes en AI in Nederland. Daarbij kijkt de toezichthouder onder meer naar factoren zoals transparantie rond algoritmes, de aanwezigheid van toezicht, de mate waarin organisaties risicoanalyses uitvoeren en de bescherming van fundamentele rechten. Op basis van deze indicatoren beoordeelt de AP of Nederland voldoende voorbereid is op de impact van AI.
Volgens de AP laten de huidige resultaten zien dat er nog veel onduidelijkheid bestaat over het gebruik van algoritmes binnen zowel de overheid als het bedrijfsleven. Organisaties hebben vaak beperkt inzicht in welke algoritmes precies worden ingezet en welke risico’s daarmee gepaard gaan. Daardoor bestaat het risico dat problemen zoals discriminatie of onjuiste besluitvorming pas zichtbaar worden nadat systemen al operationeel zijn.
Daarnaast worden incidenten met AI-systemen volgens de AP nog te weinig geregistreerd en gedeeld. Hierdoor blijft het moeilijk om structureel te leren van fouten. De toezichthouder waarschuwt dat vergelijkbare problemen daardoor opnieuw kunnen ontstaan.
Groeiende aandacht voor AI, maar risico’s blijven
Tegelijkertijd ziet de AP ook positieve ontwikkelingen. Zo liggen investeringen in het Nederlandse AI-ecosysteem grotendeels op schema en groeit de maatschappelijke aandacht voor de impact van AI. Volgens de toezichthouder zijn deze ontwikkelingen echter onvoldoende om de huidige risico’s te compenseren.
Nieuwe technologische ontwikkelingen vergroten volgens de AP bovendien de complexiteit van toezicht. Generatieve AI en autonome AI-systemen worden steeds vaker toegepast in organisaties. Deze systemen kunnen zelfstandig taken uitvoeren of beslissingen ondersteunen, waardoor fouten of bias in sommige gevallen een grotere impact kunnen hebben.
De Europese AI-verordening moet volgens de AP een belangrijk deel van de oplossing bieden. Deze wet introduceert een risicogebaseerd kader voor AI-systemen en stelt strengere eisen aan toepassingen met een grotere maatschappelijke impact.
Volgens de toezichthouder is het echter essentieel dat Nederland de nieuwe regelgeving snel en duidelijk implementeert. Dat betekent onder meer dat er voldoende middelen beschikbaar moeten zijn voor toezicht en dat organisaties duidelijke richtlijnen krijgen voor verantwoord gebruik van AI.
Met de rode status van de AI-impactbarometer wil de AP vooral een signaal afgeven aan beleidsmakers en organisaties. Zonder extra maatregelen dreigt volgens de toezichthouder een situatie waarin de ontwikkeling van AI sneller verloopt dan de bescherming van burgers tegen de risico’s ervan.