Europol zocht ongelimiteerde toegang tot data uit chatdiensten, in de strijd tegen seksueel kindermisbruik.
De politieorganisatie wil zijn AI-modellen trainen op het herkennen van het materiaal, bericht Balkan Investigative Reporting Network. De EC wil aanbieders van chatdiensten verplichten alle berichten te scannen op mogelijke kindermisbruik en deze berichten door te sturen naar een centraal centrum. Europol wil meeliften en heeft de EC ongelimiteerde toegang gevraagd tot deze data.
Verder gebruik van verkregen data
Daarnaast gaf de politieorganisatie aan dat er ook geen grenzen moeten worden gesteld aan hoe zij de data verder wil gebruiken. Europol wil graag de technologie van client-side scanning van chatdiensten ook gebruiken voor het opsporen van andere misdrijven. Ook moet in de AI Act van de EU een uitzondering voor de politieorganisatie worden gemaakt voor de inzet van AI-tools.
In de AI Act is hiervoor een specifieke clausule opgenomen waarin staat dat dat data die niet ‘kennelijk ongegrond’ is wordt doorgestuurd naar Europol en nationale opsporingsdiensten en dat Europol toegang tot de database van het scancentrum krijgt.
Interne privacywaarschuwing
Inmiddels zou volgens de onderzoeksjournalisten Europol al werken aan een interne AI-tool die beelden van seksueel kindermisbruik kan classificeren. Een interne privacyspecialist zou in juni echter zijn zorgen hebben geuit over mogelijke privacyproblemen rondom de resultaten van het scannen van chatdiensten.
Onder meer zou deze manier van data verzamelen kunnen leiden tot vooringenomenheid, false positives en false negatives.
Reactie Europol
In een reactie stelt Europol volgens het onderzoek dat de organisatie de bestrijding van seksueel kindermisbruik binnen de EU hoog op de agenda heeft staan. Voor deze missie is het daarom belangrijk dat het de juiste data krijgt om de EU en zijn inwoners te beschermen tegen erge en georganiseerde criminaliteit, inclusief seksueel misbruik van kinderen. De gesprekken tussen de EC en Europol over toegang tot data waren daarom volledig legitiem in de ogen van de politieorganisatie.
Lees ook: AI Act: een wetgeving die altijd moet bijbenen met een nieuwe werkelijkheid
2 dagen geleden
Expert bijdrage
