Kinderen verdienen bescherming en privacy

De voorgestelde verordening van de Europese Commissie ter voorkoming en bestrijding van seksueel misbruik van kinderen moet de lichamelijke integriteit, de toekomst en de privacy van kinderen beschermen.

En dat is dringend nodig. Na de COVID-pandemie is het seksueel misbruik van kinderen online en offline dramatisch toegenomen.

Bovendien tikt de klok, want over twee jaar verloopt de wetgeving over vrijwillige opsporing.

Op 29 juli hebben het Europees Comité voor gegevensbescherming (EDPB) en de Europese Toezichthouder voor gegevensbescherming (EDPS) een gezamenlijk advies uitgebracht over dit voorstel van de Commissie.

Uit de uitleg hieronder zal blijken dat de voorgestelde verordening niet alleen goed onderbouwd en juridisch solide is, maar ook absoluut noodzakelijk in de strijd tegen de plaag van online seksueel kindermisbruik.

Dat de EDPB en de EDPS in hun advies niet verwijzen naar het recht op privacy van het kind, is op zijn minst verrassend en opmerkelijk.

Seksueel misbruik van een kind is een afschuwelijke daad die het leven en het zelfbeeld van een mens kapot kan maken. Als beelden jaren na de feiten nog online in omloop zijn, kan dat catastrofale psychische gevolgen hebben voor de betrokken persoon. Dit recht op niet-verspreiding van beelden, dit recht op privacy, ontbreekt volledig in het advies.

Precies omdat seksueel kindermisbruik zo ernstig is, brengt ons voorstel de verschillende grondrechten die bij kindermisbruik in het spel zijn, in de juiste balans.

Risicobeperkende maatregelen zijn een noodzakelijke eerste stap in een systeem dat preventie centraal stelt. Het voorstel is gericht op voorkoming – niet alleen opsporing – van verdere gevallen. De risicobeperkende maatregelen moeten kinderen beschermen: ze moeten ervoor zorgen dat de beelden en video’s waarin het misbruik wordt getoond, niet verder worden verspreid en dat kinderen niet worden benaderd met het oog op misbruik (“grooming”). Deze maatregelen houden onder meer in dat een dienstenaanbieder een opsporingsbevel kan vermijden als zijn infrastructuur robuust genoeg wordt geacht om het risico op online seksueel kindermisbruik tot onder een significant niveau te beperken. 

De wetgeving laat de aanbieder de vrije keuze wat betreft de technologieën die moeten worden gebruikt om op doeltreffende wijze aan opsporingsbevelen te voldoen, op voorwaarde dat die technologieën in overeenstemming zijn met de vereisten van de verordening. 

Wat het verband met de algemene verordening gegevensbescherming (AVG) en de e-privacyrichtlijn betreft, zij erop gewezen dat het systeem dat overeenkomstig de voorgestelde regels wordt ingesteld, evenwichtig en doelgericht is en beperkt blijft tot het strikt noodzakelijke.

Volgens het voorstel moeten de aanbieders technologieën gebruiken die zo weinig mogelijk inbreuk maken op de persoonlijke levenssfeer en in overeenstemming zijn met de stand van de techniek in de sector.

Detectiesystemen mogen alleen worden gebruikt om seksueel kindermisbruik op te sporen en te melden, en strikte waarborgen moeten het gebruik van deze systemen voor andere doeleinden voorkomen.

Het voorstel voorziet in gerechtelijk verhaal: zowel aanbieders als gebruikers hebben het recht om elke maatregel die op hen betrekking heeft, voor de rechter aan te vechten. Gebruikers hebben recht op vergoeding van eventuele schade als gevolg van verwerking in het kader van het voorstel.

Over het verband met de zogenoemde “tijdelijke verordening”, die over twee jaar afloopt, is ons voorstel glashelder: “vrijwillige acties [zijn] (...) ontoereikend gebleken om het gebruik van onlinediensten voor het seksueel misbruik van kinderen aan te pakken”.

De wetgeving is in overeenstemming met artikel 52 van het Handvest van de grondrechten en verduidelijkt uitdrukkelijk dat “de in het voorstel vervatte maatregelen in de eerste plaats van invloed [zijn] op de uitoefening van de grondrechten van de gebruikers van de betrokken diensten. Deze rechten omvatten met name het grondrecht op eerbiediging van de privacy (met inbegrip van de vertrouwelijkheid van communicatie, als onderdeel van het ruimere recht op eerbiediging van het privéleven en van het familie- en gezinsleven), op bescherming van persoonsgegevens en op vrijheid van meningsuiting en van informatie. Hoewel zij van groot belang zijn, is geen van deze rechten absoluut en moeten zij worden beschouwd in relatie tot hun functie in de samenleving. Zoals hierboven is aangegeven, staat artikel 52, lid 1, van het Handvest toe dat beperkingen worden gesteld aan de uitoefening van die rechten, met inachtneming van de in die bepaling gestelde voorwaarden”.

De wetgeving verduidelijkt de procedure voor opsporingsbevelen. Er is geen sprake meer van algemene monitoring van tekst- en audiocommunicatie van individuele personen, zoals bij het huidige systeem voor vrijwillige opsporing. 

Alleen wanneer de autoriteiten vinden dat er een aangetoond significant risico op misbruik van de dienst bestaat en dat de redenen voor het uitvaardigen van het opsporingsbevel zwaarder wegen dan de negatieve gevolgen voor de rechten en gerechtvaardigde belangen van alle getroffen partijen, zouden zij hun voornemen kenbaar maken om een opsporingsbevel te overwegen met betrekking tot materiaal van seksueel misbruik van kinderen of met betrekking tot grooming. Het bevel zou gericht zijn op de specifieke risico’s die door de dienstenaanbieder zijn vastgesteld. 

Voordat een bevel wordt uitgevaardigd, moet de dienstenaanbieder worden geraadpleegd. Als de autoriteiten nog steeds van mening zijn dat een risico bestaat met betrekking tot materiaal van seksueel kindermisbruik of grooming, wordt de aanbieder verzocht aan te geven hoe hij de opsporing zal uitvoeren. Deze aanpak moet een billijk evenwicht waarborgen tussen de grondrechten van dienstenaanbieders, kinderen en alle gebruikers.

Als een mogelijke opsporing verwerking met een hoog risico met zich mee kan brengen of in het geval van opsporing van grooming, moet de dienstenaanbieder een gegevensbeschermingseffectbeoordeling uitvoeren en de gegevensbeschermingsautoriteiten raadplegen.

De opsporingsbevelen zijn beperkt in de tijd, zijn onderworpen aan strikte procedurele waarborgen en zijn gericht op een specifiek type strafbaar feit op een specifieke dienst. Het optreden van de gegevensbeschermingsautoriteiten wordt versterkt, voortbouwend op de AVG.

Het is duidelijk dat wetgeving bedrijven kan stimuleren om technische oplossingen te ontwikkelen. Detectie met het oog op cyberbeveiliging gebeurt nu al – denk aan de herkenning van links in WhatsApp. 

De ontwikkelingen op technologisch gebied staan niet stil, zoals blijkt uit een recente paper waarin dr. Ian Levy en Crispin Robinson oplossingen aanreiken voor het opsporen van materiaal van seksueel kindermisbruik op versleutelde diensten (Thoughts on Child Safety on Commodity Platforms, 21 juli 2022).

In juli 2022 hebben technische deskundigen van de Government Communications Headquarters en het National Cyber Security Centre een paper gepubliceerd waarin wordt uitgelegd hoe materiaal van seksueel kindermisbruik kan worden opgespoord op versleutelde diensten die de privacy van de gebruiker blijven beschermen.

Dit zijn slechts enkele voorbeelden. In het kader van het EU-internetforum werkt de Commissie nauw samen met het bedrijfsleven, maatschappelijke organisaties en de academische wereld om onderzoek te ondersteunen dat nieuwe technische oplossingen in kaart brengt.

In overeenstemming met de centrale doelstelling van het voorstel, namelijk kinderen beter te beschermen, moet voor het vaststellen van grooming sprake zijn van interpersoonlijke communicatie waarbij een van de gebruikers kennelijk een kind is.

De evenredigheid wordt gewaarborgd door de raadpleging van alle relevante belanghebbenden voorafgaand aan de uitvaardiging van een opsporingsbevel, door de toepassing van strikte voorwaarden en waarborgen, en door de inbreng van een tweede onafhankelijke autoriteit. Dit betekent niet dat de inhoud van vrijwel alle soorten elektronische communicatie zomaar algemeen en willekeurig mag worden gescand.

De automatische detectiesystemen zoeken naar specifieke indicatoren van mogelijk seksueel kindermisbruik. Ze zijn met andere woorden ontworpen om te controleren of het bij specifieke inhoud om seksueel kindermisbruik van kinderen kan gaan, maar niet waar die inhoud over gaat.

Het Europees centrum ter voorkoming en bestrijding van seksueel misbruik van kinderen (hierna: het EU-centrum) zal dienstenaanbieders wijzen op gratis opsporingstechnologie en gratis technologie voor menselijke toetsing van de meldingen. Dit zal de lasten voor de dienstenaanbieders, vooral de kleinere, verlichten.

Uit het effectbeoordelingsverslag blijkt dat technologieën voor het opsporen van bekend materiaal een geschat percentage fout-positieve resultaten hebben van niet meer dan 1 op 50 miljard (d.w.z. 0,000000002 %). 

Wat de opsporing van nieuw materiaal van seksueel kindermisbruik betreft, ligt de nauwkeurigheidsgraad aanzienlijk boven 90 %. Er bestaan technologieën die dergelijk nieuw materiaal kunnen opsporen met een nauwkeurigheid van 99,9% (d.w.z. 0,1% fout-positieve resultaten, die dan door mensen zullen worden getoetst). 

De opsporing van grooming van kinderen in op tekst gebaseerde communicatie is doorgaans gebaseerd op patroondetectie. Automatische detectiesystemen hebben inmiddels een hoge mate van nauwkeurigheid bereikt en de indicatoren worden steeds betrouwbaarder naarmate de algoritmen bijleren, na menselijke toetsing. Sommige bestaande technologieën voor het opsporen van grooming (zoals die van Microsoft) hebben een nauwkeurigheidsgraad van 88 %, vóór menselijke toetsing.

Doordat hoge foutenpercentages dankzij de voorgestelde regels snel zouden worden ontdekt door het EU-centrum, zullen er geen fout-positieve resultaten bij de rechtshandhavers terechtkomen. Bedrijven zouden onmiddellijk op de hoogte worden gebracht wanneer hun instrumenten foute meldingen opleveren, en zouden verplicht zijn om corrigerende maatregelen te nemen.

 Zoals uiteengezet in overweging 26 van de voorgestelde verordening, zijn de voorgestelde vereisten waaraan dienstenaanbieders met betrekking tot de opsporing van materiaal van seksueel kindermisbruik moeten voldoen, technologieneutraal, wat betekent dat niet wordt voorgeschreven welke technologie voor de opsporing moet worden gebruikt mits ze aan de strenge voorwaarden voldoet en de bescherming van alle gebruikers waarborgt. Het gaat om een resultaatsverbintenis, niet om een inspanningsverbintenis. 

Dit omvat het gebruik van eind-tot-eindversleuteling, een belangrijk instrument om de veiligheid en vertrouwelijkheid van communicatie van gebruikers, waaronder die van kinderen, te waarborgen. 

De coördinerende autoriteit kan nog steeds besluiten een verzoek tot uitvaardiging van een opsporingsbevel in te dienen. Zij voegt dan het uitvoeringsplan van de aanbieder en de adviezen van het EU-centrum en de gegevensbeschermingsautoriteit bij dat verzoek.

Om hun taken volledig te kunnen uitvoeren, moeten Europol en het EU-centrum elkaar een zo volledig mogelijke toegang verlenen tot relevante informatie en informatiesystemen. Daarbij zullen de Unierechtelijke handelingen die deze toegang regelen, in acht worden genomen. 

Hierboven wordt uiteengezet hoe de punten uit het advies al in de wetgeving zijn meegenomen. Ik ben trots op dit voorstel. Het is evenredig en de controlemechanismen zijn strikt en billijk.

Wat ik erg frustrerend vind, is dat het gevaar bestaat dat het voorstel wordt aangevochten op basis van louter abstracte concepten. Abstracte begrippen gebaseerd op misverstanden.

Wat mij aan het hart gaat, zijn de concrete gevolgen van kindermisbruik en die zijn vreselijk: voor de kinderen, voor de volwassenen die ze worden, voor de hele samenleving.

Deze wetgeving is het allerbeste wat de Europese Unie kan doen.