Kinder verdienen Schutz und Privatsphäre

Die von der Europäischen Kommission vorgeschlagene Verordnung zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern ist dem Schutz der körperlichen Unversehrtheit, der Zukunft und der Privatsphäre von Kindern gewidmet.

Und sie wird dringend gebraucht. Nach der COVID-19-Pandemie hat der sexuelle Missbrauch von Kindern im Internet und im realen Leben erschreckend zugenommen.

Zudem tickt die Uhr, denn in zwei Jahren sind die Rechtsvorschriften über die freiwillige Aufdeckung hinfällig.

Am 29. Juli nahmen der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) eine gemeinsame Stellungnahme zum Vorschlag für eine Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern an.

Im Folgenden gehe ich im Detail darauf ein, warum der Vorschlag der Kommission gut begründet, rechtlich solide und dringend notwendig ist, um die Geißel des sexuellen Missbrauchs von Kindern im Internet zu bekämpfen.

Es ist sehr überraschend und auffällig, dass in der Stellungnahme des EDSA/EDSB nicht auf das Recht des Kindes auf Privatsphäre Bezug genommen wird.

Der sexuelle Missbrauch eines Kindes ist eine abscheuliche Handlung. Sie kann das Leben eines Menschen und sein Selbstgefühl zerstören. Wenn Bilder über Jahre hinweg im Internet zirkulieren, können die psychischen Auswirkungen auf die Person katastrophal sein. Dieses Recht darauf, dass keine Bilder zirkulieren, dieses Recht auf Privatsphäre, fehlt in der Stellungnahme vollständig.

Unser Legislativvorschlag sorgt für ein ausgewogenes Verhältnis zwischen den verschiedenen betroffenen Grundrechten, insbesondere angesichts der Schwere des sexuellen Missbrauchs von Kindern.

Abhilfemaßnahmen sind ein notwendiger erster Schritt in einem System, das die Prävention in den Mittelpunkt stellt. Der Vorschlag zielt darauf ab, weitere Fälle zu verhindern und sie nicht nur aufzudecken. Die Abhilfemaßnahmen haben das grundlegende Ziel, Kinder vor der weiteren Verbreitung von Bildern und Videos, die ihren Missbrauch zeigen, und vor der Kontaktaufnahme zwecks Missbrauchs („Grooming“) zu schützen. Sie ermöglichen es einem Diensteanbieter auch, eine Aufdeckungsanordnung zu vermeiden, wenn seine Infrastruktur als robust genug erachtet wird, um das Risiko des sexuellen Missbrauchs von Kindern im Internet unter ein signifikantes Niveau zu senken. 

Die Rechtsvorschriften überlassen dem betreffenden Anbieter die Wahl der Technologien, die eingesetzt werden sollen, um den Aufdeckungsanordnungen wirksam nachzukommen, sofern die Technologien die Anforderungen der Verordnung erfüllen. 

Was das Verhältnis zur DSGVO und der Datenschutzrichtlinie für elektronische Kommunikation betrifft, so schaffen die vorgeschlagenen Vorschriften ein ausgewogenes und zielgerichtetes System, das auf das absolut Notwendige beschränkt ist.

Der Vorschlag sieht vor, dass diese Anbieter Technologien einsetzen, die entsprechend dem neuesten branchenspezifischen Stand der Technik am wenigsten in die Privatsphäre eingreifen.

Die Erkennungssysteme dürfen nur für den alleinigen Zweck der Aufdeckung und Meldung von sexuellem Kindesmissbrauch eingesetzt werden, und strenge Garantien verhindern deren Anwendung für andere Zwecke.

Der Vorschlag sieht außerdem Rechtsbehelfe für sowohl Anbieter als auch Nutzer vor, die beide das Recht haben, eine sie betreffende Maßnahme vor Gericht anzufechten. Für Schäden, die sich aus der Verarbeitung im Rahmen des Vorschlags ergeben könnten, haben die Nutzer Anspruch auf Entschädigung.

In Bezug auf die Beziehung zur Übergangsverordnung, die in zwei Jahren auslaufen soll, könnte unser Vorschlag nicht klarer sein: „Freiwillige Maßnahmen reichen daher nicht aus, um wirksam gegen die Verwendung von Online-Diensten zum Zwecke des sexuellen Missbrauchs von Kindern vorzugehen.“

Die Rechtsvorschriften stehen im Einklang mit Artikel 52 der Charta der Grundrechte und stellen ausdrücklich klar: „Die in dem Vorschlag enthaltenen Maßnahmen berühren in erster Linie die Ausübung der Grundrechte der Nutzer der betreffenden Dienste. Zu diesen Rechten gehören insbesondere die Grundrechte auf Achtung der Privatsphäre (einschließlich der Vertraulichkeit der Kommunikation als Teil des umfassenderen Rechts auf Achtung des Privat- und Familienlebens), auf Schutz personenbezogener Daten und auf Meinungs- und Informationsfreiheit. Auch wenn diese Rechte von großer Bedeutung sind, kann keines von ihnen uneingeschränkte Geltung beanspruchen, und sie müssen im Hinblick auf ihre gesellschaftliche Funktion gesehen werden. … die Beschränkung der Ausübung dieser Rechte nach den in Artikel 52 Absatz 1 der Charta genannten Voraussetzungen [ist] zulässig.“

Das Verfahren zur Aufdeckungsanordnung wurde in den Rechtsvorschriften präzisiert. Im Gegensatz zur heutigen freiwilligen Aufdeckung beinhaltet es keine allgemeine Überwachung der schriftlichen und der Audiokommunikation von Einzelpersonen. 

Nur wenn die Behörden der Auffassung sind, dass Beweise für ein erhebliches Risiko des Missbrauchs eines Dienstes vorliegen und dass die Gründe für den Erlass der Aufdeckungsanordnung die negativen Folgen für die Rechte und berechtigten Interessen aller betroffenen Parteien überwiegen, würden sie ihre Absicht ankündigen, eine Anordnung zur Aufdeckung von Material über sexuellen Kindesmissbrauch oder Grooming in Erwägung zu ziehen, die auf die vom Diensteanbieter ermittelten spezifischen Risiken ausgerichtet ist. 

Vor Erlass einer Aufdeckungsanordnung muss der Anbieter konsultiert werden. Falls nach Auffassung der Behörden nach wie vor ein Risiko im Hinblick auf Material über sexuellen Kindesmissbrauch oder Grooming besteht, wird der Anbieter aufgefordert anzugeben, wie er bei der Aufdeckung dieses Materials vorgehen würde. Dies entspricht der Notwendigkeit, für ein ausgewogenes Verhältnis zwischen den Grundrechten der Anbieter, der Kinder und aller Nutzer zu sorgen.

Würde eine potenzielle Aufdeckung eine risikoreiche Verarbeitung erfordern, muss der Anbieter eine Datenschutz-Folgenabschätzung durchführen und die Datenschutzbehörden konsultieren. Im Zusammenhang mit der Aufdeckung von Grooming sind diese Schritte in jedem Fall zu unternehmen.

Aufdeckungsanordnungen sind zeitlich begrenzt, unterliegen strengen verfahrensrechtlichen Schutzvorkehrungen und zielen auf eine bestimmte Art von Straftat in einem bestimmten Dienst ab. Die Datenschutzbehörden werden im Einklang mit der Datenschutz-Grundverordnung verstärkt tätig.

Es liegt auf der Hand, dass Rechtsvorschriften Anreize für Unternehmen schaffen können, technische Lösungen zu entwickeln. Die Aufdeckung für Cybersicherheitszwecke, z. B. die Erkennung von Verknüpfungen in WhatsApp, erfolgt bereits. 

Die technologischen Entwicklungen nehmen zu, wobei kürzlich Lösungen für die Erkennung von Material über sexuellen Kindesmissbrauch in verschlüsselten Diensten vorgestellt wurden (Thoughts on Child Safety on Commodity Platforms, Dr. Ian Levy und Crispin Robinson, 21. Juli 2022).

Im Juli 2022 veröffentlichten technische Sachverständige des britischen Nachrichtendiensts GCHQ und des nationalen Cybersicherheitszentrums ein Papier, in dem eine Reihe von Möglichkeiten erläutert wurden, wie Material über sexuellen Kindesmissbrauch in verschlüsselten Diensten unter gleichzeitiger Wahrung der Privatsphäre der Nutzer entdeckt werden könnte.

Dies ist nur ein Beispiel, und die Kommission arbeitet im Rahmen des EU-Internetforums eng mit der Industrie, Organisationen der Zivilgesellschaft und der Wissenschaft zusammen, um Forschungsarbeiten zu unterstützen, die weitere technische Lösungen aufzeigen.

Im Einklang mit dem zentralen Ziel des Vorschlags, Kinder besser zu schützen, betrifft Grooming nur interpersonelle Kommunikation, bei der einer der Nutzer bekannterweise ein Kind ist.

Die Verhältnismäßigkeit wird dadurch gewährleistet, dass alle relevanten Interessenträger vor Erlass einer Anordnung einbezogen werden, sowie durch die strengen Bedingungen und Garantien und die Einbeziehung einer zweiten unabhängigen Behörde. Ein allgemeines und undifferenziertes Durchleuchten des Inhalts praktisch aller Arten elektronischer Kommunikation ist daher ausgeschlossen.

Die automatische Erkennung prüft die Inhalte auf der Grundlage bestimmter Indikatoren auf Anzeichen von Kindesmissbrauch. Dabei ist unerheblich, worum es bei diesen Inhalten geht.

Das Zentrum wird den Anbietern kostenlosen Zugang zu Erkennungstechnologie und den Tools für die menschliche Überprüfung aller Meldungen ermöglichen. Dadurch werden insbesondere kleinere Anbieter entlastet.

Aus dem Folgenabschätzungsbericht geht hervor, dass Technologien zur Erkennung bekannter Materialien eine geschätzte Falschakzeptanzrate von nicht mehr als 1 zu 50 Mrd. aufweisen (d. h. Falschakzeptanzrate von 0,000000002 %). 

Bei der Erkennung neuen Materials über sexuellen Kindesmissbrauch liegt die Genauigkeitsrate deutlich über 90 %. Es gibt Technologien für den Nachweis neuen Materials über sexuellen Kindesmissbrauch, deren Genauigkeitsrate auf 99,9 % festgelegt werden kann (d. h. eine Falschakzeptanzrate von 0,1 % mit anschließender Überprüfung durch Menschen). 

Was die Aufdeckung von Kontaktaufnahmen zu Kindern in textbasierter Kommunikation betrifft, so beruht diese in der Regel auf der Erkennung von Mustern. Automatische Erkennungstools haben ein hohes Maß an Genauigkeit erreicht, und die Indikatoren werden mit der Zeit aufgrund der Feststellung von Mustern durch Algorithmen nach menschlicher Überprüfung zuverlässiger. Einige der bestehenden Technologien für die Aufdeckung von Grooming (wie die von Microsoft) weisen eine „Genauigkeitsrate“ von 88 % vor menschlicher Überprüfung auf.

Mit den vorgeschlagenen Rechtsvorschriften würde das EU-Zentrum rasch hohe Fehlerquoten entdecken, wodurch sichergestellt wird, dass keine falsch positiven Ergebnisse bei der Strafverfolgung auftreten. Die Unternehmen würden unverzüglich benachrichtigt, wenn ihre Tools fehlerhafte Meldungen liefern, und sind verpflichtet, Abhilfe zu schaffen.

 Wie in Erwägungsgrund 26 des Verordnungsvorschlags ausgeführt, sind die vorgeschlagenen Verpflichtungen für Diensteanbieter in Bezug auf die Erkennung von Material über sexuellen Kindesmissbrauch technologisch neutral, d. h. sie schreiben nicht vor, welche Technologie für die Aufdeckung eingesetzt werden sollte, solange die gewählte Technologie den hohen Standards der Bedingungen und Schutzmaßnahmen zum Schutz aller Nutzer entspricht. Es handelt sich um eine Ergebnis- und nicht um eine Mittelverpflichtung. 

Dies gilt auch für die Nutzung der End-zu-End-Verschlüsselungstechnologie, die ein wichtiges Instrument ist, um die Sicherheit und die Vertraulichkeit der Kommunikation von Nutzern, einschließlich der Kommunikation von Kindern, sicherzustellen. 

Die Koordinierungsbehörde kann dennoch beschließen, eine Aufdeckungsanordnung zu beantragen. Diesem Antrag werden der Durchführungsplan des Anbieters und die Stellungnahmen des EU-Zentrums sowie der Datenschutzbehörde beigefügt.

Um ihre Aufgaben in vollem Umfang erfüllen zu können, müssen Europol und das EU-Zentrum einander den größtmöglichen Zugang zu den einschlägigen Informationen und Informationssystemen gewähren. Dies erfolgt im Einklang mit den Rechtsakten der Union, die diesen Zugang regeln. 

In diesem Blogpost wird dargelegt, wie die in der Stellungnahme aufgeworfenen Fragen in den Rechtsvorschriften bereits berücksichtigt wurden. Ich bin stolz auf diesen Vorschlag. Er ist verhältnismäßig und verfügt über strenge und faire Kontrollen und Gegenkontrollen.

Besonders frustrierend ist für mich, dass auf rein abstrakten Konzepten basierender Widerstand entstehen könnte - abstrakte Konzepte, die auf Missverständnissen beruhen.

Was mich besorgt, sind die sehr realen und schockierenden Auswirkungen von Kindesmissbrauch: auf die Kinder, auf die Erwachsenen, die sie einmal sein werden, und auf die Gesellschaft insgesamt.

Diese Rechtsvorschriften sind das Beste, was die Europäische Union zu tun vermag.