Přejít na hlavní obsah
Blog zpráv7. srpna 2022Generální ředitelství pro komunikaci

Děti si zaslouží mít ochranu a soukromí

Návrh nařízení Evropské komise o předcházení pohlavnímu zneužívání dětí a boji proti němu se zaměřuje na ochranu dětí, pokud jde o jejich fyzickou stránku, jejich soukromí i jejich budoucnost.

A takový předpis je urgentně potřeba. Po koronavirové pandemii došlo k šokujícímu nárůstu případů pohlavního zneužívání dětí na internetu i mimo něj.

Za druhé se krátí čas – za pouhé dva roky vyprší platnost právního předpisu o dobrovolném odhalování.

Dne 29. července Evropský sbor pro ochranu osobních údajů (EDPB) a evropský inspektor ochrany údajů (EIOÚ) přijali společné stanovisko k návrhu nařízení pro předcházení pohlavnímu zneužívání dětí a boj proti němu.

Přikládám podrobné vysvětlení toho, že návrh Komise je řádně odůvodněný, právně podložený a zcela nezbytný k boji proti hrozbě pohlavního zneužívání dětí na internetu.

Je přinejmenším překvapující, že stanovisko EDPB/EIOÚ se nezmiňuje o právu dítěte na soukromí.

Pohlavní zneužívání dítěte je strašlivá praktika. Může lidem zničit životy a poškodit jejich vnímání sama sebe. Pokud obrazové materiály po dlouhé roky kolují po internetu, může to mít na psychiku postižené osoby katastrofální dopad. Toto právo na soukromí – zahrnující zákaz šíření takových materiálů – ve stanovisku zcela chybí.

Náš legislativní návrh nastoluje správnou rovnováhu mezi různými základními právy, jichž se týká, zejména s ohledem na to, jak závažný čin je pohlavní zneužívání dětí.

Nezbytným prvním krokem systému, který má jako ústřední prvek prevenci, jsou zmírňující opatření. Cílem návrhu je dalším případům zabránit, nejen je odhalovat. Základním účelem zmírňujících opatření je chránit děti před dalším šířením fotografií a videí, které ukazují jejich zneužívání, a před „groomingem“, který vede ke zneužívání. Rovněž poskytovatelům služeb umožňují vyhnout se případně vydání detekčního příkazu, pokud je jejich infrastruktura považována za dostatečně robustní k tomu, aby snižovala riziko pohlavního zneužívání dětí online pod významnou úroveň. 

Návrh ponechává poskytovatelům možnost vybrat si technologie, které použijí k dosažení účinného souladu s detekčními příkazy, pokud tyto technologie splňují požadavky nařízení. 

Pokud jde o vztah k nařízení GDPR a směrnici o soukromí a elektronických komunikacích, navrhovaná pravidla vytvářejí vyvážený a cílený systém omezený na to, co je nezbytně nutné.

Návrh požaduje, aby tito poskytovatelé v souladu se současným stavem vývoje v tomto odvětví zavedli technologie, které co nejméně narušují soukromí.

Detekční systémy se mají používat pouze pro zamýšlený účel odhalování a nahlašování pohlavního zneužívání dětí a přísná ochranná opatření zabraňují jejich použití pro jiné účely.

Návrh stanoví, že poskytovatelé i uživatelé mohou využít prostředků soudní nápravy, tzn. mají právo napadnout jakékoli opatření, které se jich týká, u Soudního dvora. Uživatelé mají právo na náhradu jakékoli škody, která by jim mohla v důsledku zpracování podle návrhu vzniknout.

Pokud jde o vztah k prozatímnímu nařízení, jehož platnost má vypršet za dva roky, nemohl být náš návrh jasnější: „dobrovolná opatření proto nestačí k tomu, aby se zneužívání online služeb k pohlavnímu zneužívání dětí účinně vyřešilo“.

Nařízení je v souladu s článkem 52 Listiny základních práv a výslovně vyjasňuje, že „opatření obsažená v návrhu ovlivňují zejména výkon základních práv uživatelů dotčených služeb. Mezi tato práva patří zejména základní práva na respektování soukromí (včetně důvěrnosti komunikací v rámci širšího práva na respektování soukromého a rodinného života), na ochranu osobních údajů a na svobodu projevu a informací. I když mají tato práva velkou důležitost, žádné z nich není absolutní a musí být posuzována ve vztahu ke své funkci ve společnosti. Ustanovení čl. 52 odst. 1 Listiny umožňuje omezit výkon těchto práv za podmínek stanovených v tomto ustanovení.“

V návrhu byl vyjasněn postup, pokud jde o detekční příkaz. Na rozdíl od současného dobrovolného odhalování již není zahrnuto všeobecné monitorování textové a zvukové komunikace osob. 

Pouze pokud se orgány domnívají, že existují důkazy o významném riziku zneužití služby a že důvody pro vydání detekčního příkazu převažují nad negativními důsledky pro práva a oprávněné zájmy všech dotčených stran, oznámí svůj úmysl zvážit vydání detekčního příkazu, který se týká materiálů pohlavního zneužívání dětí nebo „groomingu“ a zaměřeného na konkrétní rizika zjištěná poskytovatelem služby. 

Před vydáním detekčního příkazu musí být poskytovatel konzultován. Pokud se orgány budou i nadále domnívat, že existuje riziko materiálů pohlavního zneužívání dětí nebo „groomingu“, bude poskytovatel požádán, aby uvedl, jak by odhalování takových materiálů prováděl. To je v souladu s potřebou zajistit spravedlivou rovnováhu mezi základními právy poskytovatelů, dětí a všech uživatelů.

V případě, že by případná detekce zahrnovala vysoce rizikové zpracování, nebo v každém případě souvisejícím s odhalováním „groomingu“ musí poskytovatel provést posouzení dopadu na ochranu osobních údajů a konzultovat orgány pro ochranu osobních údajů.

Detekční příkazy budou časově omezené, budou podléhat přísným procesním zárukám a zaměří se na konkrétní typ trestného činu u konkrétní služby. Na základě nařízení GDPR dojde k posílení intervence orgánů pro ochranu osobních údajů.

Je zřejmé, že právní předpisy mohou motivovat společnosti k tomu, aby vyvíjely technická řešení. Odhalování pro účely kybernetické bezpečnosti již probíhá – např. rozpoznávání odkazů v aplikaci WhatsApp. 

Vývoj v technologické oblasti se zrychluje a nedávno byla zveřejněna studie nastiňující řešení pro detekci materiálů pohlavního zneužívání dětí v šifrovaných službách (Thoughts on Child Safety on Commodity Platforms, Dr. Ian Levy a Crispin Robinson, 21. července 2022).

V červenci 2022 vydali techničtí experti z GCHQ a Národního střediska pro kybernetickou bezpečnost dokument vysvětlující řadu způsobů, jak by materiály pohlavního zneužívání dětí mohly být odhalovány v šifrovaných službách, které by přesto nadále chránily soukromí uživatelů.

To je jen jeden příklad. Komise úzce spolupracuje s tímto odvětvím, s organizacemi občanské společnosti i s akademickou obcí v rámci internetového fóra EU na podporu výzkumu, který bude zjišťovat další technická řešení.

V souladu s hlavním cílem návrhu, jímž je lepší ochrana dětí, se identifikace „groomingu“ týká pouze interpersonální komunikace, u níž je známo, že jedním z uživatelů je dítě.

Proporcionalita je zajištěna postupem, který před vydáním příkazu vždy zahrnuje všechny relevantní zúčastněné strany, přísnými podmínkami a zárukami a zapojením druhého nezávislého orgánu. Není tak možné plošné a nerozlišující prohledávání obsahu prakticky všech typů elektronických komunikací.

Automatizované nástroje vyhledávají specifické ukazatele možného pohlavního zneužívání dětí, tj. jsou navrženy tak, aby kontrolovaly to, zda určitý obsah pravděpodobně představuje pohlavní zneužívání dětí, ale ne to, čeho se takový obsah týká.

Středisko odkáže poskytovatele na bezplatné detekční technologie a technologie pro přezkum lidským operátorem u všech nahlášených případů. Tím se sníží zátěž poskytovatelů, zejména těch menších.

Zpráva o posouzení dopadů uvádí, že odhadovaná míra falešně pozitivních výsledků technologií pro odhalování známých materiálů nepřesahuje 1 ku 50 miliardám (tj. míra falešné pozitivity je 0,000000002 %). 

Pokud jde o odhalování nových materiálů pohlavního zneužívání dětí, míra přesnosti výrazně převyšuje 90 %. Existují technologie pro odhalování nových materiálů pohlavního zneužívání dětí, jejichž přesnost lze stanovit na 99,9 % (tj. míra falešné pozitivity je 0,1 %, přičemž následuje lidský přezkum). 

Odhalování navazování kontaktu s dětmi k sexuálním účelům v textové komunikaci je obvykle založeno na detekci vzorců. Nástroje automatické detekce se postupně staly vysoce přesnými a ukazatele stále spolehlivějšími s tím, jak se algoritmy v návaznosti na lidský přezkum učí. Některé ze stávajících technologií pro detekci „groomingu“ (např. technologie Microsoftu) mají 88% „míru přesnosti“ před provedením lidského přezkumu.

Díky navrhovanému nařízení by středisko EU vysokou chybovost podle navržených pravidel rychle odhalilo, což zajistí, že donucovací orgány neobdrží falešně pozitivní výsledky. Pokud budou detekční nástroje generovat chybná oznámení, budou dané společnosti okamžitě informovány a musí přijmout nápravná opatření.

 Jak je rozvedeno v 26. bodě odůvodnění navrhovaného nařízení, navržené povinnosti poskytovatelů služeb, pokud jde o odhalování materiálu zobrazujícího pohlavní zneužívání dětí, jsou technologicky neutrální, což znamená, že nestanoví, jaká technologie by měla být k odhalování použita, za předpokladu, že zvolená technologie splňuje vysoké standardy podmínek a záruk na ochranu všech uživatelů. Je stanovena povinnost dosáhnout určitých výsledků, nikoli použít určité prostředky. 

To zahrnuje používání technologie šifrování mezi koncovými body, což je důležitý nástroj k zajištění bezpečnosti a důvěrnosti komunikace uživatelů, včetně komunikace dětí. 

Koordinační orgán může přesto rozhodnout, že požádá o vydání detekčního příkazu. K žádosti připojí prováděcí plán poskytovatele a stanoviska střediska EU a orgánu pro ochranu údajů.

Aby mohly Europol a středisko EU v plném rozsahu plnit své úkoly, musí si vzájemně poskytovat co nejširší přístup k příslušným informacím a informačním systémům. Budou tak činit v souladu s právními předpisy Unie, které tento přístup upravují. 

Výše tedy uvádím, jakým způsobem již nařízení zohlednilo otázky vznesené ve stanovisku. Jsem na tento návrh hrdá. Je přiměřený a používá důsledný a spravedlivý systém brzd a protivah.

Nejvíce frustrující pro mne je, že existuje riziko, že mu jeho odpůrci budou oponovat pouze na základě abstraktních pojmů. Abstraktních pojmů založených na nedorozuměních.

Znepokojují mne velmi reálné a velice šokujícími dopady, které zneužívání dětí má: na děti samotné, na dospělé, ve které vyrostou, i na společnost jako celek.

Toto nařízení je tou nejlepší intervencí, kterou může Evropská unie podniknout.

Podrobnosti

Datum zveřejnění
7. srpna 2022
Autor /Autorka
Generální ředitelství pro komunikaci