How we can eliminate child sexual abuse material from the internet | Julie Cordua

Korektor: Lenka Slámová

[This talk contains mature content]

[Toto video je nevhodné pro děti]

Five years ago,

Před pěti lety

I received a phone call that would change my life.

jsem přijala jeden hovor, který mi změnil život.

I remember so vividly that day.

Ten den si vybavuji tak živě.

It was about this time of year,

Bylo to asi v tuto roční dobu

and I was sitting in my office.

a já seděla ve své kanceláři.

I remember the sun streaming through the window.

Vzpomínám si, jak dovnitř oknem proudily sluneční paprsky.

And my phone rang.

A pak mi zazvonil telefon.

And I picked it up,

Přijala jsem hovor

and it was two federal agents, asking for my help

a volali mi dva federální agenti, kteří mě žádali o pomoc

in identifying a little girl

s identifikací malé dívky,

featured in hundreds of child sexual abuse images they had found online.

jež byla na stovkách snímků s pohlavním zneužíváním dítěte, které našli online.

They had just started working the case,

Teprve na případu začali pracovat,

but what they knew

ale už věděli,

was that her abuse had been broadcast to the world for years

že celé roky bylo její zneužívání šířeno do světa,

on dark web sites dedicated to the sexual abuse of children.

a to na temných webových stránkách zaměřených na pohlavní zneužívání dětí.

And her abuser was incredibly technologically sophisticated:

A ten, kdo ji zneužíval, to měl neuvěřitelně technologicky propracované:

nové záběry a nová videa každých pár týdnů,

new images and new videos every few weeks,

but very few clues as to who she was

ale jen málo vodítek k tomu, kdo je ta dívka

or where she was.

nebo kde se nachází.

And so they called us,

A tak nám zavolali,

because they had heard we were a new nonprofit

protože slyšeli, že jsme nová neziskovka,

building technology to fight child sexual abuse.

která vytváří technologii pro boj s pohlavním zneužíváním dětí.

But we were only two years old,

Ale fungovali jsme teprve dva roky

and we had only worked on child sex trafficking.

a pracovali jsme jen na obchodu s dětmi za účelem sexu.

And I had to tell them

A tak jsem jim musela říct,

we had nothing.

že pro ně nic nemáme.

We had nothing that could help them stop this abuse.

Že nemáme nic, co by mohlo pomoci zastavit toto zneužívání.

It took those agents another year

Těm agentům trvalo ještě celý rok,

to ultimately find that child.

než to dítě konečně našli.

And by the time she was rescued,

A než byla zachráněna,

hundreds of images and videos documenting her rape had gone viral,

kolovaly online stovky fotek a videí, jež dokumentovaly její znásilňování,

from the dark web

a putovaly z dark webu

to peer-to-peer networks, private chat rooms

do komunikačních sítí, do soukromých chatovacích místností

and to the websites you and I use

a na stránky, které používáte vy i já

every single day.

každý den.

And today, as she struggles to recover,

A dnes, kdy se ta dívka usilovně snaží zotavit,

she lives with the fact that thousands around the world

žije s vědomím, že tisíce lidí po celém světě

continue to watch her abuse.

dál sledují její zneužívání.

I have come to learn in the last five years

Za posledních pět let jsem zjistila,

that this case is far from unique.

že tenhle případ zdaleka není ojedinělý.

How did we get here as a society?

Jak jsme se jako společnost dopracovali k něčemu takovému?

In the late 1980s, child pornography --

Na konci 80. let byla dětská pornografie

or what it actually is, child sexual abuse material --

– čímž ve skutečnosti materiály s pohlavním zneužíváním dětí jsou –

was nearly eliminated.

téměř vyhlazena.

New laws and increased prosecutions made it simply too risky

Díky novým zákonům a nárůstu trestních stíhání to prostě bylo příliš riskantní,

to trade it through the mail.

než aby se s tím obchodovalo poštou.

And then came the internet, and the market exploded.

A pak přišel internet a trh explodoval.

The amount of content in circulation today

Množství materiálů, které jsou nyní v oběhu,

is massive and growing.

je ohromné a stále roste.

This is a truly global problem,

Toto je skutečně globální problém,

but if we just look at the US:

ale pokud se podíváme jen na USA,

in the US alone last year,

tak pouze v USA bylo za poslední rok

more than 45 million images and videos of child sexual abuse material

na Národnímu centru pro pohřešované a zneužívané děti

were reported to the National Center for Missing and Exploited Children,

nahlášeno více než 45 milionů fotek a videí s pohlavním zneužíváním dětí,

and that is nearly double the amount the year prior.

což je téměř dvojnásobek toho, co bylo nahlášeno o rok dříve.

And the details behind these numbers are hard to contemplate,

A podrobnosti těchto čísel je těžké přijmout,

with more than 60 percent of the images featuring children younger than 12,

když na více než 60 % fotek byly děti mladší 12 let

and most of them including extreme acts of sexual violence.

a na většině z nich byly páchány extrémní činy sexuálního násilí.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Na chatech zaměřených na zneužívání dětí jsou pachatelé povzbuzováni,

where they gain rank and notoriety

budují si tam své postavení a pověst,

with more abuse and more victims.

a to s počtem zneužití a počtem obětí.

In this market,

Na tomto trhu

the currency has become the content itself.

se měnou stal sám obsah.

It's clear that abusers have been quick to leverage new technologies,

Je zjevné, že pachatelé rychle využívají nové technologie,

but our response as a society has not.

ale odpověď společnosti na to rychlá není.

These abusers don't read user agreements of websites,

Tito pachatelé nečtou uživatelské podmínky webových stránek

and the content doesn't honor geographic boundaries.

a ony materiály nerespektují žádné geografické hranice.

And they win when we look at one piece of the puzzle at a time,

A vyhrávají oni, když se najednou podíváme na jeden kousek skládačky,

which is exactly how our response today is designed.

což je přesně to, jaká je dnes naše odpověď.

Law enforcement works in one jurisdiction.

Vynucování práva funguje v jedné jurisdikci.

Companies look at just their platform.

Společnosti sledují jen svou vlastní platformu.

And whatever data they learn along the way

A jakákoli data, na která přitom narazí,

is rarely shared.

jsou jen zřídkakdy sdílena.

It is so clear that this disconnected approach is not working.

Je naprosto jasné, že tento nepropojený přístup nefunguje.

We have to redesign our response to this epidemic

Svou odpověď na tuto epidemii

musíme přizpůsobit pro digitální věk.

for the digital age.

And that's exactly what we're doing at Thorn.

A přesně to děláme v Thorn.

We're building the technology to connect these dots,

Budujeme technologii, která tyto dílky propojí,

to arm everyone on the front lines --

abychom tak všechny sjednotili v první linii

law enforcement, NGOs and companies --

– policejní orgány, neziskovky a firmy –

with the tools they need to ultimately eliminate

a to s nástroji, které potřebujeme, abychom z internetu

child sexual abuse material from the internet.

naprosto odstranili materiály s pohlavním zneužíváním dětí.

Let's talk for a minute --

Pojďme se na chvilku podívat–

(Applause)

(Potlesk)

Thank you.

Děkuji.

(Applause)

(Potlesk)

Let's talk for a minute about what those dots are.

Pojďme se na chvilku podívat, co je to za dílky.

As you can imagine, this content is horrific.

Jak si dokážete představit, obsah těch materiálů je příšerný.

If you don't have to look at it, you don't want to look at it.

Pokud se na to nemusíte dívat, dívat se na to nechcete.

And so, most companies or law enforcement agencies

A tak většina firem nebo policejních orgánů,

that have this content

které tyto materiály mají,

can translate every file into a unique string of numbers.

mohou každý soubor přeložit do jedinečné řady čísel.

This is called a "hash."

Tomu se říká "hash".

It's essentially a fingerprint

Je to v podstatě takový otisk prstu

for each file or each video.

pro každý soubor nebo video.

And what this allows them to do is use the information in investigations

A to umožňuje používat tyto informace při vyšetřování

or for a company to remove the content from their platform,

a firmám to pomáhá odstranit takový obsah ze své platformy,

without having to relook at every image and every video each time.

to vše aniž by se znovu museli dívat na každou fotku a každé video.

The problem today, though,

Ale problémem je,

is that there are hundreds of millions of these hashes

že jsou tu stovky milionů takových hashů,

sitting in siloed databases all around the world.

které jsou shromažďovány v databázích po celém světě.

In a silo,

V takové databázi

it might work for the one agency that has control over it,

to může pomoci jednomu orgánu, který ji spravuje,

but not connecting this data means we don't know how many are unique.

ale tím, že tato data nepropojujeme, nevíme, kolik z nich je jedinečných.

We don't know which ones represent children who have already been rescued

Nevíme, které z nich představují děti, jež už byly zachráněny

or need to be identified still.

a které teprve musíme identifikovat.

So our first, most basic premise is that all of this data

Naším prvním a základním předpokladem je, že všechna tato data

must be connected.

musí být propojena.

There are two ways where this data, combined with software on a global scale,

Existují dva způsoby, jak tato data v kombinaci se softwarem

can have transformative impact in this space.

v globálním měřítku mohou mít v této oblasti transformační dopad.

The first is with law enforcement:

Zaprvé jsou tu policejní orgány:

helping them identify new victims faster,

pomůže jim to rychleji identifikovat nové oběti,

stopping abuse

zastavit zneužívání

a utnout ty, kteří tento obsah vytvářejí.

and stopping those producing this content.

The second is with companies:

Zadruhé jsou tu firmy:

using it as clues to identify the hundreds of millions of files

pomůže jim to identifikovat stovky milionů souborů,

in circulation today,

které jsou dnes v oběhu,

pulling it down

aby je mohly odstranit,

and then stopping the upload of new material before it ever goes viral.

a pomůže to zastavit upload nového materiálu dříve, než se stane virálním.

Four years ago,

Před čtyřmi lety,

when that case ended,

kdy onen případ skončil,

our team sat there, and we just felt this, um ...

si náš tým sesedl a cítili jsme takový…

... deep sense of failure, is the way I can put it,

hluboký pocit selhání, asi tak bych to mohla vyjádřit,

because we watched that whole year

protože jsme celý ten rok sledovali,

while they looked for her.

jak ji hledají.

A v každém tom úseku vyšetřování jsme viděli,

And we saw every place in the investigation

že kdyby taková technologie existovala,

where, if the technology would have existed,

they would have found her faster.

mohli by ji nalézt rychleji.

And so we walked away from that

A tak jsme od toho odešli

and we went and we did the only thing we knew how to do:

a šli jsme udělat tu jedinou věc, kterou jsme uměli:

we began to build software.

začali jsme budovat software.

So we've started with law enforcement.

A začali jsme s policejními orgány.

Our dream was an alarm bell on the desks of officers all around the world

Naším snem byl takový alarm na každém policejním stole po celém světě,

so that if anyone dare post a new victim online,

takže kdyby se někdo opovážil nahrát na internet novou oběť,

someone would start looking for them immediately.

někdo by po něm okamžitě začal pátrat.

I obviously can't talk about the details of that software,

Samozřejmě nemohu mluvit o detailech tohoto softwaru,

but today it's at work in 38 countries,

ale nyní funguje ve 38 zemích

having reduced the time it takes to get to a child

a zkracuje dobu, která je potřebná k nalezení dítěte,

by more than 65 percent.

o více než 65 %.

(Applause)

(Potlesk)

And now we're embarking on that second horizon:

A teď přicházíme k tomu dalšímu dílku:

building the software to help companies identify and remove this content.

vytvoření softwaru, který firmám pomůže identifikovat a odstranit tento obsah.

Let's talk for a minute about these companies.

Pojďme si na chvilku říct něco o těchto společnostech.

So, I told you -- 45 million images and videos in the US alone last year.

Jak už jsem řekla, v USA je za poslední rok 45 milionů fotek a videí.

Those come from just 12 companies.

A ty pocházejí jen z 12 firem.

Twelve companies, 45 million files of child sexual abuse material.

12 firem, 45 milionů souborů s materiálem plným pohlavního zneužívání dětí.

These come from those companies that have the money

Pocházejí ze společností, které mají dost peněz,

to build the infrastructure that it takes to pull this content down.

aby si vytvořili infrastrukturu, jež je potřebná k odstranění takového obsahu.

But there are hundreds of other companies,

Ale jsou tu stovky dalších firem,

small- to medium-size companies around the world,

malé až střední společnosti po celém světě,

that need to do this work,

které to teprve musí udělat,

but they either: 1) can't imagine that their platform would be used for abuse,

ale které si buď neumí představit, že by jejich platforma mohla být takto zneužita,

or 2) don't have the money to spend on something that is not driving revenue.

nebo nemají peníze, které by mohly vydat na něco, co jim nezvýší příjem.

So we went ahead and built it for them,

Tak jsme se do toho pustili a vytvořili to za ně.

and this system now gets smarter with the more companies that participate.

A tento systém je stále chytřejší tím, jak se do něj zapojuje víc a víc firem.

Let me give you an example.

Dám vám jeden příklad.

Our first partner, Imgur -- if you haven't heard of this company,

Náš první partner, Imgur – pokud jste o této společnosti neslyšeli,

it's one of the most visited websites in the US --

mají jednu z nejnavštěvovanějších webových stránek v USA –

millions of pieces of user-generated content uploaded every single day,

má každý den miliony kousků obsahu generovaného a nahrávaného uživateli,

in a mission to make the internet a more fun place.

a chce, aby byl internet co nejzábavnějším místem.

Ti se s námi spojili jako první.

They partnered with us first.

Within 20 minutes of going live on our system,

Během prvních 20 minut, kdy se na náš systém připojili,

someone tried to upload a known piece of abuse material.

se někdo pokusil nahrát jeden známý materiál se zneužitím.

They were able to stop it, they pull it down,

Byli schopni to zastavit a odstranit

they report it to the National Center for Missing and Exploited Children.

a nahlásili to Národnímu centru pro pohřešované a zneužívané děti.

But they went a step further,

Šli ale dokonce ještě dál

and they went and inspected the account of the person who had uploaded it.

a zkontrolovali účet toho, kdo se pokusil tento obsah nahrát.

Hundreds more pieces of child sexual abuse material

Našli stovky dalších kusů materiálu s pohlavně zneužívanými dětmi,

that we had never seen.

který jsme předtím nikdy neviděli.

And this is where we start to see exponential impact.

A právě tady lze vidět ten exponenciální vliv.

We pull that material down,

Odstraníme takový materiál,

it gets reported to the National Center for Missing and Exploited Children

nahlásí se to Národnímu centru pro pohřešované a zneužívané děti

and then those hashes go back into the system

a pak se tyto hashe vrátí zpět do systému

and benefit every other company on it.

a z toho každá další společnost může jen získat.

And when the millions of hashes we have lead to millions more and, in real time,

A když miliony hashů, které už jsme měli, přinesly další miliony,

companies around the world are identifying and pulling this content down,

tak je mohou další společnosti po celém světě ihned identifikovat a odstranit,

we will have dramatically increased the speed at which we are removing

čímž dramaticky zvýšíme rychlost, s jakou odstraňujeme materiál,

child sexual abuse material from the internet around the world.

který obsahuje pohlavní zneužívání dětí, a to v rámci internetu po celém světě.

(Applause)

(Potlesk)

But this is why it can't just be about software and data,

A právě proto to nesmí být jen o softwaru a datech,

it has to be about scale.

musí to být i o rozsahu.

We have to activate thousands of officers,

Musíme aktivizovat tisíce policistů,

hundreds of companies around the world

stovky společností po celém světě,

if technology will allow us to outrun the perpetrators

aby nám technologie umožnila předstihnout pachatele

and dismantle the communities that are normalizing child sexual abuse

a zničit komunity, které dnes po celém světě

around the world today.

normalizují pohlavní zneužívání dětí.

And the time to do this is now.

A chvíle k tomu, abychom to udělali, nastává teď.

We can no longer say we don't know the impact this is having on our children.

Už dál nesmíme říkat, že nevíme, jaký vliv to má na naše děti.

The first generation of children whose abuse has gone viral

První generace dětí, jejichž zneužívání se stalo virálním,

are now young adults.

už vyrostla v dnešní mladé dospělé.

The Canadian Centre for Child Protection

Kanadské centrum pro ochranu dětí

just did a recent study of these young adults

dělalo nedávno studii těchto mladých dospělých,

to understand the unique trauma they try to recover from,

abychom pochopili to výjimečné trauma, z něhož se snaží vzpamatovat,

knowing that their abuse lives on.

ač zároveň vědí, že jejich zneužívání žije dál.

Eighty percent of these young adults have thought about suicide.

80 % těchto mladých dospělých se potýká s myšlenkami na sebevraždu.

More than 60 percent have attempted suicide.

Více než 60 % se o sebevraždu pokusilo.

And most of them live with the fear every single day

A většina z nich žije s každodenní obavou,

that as they walk down the street or they interview for a job

že když jdou po ulici nebo se ucházejí o práci

or they go to school

nebo jdou do školy

or they meet someone online,

nebo se s někým spojí online,

that that person has seen their abuse.

mají strach, že ten člověk jejich zneužívání viděl.

And the reality came true for more than 30 percent of them.

A pro více než 30 % se tato obava skutečně vyplnila.

They had been recognized from their abuse material online.

Byli poznáni podle materiálů s jejich zneužíváním, které jsou online.

This is not going to be easy,

Tohle nebude jednoduché,

but it is not impossible.

ale není to nemožné.

Now it's going to take the will,

Bude to stát hodně vůle,

the will of our society

vůle naší společnosti,

to look at something that is really hard to look at,

aby se podívala na něco, na co se dá dívat jen velmi těžko,

to take something out of the darkness

aby vytáhla něco ven z té temnoty,

so these kids have a voice;

aby tyto děti byly slyšet.

the will of companies to take action and make sure that their platforms

A vůle firem provést tato opatření a ujistit se, že jejich platforma

are not complicit in the abuse of a child;

není spolupachatelem zneužívání dětí;

the will of governments to invest with their law enforcement

vůle vlád investovat do policejních orgánů

for the tools they need to investigate a digital first crime,

a zajistit jim nástroje, které potřebují k vyšetřování prvních digitálních zločinů,

even when the victims cannot speak for themselves.

i když oběti nemohou mluvit samy za sebe.

This audacious commitment is part of that will.

Tento odvážný závazek je součástí té vůle.

It's a declaration of war against one of humanity's darkest evils.

Je vyhlášením války jedné z nejtemnějších lidských hrůz.

But what I hang on to

Ale já věřím,

is that it's actually an investment in a future

že je to vlastně investice do budoucnosti,

where every child can simply be a kid.

v níž každé dítě bude prostě moci být dítětem.

Thank you.

Děkuji.

(Applause)

(Potlesk)