How we can eliminate child sexual abuse material from the internet | Julie Cordua

Translator: Miroslav Čeliga Reviewer: Zuzana Dziaková

[This talk contains mature content]

[Táto prednáška nie je vhodná pre deti]

Five years ago,

Pred 5 rokmi

I received a phone call that would change my life.

som mala telefonát, ktorý zmenil môj život.

I remember so vividly that day.

Pamätám si ten deň veľmi živo.

It was about this time of year,

Bolo to asi toto obdobie v roku

and I was sitting in my office.

a ja som sedela vo svojej kancelárii.

I remember the sun streaming through the window.

Spomínam si, ako dovnútra prúdili slnečné lúče.

And my phone rang.

A zrazu mi zazvonil telefón.

And I picked it up,

Zdvihla som ho.

and it was two federal agents, asking for my help

Volali mi dvaja federálni agenti, ktorí chceli moju pomoc

in identifying a little girl

pri identifikovaní malého dievčatka,

featured in hundreds of child sexual abuse images they had found online.

ktoré bolo na stovkách snímok s pohlavným zneužívaním, ktoré našli online.

They had just started working the case,

Práve na prípade začali pracovať,

but what they knew

ale vedeli už,

was that her abuse had been broadcast to the world for years

že toto zneužívanie bolo do sveta šírené celé roky,

on dark web sites dedicated to the sexual abuse of children.

a to na temných webových stránkach zameraných na pohlavné zneužívanie detí.

And her abuser was incredibly technologically sophisticated:

Jej zneužívateľ bol neuveriteľne technologicky sofistikovaný:

new images and new videos every few weeks,

nové fotky a nové videá každých pár týždňov,

but very few clues as to who she was

ale len málo vodidiel k tomu, kto to dievča je,

or where she was.

alebo kde sa nachádza.

And so they called us,

A tak nám zavolali,

because they had heard we were a new nonprofit

pretože počuli, že sme nová neziskovka,

building technology to fight child sexual abuse.

ktorá vytvára technológiu pre boj s pohlavným zneužívaním detí.

But we were only two years old,

Ale fungovali sme zatiaľ iba 2 roky

and we had only worked on child sex trafficking.

a pracovali sme iba na obchodovaní s deťmi kvôli sexu.

And I had to tell them

A tak som im musela povedať,

we had nothing.

že pre nich nič nemáme.

We had nothing that could help them stop this abuse.

Že nemáme nič, čo by mohlo pomôcť zastaviť toto zneužívanie.

It took those agents another year

Tým agentom trvalo ešte jeden rok,

to ultimately find that child.

než to dieťa konečne našli.

And by the time she was rescued,

A dovtedy, kým bola zachránená,

hundreds of images and videos documenting her rape had gone viral,

stovky fotiek a videí, ktoré dokumentovali jej znásilňovanie, kolovali po internete,

from the dark web

putovali z toho temného webu

to peer-to-peer networks, private chat rooms

do komunikačných sietí, do súkromných chatovacích miestností

and to the websites you and I use

a na stránky, ktoré používate vy i ja,

every single day.

to všetko každý deň.

And today, as she struggles to recover,

A dnes, keď sa to dievča usilovne snaží zotaviť,

she lives with the fact that thousands around the world

žije s vedomím, že tisíce ľudí po celom svete

continue to watch her abuse.

ďalej sledujú jej zneužívanie.

I have come to learn in the last five years

Za posledných 5 rokov som zistila,

that this case is far from unique.

že tento prípad zďaleka nie je ojedinelý.

How did we get here as a society?

Ako sme sa ako spoločnosť k niečomu takémuto dopracovali?

In the late 1980s, child pornography --

Na konci 80. rokov bola detská pornografia

or what it actually is, child sexual abuse material --

(ktorá je v skutočnosti materiálmi s pohlavným zneužívaním detí)

was nearly eliminated.

takmer odstránená.

New laws and increased prosecutions made it simply too risky

Vďaka novým zákonom a nárastom trestných stíhaní to proste bolo príliš riskantné,

to trade it through the mail.

aby sa s tým obchodovalo poštou.

And then came the internet, and the market exploded.

Potom však prišiel internet a trh explodoval.

The amount of content in circulation today

Množstvo materiálu, ktorý je teraz v obehu,

is massive and growing.

je ohromné a stále ho pribúda.

This is a truly global problem,

Toto je skutočne globálny problém,

but if we just look at the US:

ale pokiaľ sa pozrieme iba na USA,

in the US alone last year,

tak iba v USA za posledný rok

more than 45 million images and videos of child sexual abuse material

bolo Národnému centru pre nezvestné a zneužívané deti

were reported to the National Center for Missing and Exploited Children,

nahlásených viac ako 45 miliónov fotiek a videí s pohlavným zneužívaním detí,

and that is nearly double the amount the year prior.

čo je takmer dvojnásobok toho, čo bolo nahlásené o rok skôr.

And the details behind these numbers are hard to contemplate,

A nad detailmi, ktoré sú ukryté pod týmito číslami, je ťažké uvažovať,

with more than 60 percent of the images featuring children younger than 12,

keď na viac ako 60 % fotiek boli deti mladšie ako 12 rokov

and most of them including extreme acts of sexual violence.

a na väčšine z nich boli páchané extrémne činy sexuálneho násilia.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Na chatoch zameraných na zneužívanie detí sú páchatelia povzbudzovaní,

where they gain rank and notoriety

budujú si tam svoje postavenie a povesť,

with more abuse and more victims.

a to s počtom zneužití a počtom obetí.

In this market,

Na tomto trhu

the currency has become the content itself.

sa menou stal sám obsah.

It's clear that abusers have been quick to leverage new technologies,

Je zjavné, že páchatelia rýchlo využívajú nové technológie,

but our response as a society has not.

ale odpoveď našej spoločnosti rýchla nie je.

These abusers don't read user agreements of websites,

Títo páchatelia nečítajú používateľské podmienky webových stránok

and the content doesn't honor geographic boundaries.

a obsah nerešpektuje žiadne geografické hranice.

And they win when we look at one piece of the puzzle at a time,

A vyhrávajú oni, keď sa pozrieme na jeden kúsok skladačky,

which is exactly how our response today is designed.

čo je presne to, aká je dnes naša odpoveď.

Law enforcement works in one jurisdiction.

Vynucovanie práva funguje v jednej jurisdikcii.

Companies look at just their platform.

Spoločnosti sledujú iba svoju vlastnú platformu.

And whatever data they learn along the way

A akékoľvek dáta, na ktoré pri tom narazia,

is rarely shared.

sa iba zriedkakedy zdieľajú.

It is so clear that this disconnected approach is not working.

Je úplne jasné, že tento neprepojený prístup nefunguje.

We have to redesign our response to this epidemic

Musíme prerobiť našu odpoveď voči tejto epidémii

for the digital age.

a to pre digitálny vek.

And that's exactly what we're doing at Thorn.

A to presne robíme v spoločnosti Thorn.

We're building the technology to connect these dots,

Budujeme technológiu, ktorá tieto dielce prepojí,

to arm everyone on the front lines --

aby sme tak zjednotili všetkých v prvej línii,

law enforcement, NGOs and companies --

policajné orgány, neziskovky, spoločnosti,

with the tools they need to ultimately eliminate

a to nástrojmi, ktoré potrebujú, aby z internetu úplne

child sexual abuse material from the internet.

odstránili materiály s pohlavným zneužívaním detí.

Let's talk for a minute --

Pozrime sa na to…

(Applause)

(potlesk)

Thank you.

Ďakujem.

(Applause)

(potlesk)

Let's talk for a minute about what those dots are.

Pozrime sa na to, čo to tie dielce sú.

As you can imagine, this content is horrific.

Ako si dokážeme predstaviť, obsah tých materiálov je príšerný.

If you don't have to look at it, you don't want to look at it.

Pokým sa na to nemusíte pozerať, tak sa na to pozerať nechcete.

And so, most companies or law enforcement agencies

A tak väčšina spoločností alebo policajných orgánov,

that have this content

ktoré tieto materiály majú,

can translate every file into a unique string of numbers.

môžu každý súbor preložiť do jedinečného radu čísel.

This is called a "hash."

Tomu sa hovorí „hash“.

It's essentially a fingerprint

Je to v podstate akoby odtlačok prstu

for each file or each video.

pre každý súbor alebo video.

And what this allows them to do is use the information in investigations

A to im umožňuje používať tieto informácie pri vyšetrovaní,

or for a company to remove the content from their platform,

firmám to umožňuje odstrániť takýto obsah zo svojej platformy,

without having to relook at every image and every video each time.

a to všetko bez toho, aby sa museli vždy znovu pozerať na každú fotku a video.

The problem today, though,

Ale problémom je,

is that there are hundreds of millions of these hashes

že existujú stovky miliónov takýchto hashov,

sitting in siloed databases all around the world.

ktoré sa zhromažďujú v databázach po celom svete.

In a silo,

V takej databáze

it might work for the one agency that has control over it,

to môže pomôcť jednému orgánu, ktorý ju spravuje,

but not connecting this data means we don't know how many are unique.

ale tým, že tieto dáta neprepája, nevieme, koľko je z nich jedinečných.

We don't know which ones represent children who have already been rescued

Nevieme, ktoré z nich predstavujú deti, ktoré už boli zachránené,

or need to be identified still.

a ktoré ešte stále musia byť identifikované.

So our first, most basic premise is that all of this data

Takže naším prvým a základným predpokladom je, že všetky tieto dáta

must be connected.

musia byť prepojené.

There are two ways where this data, combined with software on a global scale,

Existujú dve možnosti, kde tieto dáta globálne kombinované so softvérom

can have transformative impact in this space.

môžu mať v tomto priestore transformačný dopad.

The first is with law enforcement:

Po prvé to sú policajné orgány:

helping them identify new victims faster,

pomôže im to rýchlejšie identifikovať nové obete,

stopping abuse

zastaviť zneužívanie

and stopping those producing this content.

a zastaviť tých, ktorí tento obsah vytvárajú.

The second is with companies:

Po druhé to sú spoločnosti:

using it as clues to identify the hundreds of millions of files

pomôže im to identifikovať stovky miliónov súborov,

in circulation today,

ktoré sú v obehu,

pulling it down

aby ich mohli odstrániť,

and then stopping the upload of new material before it ever goes viral.

a pomôže to zastaviť nahrávanie nového materiálu skôr, než sa stane virálnym.

Four years ago,

Pred 4 rokmi,

when that case ended,

keď ten prípad skončil,

our team sat there, and we just felt this, um ...

sa náš tím stretol a cítili sme taký...

... deep sense of failure, is the way I can put it,

hlboký pocit sklamania.

Asi takto by som to mohla vyjadriť,

because we watched that whole year

pretože sme celý ten rok sledovali,

while they looked for her.

ako ju hľadajú.

And we saw every place in the investigation

A v každom tom úseku vyšetrovania sme videli,

where, if the technology would have existed,

že keby taká technológia existovala,

they would have found her faster.

mohli by ju nájsť rýchlejšie.

And so we walked away from that

A tak sme to nechali tak

and we went and we did the only thing we knew how to do:

a išli sme urobiť jedinú vec, ktorú sme vedeli:

we began to build software.

začali sme vyvíjať softvér.

So we've started with law enforcement.

A začali sme policajnými orgánmi.

Our dream was an alarm bell on the desks of officers all around the world

Naším snom bol alarm na každom policajnom stole po celom svete,

so that if anyone dare post a new victim online,

takže keby sa niekto opovážil nahrať na internet novú obeť,

someone would start looking for them immediately.

niekto by po ňom okamžite začal pátrať.

I obviously can't talk about the details of that software,

Samozrejme nemôžem hovoriť o detailoch toho softvéru,

but today it's at work in 38 countries,

ale dnes už funguje v 38 krajinách

having reduced the time it takes to get to a child

a znižuje dobu, ktorá je potrebná na nájdenie dieťaťa,

by more than 65 percent.

o viac ako 65 %.

(Applause)

(potlesk)

And now we're embarking on that second horizon:

A teraz prichádzame k druhému horizontu:

building the software to help companies identify and remove this content.

vytvorenie softvéru,

ktorý spoločnostiam pomôže identifikovať a odstrániť tento obsah.

Let's talk for a minute about these companies.

Povedzme si teraz niečo o týchto spoločnostiach.

So, I told you -- 45 million images and videos in the US alone last year.

Ako som už vravela, za posledný rok je to iba v USA 45 miliónov fotiek a videí.

Those come from just 12 companies.

A tie pochádzajú iba z 12 spoločností.

Twelve companies, 45 million files of child sexual abuse material.

12 spoločností, 45 miliónov súborov s materiálom pohlavného zneužívania detí.

These come from those companies that have the money

Pochádzajú zo spoločností, ktoré majú dosť peňazí,

to build the infrastructure that it takes to pull this content down.

aby si vytvorili infraštruktúru, ktorá je potrebná na odstránenie takého obsahu.

But there are hundreds of other companies,

Ale sú tu stovky ďalších spoločností,

small- to medium-size companies around the world,

malé až stredné spoločnosti po celom svete,

that need to do this work,

ktoré to najskôr musia urobiť,

but they either: 1) can't imagine that their platform would be used for abuse,

ale ktoré: 1) si nevedia predstaviť, že by ich platforma mohla byť takto zneužitá,

or 2) don't have the money to spend on something that is not driving revenue.

alebo: 2) nemajú peniaze, ktoré by mohli dať za niečo, čo im nezvýši príjem.

So we went ahead and built it for them,

Tak sme sa do toho pustili a vytvorili sme to pre nich.

and this system now gets smarter with the more companies that participate.

A tento systém je šikovnejší, pretože sa do neho zapája viac a viac spoločností.

Let me give you an example.

Uvediem jeden príklad.

Our first partner, Imgur -- if you haven't heard of this company,

Náš prvý partner, Imgur (ak ste ešte o tejto spoločnosti nepočuli,

it's one of the most visited websites in the US --

má jednu z najnavštevovanejších webových stránok v USA)

millions of pieces of user-generated content uploaded every single day,

má každý deň milióny kúskov obsahu generovaného a nahrávaného použivateľmi

in a mission to make the internet a more fun place.

s cieľom urobiť z internetu čo najzábavnejšie miesto.

They partnered with us first.

Oni sa s nami spojili ako prví.

Within 20 minutes of going live on our system,

Počas prvých 20 minút po pripojení na náš systém

someone tried to upload a known piece of abuse material.

sa niekto pokúsil nahrať jeden známy materiál so zneužívaním.

They were able to stop it, they pull it down,

Boli schopní to zastaviť a odstrániť.

they report it to the National Center for Missing and Exploited Children.

Nahlásili to Národnému centru pre nezvestné a zneužívané deti.

But they went a step further,

Ale išli dokonca ešte ďalej

and they went and inspected the account of the person who had uploaded it.

a skontrolovali účet toho, kto sa pokúsil tento obsah nahrať.

Hundreds more pieces of child sexual abuse material

Stovky ďalších kusov materiálu s pohlavne zneužívanými deťmi,

that we had never seen.

ktorý sme predtým nikdy nevideli.

And this is where we start to see exponential impact.

A práve teraz je možné vidieť ten exponenciálny vplyv.

We pull that material down,

Odstránime taký materiál,

it gets reported to the National Center for Missing and Exploited Children

nahlási sa to Národnému centru pre nezvestné a zneužívané deti,

and then those hashes go back into the system

tieto hashe sa potom vrátia späť do systému

and benefit every other company on it.

a z toho môže každá ďalšia spoločnosť len získať.

And when the millions of hashes we have lead to millions more and, in real time,

A keď milióny hashov, ktoré sme už mali, priniesli ďalšie milióny,

companies around the world are identifying and pulling this content down,

tak ich môžu ďalšie spoločnosti po celom svete ihneď identifikovať a odstrániť,

we will have dramatically increased the speed at which we are removing

čím dramaticky zvýšime rýchlosť, s akou odstraňujeme materiál,

child sexual abuse material from the internet around the world.

ktorý obsahuje pohlavné zneužívanie detí, a to v rámci internetu po celom svete.

(Applause)

(potlesk)

But this is why it can't just be about software and data,

A práve preto to nesmie byť iba o softvéri a dátach,

it has to be about scale.

musí to byť i o rozsahu.

We have to activate thousands of officers,

Musíme zaktivizovať tisíce policajtov,

hundreds of companies around the world

stovky spoločností po celom svete,

if technology will allow us to outrun the perpetrators

aby nám technológia umožnila predbehnúť páchateľov

and dismantle the communities that are normalizing child sexual abuse

a zničiť komunity, ktoré dnes po celom svete normalizujú

around the world today.

sexuálne zneužívanie detí.

And the time to do this is now.

A ten čas nastal práve teraz.

We can no longer say we don't know the impact this is having on our children.

Už ďalej nesmieme hovoriť, že nevieme, aký vplyv to má na naše deti.

The first generation of children whose abuse has gone viral

Prvá generácia detí, ktorých zneužívanie sa stalo virálnym,

are now young adults.

sú dnes už mladí dospelí.

The Canadian Centre for Child Protection

Kanadské centrum na ochranu detí

just did a recent study of these young adults

nedávno robilo štúdiu týchto mladých dospelých,

to understand the unique trauma they try to recover from,

aby sme mohli pochopiť tú veľkú traumu, z ktorej sa snažia uzdraviť,

knowing that their abuse lives on.

vediac, že ich zneužívanie žije na internete ďalej.

Eighty percent of these young adults have thought about suicide.

80 % z týchto mladých dospelých myslí na samovraždu.

More than 60 percent have attempted suicide.

Viac než 60 % sa o samovraždu už pokúsilo.

And most of them live with the fear every single day

A väčšina z nich žije s každodennou obavou,

that as they walk down the street or they interview for a job

že keď idú po ulici, idú na pohovor,

or they go to school

idú do školy,

or they meet someone online,

či sa s niekym spoja online,

that that person has seen their abuse.

majú strach, že ten človek ich zneužívanie videl.

And the reality came true for more than 30 percent of them.

A pre viac ako 30 % sa táto obava skutočne vyplnila.

They had been recognized from their abuse material online.

Boli spoznaní podľa online materiálov s ich zneužívaním.

This is not going to be easy,

Nebude to jednoduché,

but it is not impossible.

ale nie je to nemožné.

Now it's going to take the will,

Bude to stáť veľa vôle,

the will of our society

dobrej vôle našej spoločnosti,

to look at something that is really hard to look at,

aby sa pozrela na niečo, na čo sa dá pozerať iba veľmi ťažko,

to take something out of the darkness

aby vytiahla von z tej temnoty niečo,

so these kids have a voice;

aby tieto deti bolo počuť,

the will of companies to take action and make sure that their platforms

dobrej vôle spoločností zapojiť sa a uistiť sa, že ich platformy

are not complicit in the abuse of a child;

nie sú spolupáchateľmi zneužívania detí,

the will of governments to invest with their law enforcement

vôle vlád investovať do policajných orgánov

for the tools they need to investigate a digital first crime,

a zaistiť im nástroje,

ktoré potrebujú na vyšetrovanie prvých digitálnych zločinov,

aj keď obete nemôžu hovoriť samé za seba.

even when the victims cannot speak for themselves.

This audacious commitment is part of that will.

Tento odvážny záväzok je súčasťou tej vôle.

It's a declaration of war against one of humanity's darkest evils.

Je vyhlásením vojny jednej z tých najtemnejších ľudských hrôz.

But what I hang on to

Ale spolieham sa na to,

is that it's actually an investment in a future

že je to vlastne investícia do budúcnosti,

where every child can simply be a kid.

v ktorej každé dieťa bude jednoducho môcť byť dieťaťom.

Thank you.

Ďakujem.

(Applause)

(potlesk)