How we can eliminate child sexual abuse material from the internet | Julie Cordua

Vertaald door: Rik Delaet Nagekeken door: Peter van de Ven

[This talk contains mature content]

[Deze talk bevat inhoud voor volwassenen]

Five years ago,

Vijf jaar geleden

I received a phone call that would change my life.

kreeg ik een telefoontje dat mijn leven zou veranderen.

I remember so vividly that day.

Ik herinner me die dag zo levendig.

It was about this time of year,

Het was rond deze tijd van het jaar

and I was sitting in my office.

en ik zat in mijn kantoor.

I remember the sun streaming through the window.

Ik herinner me hoe het zonlicht door het raam viel.

And my phone rang.

Mijn telefoon ging.

And I picked it up,

Ik pakte hem op.

and it was two federal agents, asking for my help

Het waren twee federale agenten die om mijn hulp vroegen

in identifying a little girl

bij het identificeren van een klein meisje

featured in hundreds of child sexual abuse images they had found online.

afgebeeld in honderden foto's van seksueel misbruik van kinderen

die ze online hadden gevonden.

They had just started working the case,

Ze waren net begonnen met werken aan de zaak,

but what they knew

maar ze wisten

was that her abuse had been broadcast to the world for years

dat haar misbruik al jaren over de wereld werd verspreid

on dark web sites dedicated to the sexual abuse of children.

op dark-websites gewijd aan het seksueel misbruik van kinderen.

And her abuser was incredibly technologically sophisticated:

Haar misbruiker was ongelooflijk technologisch geavanceerd:

new images and new videos every few weeks,

nieuwe foto's en nieuwe video's om de paar weken,

but very few clues as to who she was

maar heel weinig aanwijzingen over wie ze was

or where she was.

of waar ze was.

And so they called us,

Dus belden ze ons,

because they had heard we were a new nonprofit

omdat ze hadden gehoord dat we een nieuwe non-profit waren

building technology to fight child sexual abuse.

die technologie ontwierpen

om seksueel misbruik van kinderen te bestrijden.

But we were only two years old,

Maar we waren maar twee jaar bezig

and we had only worked on child sex trafficking.

en we hadden alleen gewerkt aan kinderseks-mensenhandel.

And I had to tell them

Ik moest hen vertellen

we had nothing.

dat we niets hadden.

We had nothing that could help them stop this abuse.

We hadden niets dat hen kon helpen om dit misbruik stoppen.

It took those agents another year

Het vergde die agenten nog een jaar

to ultimately find that child.

voor ze het kind vonden.

And by the time she was rescued,

Tegen de tijd dat ze gered was,

hundreds of images and videos documenting her rape had gone viral,

waren al honderden foto's en video's over haar verkrachting viraal gegaan,

from the dark web

van het dark web

to peer-to-peer networks, private chat rooms

naar peer-to-peer netwerken, private chatrooms

and to the websites you and I use

en de websites die jullie en ik

every single day.

elke dag gebruiken.

And today, as she struggles to recover,

Vandaag vecht ze voor haar herstel

she lives with the fact that thousands around the world

en leeft ze met het feit dat duizenden over de hele wereld

continue to watch her abuse.

naar haar misbruik blijven kijken.

I have come to learn in the last five years

Ik ben in de afgelopen vijf jaar te weten gekomen

that this case is far from unique.

dat deze zaak verre van uniek is.

How did we get here as a society?

Hoe zijn we hier als samenleving in terecht gekomen?

In the late 1980s, child pornography --

In de late jaren 1980 was kinderporno --

or what it actually is, child sexual abuse material --

of wat het eigenlijk is, seksueel misbruik van kinderen --

was nearly eliminated.

bijna geëlimineerd.

New laws and increased prosecutions made it simply too risky

Nieuwe wetten en verhoogde vervolging maakten het gewoon te riskant

to trade it through the mail.

om het te verhandelen via de post.

And then came the internet, and the market exploded.

Toen kwam internet en de markt explodeerde.

The amount of content in circulation today

De hoeveelheid die vandaag in omloop is,

is massive and growing.

is enorm en groeit.

This is a truly global problem,

Dit is echt een wereldwijd probleem,

but if we just look at the US:

maar alleen al naar de VS kijkend:

in the US alone last year,

in de VS werden alleen al vorig jaar

more than 45 million images and videos of child sexual abuse material

meer dan 45 miljoen foto's en video's van seksueel misbruik van kinderen

were reported to the National Center for Missing and Exploited Children,

gemeld aan het Nationaal Centrum voor Vermiste en Uitgebuite Kinderen,

and that is nearly double the amount the year prior.

en dat is bijna het dubbele van het voorgaande jaar.

And the details behind these numbers are hard to contemplate,

De details achter deze cijfers zijn moeilijk voor te stellen,

with more than 60 percent of the images featuring children younger than 12,

met meer dan 60% afbeeldingen met kinderen jonger dan 12

and most of them including extreme acts of sexual violence.

en de meeste met extreme daden van seksueel geweld.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Misbruikers worden toegejuicht

in chatrooms gewijd aan het misbruik van kinderen,

where they gain rank and notoriety

waar ze aanzien en bekendheid krijgen

with more abuse and more victims.

met als gevolg nog meer misbruik en slachtoffers.

In this market,

In deze markt

the currency has become the content itself.

is de inhoud zelf het betalingsmiddel geworden.

It's clear that abusers have been quick to leverage new technologies,

Het is duidelijk dat de daders snel de nieuwe technologieën gingen benutten,

but our response as a society has not.

maar onze reactie als samenleving was dat niet.

These abusers don't read user agreements of websites,

Deze misbruikers lezen geen gebruikersovereenkomsten van websites

and the content doesn't honor geographic boundaries.

en de inhoud houdt zich niet aan geografische grenzen.

And they win when we look at one piece of the puzzle at a time,

Zij winnen als wij slechts kijken naar één stukje van de puzzel tegelijk,

which is exactly how our response today is designed.

en zo is onze reactie vandaag precies ontworpen.

Law enforcement works in one jurisdiction.

Handhaving van de wet werkt in één rechtsgebied.

Companies look at just their platform.

Bedrijven kijken alleen naar hun platform.

And whatever data they learn along the way

En wat ze al doende leren,

is rarely shared.

wordt zelden gedeeld.

It is so clear that this disconnected approach is not working.

Het is zo duidelijk dat deze verbrokkelde aanpak niet werkt.

We have to redesign our response to this epidemic

We moeten onze reactie op deze epidemie van het digitale tijdperk herontwerpen.

for the digital age.

And that's exactly what we're doing at Thorn.

En dat is precies wat we doen bij Thorn.

We're building the technology to connect these dots,

We bouwen de technologie om deze punten te verbinden,

to arm everyone on the front lines --

om iedereen op de frontlinies te bewapenen --

law enforcement, NGOs and companies --

rechtshandhaving, ngo’s en bedrijven --

with the tools they need to ultimately eliminate

met de tools die ze nodig hebben

om uiteindelijk kindermisbruikmateriaal van het internet te bannen.

child sexual abuse material from the internet.

Let's talk for a minute --

Laten we het daar even over hebben --

(Applause)

(Applaus)

Thank you.

Dank je.

(Applause)

(Applaus)

Let's talk for a minute about what those dots are.

Laten we even praten over wat die punten zijn.

As you can imagine, this content is horrific.

Zoals je je kan voorstellen, is deze inhoud afschuwelijk.

If you don't have to look at it, you don't want to look at it.

Als je er niet naar moet kijken, wil je er niet naar kijken.

And so, most companies or law enforcement agencies

Daarom kunnen de meeste bedrijven of wetshandhavingsinstanties

that have this content

met dit soort inhoud

can translate every file into a unique string of numbers.

elk bestand vertalen in een unieke reeks getallen.

This is called a "hash."

Dit heet een ‘hash’.

It's essentially a fingerprint

Het is in wezen een vingerafdruk

for each file or each video.

van elk bestand of elke video.

And what this allows them to do is use the information in investigations

Dit laat hen toe om gebruik te maken van de informatie bij onderzoeken

or for a company to remove the content from their platform,

of voor een bedrijf om de inhoud van hun platform te verwijderen

without having to relook at every image and every video each time.

zonder elk beeld en elke video telkens weer opnieuw te moeten bekijken.

The problem today, though,

Het probleem vandaag echter

is that there are hundreds of millions of these hashes

is dat er honderden miljoenen van deze hashes zitten

sitting in siloed databases all around the world.

in geïsoleerde databases over de hele wereld.

In een geïsoleerde database

In a silo,

it might work for the one agency that has control over it,

kan dat werken voor het agentschap dat er de controle over heeft,

but not connecting this data means we don't know how many are unique.

maar deze gegevens niet koppelen

betekent dat we niet weten hoeveel er uniek zijn.

We don't know which ones represent children who have already been rescued

We weten niet welke reeds geredde kinderen voorstellen

or need to be identified still.

of welke nog geïdentificeerd moeten worden.

So our first, most basic premise is that all of this data

Dus is ons eerste, meest fundamentele uitgangspunt

dat al deze gegevens met elkaar moeten worden verbonden.

must be connected.

There are two ways where this data, combined with software on a global scale,

Op twee manieren kunnen deze gegevens,

in combinatie met software op wereldwijde schaal,

can have transformative impact in this space.

een grote impact hebben op dit gebied.

The first is with law enforcement:

De eerste is met de rechtshandhaving:

helping them identify new victims faster,

hen te helpen om nieuwe slachtoffers sneller te identificeren,

stopping abuse

het misbruik te stoppen

and stopping those producing this content.

en het stoppen van de productie van deze dingen.

The second is with companies:

De tweede is met bedrijven:

het gebruiken als aanwijzingen

using it as clues to identify the hundreds of millions of files

om de honderden miljoenen bestanden te identificeren

in circulation today,

die vandaag in omloop zijn,

pulling it down

ze te verwijderen

and then stopping the upload of new material before it ever goes viral.

en vervolgens stoppen met het uploaden van nieuw materiaal

voordat het ooit viraal gaat.

Four years ago,

Vier jaar geleden,

when that case ended,

toen die zaak eindigde,

our team sat there, and we just felt this, um ...

zat ons team daar, en we voelden alleen maar, hum ...

... deep sense of failure, is the way I can put it,

... een diep gevoel van mislukking, kan ik wel zeggen,

because we watched that whole year

omdat we dat hele jaar maar toekeken

while they looked for her.

terwijl ze haar zochten.

And we saw every place in the investigation

We zagen elke plaats van het onderzoek

where, if the technology would have existed,

waarbij als de technologie zou hebben bestaan,

they would have found her faster.

ze haar sneller zouden hebben gevonden.

And so we walked away from that

Daar hielden we mee op

and we went and we did the only thing we knew how to do:

en we gingen dat doen waarvan we wisten dat we het konden:

we began to build software.

we begonnen software te maken.

So we've started with law enforcement.

Dus begonnen we met rechtshandhaving.

Our dream was an alarm bell on the desks of officers all around the world

Onze droom was een alarmbel op de bureaus van politiemensen over de hele wereld

so that if anyone dare post a new victim online,

zodat zodra iemand nieuwe slachtoffers online durfde te posten,

someone would start looking for them immediately.

iemand onmiddellijk naar hen op zoek zou gaan.

I obviously can't talk about the details of that software,

Ik kan natuurlijk niet praten over de details van die software,

but today it's at work in 38 countries,

maar vandaag is ze in 38 landen actief,

having reduced the time it takes to get to a child

waardoor de tijd die het duurt om een kind terug te vinden

by more than 65 percent.

met meer dan 65% verminderd is.

(Applause)

(Applaus)

And now we're embarking on that second horizon:

Nu gaan we op weg naar die tweede bestemming:

building the software to help companies identify and remove this content.

de bouw van de software

om bedrijven te helpen deze inhoud te identificeren en te verwijderen.

Let's talk for a minute about these companies.

Laten we even praten over deze bedrijven.

So, I told you -- 45 million images and videos in the US alone last year.

Zoals ik al zei -- 45 miljoen beelden en video's in de VS alleen al vorig jaar.

Those come from just 12 companies.

Die komen van slechts 12 bedrijven.

Twelve companies, 45 million files of child sexual abuse material.

Twaalf bedrijven, 45 miljoen bestanden van seksueel misbruik van kinderen.

These come from those companies that have the money

Die komen van die bedrijven die het geld hebben

to build the infrastructure that it takes to pull this content down.

voor de infrastructuur die nodig is om deze inhoud te verwijderen.

But there are hundreds of other companies,

Maar er zijn honderden andere bedrijven,

small- to medium-size companies around the world,

kleine tot middelgrote bedrijven over de hele wereld,

that need to do this work,

die dit ook moeten doen,

but they either: 1) can't imagine that their platform would be used for abuse,

maar ofwel: 1) kunnen ze zich niet indenken

dat hun platform zou worden gebruikt voor misbruik,

or 2) don't have the money to spend on something that is not driving revenue.

of 2) hebben ze niet het geld te besteden aan iets dat niets opbrengt.

So we went ahead and built it for them,

Dus maakten wij het voor hen

and this system now gets smarter with the more companies that participate.

en het systeem wordt steeds slimmer nu meer bedrijven eraan deelnemen.

Let me give you an example.

Laat me een voorbeeld geven.

Our first partner, Imgur -- if you haven't heard of this company,

Onze eerste partner, Imgur -- mocht je dit bedrijf niet kennen,

it's one of the most visited websites in the US --

het is een van de meest bezochte websites in de VS --

millions of pieces of user-generated content uploaded every single day,

miljoenen stukken door gebruikers gegenereerde inhoud

worden er elke dag geüpload

in a mission to make the internet a more fun place.

om van het internet een leuke plek te maken.

They partnered with us first.

Ze staken met ons als eerste van wal.

Within 20 minutes of going live on our system,

Binnen de eerste 20 minuten dat ons systeem live ging,

someone tried to upload a known piece of abuse material.

probeerde iemand een bekend item misbruikmateriaal te uploaden.

They were able to stop it, they pull it down,

Ze konden het stoppen, verwijderen

they report it to the National Center for Missing and Exploited Children.

en melden aan het Nationale Centrum voor Vermiste en Uitgebuite Kinderen.

But they went a step further,

Maar ze gingen een stap verder:

and they went and inspected the account of the person who had uploaded it.

ze inspecteerden de account van de persoon die het had geüpload.

Hundreds more pieces of child sexual abuse material

Honderden documenten meer van seksueel misbruik van kinderen

that we had never seen.

die we nog nooit hadden gezien.

And this is where we start to see exponential impact.

Hier beginnen we een exponentieel effect te zien.

We pull that material down,

We verwijderen dat materiaal,

it gets reported to the National Center for Missing and Exploited Children

het wordt gemeld

aan het Nationale Centrum voor Vermiste en Uitgebuite Kinderen

and then those hashes go back into the system

en dan gaan die hashes terug in het systeem

and benefit every other company on it.

en profiteert elk ander bedrijf ervan.

And when the millions of hashes we have lead to millions more and, in real time,

De miljoenen hashes die we hebben, leiden tot nog eens miljoenen

en, in real time, identificeren bedrijven over de hele wereld

companies around the world are identifying and pulling this content down,

deze inhoud en verwijderen hem.

we will have dramatically increased the speed at which we are removing

We hebben nu een spectaculaire toename van de snelheid van verwijdering

child sexual abuse material from the internet around the world.

van seksueel misbruik van kinderen op het internet over de hele wereld.

(Applause)

(Applaus)

But this is why it can't just be about software and data,

Maar daarom kan het niet alleen gaan over software en gegevens,

it has to be about scale.

het moet ook over de schaal gaan.

We have to activate thousands of officers,

We moeten duizenden ambtenaren activeren,

hundreds of companies around the world

honderden bedrijven over de hele wereld,

if technology will allow us to outrun the perpetrators

als we willen dat de technologie de daders voorblijft,

and dismantle the communities that are normalizing child sexual abuse

en de gemeenschappen ontmantelen

die het seksueel misbruik van kinderen normaliseren

around the world today.

over de hele wereld van vandaag.

And the time to do this is now.

Nu moeten we dit doen.

We can no longer say we don't know the impact this is having on our children.

We kunnen niet langer zeggen dat we niet weten

welke impact dit heeft op onze kinderen.

The first generation of children whose abuse has gone viral

De eerste generatie van de kinderen van wie misbruik viraal is gegaan

are now young adults.

zijn nu jongvolwassenen.

The Canadian Centre for Child Protection

The Canadian Centre for Child Protection

just did a recent study of these young adults

deed recentelijk een studie van deze jongvolwassenen

to understand the unique trauma they try to recover from,

om het unieke trauma te begrijpen waarvan ze proberen te herstellen,

knowing that their abuse lives on.

wetende dat hun misbruik voortleeft.

Eighty percent of these young adults have thought about suicide.

80% van deze jongvolwassenen hebben zelfmoord overwogen.

More than 60 percent have attempted suicide.

Meer dan 60% heeft het gepoogd.

And most of them live with the fear every single day

En de meesten van hen leven elke dag met de angst

that as they walk down the street or they interview for a job

dat als ze op straat lopen, gaan voor een baan,

or they go to school

naar school gaan

or they meet someone online,

of iemand online ontmoeten,

that that person has seen their abuse.

dat die persoon het misbruik heeft gezien.

And the reality came true for more than 30 percent of them.

Die realiteit is uitgekomen voor meer dan 30% van hen.

They had been recognized from their abuse material online.

Ze werden herkend door hun online data over misbruik.

This is not going to be easy,

Dit zal niet makkelijk zijn,

but it is not impossible.

maar het is niet onmogelijk.

Now it's going to take the will,

Er gaat een wil nodig zijn,

the will of our society

de wil van onze samenleving

to look at something that is really hard to look at,

om te kijken naar iets dat echt moeilijk is om naar te kijken,

to take something out of the darkness

om iets uit de duisternis te halen

so these kids have a voice;

zodat deze kinderen een stem krijgen;

the will of companies to take action and make sure that their platforms

de wil van bedrijven om actie te ondernemen

en ervoor te zorgen dat hun platforms

are not complicit in the abuse of a child;

niet medeplichtig zijn aan het misbruik van een kind;

the will of governments to invest with their law enforcement

de wil van de overheid om te investeren met hun rechtshandhaving

for the tools they need to investigate a digital first crime,

voor de middelen die ze nodig hebben

om een digitale eerste misdaad te onderzoeken,

even when the victims cannot speak for themselves.

zelfs wanneer de slachtoffers niet voor zichzelf kunnen spreken.

This audacious commitment is part of that will.

Deze moedige inzet is een onderdeel van die wil.

It's a declaration of war against one of humanity's darkest evils.

Het is een oorlogsverklaring tegen een van de donkerste kwaden van de mensheid.

But what I hang on to

Maar waar ik voor ga,

is that it's actually an investment in a future

is dat het eigenlijk een investering is in een toekomst

where every child can simply be a kid.

waar elk kind gewoon een kind kan zijn.

Thank you.

Dank je.

(Applause)

(Applaus)