How we can eliminate child sexual abuse material from the internet | Julie Cordua

Traducteur: Gwendolyne Ricaud Relecteur: eric vautier

[This talk contains mature content]

[Contient du contenu destiné aux adultes]

Five years ago,

Il y a cinq ans,

I received a phone call that would change my life.

J'ai reçu un appel qui allait changer ma vie.

I remember so vividly that day.

Je me rappelle très bien cette journée.

It was about this time of year,

C'était à cette période de l'année,

and I was sitting in my office.

j'étais dans mon bureau.

I remember the sun streaming through the window.

Le soleil entrait par la fenêtre.

And my phone rang.

Mon téléphone a sonné.

And I picked it up,

J'ai décroché,

and it was two federal agents, asking for my help

c'était deux agents fédéraux, me demandant de les aider

in identifying a little girl

à identifier une petite fille

featured in hundreds of child sexual abuse images they had found online.

dans des centaines d'images d'abus sexuels d'enfants trouvées en ligne.

They had just started working the case,

Ils venaient de commencer à travailler sur l'affaire,

but what they knew

mais ils savaient

was that her abuse had been broadcast to the world for years

que ses abus avaient été diffusés mondialement pendant des années

on dark web sites dedicated to the sexual abuse of children.

sur des sites du dark web dédiés aux abus sexuels sur des enfants.

And her abuser was incredibly technologically sophisticated:

Et son agresseur était incroyablement sophistiqué sur le plan technologique :

new images and new videos every few weeks,

de nouvelles images et vidéos toutes les semaines,

but very few clues as to who she was

mais très peu d'informations sur qui elle était

or where she was.

ou sa localisation.

And so they called us,

Ils nous ont appelés,

because they had heard we were a new nonprofit

car nous étions une association

building technology to fight child sexual abuse.

créant des technologies pour lutter contre les abus d'enfants.

But we were only two years old,

Mais nous n'existions que depuis deux ans,

and we had only worked on child sex trafficking.

et nous n'avions travaillé que sur le trafic d'enfants.

And I had to tell them

Et j'ai dû leur dire

we had nothing.

que nous n'avions rien.

We had nothing that could help them stop this abuse.

Nous n'avions rien pour les aider à mettre fin à cet abus.

It took those agents another year

Il leur a fallu un an de plus

to ultimately find that child.

pour enfin trouver cette enfant.

And by the time she was rescued,

Lorsqu'elle a été sauvée,

hundreds of images and videos documenting her rape had gone viral,

des centaines d'images et vidéos de son viol avaient circulé,

from the dark web

du dark web

to peer-to-peer networks, private chat rooms

vers des réseaux peer-to-peer, des salons de chat privés

and to the websites you and I use

jusqu'aux sites Web que vous et moi consultons chaque jour.

every single day.

And today, as she struggles to recover,

Elle doit lutter pour s'en remettre,

she lives with the fact that thousands around the world

sachant que des milliers de personnes dans le monde

continue to watch her abuse.

continuent de regarder son viol.

I have come to learn in the last five years

Ces cinq dernières années, j'ai pu apprendre

that this case is far from unique.

que ce cas était loin d'être le seul.

How did we get here as a society?

Comment notre société en est-elle arrivée là ?

In the late 1980s, child pornography --

Dans la fin des années 80, la pédopornographie -

or what it actually is, child sexual abuse material --

ou plutôt, l'exploitation sexuelle des enfants,

was nearly eliminated.

a été presque éliminée.

New laws and increased prosecutions made it simply too risky

Les échanges par la poste étaient devenus trop risqués,

suite aux nouvelles lois, et à l'augmentation des poursuites.

to trade it through the mail.

And then came the internet, and the market exploded.

L'arrivée d'internet a permis l'explosion du marché

The amount of content in circulation today

La quantité de contenu qui circule aujourd'hui

is massive and growing.

est massive et en pleine croissance.

This is a truly global problem,

C'est un problème mondial,

but if we just look at the US:

mais en s'intéressant juste aux USA :

in the US alone last year,

rien qu'aux USA l'année dernière,

more than 45 million images and videos of child sexual abuse material

plus de 45 millions d'images et vidéos pédopornographiques

were reported to the National Center for Missing and Exploited Children,

ont été signalées au National Center for Missing and Exploited Children,

and that is nearly double the amount the year prior.

c'est presque le double de l'année précédente.

And the details behind these numbers are hard to contemplate,

La réalité derrière ces chiffres est dure à imaginer.

with more than 60 percent of the images featuring children younger than 12,

Plus de 60% des images représentent des moins de 12 ans,

and most of them including extreme acts of sexual violence.

la plupart d'entre eux incluent des actes de violence sexuelle extrêmes.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Les agresseurs sont encouragés dans les chats dédiés à la maltraitance d'enfants,

where they gain rank and notoriety

où ils gagnent en rang et en notoriété

with more abuse and more victims.

faisant plus de victimes.

In this market,

Dans ce marché,

the currency has become the content itself.

la monnaie est le contenu.

It's clear that abusers have been quick to leverage new technologies,

Les agresseurs ont rapidement tiré parti des nouvelles technologies,

but our response as a society has not.

mais notre réponse en tant que société est lente.

These abusers don't read user agreements of websites,

Les agresseurs ne lisent pas les CGU des sites Internet,

and the content doesn't honor geographic boundaries.

et le contenu ne respecte pas les frontières géographiques.

And they win when we look at one piece of the puzzle at a time,

Ils gagnent quand nous regardons une chose à la fois,

which is exactly how our response today is designed.

ce qui est exactement la façon dont notre réponse est conçue aujourd'hui.

Law enforcement works in one jurisdiction.

Les forces de l'ordre travaillent dans une seule juridiction.

Companies look at just their platform.

Les entreprises ne surveillent que leurs propres plateformes.

And whatever data they learn along the way

Et quoi qu'ils apprennent,

is rarely shared.

ils le partagent rarement.

It is so clear that this disconnected approach is not working.

Il est évident que cette déconnexion ne fonctionne pas.

We have to redesign our response to this epidemic

Nous devons repenser notre réponse à cette épidémie

for the digital age.

de l'ère numérique.

And that's exactly what we're doing at Thorn.

Et c'est exactement ce que Thorn fait.

We're building the technology to connect these dots,

Nous construisons la technologie pour connecter ces points,

to arm everyone on the front lines --

pour armer tous les acteurs -

law enforcement, NGOs and companies --

les forces de l'ordre, les ONG et les entreprises -

with the tools they need to ultimately eliminate

avec les outils dont ils ont besoin pour éliminer définitivement

child sexual abuse material from the internet.

le contenu pédopornographique d'Internet.

Let's talk for a minute --

Parlons un peu --

(Applause)

(Applaudissements)

Thank you.

Merci.

(Applause)

(Applaudissements)

Let's talk for a minute about what those dots are.

Parlons un peu de ces points.

As you can imagine, this content is horrific.

Vous l'imaginez, le contenu est atroce.

If you don't have to look at it, you don't want to look at it.

Si on n'y est pas obligé, on ne veut pas le voir.

And so, most companies or law enforcement agencies

La plupart des entreprises ou forces de l'ordre

that have this content

qui ont accès à ce contenu

can translate every file into a unique string of numbers.

peuvent traduire chaque fichier en une suite de chiffres.

This is called a "hash."

C'est un « hash ».

It's essentially a fingerprint

C'est surtout une empreinte digitale

for each file or each video.

par fichier ou vidéo.

And what this allows them to do is use the information in investigations

Cela leur permet d'utiliser ces informations lors d'enquêtes,

or for a company to remove the content from their platform,

ou aux entreprises de supprimer le contenu de leurs plateformes

without having to relook at every image and every video each time.

sans avoir à revoir chaque image ou vidéo.

The problem today, though,

Le problème actuel est que

is that there are hundreds of millions of these hashes

des centaines de millions de ces hash

sitting in siloed databases all around the world.

traînent dans des silos de données autour du monde.

In a silo,

Dans ces silos,

it might work for the one agency that has control over it,

cela a beau fonctionner pour l'agence qui en a le contrôle,

but not connecting this data means we don't know how many are unique.

mais sans partager ces données, nous ne savons pas

We don't know which ones represent children who have already been rescued

lesquelles montrent des enfants qui ont été sauvés

or need to be identified still.

ou ont toujours besoin d'être sauvés.

So our first, most basic premise is that all of this data

Notre but premier est donc de connecter

must be connected.

toutes ces données.

There are two ways where this data, combined with software on a global scale,

Il y a deux façons dont elles peuvent transformer cet espace,

can have transformative impact in this space.

combinées à des logiciels utilisés mondialement.

The first is with law enforcement:

La première est pour la police :

helping them identify new victims faster,

identifier les victimes plus rapidement,

stopping abuse

arrêter les abus,

and stopping those producing this content.

et bloquer les créateurs de contenu.

The second is with companies:

La deuxième est pour les entreprises :

using it as clues to identify the hundreds of millions of files

s'en servir comme indices pour identifier les millions de dossiers

in circulation today,

qui circulent actuellement,

pulling it down

les retirer

and then stopping the upload of new material before it ever goes viral.

puis empêcher la mise en ligne de contenu avant qu'il devienne viral.

Four years ago,

Il y a quatre ans,

when that case ended,

à la fin de l'affaire

our team sat there, and we just felt this, um ...

notre équipe était là, ressentant un genre de...

... deep sense of failure, is the way I can put it,

sentiment profond d'échec, je dirais,

because we watched that whole year

car nous avions observé toute cette année

while they looked for her.

quand ils la cherchaient.

And we saw every place in the investigation

Nous avons vu chaque étape de l'enquête

where, if the technology would have existed,

où ils auraient pu la retrouver plus rapidement

they would have found her faster.

si la technologie avait existé.

And so we walked away from that

Nous sommes partis de ça

and we went and we did the only thing we knew how to do:

pour commencer à faire la seule chose que nous savions faire :

we began to build software.

nous avons créé des logiciels.

So we've started with law enforcement.

Nous avons commencé avec les forces de l'ordre.

Our dream was an alarm bell on the desks of officers all around the world

Nous rêvions d'une alarme sur le bureau des policiers

so that if anyone dare post a new victim online,

pour que quelqu'un puisse commencer à mener l'enquête

someone would start looking for them immediately.

dès que quelqu'un osait poster une nouvelle victime.

I obviously can't talk about the details of that software,

Je ne peux évidemment pas détailler ce logiciel,

but today it's at work in 38 countries,

mais il est utilisé dans 38 pays,

having reduced the time it takes to get to a child

réduisant le temps de retrouver un enfant

by more than 65 percent.

de plus de 65%.

(Applause)

(Applaudissements)

And now we're embarking on that second horizon:

Nous travaillons actuellement sur le second point :

building the software to help companies identify and remove this content.

créer le logiciel qui aide les entreprises à repérer et supprimer le contenu.

Let's talk for a minute about these companies.

Parlons un instant de ces entreprises.

So, I told you -- 45 million images and videos in the US alone last year.

Je vous disais, 45 millions d'images et vidéos rien qu'aux US l'année dernière.

Those come from just 12 companies.

Qui venaient uniquement de 12 entreprises.

Twelve companies, 45 million files of child sexual abuse material.

Douze entreprises, 45 millions de dossiers d'abus d'enfants.

These come from those companies that have the money

Venant de ces entreprises ayant les moyens financiers

to build the infrastructure that it takes to pull this content down.

de créer les infrastructures nécessaires à la suppression de ce contenu.

But there are hundreds of other companies,

Il y a des centaines d'autres entreprises,

small- to medium-size companies around the world,

petites à moyennes, tout autour du monde

that need to do this work,

qui doivent faire ce travail, mais qui :

but they either: 1) can't imagine that their platform would be used for abuse,

1) soit n'imaginent pas leur plateforme utilisée pour ce contenu,

or 2) don't have the money to spend on something that is not driving revenue.

2) soit n'ont pas d'argent à investir si cela ne leur rapporte pas de bénéfices.

So we went ahead and built it for them,

Nous avons pris l'initiative de le faire pour eux,

and this system now gets smarter with the more companies that participate.

et plus il y a d'entreprises, plus ce système est performant.

Let me give you an example.

Je vous donne un exemple.

Our first partner, Imgur -- if you haven't heard of this company,

Notre premier partenaire, Imgur - l'un des sites

it's one of the most visited websites in the US --

les plus visités aux États-Unis - partage des millions

millions of pieces of user-generated content uploaded every single day,

de contenus crées par les utilisateurs chaque jour

in a mission to make the internet a more fun place.

dans le but de faire d'Internet un endroit plus amusant.

They partnered with us first.

Ils se sont associés à nous.

Within 20 minutes of going live on our system,

En 20 minutes d'utilisation de notre système,

someone tried to upload a known piece of abuse material.

quelqu'un a essayé de publier du contenu abusif.

They were able to stop it, they pull it down,

Ils ont pu l'en empêcher, le supprimer,

they report it to the National Center for Missing and Exploited Children.

et l'ont signalé au National Center for Missing and Exploited Children.

But they went a step further,

Mais ils sont allés plus loin,

and they went and inspected the account of the person who had uploaded it.

et ont inspecté le compte de l'utilisateur qui l'avait publié.

Hundreds more pieces of child sexual abuse material

Ils ont trouvé des centaines d'autres fichiers d'abus pédosexuels

that we had never seen.

qu'ils n'avaient jamais vus.

And this is where we start to see exponential impact.

C'est là que nous commençons à voir l'impact exponentiel.

We pull that material down,

Nous retirons le contenu,

it gets reported to the National Center for Missing and Exploited Children

le signalons au National Center for Missing and Exploited Children

and then those hashes go back into the system

et ces hash sont sauvegardés par le système

and benefit every other company on it.

et les autres entreprises en profitent.

And when the millions of hashes we have lead to millions more and, in real time,

Quand les millions de hash en créent d'autres, et qu'en temps réel,

companies around the world are identifying and pulling this content down,

les entreprises identifient et retirent le contenu,

we will have dramatically increased the speed at which we are removing

nous augmentons drastiquement la vitesse à laquelle nous retirons

child sexual abuse material from the internet around the world.

le contenu pédopornographique d'Internet autour du monde.

(Applause)

(Applaudissements)

But this is why it can't just be about software and data,

Mais il ne peut pas s'agir que de logiciels et de données,

it has to be about scale.

il faut que ce soit massif.

We have to activate thousands of officers,

Nous devons engager des centaines de policiers,

hundreds of companies around the world

des centaines d'entreprises autour du monde

if technology will allow us to outrun the perpetrators

lorsque la technologie nous permettra de distancer les agresseurs

and dismantle the communities that are normalizing child sexual abuse

et de démanteler les réseaux qui normalisent les abus pédosexuels

around the world today.

tout autour du monde.

And the time to do this is now.

Il faut faire cela maintenant.

We can no longer say we don't know the impact this is having on our children.

Nous ne pouvons plus dire que nous n'en connaissons pas l'impact sur nos enfants.

The first generation of children whose abuse has gone viral

La première génération d'enfants dont les abus sont devenus viraux

are now young adults.

sont maintenant de jeunes adultes.

The Canadian Centre for Child Protection

Le Centre Canadien de Protection de l'Enfance

just did a recent study of these young adults

a récemment étudié ces jeunes adultes

to understand the unique trauma they try to recover from,

afin de comprendre le trauma unique dont ils doivent se remettre,

knowing that their abuse lives on.

en sachant que leurs abus sont toujours en ligne.

Eighty percent of these young adults have thought about suicide.

80% de ces jeunes adultes ont pensé au suicide.

More than 60 percent have attempted suicide.

Plus de 60% ont tenté de se suicider.

And most of them live with the fear every single day

La plupart d'entre eux vivent chaque jour dans la peur

that as they walk down the street or they interview for a job

de marcher dans la rue, de passer un entretien,

or they go to school

d'aller à l'école

or they meet someone online,

ou de faire des rencontres en ligne,

that that person has seen their abuse.

et que leurs interlocuteurs aient vu les abus qu'ils ont subis.

And the reality came true for more than 30 percent of them.

C'est ce qui est arrivé à 30% d'entre eux.

They had been recognized from their abuse material online.

Ils ont été reconnus de ces abus en ligne.

This is not going to be easy,

Cela ne va pas être facile,

but it is not impossible.

mais ce n'est pas impossible.

Now it's going to take the will,

Cela va nécessiter la volonté,

the will of our society

la volonté de notre société

to look at something that is really hard to look at,

de voir quelque chose qui est difficile à regarder,

to take something out of the darkness

de sortir quelque chose de l'obscurité

so these kids have a voice;

afin que ces enfants soient entendus ;

the will of companies to take action and make sure that their platforms

la volonté des entreprises d'agir et de s'assurer que leurs plateformes

are not complicit in the abuse of a child;

ne sont pas complices de ces abus ;

the will of governments to invest with their law enforcement

la volonté du gouvernement et des forces de l'ordre d'investir

for the tools they need to investigate a digital first crime,

dans les outils nécessaires dans les premiers crimes numériques,

even when the victims cannot speak for themselves.

même quand les victimes ne peuvent pas parler.

This audacious commitment is part of that will.

Cet engagement audacieux s'inscrit dans cette volonté.

It's a declaration of war against one of humanity's darkest evils.

C'est une déclaration de guerre contre l'un des pires démons de l'humanité.

But what I hang on to

Ce à quoi je m'accroche,

is that it's actually an investment in a future

c'est que c'est un investissement pour un avenir

where every child can simply be a kid.

où chaque enfant peut simplement être un enfant.

Thank you.

Merci.

(Applause)

(Applaudissements)