How we can eliminate child sexual abuse material from the internet | Julie Cordua

Traduttore: Rosamaria Di Dedda Revisore: Sofia Ramundo

[This talk contains mature content]

[Argomento adatto solo a un pubblico adulto]

Five years ago,

Cinque anni fa

I received a phone call that would change my life.

ho ricevuto una telefonata che mi avrebbe cambiato la vita.

I remember so vividly that day.

Ricordo benissimo quel giorno.

It was about this time of year,

Era circa questo periodo dell'anno,

and I was sitting in my office.

ero seduta nel mio ufficio.

I remember the sun streaming through the window.

Ricordo il sole che entrava dalla finestra,

And my phone rang.

quando mi suonò il telefono.

And I picked it up,

Risposi,

and it was two federal agents, asking for my help

erano due agenti federali che chiedevano il mio aiuto

in identifying a little girl

per identificare una bambina

featured in hundreds of child sexual abuse images they had found online.

presente in centinaia di immagini di abusi sessuali trovate online.

They had just started working the case,

Avevano appena iniziato a lavorare sul caso,

but what they knew

ma erano certi

was that her abuse had been broadcast to the world for years

che gli abusi su di lei erano circolati per anni in tutto il mondo

on dark web sites dedicated to the sexual abuse of children.

suii siti del dark web dedicati agli abusi sessuali sui bambini.

And her abuser was incredibly technologically sophisticated:

Il suo molestatore era incredibilmente abile a livello tecnologico:

new images and new videos every few weeks,

nuove immagini e video quasi tutte le settimane,

but very few clues as to who she was

ma pochissimi indizi su chi fosse lei

or where she was.

o dove si trovasse.

And so they called us,

Ci chiamarono,

because they had heard we were a new nonprofit

perché eravamo una nuova no-profit

building technology to fight child sexual abuse.

che creava tecnologie per combattere gli abusi sessuali sui minori.

But we were only two years old,

Ma operavamo solo da due anni,

and we had only worked on child sex trafficking.

e solo sul traffico sessuale minorile.

And I had to tell them

Dovetti dir loro

we had nothing.

che non avevamo niente.

We had nothing that could help them stop this abuse.

Non avevamo nulla per aiutarli a fermare quell'abuso.

It took those agents another year

Impiegarono un altro anno

to ultimately find that child.

per trovare finalmente quella bambina.

And by the time she was rescued,

E fino al momento in cui fu salvata,

hundreds of images and videos documenting her rape had gone viral,

il suo stupro era diventato virale in centinaia di immagini e di video,

from the dark web

dal dark web

to peer-to-peer networks, private chat rooms

a reti peer-to-peer, chat room private

and to the websites you and I use

e siti web che tutti noi usiamo

every single day.

ogni giorno.

And today, as she struggles to recover,

E oggi, mentre lei lotta per riprendersi,

she lives with the fact that thousands around the world

convive con il fatto che migliaia di persone nel mondo

continue to watch her abuse.

continuano a guardare ciò che ha subito.

I have come to learn in the last five years

Negli ultimi cinque anni ho scoperto che questo caso

that this case is far from unique.

è tutt'altro che unico nel suo genere.

How did we get here as a society?

Ma come ha fatto la nostra società ad arrivare a questo?

In the late 1980s, child pornography --

Alla fine degli anni '80, la pedopornografia,

or what it actually is, child sexual abuse material --

ovvero il materiale contenente abusi sessuali su minori,

was nearly eliminated.

era stata quasi eliminata.

New laws and increased prosecutions made it simply too risky

Nuove leggi, aumento di procedimenti giudiziari, resero troppo rischioso

to trade it through the mail.

lo smercio per corrispondenza.

And then came the internet, and the market exploded.

Ma poi è arrivato internet, e il mercato è esploso.

The amount of content in circulation today

Oggi, la quantità di contenuti in circolo

is massive and growing.

è enorme e in crescita.

This is a truly global problem,

Il problema è veramente globale,

but if we just look at the US:

ma se guardiamo solo agli Stati Uniti:

in the US alone last year,

l'anno scorso, solo negli Stati Uniti

more than 45 million images and videos of child sexual abuse material

più di 45 milioni di immagini e di video pedopornografici

were reported to the National Center for Missing and Exploited Children,

sono stati denunciati al Centro Nazionale per bambini scomparsi e abusati,

and that is nearly double the amount the year prior.

ed è quasi il doppio dell'anno precedente.

And the details behind these numbers are hard to contemplate,

I dettagli dietro questi numeri sono duri da immaginare:

with more than 60 percent of the images featuring children younger than 12,

in più del 60% delle immagini vi sono bambini al di sotto di 12 anni,

and most of them including extreme acts of sexual violence.

e la maggior parte include atti di estrema violenza sessuale.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Gli autori di abusi sui bambini sono acclamati nelle chat dedicate,

where they gain rank and notoriety

dove guadagnano prestigio e notorietà

with more abuse and more victims.

con più abusi e più vittime.

In this market,

In questo mercato

the currency has become the content itself.

la moneta è diventata il contenuto stesso.

It's clear that abusers have been quick to leverage new technologies,

I molestatori sono stati rapidi a sfruttare le nuove tecnologie,

but our response as a society has not.

ma non lo è stata la risposta della nostra società.

These abusers don't read user agreements of websites,

Questi criminali non leggono i termini di utilizzo dei siti web

and the content doesn't honor geographic boundaries.

e il contenuto non rispetta nessun confine geografico.

And they win when we look at one piece of the puzzle at a time,

Vincono quando guardiamo un pezzo del puzzle alla volta,

which is exactly how our response today is designed.

che è esattamente il nostro modo di operare oggi.

Law enforcement works in one jurisdiction.

Le forze dell'ordine lavorano in una sola giurisdizione.

Companies look at just their platform.

Le aziende guardano solo alla propria piattaforma.

And whatever data they learn along the way

E tutti i dati acquisiti lungo il percorso

is rarely shared.

raramente vengono condivisi.

It is so clear that this disconnected approach is not working.

È chiaro che questo approccio dissociato non funziona.

We have to redesign our response to this epidemic

Dobbiamo riprogrammare la nostra risposta

a questa epidemia nell'era digitale.

for the digital age.

And that's exactly what we're doing at Thorn.

Ed è esattamente ciò che stiamo facendo alla Thorn.

We're building the technology to connect these dots,

Stiamo creando la tecnologia per collegare questi punti,

to arm everyone on the front lines --

per armare tutti in prima linea,

law enforcement, NGOs and companies --

forze dell'ordine, ONG e aziende,

with the tools they need to ultimately eliminate

degli strumenti necessari a eliminare definitivamente

child sexual abuse material from the internet.

il materiale pedopornografico da internet.

Let's talk for a minute --

Parliamo per un momento.

(Applause)

(Applausi)

Thank you.

Grazie.

(Applause)

(Applausi)

Let's talk for a minute about what those dots are.

Parliamo un po' di questi punti.

As you can imagine, this content is horrific.

Come potete immaginare si tratta di contenuti orribili.

If you don't have to look at it, you don't want to look at it.

Se non si è obbligati, non si desidera guardarli.

And so, most companies or law enforcement agencies

La maggior parte delle aziende, o le forze dell'ordine,

that have this content

in possesso di questi contenuti,

can translate every file into a unique string of numbers.

possono tradurre ogni file in un'unica stringa di numeri.

This is called a "hash."

Questo si chiama "hash".

It's essentially a fingerprint

Sostanzialmente è l'impronta digitale

for each file or each video.

di ogni file e di ogni video.

And what this allows them to do is use the information in investigations

Consente di usare l'informazione nelle indagini,

or for a company to remove the content from their platform,

o a un'azienda di rimuovere contenuti dalla propria piattaforma

without having to relook at every image and every video each time.

senza dover riguardare ogni volta ogni immagine e ogni video.

The problem today, though,

Tuttavia il problema, oggi,

is that there are hundreds of millions of these hashes

è che esistono centinaia di milioni di questi hashes

sitting in siloed databases all around the world.

depositati in silos-database per tutto il mondo.

In a silo,

In un silo

it might work for the one agency that has control over it,

potrebbe funzionare per l'agenzia che ne ha il controllo,

but not connecting this data means we don't know how many are unique.

ma non collegare quei dati significa non sapere quanti sono unici.

We don't know which ones represent children who have already been rescued

Cioè non sapere quali si riferiscono a bambini che sono già stati salvati

or need to be identified still.

o che devono ancora essere identificati.

So our first, most basic premise is that all of this data

Quindi il nostro obiettivo principale

è collegare tutti questi dati.

must be connected.

There are two ways where this data, combined with software on a global scale,

Ci sono due modi in cui questi dati, combinati a un software su scala globale,

can have transformative impact in this space.

possono avere un impatto trasformativo.

The first is with law enforcement:

Il primo è aiutare le forze dell'ordine

helping them identify new victims faster,

a identificare nuove vittime più velocemente,

stopping abuse

fermare gli abusi

and stopping those producing this content.

e fermare chi produce questi contenuti.

The second is with companies:

Il secondo è per le aziende:

using it as clues to identify the hundreds of millions of files

usandolo come indizio per identificare i centinaia di milioni di file

in circulation today,

in circolazione oggi,

pulling it down

rimuovendolo

and then stopping the upload of new material before it ever goes viral.

e poi fermando l'upload di nuovo materiale ancor prima che diventi virale.

Four years ago,

Quattro anni fa,

when that case ended,

quando quel caso fu risolto,

our team sat there, and we just felt this, um ...

il nostro team stava lì, seduto, sentendo...

... deep sense of failure, is the way I can put it,

un profondo senso di sconfitta, se così si può definire,

because we watched that whole year

perché eravamo rimasti a guardare per tutto quell'anno

while they looked for her.

mentre la stavano cercando.

And we saw every place in the investigation

Avevamo seguito ogni fase dell'indagine

where, if the technology would have existed,

e se fosse esistita la tecnologia,

they would have found her faster.

avrebbero trovato la bambina più velocemente.

And so we walked away from that

E così ce ne andammo via

and we went and we did the only thing we knew how to do:

per andare a fare l'unica cosa che sapevamo fare:

we began to build software.

iniziare a sviluppare un software.

So we've started with law enforcement.

Abbiamo iniziato con le forze dell'ordine.

Our dream was an alarm bell on the desks of officers all around the world

Sognavamo un campanello d'allarme sulle scrivanie di tutti i poliziotti

so that if anyone dare post a new victim online,

cosicché non appena qualcuno avesse postato una nuova vittima online,

someone would start looking for them immediately.

qualcun altro avrebbe subito fatto partire le ricerche.

I obviously can't talk about the details of that software,

Ovviamente non posso parlare dei dettagli di quel software,

but today it's at work in 38 countries,

ma oggi è utilizzato in 38 paesi,

having reduced the time it takes to get to a child

riducendo la tempistica per ritrovare un bambino

by more than 65 percent.

di più del 65%.

(Applause)

(Applausi)

And now we're embarking on that second horizon:

E ora ci stiamo impegnando su un secondo fronte:

building the software to help companies identify and remove this content.

creare il software che aiuta le aziende a identificare e rimuovere tali contenuti.

Let's talk for a minute about these companies.

Parliamo un istante di queste aziende.

So, I told you -- 45 million images and videos in the US alone last year.

45 milioni di immagini e di video, solo negli Stati Uniti, l'anno scorso.

Those come from just 12 companies.

Provenienti soltanto da 12 aziende.

Twelve companies, 45 million files of child sexual abuse material.

12 aziende, 45 milioni di file di materiale pedopornografico

These come from those companies that have the money

proveniente da aziende che hanno denaro

to build the infrastructure that it takes to pull this content down.

per creare infrastrutture utili a eliminare questi contenuti.

But there are hundreds of other companies,

Ma ci sono centinaia di altre aziende,

small- to medium-size companies around the world,

di piccole e medie dimensioni, in tutto il mondo,

that need to do this work,

che dovrebbero fare questo lavoro, ma che:

but they either: 1) can't imagine that their platform would be used for abuse,

1) non immaginano che la loro piattaforma venga utilizzata per attuare abusi,

or 2) don't have the money to spend on something that is not driving revenue.

2) non hanno denaro da spendere su qualcosa che non produca entrate.

So we went ahead and built it for them,

Ci siamo impegnati e l'abbiamo fatto per loro,

and this system now gets smarter with the more companies that participate.

e con l'aumento di aziende che aderiscono il sistema è sempre più intelligente.

Let me give you an example.

Vi faccio un esempio.

Our first partner, Imgur -- if you haven't heard of this company,

Il nostro primo partner, Imgur -- se non conoscete questa azienda,

it's one of the most visited websites in the US --

è uno dei siti web più visitato negli Stati Uniti,

millions of pieces of user-generated content uploaded every single day,

milioni di contenuti generati e caricati ogni giorno dagli utenti

in a mission to make the internet a more fun place.

con lo scopo di rendere internet un luogo più divertente --

They partnered with us first.

si sono associati a noi.

Within 20 minutes of going live on our system,

Entro 20 minuti di utilizzo del nostro sistema,

someone tried to upload a known piece of abuse material.

qualcuno aveva cercato di caricare materiale pedopornografico.

They were able to stop it, they pull it down,

Hanno potuto fermarlo, rimuoverlo

they report it to the National Center for Missing and Exploited Children.

e denunciarlo al Centro Nazionale per bambini scomparsi e abusati.

But they went a step further,

Ma sono andati oltre,

and they went and inspected the account of the person who had uploaded it.

hanno anche controllato l'account della persona che lo aveva caricato.

Hundreds more pieces of child sexual abuse material

Altre centinaia di contenuti pedopornografici

that we had never seen.

che non avevamo mai visto.

And this is where we start to see exponential impact.

Ed è qui che cominciamo a vedere l'impatto esponenziale.

We pull that material down,

Rimuoviamo quel materiale,

it gets reported to the National Center for Missing and Exploited Children

lo denunciamo al Centro Nazionale per i bambini scomparsi e abusati,

and then those hashes go back into the system

poi quegli hashes rientrano nel sistema

and benefit every other company on it.

a beneficio di tutte le altre aziende.

And when the millions of hashes we have lead to millions more and, in real time,

Se raggiungeremo ancora più milioni di hashes e, in tempo reale,

companies around the world are identifying and pulling this content down,

le compagnie identificano e rimuovono quei contenuti,

we will have dramatically increased the speed at which we are removing

aumenteremo drasticamente la velocità di eliminazione

child sexual abuse material from the internet around the world.

di materiale pedopornografico da internet, in tutto il mondo.

(Applause)

(Applausi)

But this is why it can't just be about software and data,

Per questo motivo non si tratta solo di software e dati,

it has to be about scale.

ma deve essere fatto su larga scala.

We have to activate thousands of officers,

Dobbiamo attivare migliaia di agenti,

hundreds of companies around the world

centinaia di aziende in tutto il mondo,

if technology will allow us to outrun the perpetrators

se la tecnologia ci permetterà di essere più veloci dei colpevoli,

and dismantle the communities that are normalizing child sexual abuse

e di smantellare le comunità che perpetrano abusi sui minori

around the world today.

in tutto il mondo.

And the time to do this is now.

E il momento per farlo è ora.

We can no longer say we don't know the impact this is having on our children.

Non possiamo più dire di non sapere qual è l'impatto sui nostri bambini.

The first generation of children whose abuse has gone viral

La prima generazione di bambini il cui abuso è diventato virale

are now young adults.

sono oggi dei giovani adulti.

The Canadian Centre for Child Protection

Il Centro canadese per la protezione dei bambini

just did a recent study of these young adults

ha recentemente condotto uno studio su questi giovani

to understand the unique trauma they try to recover from,

per comprendere il trauma dal quale cercano di riprendersi,

knowing that their abuse lives on.

sapendo che il loro abuso continua a vivere.

Eighty percent of these young adults have thought about suicide.

L'80% di questi giovani adulti ha pensato al suicidio.

More than 60 percent have attempted suicide.

Più del 60% ha tentato il suicidio.

And most of them live with the fear every single day

E la maggior parte di loro vive ogni giorno con la paura

that as they walk down the street or they interview for a job

che mentre cammina per strada o fa un colloquio di lavoro

or they go to school

o va a scuola

or they meet someone online,

o conosce qualcuno online,

that that person has seen their abuse.

quella persona possa aver visto il suo abuso.

And the reality came true for more than 30 percent of them.

E ciò si verifica in più del 30% di loro.

They had been recognized from their abuse material online.

Riconosciuti a causa del materiale sul loro abuso che circola online.

This is not going to be easy,

Non sarà facile,

but it is not impossible.

ma nemmeno impossibile.

Now it's going to take the will,

Ora serve la volontà,

the will of our society

la volontà della nostra società

to look at something that is really hard to look at,

di guardare a qualcosa veramente difficile da guardare,

to take something out of the darkness

di tirar fuori dall'oscurità qualcosa

so these kids have a voice;

che dia voce a questi bambini;

the will of companies to take action and make sure that their platforms

la volontà delle aziende di agire e assicurarsi che le loro piattaforme

are not complicit in the abuse of a child;

non siano complici di abusi su minori;

the will of governments to invest with their law enforcement

la volontà dei governi di investire sulle forze dell'ordine,

for the tools they need to investigate a digital first crime,

fornendo gli strumenti necessari per indagare su un primo reato digitale,

even when the victims cannot speak for themselves.

anche quando le vittime non possono parlare per sé.

This audacious commitment is part of that will.

Questo impegno audace fa parte di quella volontà.

It's a declaration of war against one of humanity's darkest evils.

È una dichiarazione di guerra contro uno dei mali più oscuri dell'umanità.

But what I hang on to

Ma quello a cui tengo di più

is that it's actually an investment in a future

è che sia davvero un investimento, in un futuro

where every child can simply be a kid.

in cui ogni bambino possa semplicemente essere un bambino.

Thank you.

Grazie.

(Applause)

(Applausi)