How we can eliminate child sexual abuse material from the internet | Julie Cordua

Tradutor: Margarida Ferreira Revisora: Joana Rodrigues

[This talk contains mature content]

[Esta palestra contém conteúdo para adultos]

Five years ago,

Há cinco anos,

I received a phone call that would change my life.

recebi uma chamada que ia alterar a minha vida.

I remember so vividly that day.

Lembro-me desse dia como se fosse hoje.

It was about this time of year,

Foi mais ou menos nesta atura do ano.

and I was sitting in my office.

Eu estava no meu escritório.

I remember the sun streaming through the window.

Recordo que o sol brilhava através da janela.

And my phone rang.

O telefone tocou.

And I picked it up,

Atendi

and it was two federal agents, asking for my help

e eram dois agentes federais a pedir-me ajuda

in identifying a little girl

para identificarem uma rapariguinha

featured in hundreds of child sexual abuse images they had found online.

encontrada em centenas de imagens de abuso sexual de menores

que tinham encontrado na Internet.

They had just started working the case,

Tinham começado a trabalhar nesse caso

but what they knew

mas só sabiam

was that her abuse had been broadcast to the world for years

que o abuso tinha sido transmitido ao mundo, durante anos,

on dark web sites dedicated to the sexual abuse of children.

em sítios da "darknet" dedicados ao abuso sexual de menores.

And her abuser was incredibly technologically sophisticated:

O agressor era extremamente sofisticado tecnologicamente:

new images and new videos every few weeks,

novas imagens e novos vídeos quase todas as semanas

but very few clues as to who she was

mas muito poucas pistas para se saber quem ela era

or where she was.

ou onde se encontrava.

And so they called us,

Por isso, contactaram-nos

because they had heard we were a new nonprofit

porque sabiam que éramos uma organização sem fins lucrativos,

building technology to fight child sexual abuse.

que criávamos tecnologia para combater o abuso sexual de menores.

But we were only two years old,

Mas só existíamos há dois anos

and we had only worked on child sex trafficking.

e só tínhamos trabalhado com tráfico sexual de menores.

And I had to tell them

Tive de lhes dizer que não tínhamos nada.

we had nothing.

We had nothing that could help them stop this abuse.

Não tínhamos nada que pudesse ajudá-los a pôr fim àquele abuso.

It took those agents another year

Aqueles agentes demoraram mais um ano

to ultimately find that child.

até conseguirem encontrar aquela criança.

And by the time she was rescued,

Na altura em que ela foi resgatada,

hundreds of images and videos documenting her rape had gone viral,

centenas de imagens e de vídeos

exibindo a violação dela tinham-se tornado virais,

from the dark web

passando da "dark web"

to peer-to-peer networks, private chat rooms

para redes de cúmplices, salas de conversa privadas

and to the websites you and I use

e para "websites" que todos usamos

every single day.

todos os dias.

And today, as she struggles to recover,

Hoje, enquanto se debate para recuperar,

she lives with the fact that thousands around the world

ela vive sabendo que milhares de pessoas, no mundo inteiro,

continue to watch her abuse.

continuam a assistir à sua violação.

I have come to learn in the last five years

Vim a saber, nos últimos cinco anos,

that this case is far from unique.

que este caso está longe de ser único.

How did we get here as a society?

Como é que a nossa sociedade chegou a este ponto?

In the late 1980s, child pornography --

No final dos anos 80, a pornografia infantil

or what it actually is, child sexual abuse material --

— ou, o que é realmente material de abuso sexual de menores —

was nearly eliminated.

foi quase eliminada.

New laws and increased prosecutions made it simply too risky

Novas leis e o aumento de processos tornaram-na demasiado arriscada

to trade it through the mail.

para ser divulgada por correio.

And then came the internet, and the market exploded.

Depois, apareceu a Internet e o mercado explodiu.

The amount of content in circulation today

A quantidade de conteúdos que circulam atualmente

is massive and growing.

é enorme e está a aumentar.

This is a truly global problem,

É, de facto, um problema mundial

but if we just look at the US:

mas se olharmos só para os EUA,

in the US alone last year,

nos EUA, apenas no ano passado,

more than 45 million images and videos of child sexual abuse material

mais de 45 milhões de imagens e vídeos de materiais de abuso sexual de menores

were reported to the National Center for Missing and Exploited Children,

foram denunciados ao Centro Nacional de Crianças Desaparecidas e Exploradas

and that is nearly double the amount the year prior.

e isso é quase o dobro do número do ano anterior.

And the details behind these numbers are hard to contemplate,

Os pormenores por detrás destes números são difíceis de contemplar.

with more than 60 percent of the images featuring children younger than 12,

Mais de 60% das imagens apresentam crianças com menos de 12 anos,

and most of them including extreme acts of sexual violence.

a maioria das quais incluindo atos extremos de violência sexual.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Os agressores são encorajados

nas salas de conversa dedicados ao abuso das crianças,

where they gain rank and notoriety

onde ganham estatuto e notoriedade

with more abuse and more victims.

com mais abusos e mais vítimas.

In this market,

Neste mercado,

the currency has become the content itself.

a moeda é o próprio conteúdo.

It's clear that abusers have been quick to leverage new technologies,

É óbvio que os agressores rapidamente tiraram partido das tecnologias.

but our response as a society has not.

mas a nossa reação, enquanto sociedade, não fez o mesmo.

These abusers don't read user agreements of websites,

Estes abusadores não leem os acordos dos utilizadores dos "websites"

and the content doesn't honor geographic boundaries.

e os conteúdos não respeitam as fronteiras geográficas.

And they win when we look at one piece of the puzzle at a time,

Ficam a ganhar quando observamos uma peça do "puzzle" de cada vez.

which is exactly how our response today is designed.

É exatamente assim que a nossa resposta está hoje concebida.

Law enforcement works in one jurisdiction.

As forças de aplicação da lei trabalham dentro de cada jurisdição.

Companies look at just their platform.

As empresas só olham para a sua plataforma.

And whatever data they learn along the way

Quaisquer dados que encontrem pelo caminho

is rarely shared.

raramente são partilhados.

It is so clear that this disconnected approach is not working.

É nítido que esta abordagem desligada não funciona.

We have to redesign our response to this epidemic

Temos de refazer a nossa resposta a esta epidemia

for the digital age.

da era digital.

And that's exactly what we're doing at Thorn.

É isso que estamos a fazer em Thorn.

We're building the technology to connect these dots,

Estamos a criar a tecnologia para ligar estes pontos,

to arm everyone on the front lines --

para dotar todos os da primeira linha

law enforcement, NGOs and companies --

— forças da lei, ONG e empresas —

with the tools they need to ultimately eliminate

com as ferramentas de que precisam para conseguirmos eliminar da Internet

child sexual abuse material from the internet.

os materiais de abuso sexual de menores.

Let's talk for a minute --

Vejamos por momentos...

(Applause)

(Aplausos)

Thank you.

Obrigada.

(Applause)

(Aplausos)

Let's talk for a minute about what those dots are.

Falemos, por instantes, do que são esses pontos.

As you can imagine, this content is horrific.

Como podem imaginar, estes conteúdos são terríveis.

If you don't have to look at it, you don't want to look at it.

Se não formos obrigados a vê-los, não queremos vê-los.

And so, most companies or law enforcement agencies

Assim, a maioria das empresas ou as agências de aplicação da lei

that have this content

que têm acesso a estes conteúdos

can translate every file into a unique string of numbers.

podem traduzir todos os ficheiros numa única fiada de números.

This is called a "hash."

Chama-se a isso um "hash".

It's essentially a fingerprint

É essencialmente, uma impressão digital

for each file or each video.

para cada ficheiro ou para cada vídeo.

And what this allows them to do is use the information in investigations

Isso permite-lhes utilizar as informações nas investigações

or for a company to remove the content from their platform,

ou, no caso duma empresa, retirar o conteúdo da sua plataforma,

without having to relook at every image and every video each time.

sem ter de estar sempre a ver as imagens e os vídeos.

The problem today, though,

Mas o problema, atualmente,

is that there are hundreds of millions of these hashes

é que há centenas de milhões desses "hashes"

sitting in siloed databases all around the world.

armazenados em bases de dados pelo mundo inteiro.

In a silo,

Essas bases de dados

it might work for the one agency that has control over it,

podem funcionar para uma agência que tenha controlo sobre elas

but not connecting this data means we don't know how many are unique.

mas, sem se relacionarem esses dados, não sabemos quantos deles são únicos.

We don't know which ones represent children who have already been rescued

Não sabemos quais representam crianças que já foram resgatadas

or need to be identified still.

ou quais as que ainda precisam de ser identificadas.

So our first, most basic premise is that all of this data

Portanto, a nossa premissa de base

é que todos esses dados têm de ser interligados.

must be connected.

There are two ways where this data, combined with software on a global scale,

Há duas formas em que estes dados,

combinados com um "software" à escala global,

can have transformative impact in this space.

podem ter um impacto transformador neste espaço,

The first is with law enforcement:

A primeira é para a polícia,

helping them identify new victims faster,

ajudando-os a identificar novas vítimas mais rapidamente,

stopping abuse

acabando com o abuso

and stopping those producing this content.

e bloqueando os criadores desses conteúdos.

The second is with companies:

A segunda é para as empresas:

using it as clues to identify the hundreds of millions of files

usando esses dados como pistas para identificar os milhões de ficheiros

in circulation today,

que estão atualmente em circulação,

pulling it down

retirando-os

and then stopping the upload of new material before it ever goes viral.

e impedindo o "upload" de novos materiais antes de eles se tornarem virais.

Four years ago,

Há quatro anos,

when that case ended,

quando aquele caso terminou,

our team sat there, and we just felt this, um ...

a nossa equipa reuniu-se e sentimos...

... deep sense of failure, is the way I can put it,

uma profunda sensação de fracasso — é a única forma de o descrever —

because we watched that whole year

porque andámos a ver aquilo durante um ano

while they looked for her.

enquanto andavam à procura dela.

And we saw every place in the investigation

Vimos todos os locais na investigação

where, if the technology would have existed,

em que, se existisse a tecnologia,

they would have found her faster.

eles tê-la-iam encontrado mais depressa.

And so we walked away from that

Assim, afastámo-nos daquilo

and we went and we did the only thing we knew how to do:

e fizemos a única coisa que sabíamos fazer:

we began to build software.

começámos a criar um "software".

So we've started with law enforcement.

Começámos com as forças da lei

Our dream was an alarm bell on the desks of officers all around the world

Sonhávamos com um alarme nas secretárias dos agentes policiais

do mundo inteiro

so that if anyone dare post a new victim online,

para que, se alguém ousasse publicar na Internet uma nova vítima,

someone would start looking for them immediately.

alguém começasse imediatamente a procurá-la.

I obviously can't talk about the details of that software,

Obviamente, não posso falar dos pormenores desse "software"

but today it's at work in 38 countries,

mas já está a funcionar em 38 países

having reduced the time it takes to get to a child

e já reduziu o tempo que demora a encontrar uma criança

by more than 65 percent.

em mais de 65%.

(Applause)

(Aplausos)

And now we're embarking on that second horizon:

Agora estamos a entrar num segundo horizonte:

building the software to help companies identify and remove this content.

a criar um "software" para ajudar as empresas

a identificar e suprimir esses conteúdos.

Let's talk for a minute about these companies.

Falemos por instantes destas empresas.

So, I told you -- 45 million images and videos in the US alone last year.

Eu já disse — 45 milhões de imagens e vídeos, só nos EUA, no ano passado.

Those come from just 12 companies.

Provêm apenas de 12 empresas.

Twelve companies, 45 million files of child sexual abuse material.

Doze empresas, 45 milhões de ficheiros de materiais de abuso sexual de menores.

These come from those companies that have the money

Provêm de empresas que têm dinheiro

to build the infrastructure that it takes to pull this content down.

para criar as infraestruturas necessárias para acabar com esses conteúdos.

But there are hundreds of other companies,

Mas também há centenas de outras empresas

small- to medium-size companies around the world,

empresas pequenas e médias pelo mundo inteiro

that need to do this work,

que precisam de fazer esse trabalho,

but they either: 1) can't imagine that their platform would be used for abuse,

mas ou 1) não imaginam que a sua plataforma é usada para abusos,

or 2) don't have the money to spend on something that is not driving revenue.

ou 2) não têm dinheiro para gastar numa coisa que não lhes traz lucros.

So we went ahead and built it for them,

Assim, tomámos a iniciativa de criar um "software" para elas.

and this system now gets smarter with the more companies that participate.

Este sistema agora está mais inteligente com mais empresas a participar.

Let me give you an example.

Vou dar-vos um exemplo.

Our first partner, Imgur -- if you haven't heard of this company,

O nosso primeiro parceiro, Imgur

— um dos "websites" mais visitados nos EUA —

it's one of the most visited websites in the US --

millions of pieces of user-generated content uploaded every single day,

milhões de conteúdos criados pelos utilizadores, todos os dias,

in a mission to make the internet a more fun place.

com o intuito de tornar a Internet um sítio mais divertido.

Foram os primeiros a fazer parceria connosco.

They partnered with us first.

Within 20 minutes of going live on our system,

Ao fim de 20 minutos de utilizarem o nosso sistema,

someone tried to upload a known piece of abuse material.

alguém tentou publicar uma conhecida peça de material abusivo.

They were able to stop it, they pull it down,

Conseguiram detê-lo, suprimiram-no,

they report it to the National Center for Missing and Exploited Children.

denunciaram-no ao Centro Nacional de Crianças Desaparecidas e Exploradas.

But they went a step further,

Mas foram mais longe.

and they went and inspected the account of the person who had uploaded it.

Inspecionaram a conta da pessoa que o tinha publicado.

Hundreds more pieces of child sexual abuse material

Centenas de outras peças de materiais de abuso sexual de crianças

that we had never seen.

que nunca tínhamos visto.

And this is where we start to see exponential impact.

Foi aí que começámos a ver um impacto exponencial.

We pull that material down,

Retirámos esses materiais.

it gets reported to the National Center for Missing and Exploited Children

Denunciámos ao Centro Nacional de Crianças Desaparecidas e Exploradas.

and then those hashes go back into the system

e depois, esses "hashes" entram no sistema

and benefit every other company on it.

e beneficiam todas as outras empresas.

And when the millions of hashes we have lead to millions more and, in real time,

Quando os milhões de "hashes" que temos levem a mais milhões e, em tempo real,

companies around the world are identifying and pulling this content down,

as empresas do mundo inteiro identifiquem e retirem esses conteúdos,

we will have dramatically increased the speed at which we are removing

teremos aumentado drasticamente a rapidez com que estamos a remover

child sexual abuse material from the internet around the world.

materiais de abuso sexual de menores da Internet de todo o mundo.

(Applause)

(Aplausos)

But this is why it can't just be about software and data,

Mas é por isso que não podemos ficar apenas com "software" e dados,

it has to be about scale.

tem de ser uma questão de escala.

We have to activate thousands of officers,

Temos de ativar milhares de agentes policiais,

hundreds of companies around the world

centenas de empresas por todo o mundo,

if technology will allow us to outrun the perpetrators

se a tecnologia nos permitir, para nos adiantarmos aos perpetradores

and dismantle the communities that are normalizing child sexual abuse

e desmantelarmos as redes que normalizam o abuso sexual de menores,

around the world today.

atualmente, no mundo inteiro.

And the time to do this is now.

A altura para fazer isso é agora.

We can no longer say we don't know the impact this is having on our children.

Não podemos continuar a dizer

que não sabemos o impacto que isto tem nas crianças.

The first generation of children whose abuse has gone viral

A primeira geração de crianças cujo abuso se tornou viral

are now young adults.

já é hoje uma geração de jovens adultos.

The Canadian Centre for Child Protection

O Centro Canadiano para Proteção de Crianças

just did a recent study of these young adults

fez recentemente um estudo desses jovens adultos

to understand the unique trauma they try to recover from,

para perceber o trauma único de que tentam recuperar,

knowing that their abuse lives on.

sabendo que o abuso deles continua vivo.

Eighty percent of these young adults have thought about suicide.

80% destes jovens adultos já pensaram em suicídio.

More than 60 percent have attempted suicide.

Mais de 60% tentaram suicidar-se.

And most of them live with the fear every single day

E a maioria deles vive com o medo, todos os dias,

that as they walk down the street or they interview for a job

de que, quando vão pela rua, ou são entrevistados para um emprego

or they go to school

ou vão para a escola,

or they meet someone online,

ou encontrem alguém na Internet,

that that person has seen their abuse.

encontrem uma pessoa que tenha visto esse abuso.

And the reality came true for more than 30 percent of them.

Na realidade, isso acontece a mais de 30% deles.

They had been recognized from their abuse material online.

São reconhecidos a partir do material de abuso na Internet.

This is not going to be easy,

Isto não vai ser fácil

but it is not impossible.

mas não é impossível.

Now it's going to take the will,

É preciso ter vontade,

the will of our society

a vontade da nossa sociedade

to look at something that is really hard to look at,

para olhar para uma coisa que é difícil de ver,

to take something out of the darkness

para tirar uma coisa das trevas

so these kids have a voice;

para que estes miúdos tenham uma voz;

the will of companies to take action and make sure that their platforms

a vontade das empresas de agir e de assegurar que as suas plataformas

are not complicit in the abuse of a child;

não são cúmplices no abuso duma criança;

the will of governments to invest with their law enforcement

a vontade dos governos de investir nas forças da aplicação da lei

for the tools they need to investigate a digital first crime,

para terem as ferramentas de que precisam para investigar o crime digital,

even when the victims cannot speak for themselves.

mesmo quando as vítimas não podem falar por si mesmas.

This audacious commitment is part of that will.

Este compromisso audacioso faz parte dessa vontade.

It's a declaration of war against one of humanity's darkest evils.

É uma declaração de guerra contra um dos piores males da humanidade.

But what I hang on to

Mas eu acredito plenamente

is that it's actually an investment in a future

que é um investimento num futuro

where every child can simply be a kid.

em que todas as crianças possam ser apenas uma criança.

Thank you.

Obrigada.

(Applause)

(Aplausos)