How we can eliminate child sexual abuse material from the internet | Julie Cordua

Tradutor: Maricene Crus Revisor: Claudia Sander

[This talk contains mature content]

[Esta palestra apresenta conteúdo adulto]

Five years ago,

Há cinco anos,

I received a phone call that would change my life.

recebi um telefonema que mudaria a minha vida.

I remember so vividly that day.

Lembro-me muito bem daquele dia.

It was about this time of year,

Foi por volta dessa época do ano,

and I was sitting in my office.

e eu estava no meu escritório.

I remember the sun streaming through the window.

Lembro-me do sol entrando pela janela.

And my phone rang.

E meu telefone tocou.

And I picked it up,

Eu atendi,

and it was two federal agents, asking for my help

e eram dois agentes federais pedindo a minha ajuda

in identifying a little girl

para identificar uma garotinha

featured in hundreds of child sexual abuse images they had found online.

que aparecia em centenas de fotos de abuso sexual infantil

que eles haviam encontrado on-line.

Tinham apenas começado a trabalhar no caso,

They had just started working the case,

but what they knew

mas o que eles sabiam

was that her abuse had been broadcast to the world for years

é que o abuso dela havia sido transmitido ao mundo todo por anos

on dark web sites dedicated to the sexual abuse of children.

em sites da "dark web" dedicados ao abuso sexual de crianças.

And her abuser was incredibly technologically sophisticated:

E o abusador dela tinha um conhecimento tecnológico incrivelmente sofisticado:

novas imagens e vídeos publicados a cada poucas semanas,

new images and new videos every few weeks,

but very few clues as to who she was

mas quase nenhuma pista de quem ela era

or where she was.

ou do paradeiro dela.

And so they called us,

Eles nos ligaram,

because they had heard we were a new nonprofit

pois ouviram dizer que éramos uma nova organização sem fins lucrativos

building technology to fight child sexual abuse.

desenvolvendo tecnologia para combater o abuso sexual infantil.

But we were only two years old,

Mas existíamos há apenas dois anos,

and we had only worked on child sex trafficking.

e tínhamos trabalho apenas com o tráfico de sexo infantil.

And I had to tell them

Eu tive que dizer a eles

we had nothing.

que não tínhamos nada.

We had nothing that could help them stop this abuse.

Nada que pudesse ajudá-los a impedir esse tipo de abuso.

It took those agents another year

Aqueles agentes levaram mais um ano

to ultimately find that child.

para finalmente encontrar aquela criança.

And by the time she was rescued,

E quando ela foi resgatada,

hundreds of images and videos documenting her rape had gone viral,

centenas de imagens e vídeos documentando o estupro dela haviam viralizado,

from the dark web

vindos da dark web

to peer-to-peer networks, private chat rooms

para redes ponto-a-ponto, salas de bate-papo particulares

and to the websites you and I use

e para websites que todos nós usamos

every single day.

todo santo dia.

And today, as she struggles to recover,

E hoje, enquanto luta pra se recuperar,

she lives with the fact that thousands around the world

ela vive com a certeza de que milhares de pessoas mundo afora

continue to watch her abuse.

continuam a assistir ao abuso dela.

I have come to learn in the last five years

Acabei descobrindo nos últimos cinco anos

that this case is far from unique.

que esse caso está longe de ser o único.

How did we get here as a society?

Como chegamos a esse ponto como sociedade?

In the late 1980s, child pornography --

No final da década de 1980, a pornografia infantil

or what it actually is, child sexual abuse material --

ou o que é, na verdade, material de abuso sexual de crianças,

was nearly eliminated.

tinha quase sido eliminado.

New laws and increased prosecutions made it simply too risky

Novas leis e o aumento de processos judiciais tornaram muito arriscado

to trade it through the mail.

o comércio pelo correio convencional.

And then came the internet, and the market exploded.

Até que surgiu a internet e esse mercado explodiu.

The amount of content in circulation today

A quantidade de material em circulação atualmente

is massive and growing.

é enorme e vem crescendo.

This is a truly global problem,

É um problema verdadeiramente global,

but if we just look at the US:

mas se analisarmos apenas os EUA:

in the US alone last year,

somente no último ano,

more than 45 million images and videos of child sexual abuse material

mais de 45 milhões de imagens e vídeos contendo abuso sexual de crianças

were reported to the National Center for Missing and Exploited Children,

foram reportados ao Centro Nacional de Crianças Desaparecidas e Exploradas,

and that is nearly double the amount the year prior.

e isso é quase o dobro do número do ano anterior.

And the details behind these numbers are hard to contemplate,

E é difícil considerar os detalhes por trás desses números,

with more than 60 percent of the images featuring children younger than 12,

com mais de 60% das imagens mostrando crianças menores de 12 anos,

and most of them including extreme acts of sexual violence.

e a maioria dessas imagens incluindo atos de extrema violência sexual.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Abusadores são aclamados em salas de bate-papo

dedicadas ao abuso de crianças,

where they gain rank and notoriety

e eles ganham posição e notoriedade com mais abuso e mais vítimas.

with more abuse and more victims.

In this market,

Nesse mercado,

the currency has become the content itself.

a moeda tornou-se o próprio conteúdo.

Fica claro que os abusadores têm sido rápidos ao alavancar novas tecnologias,

It's clear that abusers have been quick to leverage new technologies,

but our response as a society has not.

mas nossa resposta como sociedade, não.

These abusers don't read user agreements of websites,

Esses abusadores não leem contratos de usuário dos sites,

and the content doesn't honor geographic boundaries.

e o conteúdo não respeita limites geográficos.

And they win when we look at one piece of the puzzle at a time,

E eles vencem quando analisamos uma peça do quebra-cabeça de cada vez,

which is exactly how our response today is designed.

que é exatamente como nossa resposta está projetada atualmente.

Law enforcement works in one jurisdiction.

A aplicação da lei funciona em uma jurisdição.

Companies look at just their platform.

As empresas apenas observam sua própria plataforma.

And whatever data they learn along the way

E quaisquer dados descobertos ao longo do caminho

is rarely shared.

raramente são compartilhados.

It is so clear that this disconnected approach is not working.

Fica muito claro que essa abordagem desconectada não está funcionando.

We have to redesign our response to this epidemic

Devemos redesenhar nossa resposta a essa epidemia

for the digital age.

para a era digital.

And that's exactly what we're doing at Thorn.

E é exatamente isso que fazemos na Thorn.

We're building the technology to connect these dots,

Estamos construindo a tecnologia que irá conectar esses pontos

to arm everyone on the front lines --

e irá munir todos na linha de frente,

law enforcement, NGOs and companies --

autoridades policiais, ONGs e empresas,

com as ferramentas que precisam para finalmente eliminar da internet

with the tools they need to ultimately eliminate

child sexual abuse material from the internet.

todo o material de abuso sexual infantil.

Let's talk for a minute --

Vou falar um pouco...

(Applause)

(Aplausos)

Thank you.

Obrigada.

(Applause)

(Aplausos)

Let's talk for a minute about what those dots are.

Vou falar por um minuto sobre quais são esses pontos.

As you can imagine, this content is horrific.

Como podem imaginar, esse conteúdo é horrível.

If you don't have to look at it, you don't want to look at it.

Se não "precisa" olhar para isso, você simplesmente não quer olhar.

And so, most companies or law enforcement agencies

Sendo assim,

a maioria das agências de autoridades detentoras desse conteúdo

that have this content

pode traduzir todos os arquivos numa única sequência numérica.

can translate every file into a unique string of numbers.

This is called a "hash."

Isso é chamado de "hash".

É basicamente uma impressão digital

It's essentially a fingerprint

for each file or each video.

para cada arquivo ou vídeo.

And what this allows them to do is use the information in investigations

E isso permite que eles usem as informações nas investigações

or for a company to remove the content from their platform,

ou que uma empresa remova o conteúdo da plataforma dela,

without having to relook at every image and every video each time.

sem precisar analisar cada imagem e vídeo toda vez.

The problem today, though,

O problema hoje em dia, no entanto,

is that there are hundreds of millions of these hashes

é que existem centenas de milhões desses hashes

sitting in siloed databases all around the world.

em bancos de dados isolados em todo o mundo.

In a silo,

Num silo, podem funcionar para a agência que exerce controle sobre eles,

it might work for the one agency that has control over it,

but not connecting this data means we don't know how many are unique.

mas não conectar esses dados significa não sabermos quantos deles são únicos.

We don't know which ones represent children who have already been rescued

Não sabemos quais representam crianças que já foram resgatadas

or need to be identified still.

ou que ainda precisam ser identificadas.

So our first, most basic premise is that all of this data

Nossa premissa mais urgente e básica é a de que todos esses dados

must be connected.

devem estar conectados.

There are two ways where this data, combined with software on a global scale,

Há duas maneiras nas quais esses dados, combinados com software em escala global,

can have transformative impact in this space.

podem causar um impacto transformador nesta área.

The first is with law enforcement:

O primeiro é com as autoridades policiais:

helping them identify new victims faster,

ajudando-as a identificar novas vítimas mais rapidamente,

stopping abuse

impedindo o abuso

and stopping those producing this content.

bem como aqueles que produzem esse conteúdo.

The second is with companies:

O segundo é com as empresas:

using it as clues to identify the hundreds of millions of files

usando-os como pistas para identificar as centenas de milhões de arquivos

in circulation today,

em circulação hoje,

pulling it down

retirá-los do ar

and then stopping the upload of new material before it ever goes viral.

e depois impedir o upload de novo material antes mesmo que ele viralize.

Four years ago,

Há quatro anos,

when that case ended,

quando aquele caso foi encerrado,

our team sat there, and we just felt this, um ...

nossa equipe conversou e sentimos...

... deep sense of failure, is the way I can put it,

uma profunda sensação de fracasso, é como posso expressar isso,

because we watched that whole year

porque acompanhamos o ano inteiro

while they looked for her.

enquanto eles a procuravam.

And we saw every place in the investigation

E vimos todos os lugares na investigação

where, if the technology would have existed,

onde, se tivéssemos a tecnologia na época, eles a teriam encontrado mais rapidamente.

they would have found her faster.

And so we walked away from that

E, então, nos afastamos do caso

and we went and we did the only thing we knew how to do:

e fizemos o que sabíamos fazer:

we began to build software.

passamos a construir software.

So we've started with law enforcement.

Começamos com as autoridades policiais.

Our dream was an alarm bell on the desks of officers all around the world

Nosso sonho era um alarme nas mesas de agentes por todo o mundo

so that if anyone dare post a new victim online,

para que, caso alguém se atrevesse a publicar uma nova vítima on-line,

someone would start looking for them immediately.

alguém passaria a procurar pelo infrator imediatamente.

I obviously can't talk about the details of that software,

Obviamente não posso falar sobre os detalhes desse software,

but today it's at work in 38 countries,

mas hoje está em operação em 38 países,

having reduced the time it takes to get to a child

tendo reduzido o tempo que se leva para chegar a uma criança

by more than 65 percent.

em mais de 65%.

(Applause)

(Aplausos)

And now we're embarking on that second horizon:

E agora estamos embarcando neste segundo horizonte:

building the software to help companies identify and remove this content.

construindo o software pra ajudar empresas a identificar e remover este conteúdo.

Let's talk for a minute about these companies.

Vou falar brevemente sobre essas empresas.

So, I told you -- 45 million images and videos in the US alone last year.

Como eu disse, foram 45 milhões de imagens e vídeos somente nos EUA no ano passado,

Those come from just 12 companies.

provenientes de apenas 12 empresas.

Twelve companies, 45 million files of child sexual abuse material.

Doze empresas, 45 milhões de arquivos de material com abuso sexual infantil.

These come from those companies that have the money

Eles vêm das empresas que têm dinheiro

to build the infrastructure that it takes to pull this content down.

para construir a infraestrutura necessária para retirar esse conteúdo.

But there are hundreds of other companies,

Mas há centenas de outras empresas,

small- to medium-size companies around the world,

pequenas e médias, em todo o mundo, que precisam fazer esse trabalho,

that need to do this work,

but they either: 1) can't imagine that their platform would be used for abuse,

mas ou elas não imaginam que a plataforma delas seria usada para o abuso,

or 2) don't have the money to spend on something that is not driving revenue.

ou não têm dinheiro para gastar em algo que não esteja gerando receita.

So we went ahead and built it for them,

Então construímos o software para elas,

and this system now gets smarter with the more companies that participate.

e esse sistema agora fica mais inteligente com a participação de mais empresas.

Let me give you an example.

Vou dar um exemplo.

Our first partner, Imgur -- if you haven't heard of this company,

Nosso primeiro parceiro, Imgur:

se não ouviram falar dessa empresa, é um dos sites mais visitados nos EUA,

it's one of the most visited websites in the US --

millions of pieces of user-generated content uploaded every single day,

milhões de exemplos de conteúdo criados por usuários enviados diariamente,

in a mission to make the internet a more fun place.

com a missão de tornar a internet mais divertida.

Eles fizeram parceria conosco primeiro.

They partnered with us first.

Within 20 minutes of going live on our system,

Após 20 minutos de operação do nosso sistema,

someone tried to upload a known piece of abuse material.

alguém tentou fazer o upload de material de abuso já conhecido.

They were able to stop it, they pull it down,

Conseguiram impedir o upload, retirar o conteúdo,

they report it to the National Center for Missing and Exploited Children.

e denunciá-lo ao Centro Nacional de Crianças Desaparecidas e Exploradas.

But they went a step further,

Mas o site deu um passo adiante,

and they went and inspected the account of the person who had uploaded it.

e eles inspecionaram a conta da pessoa que fez o upload.

Hundreds more pieces of child sexual abuse material

Havia centenas de outros exemplos de material de abuso sexual infantil

that we had never seen.

que nunca tínhamos visto.

E é aqui que começamos a ver um impacto exponencial.

And this is where we start to see exponential impact.

We pull that material down,

Nós retiramos esse material,

it gets reported to the National Center for Missing and Exploited Children

ele é relatado ao Centro Nacional de Crianças Desaparecidas e Exploradas

e então esses hashes voltam para o sistema e beneficiam as outras empresas nele.

and then those hashes go back into the system

and benefit every other company on it.

And when the millions of hashes we have lead to millions more and, in real time,

E quando os milhões de hashes que temos levarem a milhões a mais e, em tempo real,

companies around the world are identifying and pulling this content down,

empresas mundo afora identificarem e retirarem esse conteúdo,

we will have dramatically increased the speed at which we are removing

teremos aumentado drasticamente a velocidade com a qual removemos

child sexual abuse material from the internet around the world.

material de abuso sexual infantil da internet em todo o mundo.

(Applause)

(Aplausos)

But this is why it can't just be about software and data,

Mas é por isso que não pode ter a ver apenas com software e dados,

it has to be about scale.

e sim com larga escala.

We have to activate thousands of officers,

Precisamos ativar milhares de agentes,

hundreds of companies around the world

centenas de empresas em todo o mundo,

if technology will allow us to outrun the perpetrators

se a tecnologia nos permitir ultrapassar os infratores

and dismantle the communities that are normalizing child sexual abuse

e desmantelar as comunidades que normalizam o abuso sexual infantil

around the world today.

em todo o mundo hoje.

Agora é a hora de fazermos isso.

And the time to do this is now.

We can no longer say we don't know the impact this is having on our children.

Não podemos mais ignorar o impacto que isso está causando em nossas crianças.

The first generation of children whose abuse has gone viral

A primeira geração de crianças cujo abuso sexual tornou-se viral

agora é de jovens adultos.

are now young adults.

The Canadian Centre for Child Protection

O Centro Canadense de Proteção à Criança

just did a recent study of these young adults

acabou de fazer um estudo sobre esses jovens adultos

to understand the unique trauma they try to recover from,

para entender o trauma singular do qual eles tentam se recuperar,

knowing that their abuse lives on.

sabendo que o abuso deles continua vivo.

Eighty percent of these young adults have thought about suicide.

Desses jovens adultos, 80% já contemplaram o suicídio.

More than 60 percent have attempted suicide.

Mais de 60% tentaram o suicídio.

And most of them live with the fear every single day

E a maioria desses jovens vive constantemente com o medo

that as they walk down the street or they interview for a job

de ser reconhecido ao caminhar pela rua ou participar de uma entrevista de emprego

or they go to school

ou ao ir para a escola

or they meet someone online,

ou mesmo ao conhecer uma pessoa on-line,

that that person has seen their abuse.

por alguém que tenha visto o abuso deles.

And the reality came true for more than 30 percent of them.

E isso tornou-se realidade para mais de 30% deles.

They had been recognized from their abuse material online.

Eles foram reconhecidos pelo material do abuso deles disponível on-line.

This is not going to be easy,

Isso não será fácil,

but it is not impossible.

mas não é impossível.

Now it's going to take the will,

Agora precisaremos contar com a determinação da nossa sociedade

the will of our society

to look at something that is really hard to look at,

de olhar para algo realmente difícil de encarar;

to take something out of the darkness

tirar algo da escuridão

so these kids have a voice;

para que essas crianças tenham uma voz;

the will of companies to take action and make sure that their platforms

a determinação das empresas de agir e se certificar que suas plataformas

are not complicit in the abuse of a child;

não são cúmplices do abuso de uma criança;

the will of governments to invest with their law enforcement

a determinação dos governos de investir em suas autoridades policiais

for the tools they need to investigate a digital first crime,

com as ferramentas que eles precisam para investigar um primeiro crime digital,

even when the victims cannot speak for themselves.

mesmo quando as vítimas não podem falar por si mesmas.

This audacious commitment is part of that will.

Este compromisso audacioso faz parte dessa determinação.

It's a declaration of war against one of humanity's darkest evils.

É uma declaração de guerra contra um dos males mais sombrios da humanidade.

But what I hang on to

Mas o que mais me motiva

is that it's actually an investment in a future

é que isso é, na verdade, um investimento num futuro

where every child can simply be a kid.

no qual toda criança pode simplesmente ser criança.

Thank you.

Obrigada.

(Applause)

(Aplausos)