How we can eliminate child sexual abuse material from the internet | Julie Cordua

Traductor: Enrique Palomares Revisor: Natalia Alvarado

[This talk contains mature content]

[Esta charla contiene contenido para adultos]

Five years ago,

Hace cinco años

I received a phone call that would change my life.

recibí una llamada que cambiaría mi vida.

I remember so vividly that day.

Recuerdo ese día muy claramente.

It was about this time of year,

Fue en esta época del año,

and I was sitting in my office.

y yo estaba sentada en mi oficina.

I remember the sun streaming through the window.

Recuerdo el sol entrando por la ventana.

And my phone rang.

Y mi teléfono sonó.

And I picked it up,

Yo contesté,

and it was two federal agents, asking for my help

y eran dos agentes federales pidiendo mi ayuda

in identifying a little girl

para identificar a una pequeña niña

featured in hundreds of child sexual abuse images they had found online.

que aparecía en cientos de imágenes de abuso sexual infantil en internet.

They had just started working the case,

Ellos apenas habían comenzado a trabajar en el caso,

but what they knew

pero sí sabían que

was that her abuse had been broadcast to the world for years

su abuso había sido difundido al mundo durante años

on dark web sites dedicated to the sexual abuse of children.

en sitios web del internet oscuro dedicados al abuso sexual infantil.

And her abuser was incredibly technologically sophisticated:

Y su agresor era muy sofisticado tecnológicamente:

new images and new videos every few weeks,

nuevas imágenes y videos cada par de semanas,

but very few clues as to who she was

pero muy pocas pistas sobre quién era ella

or where she was.

o dónde estaba.

Así que, los agentes nos llamaron,

And so they called us,

because they had heard we were a new nonprofit

porque se enteraron de nuestra organización no lucrativa

building technology to fight child sexual abuse.

que crea tecnología para combatir el abuso sexual infantil.

But we were only two years old,

Pero solo hacía dos años que funcionábamos

and we had only worked on child sex trafficking.

y solo habíamos trabajado en tráfico sexual infantil.

And I had to tell them

Tuve que decirles

we had nothing.

que no teníamos nada.

We had nothing that could help them stop this abuse.

No teníamos nada que pudiera ayudarles a detener este abuso.

It took those agents another year

Les tomó a los agentes otro año más

to ultimately find that child.

hasta finalmente encontrar a la niña.

And by the time she was rescued,

Y para cuando ella fue rescatada,

hundreds of images and videos documenting her rape had gone viral,

cientos de imágenes y videos mostrando su violación

se habían hecho virales en el internet oscuro

from the dark web

to peer-to-peer networks, private chat rooms

en redes de pares, en salas de chat privadas

and to the websites you and I use

hasta en sitios web que Uds. y yo usamos

every single day.

todos los días.

And today, as she struggles to recover,

Y hoy, mientras ella lucha por recuperarse,

she lives with the fact that thousands around the world

vive con el hecho de que miles en todo el mundo

continue to watch her abuse.

siguen viendo su abuso.

I have come to learn in the last five years

He aprendido en los últimos cinco años

that this case is far from unique.

que este caso está lejos de ser único.

How did we get here as a society?

¿Cómo llegamos aquí como sociedad?

In the late 1980s, child pornography --

A finales de los 80, la pornografía infantil

or what it actually is, child sexual abuse material --

o lo que realmente es, el contenido de abuso sexual infantil

was nearly eliminated.

llegó a ser casi eliminado.

New laws and increased prosecutions made it simply too risky

Nuevas leyes y más acciones judiciales lo hicieron simplemente demasiado arriesgado

to trade it through the mail.

para enviarlo por correo.

And then came the internet, and the market exploded.

Entonces internet llegó y el mercado explotó.

The amount of content in circulation today

Hoy en día, la cantidad de contenido en circulación

is massive and growing.

es enorme y sigue creciendo.

This is a truly global problem,

Este es un verdadero problema global,

but if we just look at the US:

pero si solo consideramos EE. UU.,

in the US alone last year,

solo el año pasado en EE. UU.

more than 45 million images and videos of child sexual abuse material

más de 45 millones de imágenes y videos de contenido de abuso sexual infantil

were reported to the National Center for Missing and Exploited Children,

fueron reportados al Centro Nacional para Niños Desaparecidos y Explotados,

and that is nearly double the amount the year prior.

y eso es casi el doble de la cantidad del año anterior,

And the details behind these numbers are hard to contemplate,

Y los detalles detrás de estos números son difíciles de contemplar,

with more than 60 percent of the images featuring children younger than 12,

con más del 60 % mostrando a niños menores de 12 años,

and most of them including extreme acts of sexual violence.

y la mayoría de ellos incluyen actos de extrema violencia sexual.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Los violadores son aclamados en salas de chat dedicadas al abuso de niños,

where they gain rank and notoriety

donde ganan rango y notoriedad

with more abuse and more victims.

con más violaciones y más víctimas.

In this market,

En este mercado,

the currency has become the content itself.

la moneda de cambio se ha vuelto el mismo contenido.

It's clear that abusers have been quick to leverage new technologies,

Los violadores han sido rápidos en aprovecharse de las nuevas tecnologías,

but our response as a society has not.

pero nuestra respuesta como sociedad no lo ha sido.

These abusers don't read user agreements of websites,

Los violadores no leen los términos de uso de los sitios web,

and the content doesn't honor geographic boundaries.

y el contenido no respeta fronteras geográficas.

And they win when we look at one piece of the puzzle at a time,

Y ellos ganan cada vez que nosotros buscamos en una pieza del rompecabezas,

which is exactly how our response today is designed.

lo cual es exactamente la forma en que está diseñada nuestra repuesta hoy en día.

Law enforcement works in one jurisdiction.

La fuerza de la ley funciona en una jurisdicción.

Companies look at just their platform.

Las compañías solo buscan en su plataforma.

And whatever data they learn along the way

Y cualquier dato que descubren sobre la marcha

is rarely shared.

es rara vez compartido.

It is so clear that this disconnected approach is not working.

Es muy obvio que este enfoque no está funcionando.

We have to redesign our response to this epidemic

Debemos rediseñar la respuesta a esta epidemia

for the digital age.

de la era digital.

And that's exactly what we're doing at Thorn.

Y eso es exactamente lo que estamos haciendo en Thron.

We're building the technology to connect these dots,

Estamos creando tecnología para conectar estos puntos,

to arm everyone on the front lines --

para armar a quienes libran esta batalla:

law enforcement, NGOs and companies --

fuerzas judiciales, ONGs y compañías,

with the tools they need to ultimately eliminate

con las herramientas necesarias para por fin eliminar del internet

child sexual abuse material from the internet.

el contenido de abuso sexual infantil.

Let's talk for a minute --

Hablemos por un momento...

(Applause)

(Aplausos)

Thank you.

Gracias.

(Applause)

(Aplausos)

Let's talk for a minute about what those dots are.

Hablemos por un momento sobre los puntos que mencioné

As you can imagine, this content is horrific.

Como se pueden imaginar, el contenido es terrible.

If you don't have to look at it, you don't want to look at it.

Si no tienen por qué verlo, no querrán verlo.

And so, most companies or law enforcement agencies

Y así, la mayoría de compañías o agencias de fuerza judicial

that have this content

que tienen este contenido

can translate every file into a unique string of numbers.

pueden transformar cada archivo en una serie única de números.

This is called a "hash."

Esto es llamado "hash".

It's essentially a fingerprint

Es básicamente una huella digital

for each file or each video.

para cada archivo o cada video.

And what this allows them to do is use the information in investigations

Esto permite usar la información en investigaciones

or for a company to remove the content from their platform,

o que una compañía pueda eliminar el contenido de su plataforma,

without having to relook at every image and every video each time.

sin tener que revisar uno a uno cada imagen y cada video

The problem today, though,

Sin embargo, el problema de hoy en día

is that there are hundreds of millions of these hashes

es que hay cientos de millones de estos "hash"

sitting in siloed databases all around the world.

almacenados por todo el mundo.

In a silo,

En un silo,

it might work for the one agency that has control over it,

podría funcionar para la agencia que tenga control sobre este,

but not connecting this data means we don't know how many are unique.

pero si no se conectan estos datos, no sabremos cuántos son únicos.

We don't know which ones represent children who have already been rescued

No sabremos cuáles son de niños que ya han sido rescatados

or need to be identified still.

o cuáles son de quienes aún necesitan ser identificados.

So our first, most basic premise is that all of this data

Por lo que nuestra primera y más básica premisa es que

must be connected.

todos estos datos deben ser conectados.

There are two ways where this data, combined with software on a global scale,

Hay dos formas en las que estos datos, combinados con software a escala global,

can have transformative impact in this space.

pueden tener un impacto transformativo.

The first is with law enforcement:

La primera es con la fuerza de la ley:

helping them identify new victims faster,

ayudándoles a identificar nuevas víctimas de forma más rápida,

stopping abuse

deteniendo su abuso

and stopping those producing this content.

y deteniendo a aquellos que producen este contenido.

The second is with companies:

La segunda es con empresas:

using it as clues to identify the hundreds of millions of files

usándolos como pistas para identificar los cientos de millones de archivos

in circulation today,

en circulación a día de hoy,

pulling it down

bajándolos

and then stopping the upload of new material before it ever goes viral.

y evitando la carga de contenido nuevo antes de que haga viral.

Four years ago,

Hace cuatro años,

when that case ended,

cuando ese caso terminó,

our team sat there, and we just felt this, um ...

nuestro equipo se sentó, y sentimos...

... deep sense of failure, is the way I can put it,

un profundo sentimiento de fracaso, es como puedo describirlo,

because we watched that whole year

porque vigilamos ese año por completo

while they looked for her.

mientras ellos la buscaban.

And we saw every place in the investigation

Y vimos cada lugar en la investigación

where, if the technology would have existed,

y si la tecnología hubiese existido,

they would have found her faster.

la habrían encontrado más rápido.

And so we walked away from that

Así que, avanzamos

and we went and we did the only thing we knew how to do:

y terminamos haciendo lo que mejor sabemos hacer:

we began to build software.

empezamos a crear software.

So we've started with law enforcement.

Hemos comenzado con la fuerza de la ley.

Our dream was an alarm bell on the desks of officers all around the world

Nuestro sueño fue una buena señal para los oficiales de todo el mundo

so that if anyone dare post a new victim online,

porque si alguien se atreve a publicar en internet una nueva víctima,

someone would start looking for them immediately.

alguien comenzará a buscarla de inmediato.

I obviously can't talk about the details of that software,

Obviamente no puedo dar detalles sobre este software,

but today it's at work in 38 countries,

pero hoy en día está en uso en 38 países,

having reduced the time it takes to get to a child

reduciendo el tiempo necesario para identificar una víctima

by more than 65 percent.

en más del 65 % de los casos.

(Applause)

(Aplausos)

And now we're embarking on that second horizon:

Y ahora nos estamos centrando en el segundo punto:

building the software to help companies identify and remove this content.

crear el software para identificar y eliminar este contenido.

Let's talk for a minute about these companies.

Hablemos por un momento sobre estas compañías.

So, I told you -- 45 million images and videos in the US alone last year.

45 millones de imágenes y videos considerando solo el año pasado en EE. UU.

Those come from just 12 companies.

Esto proviene de solo 12 empresas.

Twelve companies, 45 million files of child sexual abuse material.

Doce empresas, 45 millones de archivos sobre abuso sexual infantil.

These come from those companies that have the money

Esto viene de empresas que tienen el dinero

to build the infrastructure that it takes to pull this content down.

para crear la infraestructura necesaria para eliminar este contenido.

But there are hundreds of other companies,

Pero hay cientos de otras empresas,

small- to medium-size companies around the world,

desde pequeñas a medianas por todo el mundo,

that need to do this work,

que necesitan hacer este trabajo,

but they either: 1) can't imagine that their platform would be used for abuse,

pero puede que ellos: 1) no sepan que sus plataformas se usan para el abuso

or 2) don't have the money to spend on something that is not driving revenue.

o 2) no tienen el dinero para gastar en algo que no genera ganancias.

So we went ahead and built it for them,

Así que nos adelantamos y lo construimos por ellos,

and this system now gets smarter with the more companies that participate.

y este sistema ahora se vuelve más listo entre más empresas participen.

Let me give you an example.

Permítanme darles un ejemplo.

Our first partner, Imgur -- if you haven't heard of this company,

Nuestro primero socio, Imgur, si no han oído hablar de esta empresas,

it's one of the most visited websites in the US --

es uno de los sitios web más visitados en EE. UU.

millions of pieces of user-generated content uploaded every single day,

Cada día se suben millones de piezas de contenido generado por los usuarios,

in a mission to make the internet a more fun place.

en una misión de hacer del internet un lugar más divertido.

They partnered with us first.

Se asociaron con nosotros primero.

Within 20 minutes of going live on our system,

En tan solo 20 minutos de haber subido nuestro sistema,

someone tried to upload a known piece of abuse material.

alguien intentó subir una conocida pieza de material de abuso.

They were able to stop it, they pull it down,

Pudieron detenerlo, bajarlo,

they report it to the National Center for Missing and Exploited Children.

y reportarlo al Centro Nacional de Niños Desaparecidos y Explotados.

But they went a step further,

Pero ellos fueron un paso más adelante,

and they went and inspected the account of the person who had uploaded it.

inspeccionaron la cuenta de la persona que había subido el contenido.

Hundreds more pieces of child sexual abuse material

Cientos de piezas de contenido de abuso sexual infantil

that we had never seen.

del que habíamos visto.

And this is where we start to see exponential impact.

Y aquí fue donde comenzamos a ver un impacto exponencial.

We pull that material down,

Bajamos ese contenido,

it gets reported to the National Center for Missing and Exploited Children

se reporta al Centro Nacional de Niños Explotados y Desaparecidos

and then those hashes go back into the system

y estos "hash" van de vuelta al sistema

and benefit every other company on it.

Y benefician a cualquier otra compañía que lo use.

And when the millions of hashes we have lead to millions more and, in real time,

Y cuando los millones de "hash" que tenemos hayan dirigido a millones más en directo,

companies around the world are identifying and pulling this content down,

las empresas alrededor del mundo identificarán y bajarán el contenido,

we will have dramatically increased the speed at which we are removing

aumentado drásticamente el tiempo en el que eliminamos

child sexual abuse material from the internet around the world.

el contenido de abuso sexual infantil del internet por todo el mundo.

(Applause)

(Aplausos)

But this is why it can't just be about software and data,

Pero este es el por qué no solo se trata de software y datos,

it has to be about scale.

tiene que tratarse de escala,

We have to activate thousands of officers,

Tenemos que activar miles de agentes,

hundreds of companies around the world

cientos de empresas por todo el mundo

if technology will allow us to outrun the perpetrators

así la tecnología nos permitirá superar a los perpetradores

and dismantle the communities that are normalizing child sexual abuse

y desmantelar las comunidades que están normalizando el abuso sexual infantil

around the world today.

a día de hoy por todo el mundo.

And the time to do this is now.

Y el momento para hacer esto es ahora.

We can no longer say we don't know the impact this is having on our children.

No podemos decir más que no sabemos del impacto de esto en nuestros niños,

The first generation of children whose abuse has gone viral

La primera generación de niños cuyo abuso se hizo viral

are now young adults.

ya son ahora adultos jóvenes.

The Canadian Centre for Child Protection

El Centro Canadiense de Protección Infantil

just did a recent study of these young adults

acaba de hacer un estudio sobre estos adultos jóvenes

to understand the unique trauma they try to recover from,

para entender el trauma particular del que tratan de recuperarse,

knowing that their abuse lives on.

sabiendo que su abuso aún existe.

Eighty percent of these young adults have thought about suicide.

El 80 % de estos adultos jóvenes ha considerado el suicidio.

More than 60 percent have attempted suicide.

Más del 60 % ha intentado suicidarse.

And most of them live with the fear every single day

Y la mayoría de ellos vive todos los días con el miedo

that as they walk down the street or they interview for a job

de que mientras ellos caminan por la calle o van a una entrevista de trabajo

or they go to school

o van a la escuela

or they meet someone online,

o cuando conocen a alguien por internet,

that that person has seen their abuse.

que esta persona haya visto su abuso.

And the reality came true for more than 30 percent of them.

Y esto se hace realidad para más del 30 % de ellos.

They had been recognized from their abuse material online.

Ellos han sido reconocidos debido al material sobre su abuso.

This is not going to be easy,

Esto no va a ser fácil,

but it is not impossible.

pero no es imposible.

Now it's going to take the will,

Ahora se necesita la voluntad,

the will of our society

la voluntad de nuestra sociedad

to look at something that is really hard to look at,

de mirar algo que es realmente difícil de mirar,

to take something out of the darkness

de sacar algo de la oscuridad

so these kids have a voice;

para que estos niños tengan una voz;

the will of companies to take action and make sure that their platforms

la voluntad de las empresas para actuar y asegurarse de que

are not complicit in the abuse of a child;

sus plataformas no sean cómplices del abuso infantil;

the will of governments to invest with their law enforcement

la voluntad de los gobiernos de invertir en las herramientas necesarias

for the tools they need to investigate a digital first crime,

para investigar y aplicar sus leyes en un crimen digital,

even when the victims cannot speak for themselves.

incluso cuando las víctimas no pueden hablar por ellas mismas.

This audacious commitment is part of that will.

Este compromiso audaz es parte de esa voluntad.

It's a declaration of war against one of humanity's darkest evils.

Es la declaración de la guerra en contra de uno los peores males de la humanidad.

But what I hang on to

Pero a lo que me aferro

is that it's actually an investment in a future

es que en realidad es una inversión en un futuro

where every child can simply be a kid.

donde cada pequeño pueda ser simplemente un niño.

Thank you.

Gracias.

(Applause)

(Aplausos)