How we can eliminate child sexual abuse material from the internet | Julie Cordua

Traducător: Octavian Gurau Corector: Mirona Sărăroiu

[This talk contains mature content]

[Discurs cu puternic impact emoțional]

Five years ago,

În urmă cu cinci ani,

I received a phone call that would change my life.

am primit un telefon care mi-a schimbat viața.

I remember so vividly that day.

Îmi aduc aminte foarte clar acea zi.

It was about this time of year,

Era cam în perioada asta a anului,

and I was sitting in my office.

iar eu eram la birou.

I remember the sun streaming through the window.

Îmi amintesc că soarele strălucea prin fereastră.

And my phone rang.

A sunat telefonul.

And I picked it up,

Am răspuns,

and it was two federal agents, asking for my help

erau doi agenți federali care îmi cereau ajutorul

in identifying a little girl

în identificarea unei fetițe

featured in hundreds of child sexual abuse images they had found online.

ce apărea în sute de poze găsite online, în care era abuzată sexual.

They had just started working the case,

Tocmai începuseră să lucreze la caz,

but what they knew

dar ce știau deja

was that her abuse had been broadcast to the world for years

era că abuzul ei se difuza pe internet de ani de zile

on dark web sites dedicated to the sexual abuse of children.

pe site-uri obscure, dedicate abuzului sexual al copiilor.

And her abuser was incredibly technologically sophisticated:

Cel care o abuza era incredibil de priceput la tehnologie:

new images and new videos every few weeks,

imagini și videoclipuri noi la fiecare câteva săptămâni,

but very few clues as to who she was

dar foarte puține indicii despre cine era victima

or where she was.

sau unde se afla.

And so they called us,

Așa că au apelat la noi,

because they had heard we were a new nonprofit

pentru că auziseră că eram o organizație non-profit nouă

building technology to fight child sexual abuse.

ce construia tehnologie pentru combaterea abuzului sexual asupra copiilor.

But we were only two years old,

Însa noi aveam doar doi ani vechime

and we had only worked on child sex trafficking.

și ne ocupasem numai de cazuri de trafic de copii în scop sexual.

And I had to tell them

Așa că am fost nevoită să-i spun

we had nothing.

că nu aveam nimic.

We had nothing that could help them stop this abuse.

Nu aveam nicio informație care să-i poată ajuta să oprească acest abuz.

It took those agents another year

Le-a luat acelor agenți încă un an

to ultimately find that child.

pentru a găsi în cele din urmă fetița.

And by the time she was rescued,

Și până când au reușit să o salveze,

hundreds of images and videos documenting her rape had gone viral,

deja sute de imagini și videoclipuri cu violurile asupra ei deveniseră virale,

from the dark web

pornind de la acel site obscur,

to peer-to-peer networks, private chat rooms

până la rețele private, grupuri private de chat,

and to the websites you and I use

ba chiar și pe site-uri obișnuite, folosite de oameni ca noi

every single day.

zi de zi.

And today, as she struggles to recover,

Iar astăzi, în timp ce ea încearcă să-și revină,

she lives with the fact that thousands around the world

are de trăit cu realitatea că mii de oameni din întreaga lume

continue to watch her abuse.

continuă să vizioneze abuzurile a căror victimă a fost.

I have come to learn in the last five years

Am înțeles, în ultimii cinci ani,

that this case is far from unique.

că acest caz e departe de a fi singurul.

How did we get here as a society?

Cum am ajuns aici, ca societate?

In the late 1980s, child pornography --

La sfârșitul anilor 1980, pornografia infantilă

or what it actually is, child sexual abuse material --

sau, mai precis, materialele cu abuz sexual asupra minorilor,

was nearly eliminated.

fusese aproape eliminată.

New laws and increased prosecutions made it simply too risky

Noile legi și înăsprirea pedepselor au făcut pur și simplu prea riscantă

to trade it through the mail.

comercializarea ei prin poșta tradițională.

And then came the internet, and the market exploded.

Dar apoi a apărut internetul, iar piața a explodat.

The amount of content in circulation today

Cantitatea de materiale aflate în circulație azi

is massive and growing.

este imensă și în creștere.

This is a truly global problem,

Vorbim de o problemă globală,

but if we just look at the US:

dar dacă ne uităm doar în SUA:

in the US alone last year,

numai aici, anul trecut,

more than 45 million images and videos of child sexual abuse material

mai mult de 45 de milioane de imagini și clipuri cu abuzuri sexuale asupra copiilor

were reported to the National Center for Missing and Exploited Children,

au fost raportate către Centrul Național pentru Copii Dispăruți și Exploatați,

and that is nearly double the amount the year prior.

și asta e aproape dublu față de anul anterior.

And the details behind these numbers are hard to contemplate,

Iar detaliile din spatele acestor numere sunt greu de digerat:

with more than 60 percent of the images featuring children younger than 12,

peste 60% din imagini sunt cu copii mai mici de 12 ani,

and most of them including extreme acts of sexual violence.

iar majoritatea dintre ele includ acte extreme de violență sexuală.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Agresorii sunt invitați în camerele de chat dedicate abuzului asupra copiilor,

where they gain rank and notoriety

unde câștigă puncte și notorietate

with more abuse and more victims.

cu cât săvârșesc mai multe abuzuri și aduc mai multe victime.

In this market,

Pe această piață,

the currency has become the content itself.

moneda de schimb e reprezentată de conținut în sine.

It's clear that abusers have been quick to leverage new technologies,

E clar că agresorii au învățat repede să se folosească de noile tehnologii,

but our response as a society has not.

iar riposta noastră ca societate nu a ținut pasul.

These abusers don't read user agreements of websites,

Acești agresori nu citesc acorduri de utilizare a site-urilor web,

and the content doesn't honor geographic boundaries.

iar conținutul nu respectă limitele geografice.

And they win when we look at one piece of the puzzle at a time,

Iar când noi vedem doar o bucățică din toată realitatea, ei câștigă,

which is exactly how our response today is designed.

pentru că exact așa răspundem în prezent.

Law enforcement works in one jurisdiction.

Forțele de ordine acționează doar într-o anumită zonă de jurisdicție.

Companies look at just their platform.

Companiile se uită doar pe platformele lor.

And whatever data they learn along the way

Și orice află la un moment dat,

is rarely shared.

rareori este împărtășit.

It is so clear that this disconnected approach is not working.

E foarte clar că această abordare descentralizată nu funcționează.

We have to redesign our response to this epidemic

Trebuie să ne readaptăm abordarea împotriva acestei epidemii

for the digital age.

la era digitală.

And that's exactly what we're doing at Thorn.

Exact asta facem noi la Thorn.

We're building the technology to connect these dots,

Construim tehnologia necesară pentru a conecta aceste puncte,

to arm everyone on the front lines --

pentru a-i înarma pe cei din linia întâi,

law enforcement, NGOs and companies --

forțele de ordine, ONG-uri și companii,

with the tools they need to ultimately eliminate

cu instrumentele necesare eliminării totale de pe internet

child sexual abuse material from the internet.

a materialelor cu abuzuri asupra copiilor.

Let's talk for a minute --

Haideți să discutăm puțin...

(Applause)

(Aplauze)

Thank you.

Vă mulțumesc!

(Applause)

(Aplauze)

Let's talk for a minute about what those dots are.

Haideți să discutăm puțin despre care sunt aceste puncte, mai precis.

As you can imagine, this content is horrific.

După cum vă puteți imagina, acest conținut e îngrozitor.

If you don't have to look at it, you don't want to look at it.

Nu vrei să te uiți la așa ceva dacă nu ești absolut obligat.

And so, most companies or law enforcement agencies

Astfel, majoritatea companiilor sau structurilor de ordine

that have this content

care au acces la aceste informații

can translate every file into a unique string of numbers.

pot transforma fiecare fișier într-un șir unic de numere.

This is called a "hash."

Se numește „hash”.

It's essentially a fingerprint

E practic un fel de amprentă

for each file or each video.

pentru fiecare fișier sau videoclip.

And what this allows them to do is use the information in investigations

Asta permite ca informația să fie folosită în investigații

or for a company to remove the content from their platform,

sau de către companii pentru a înlătura conținutul nedorit de pe platformele lor,

without having to relook at every image and every video each time.

fără să revadă de fiecare dată acele imagini.

The problem today, though,

Totuși, problema care apare

is that there are hundreds of millions of these hashes

este că sunt sute de milioane de astfel de „hash”-uri

sitting in siloed databases all around the world.

depozitate în baze de date din toată lumea.

In a silo,

Într-o astfel de bază de date,

it might work for the one agency that has control over it,

un „hash” poate fi folosit doar de instituția căreia îi aparține.

but not connecting this data means we don't know how many are unique.

Dar neexistând o corelare între aceste date, nu știm câte sunt de fapt.

We don't know which ones represent children who have already been rescued

Nu știm câte se referă la copii care au fost deja salvați

or need to be identified still.

sau care trebuie identificați.

So our first, most basic premise is that all of this data

Deci prima noastră premisă, și cea mai importantă, e că toate aceste date

must be connected.

trebuie corelate.

There are two ways where this data, combined with software on a global scale,

Există două moduri în care aceste date, combinate cu un program la scară globală,

can have transformative impact in this space.

pot avea un impact important în spațiul digital.

The first is with law enforcement:

Primul e pentru forțele de ordine:

helping them identify new victims faster,

să-i ajute să identifice noile victime mai rapid,

stopping abuse

împiedicând abuzul

and stopping those producing this content.

și oprindu-i pe cei care produc aceste materiale.

The second is with companies:

Al doilea e pentru companii:

using it as clues to identify the hundreds of millions of files

pot obține astfel indicii în identificarea sutelor de milioane de fișiere

in circulation today,

aflate în circulație astăzi,

pulling it down

le pot elimina

and then stopping the upload of new material before it ever goes viral.

și pot opri încărcarea de noi fișiere, anulând riscul de a deveni virale.

Four years ago,

Acum patru ani,

when that case ended,

când acel caz a fost soluționat,

our team sat there, and we just felt this, um ...

stăteam pur și simplu cu echipa, și am simțit acest...

... deep sense of failure, is the way I can put it,

... sentiment profund de eșec, aș putea să spun,

because we watched that whole year

pentru că am urmărit îndeaproape pe tot parcursul acelui an

while they looked for her.

căutarea fetiței.

And we saw every place in the investigation

Și am putut identifica fiecare etapă a anchetei

where, if the technology would have existed,

în care, dacă tehnologia ar fi fost disponibilă,

they would have found her faster.

ar fi găsit-o mai repede.

And so we walked away from that

Așa că după această experiență

and we went and we did the only thing we knew how to do:

am început să facem singurul lucru la care ne pricepeam:

we began to build software.

am început să construim un program software.

So we've started with law enforcement.

Am început cu forțele de ordine.

Our dream was an alarm bell on the desks of officers all around the world

Visul nostru era să implementăm un fel de buton de alarmă

în birourile poliției din întreaga lume, astfel încât în secunda în care

so that if anyone dare post a new victim online,

oricine îndrăznea să posteze o nouă victimă online,

someone would start looking for them immediately.

cineva să înceapă să-o caute imediat.

I obviously can't talk about the details of that software,

Desigur, nu vă pot da detalii despre acest program,

but today it's at work in 38 countries,

dar e funcțional astăzi în 38 de țari,

having reduced the time it takes to get to a child

și a redus timpul necesar pentru a ajunge la un copil abuzat

by more than 65 percent.

cu peste 65%.

(Applause)

(Aplauze)

And now we're embarking on that second horizon:

Iar acum ne pregătim pentru al doilea obiectiv:

building the software to help companies identify and remove this content.

realizarea unui program care să ajute companiile

să identifice și să elimine astfel de conținuturi.

Let's talk for a minute about these companies.

Haideți să vorbim puțin despre aceste companii.

So, I told you -- 45 million images and videos in the US alone last year.

Vă spuneam: 45 de milioane de imagini și videoclipuri doar în SUA,

doar anul trecut.

Those come from just 12 companies.

Acestea proveneau doar de la 12 companii.

Twelve companies, 45 million files of child sexual abuse material.

12 companii, 45 de milioane de fișiere cu abuz sexual asupra copiilor.

These come from those companies that have the money

Și e vorba de exact acele companii care au puterea financiară

to build the infrastructure that it takes to pull this content down.

să investească în infrastructura necesară eliminării acestor materiale.

But there are hundreds of other companies,

Dar există și sute de alte companii,

small- to medium-size companies around the world,

companii mici și mijlocii din toată lumea,

that need to do this work,

care trebuie să facă acest efort,

but they either: 1) can't imagine that their platform would be used for abuse,

dar ele fie: 1) nu-și pot imagina că platforma lor va fi folosită

pentru a publica abuzuri,

or 2) don't have the money to spend on something that is not driving revenue.

sau 2) nu își permit să cheltuiască pe ceva ce nu aduce profit.

So we went ahead and built it for them,

Așa că am construit noi pentru ei acest program,

and this system now gets smarter with the more companies that participate.

care devine tot mai inteligent, pe măsură ce e folosit de mai multe companii.

Let me give you an example.

Să vă dau un exemplu.

Our first partner, Imgur -- if you haven't heard of this company,

Primul nostru partener, Imgur, dacă nu ați auzit de această companie,

it's one of the most visited websites in the US --

e una dintre cele mai vizitate site-uri din SUA,

millions of pieces of user-generated content uploaded every single day,

cu milioane de fișiere încărcate de utilizatori în fiecare zi,

in a mission to make the internet a more fun place.

având misiunea de a face internetul un loc mai distractiv.

They partnered with us first.

Ei au fost primii cu care am colaborat.

Within 20 minutes of going live on our system,

În primele 20 de minute de folosire a programului nostru,

someone tried to upload a known piece of abuse material.

deja cineva a încercat să încarce un material cunoscut de abuz.

They were able to stop it, they pull it down,

Au reușit să-l oprească și să-l elimine,

they report it to the National Center for Missing and Exploited Children.

raportând-ul apoi Centrului Național pentru Copii Dispăruți și Exploatați.

But they went a step further,

Dar au mers chiar și mai departe,

and they went and inspected the account of the person who had uploaded it.

și au inspectat contul persoanei care l-a încărcat.

Hundreds more pieces of child sexual abuse material

Au găsit acolo alte sute de materiale cu abuz sexual asupra copiilor

that we had never seen.

pe care noi nu le observasem niciodată.

And this is where we start to see exponential impact.

Și de aici am început să vedem impactul exponențial.

We pull that material down,

Am eliminat materialele găsite,

it gets reported to the National Center for Missing and Exploited Children

le raportăm Centrului Național pentru Copii Dispăruți și Exploatați,

and then those hashes go back into the system

iar apoi aceste „hash”-uri sunt reintroduse în sistem

and benefit every other company on it.

ca să poată fi folosite de toate celelalte companii.

And when the millions of hashes we have lead to millions more and, in real time,

Iar când milioanele de materiale identificate duc către alte milioane

și, în timp real, companii din întreaga lume au șansa să identifice și să șteargă

companies around the world are identifying and pulling this content down,

aceste conținuturi, vom fi mărit drastic viteza cu care eliminăm

we will have dramatically increased the speed at which we are removing

child sexual abuse material from the internet around the world.

materialele cu abuz sexual asupra copiilor de pe internet, din întreaga lume.

(Applause)

(Aplauze)

But this is why it can't just be about software and data,

Dar asta nu se poate realiza doar cu un program software,

it has to be about scale.

fără niște acțiuni de amploare.

We have to activate thousands of officers,

Trebuie să mobilizăm mii de polițiști,

hundreds of companies around the world

sute de companii din întreaga lume,

if technology will allow us to outrun the perpetrators

iar tehnologia ne va permite să-i întrecem pe răufăcători

and dismantle the communities that are normalizing child sexual abuse

și să eradicăm comunitățile care consideră normal abuzul sexual asupra copiilor

around the world today.

din întreaga lume.

And the time to do this is now.

Și acum e cel mai bun moment să facem asta.

We can no longer say we don't know the impact this is having on our children.

Nu mai putem pretinde că nu înțelegem ce impact are asta asupra copiilor noștri.

The first generation of children whose abuse has gone viral

Prima generație de copii a căror abuzuri au făcut înconjurul lumii

are now young adults.

sunt acum tineri adulți.

The Canadian Centre for Child Protection

Centrul Canadian pentru Protecția Copilului

just did a recent study of these young adults

tocmai a făcut recent un studiu asupra acestor tineri,

to understand the unique trauma they try to recover from,

ca să înțeleagă traumele unice din care încearcă să își revină,

knowing that their abuse lives on.

știind ca abuzul la care au fost supuși încă exstă online.

Eighty percent of these young adults have thought about suicide.

80% din acești tineri au luat în considerare sinuciderea.

More than 60 percent have attempted suicide.

Mai mult de 60% din ei au și încercat să o facă.

And most of them live with the fear every single day

Iar majoritatea trăiesc zi de zi cu spaima

that as they walk down the street or they interview for a job

că în timp ce merg pe stradă, sau se duc la un interviu pentru angajare,

or they go to school

sau se duc la școală,

or they meet someone online,

sau întâlnesc pe cineva online,

that that person has seen their abuse.

că acea persoană a văzut abuzul lor.

And the reality came true for more than 30 percent of them.

Această îngrijorare a devenit realitate pentru mai mult de 30% dintre ei.

They had been recognized from their abuse material online.

Au fost recunoscuți din materialele de pe internet cu abuzul asupra lor.

This is not going to be easy,

Nu e nicidecum ușor ce facem,

but it is not impossible.

dar nu este nici imposibil.

Now it's going to take the will,

Acum e nevoie de voință:

the will of our society

voință din partea societății

to look at something that is really hard to look at,

de a se uita la ceva care este foarte greu de privit,

to take something out of the darkness

și de a aduce acel ceva la lumină,

so these kids have a voice;

astfel încât acești copii să fie auziți;

the will of companies to take action and make sure that their platforms

voință din partea companiilor de a acționa și a se asigura

că platformele lor nu conțin abuzuri ale minorilor;

are not complicit in the abuse of a child;

the will of governments to invest with their law enforcement

dorință din partea guvernelor de a dota forțele de ordine

for the tools they need to investigate a digital first crime,

cu instrumentele necesare investigării infracțiunilor digitale,

even when the victims cannot speak for themselves.

mai ales când victimele nu se pot apăra.

This audacious commitment is part of that will.

Acest angajament cutezător face parte din această hotărâre.

It's a declaration of war against one of humanity's darkest evils.

E o declarație de război împotriva

unuia dintre cei mai întunecați demoni ai omenirii.

But what I hang on to

Dar vreau să cred

is that it's actually an investment in a future

că ce facem acum e o investiție pentru un viitor

where every child can simply be a kid.

în care fiecare copil poate fi, pur și simplu, doar un copil.

Thank you.

Vă mulțumesc!

(Applause)

(Aplauze)