How we can eliminate child sexual abuse material from the internet | Julie Cordua

Translator: Dinti Fahlianti Reviewer: yenni saputri

[This talk contains mature content]

[Pembicaraan ini mengandung konten dewasa]

Five years ago,

Lima tahun yang lalu,

I received a phone call that would change my life.

Saya menerima panggilan telepon yang akan mengubah hidup saya.

I remember so vividly that day.

Saya ingat dengan jelas hari itu.

It was about this time of year,

Sekitar bulan-bulan ini,

and I was sitting in my office.

dan saya sedang duduk di kantor saya.

I remember the sun streaming through the window.

Saya ingat matahari yang menembus jendela.

And my phone rang.

Dan telepon saya berdering.

And I picked it up,

Dan saya menjawabnya,

and it was two federal agents, asking for my help

dan itu adalah dua agen federal, yang meminta bantuan saya

in identifying a little girl

untuk mengidentifikasi seorang gadis kecil

featured in hundreds of child sexual abuse images they had found online.

yang muncul dalam ratusan gambar pelecehan seksual anak di situs internet.

They had just started working the case,

Mereka baru saja mulai mengerjakan kasus ini,

but what they knew

tapi apa yang mereka tahu

was that her abuse had been broadcast to the world for years

adalah bahwa pelecehannya telah disiarkan ke dunia selama bertahun-tahun

on dark web sites dedicated to the sexual abuse of children.

di situs web gelap yang ditujukan untuk pelecehan seksual anak.

And her abuser was incredibly technologically sophisticated:

Dan pelaku kekerasannya sangat menguasai teknologi:

new images and new videos every few weeks,

gambar dan video baru setiap beberapa minggu,

but very few clues as to who she was

tetapi dengan sangat sedikit petunjuk tentang siapa

or where she was.

atau di mana gadis ini.

And so they called us,

Dan mereka menelepon kami,

because they had heard we were a new nonprofit

sebab mereka mendengar kami organisasi nirlaba baru

building technology to fight child sexual abuse.

yang membangun teknologi untuk memerangi pelecehan seksual anak.

But we were only two years old,

Namun kami baru berusia dua tahun,

and we had only worked on child sex trafficking.

dan kami baru menangani kasus perdagangan seks anak.

And I had to tell them

Dan saya harus memberi tahu mereka

we had nothing.

kami tidak punya apa-apa.

We had nothing that could help them stop this abuse.

Kami tak punya apa pun yang dapat membantu menghentikan kejahatan ini.

It took those agents another year

Agen-agen itu membutuhkan setahun

to ultimately find that child.

hingga akhirnya menemukan anak itu.

And by the time she was rescued,

Dan pada saat dia diselamatkan,

hundreds of images and videos documenting her rape had gone viral,

ratusan gambar dan video yang mendokumentasikan pemerkosaannya menyebar,

from the dark web

dari web gelap

to peer-to-peer networks, private chat rooms

ke jaringan perorangan, ruang obrolan pribadi

and to the websites you and I use

dan ke situs web yang Anda dan saya gunakan

every single day.

setiap hari.

And today, as she struggles to recover,

Dan hari ini, saat dia berjuang untuk pulih,

she lives with the fact that thousands around the world

dia hidup dengan fakta bahwa ribuan di seluruh dunia

continue to watch her abuse.

terus menonton pelecehannya.

I have come to learn in the last five years

Saya datang untuk belajar dalam lima tahun terakhir

that this case is far from unique.

bahwa kasus ini tidaklah unik.

How did we get here as a society?

Bagaimana kita bisa sampai di sini sebagai masyarakat?

In the late 1980s, child pornography --

Pada akhir 1980-an, pornografi anak -

or what it actually is, child sexual abuse material --

atau apa yang sebenarnya adalah, materi pelecehan seksual anak -

was nearly eliminated.

hampir dihilangkan.

New laws and increased prosecutions made it simply too risky

Undang-undang baru dan peningkatan penuntutan membuatnya terlalu berisiko

to trade it through the mail.

untuk menjual melalui daring.

And then came the internet, and the market exploded.

Dan kemudian muncul internet, dan pasar meledak.

The amount of content in circulation today

Jumlah konten yang beredar saat ini

is massive and growing.

sangat besar dan terus berkembang.

This is a truly global problem,

Ini benar-benar masalah global,

but if we just look at the US:

tetapi jika kita hanya melihat AS:

in the US alone last year,

di AS sendiri tahun lalu,

more than 45 million images and videos of child sexual abuse material

lebih dari 45 juta gambar dan video materi pelecehan seksual anak

were reported to the National Center for Missing and Exploited Children,

dilaporkan ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi,

and that is nearly double the amount the year prior.

dan itu hampir dua kali lipat jumlah tahun sebelumnya.

And the details behind these numbers are hard to contemplate,

Dan detail di balik angka-angka ini sulit untuk direnungkan,

with more than 60 percent of the images featuring children younger than 12,

dengan lebih dari 60 persen gambar menampilkan anak-anak di bawah 12 tahun,

and most of them including extreme acts of sexual violence.

dan sebagian besar dari mereka termasuk kekerasan seksual ekstrem.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Pelaku disemangati di ruang obrolan yang didedikasikan untuk pelecehan anak-anak,

where they gain rank and notoriety

di mana mereka mendapatkan pangkat dan ketenaran

with more abuse and more victims.

dengan lebih banyak pelecehan dan lebih banyak korban.

In this market,

Di pasar ini,

the currency has become the content itself.

mata uang telah menjadi konten itu sendiri.

It's clear that abusers have been quick to leverage new technologies,

Sudah jelas bahwa pelaku telah dengan cepat memanfaatkan teknologi baru,

but our response as a society has not.

tetapi tanggapan kita sebagai masyarakat belum.

These abusers don't read user agreements of websites,

Pelaku ini tidak membaca perjanjian pengguna situs web,

and the content doesn't honor geographic boundaries.

dan konten tidak memedulikan batasan geografis.

And they win when we look at one piece of the puzzle at a time,

Dan mereka menang ketika kita melihat satu teka-teki sekaligus,

which is exactly how our response today is designed.

yang persis bagaimana respons kita hari ini dirancang.

Law enforcement works in one jurisdiction.

Penegakan hukum bekerja di satu yurisdiksi.

Companies look at just their platform.

Perusahaan hanya melihat platform mereka.

And whatever data they learn along the way

Dan data apa pun yang mereka pelajari sepanjang jalan

is rarely shared.

jarang dibagikan.

It is so clear that this disconnected approach is not working.

Sangat jelas bahwa pendekatan terputus ini tidak ada gunanya.

We have to redesign our response to this epidemic

Kita harus mendesain ulang respon kita terhadap epidemi ini

for the digital age.

untuk era digital.

And that's exactly what we're doing at Thorn.

Dan itulah tepatnya yang kami lakukan di Thorn.

We're building the technology to connect these dots,

Kami sedang membangun teknologi untuk menghubungkan titik-titik ini,

to arm everyone on the front lines --

untuk mempersenjatai semua orang di garis depan -

law enforcement, NGOs and companies --

penegakan hukum, LSM, dan perusahaan -

with the tools they need to ultimately eliminate

dengan alat yang mereka butuhkan untuk menghilangkan

child sexual abuse material from the internet.

materi pelecehan seksual anak dari internet.

Let's talk for a minute --

Mari kita bicara -

(Applause)

(Tepuk tangan)

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)

Let's talk for a minute about what those dots are.

Mari kita bicara sebentar tentang titik-titik itu.

As you can imagine, this content is horrific.

Seperti yang dapat Anda bayangkan, konten ini mengerikan.

If you don't have to look at it, you don't want to look at it.

Jika Anda tidak harus melihatnya, Anda tidak ingin melihatnya.

And so, most companies or law enforcement agencies

Maka, sebagian besar perusahaan atau lembaga penegak hukum

that have this content

yang memiliki konten ini

can translate every file into a unique string of numbers.

dapat menerjemahkan setiap file menjadi serangkaian angka unik.

This is called a "hash."

disebut "hash."

It's essentially a fingerprint

ini serupa sidik jari

for each file or each video.

untuk setiap file atau setiap video.

And what this allows them to do is use the information in investigations

Dan mereka hanya diizinkan untuk memakai informasi ini dalam investigasi

or for a company to remove the content from their platform,

atau bagi perusahaan untuk menghapus konten dari platformnya,

without having to relook at every image and every video each time.

tanpa harus melihat kembali di gambar dan video setiap kali.

The problem today, though,

Masalahnya hari ini,

is that there are hundreds of millions of these hashes

adalah bahwa ada ratusan juta hash ini

sitting in siloed databases all around the world.

tersimpan di lumbung pangkalan data di seluruh dunia.

In a silo,

Dalam lumbung ini,

it might work for the one agency that has control over it,

data itu mungkin digunakan oleh agensi mengendalikannya,

but not connecting this data means we don't know how many are unique.

tapi tidak menghubungkan data ini berarti kita tidak tahu berapa banyak yang unik.

We don't know which ones represent children who have already been rescued

Kami tidak tahu yang mewakili anak-anak yang telah diselamatkan

or need to be identified still.

atau masih perlu diidentifikasi.

So our first, most basic premise is that all of this data

Jadi premis pertama kami yang paling mendasar adalah semua data ini

must be connected.

harus terhubung.

There are two ways where this data, combined with software on a global scale,

dua cara di mana data ini, dikombinasikan dengan perangkat lunak di skala global,

can have transformative impact in this space.

dapat memiliki dampak transformatif di ruang ini.

The first is with law enforcement:

Yang pertama adalah dengan penegakan hukum:

helping them identify new victims faster,

membantu mereka mengidentifikasi korban baru dengan lebih cepat,

stopping abuse

hentikan penyalahgunaan

and stopping those producing this content.

dan menghentikan mereka yang memproduksi konten ini.

The second is with companies:

Yang kedua adalah dengan perusahaan:

using it as clues to identify the hundreds of millions of files

menggunakannya sebagai petunjuk untuk mengidentifikasi ratusan juta file

in circulation today,

beredar hari ini,

pulling it down

menariknya ke bawah

and then stopping the upload of new material before it ever goes viral.

dan kemudian menghentikan pengunggahan materi baru sebelum menjadi viral.

Four years ago,

Empat tahun yang lalu,

when that case ended,

ketika kasus itu berakhir,

our team sat there, and we just felt this, um ...

tim kami duduk di sana, dan kami hanya merasakan ini, um ...

... deep sense of failure, is the way I can put it,

... rasa kegagalan yang mendalam, adalah cara saya bisa mengatakannya,

because we watched that whole year

karena kami menontonnya sepanjang tahun

while they looked for her.

selagi mereka mencarinya.

And we saw every place in the investigation

Dan kami melihat setiap tempat dalam penyelidikan

where, if the technology would have existed,

di mana, jika teknologi itu akan ada

they would have found her faster.

mereka akan menemukannya lebih cepat.

And so we walked away from that

Jadi kami berjalan menjauh dari itu

and we went and we did the only thing we knew how to do:

dan pergi dan melakukan hal hanya kami tahu cara melakukannya:

we began to build software.

kami mulai membangun perangkat lunak.

So we've started with law enforcement.

Jadi kita sudah mulai dengan penegakan hukum.

Our dream was an alarm bell on the desks of officers all around the world

Mimpi kami adalah lonceng alarm di meja para petugas di seluruh dunia

so that if anyone dare post a new victim online,

sehingga jika ada yang berani memposting korban baru secara online,

someone would start looking for them immediately.

seseorang akan segera mulai mencari mereka.

I obviously can't talk about the details of that software,

Saya tak dapat bicara tentang perincian perangkat lunak itu,

but today it's at work in 38 countries,

tapi alat itu sedang bekerja di 38 negara,

having reduced the time it takes to get to a child

telah mengurangi waktu yang dibutuhkan untuk sampai ke anak

by more than 65 percent.

lebih dari 65 persen.

(Applause)

(Tepuk tangan)

And now we're embarking on that second horizon:

Dan sekarang kita memulai cakrawala kedua:

building the software to help companies identify and remove this content.

buat perangkat untuk membantu perusahaan mengidentifikasi dan menghapus konten ini.

Let's talk for a minute about these companies.

Mari kita bicara tentang perusahaan-perusahaan ini.

So, I told you -- 45 million images and videos in the US alone last year.

Jadi, saya katakan - 45 juta gambar dan video di AS saja tahun lalu.

Those come from just 12 companies.

Itu datang hanya dari 12 perusahaan.

Twelve companies, 45 million files of child sexual abuse material.

Dua belas perusahaan, 45 juta file materi pelecehan seksual anak.

These come from those companies that have the money

Ini datang dari perusahaan-perusahaan yang punya uang

to build the infrastructure that it takes to pull this content down.

untuk membangun infrastruktur yang diperlukan untuk menurunkan konten ini.

But there are hundreds of other companies,

Namun ada ratusan perusahaan lain,

small- to medium-size companies around the world,

perusahaan kecil hingga menengah di seluruh dunia,

that need to do this work,

yang perlu melakukan pekerjaan ini,

but they either: 1) can't imagine that their platform would be used for abuse,

tapi juga: 1) tak dapat membayangkan platformnya digunakan untuk kejahatan ini,

or 2) don't have the money to spend on something that is not driving revenue.

atau 2) tak punya uang untuk dibelanjakan pada hal yang tidak menguntungkan.

So we went ahead and built it for them,

Jadi kami mengambil tindakan dan membangunnya untuk mereka,

and this system now gets smarter with the more companies that participate.

dan sistem ini kini menjadi lebih pintar dengan banyak perusahaan berpartisipasi.

Let me give you an example.

Saya memberi Anda sebuah contoh.

Our first partner, Imgur -- if you haven't heard of this company,

Mitra pertama kami, Imgur - jika kamu belum pernah mendengar perusahaan ini,

it's one of the most visited websites in the US --

itu salah satu situs web yang paling banyak dikunjungi di AS -

millions of pieces of user-generated content uploaded every single day,

jutaan konten buatan pengguna yang diunggah setiap hari,

in a mission to make the internet a more fun place.

dengan tujuan untuk membuat internet lebih menyenangkan,

They partnered with us first.

Mereka bermitra dengan kami lebih dulu

Within 20 minutes of going live on our system,

Dalam 20 menit untuk ditayangkan di sistem kami,

someone tried to upload a known piece of abuse material.

seseorang mencoba mengunggah sepotong materi pelecehan yang diketahui.

They were able to stop it, they pull it down,

Mereka mampu menghentikan, menurunkannya,

they report it to the National Center for Missing and Exploited Children.

mereka melapor ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi.

But they went a step further,

Tapi mereka melangkah lebih jauh,

and they went and inspected the account of the person who had uploaded it.

dan mereka bertindak dan memeriksa akun orang yang telah mengunggahnya.

Hundreds more pieces of child sexual abuse material

Ratusan lagi materi pelecehan seksual anak

that we had never seen.

yang belum pernah kita lihat.

And this is where we start to see exponential impact.

Dan di sinilah kita mulai melihat dampak eksponensial.

We pull that material down,

Kami menurunkan materi tersebut,

it gets reported to the National Center for Missing and Exploited Children

melaporkannya ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi

and then those hashes go back into the system

dan kemudian hash itu kembali ke sistem

and benefit every other company on it.

dan menguntungkan setiap perusahaan di dalamnya.

And when the millions of hashes we have lead to millions more and, in real time,

Dan jutaan hash kita telah menghasilkan jutaan lagi dan, di waktu yang sama,

companies around the world are identifying and pulling this content down,

perusahaan seluruh dunia mengidentifikasi dan menurunkan konten ini,

we will have dramatically increased the speed at which we are removing

kita akan meningkatkan kecepatan menghapus

materi pelecehan seksual anak dari internet di seluruh dunia.

child sexual abuse material from the internet around the world.

(Applause)

(Tepuk tangan)

But this is why it can't just be about software and data,

Tapi inilah alasan tidak hanya tentang perangkat lunak dan data,

it has to be about scale.

itu harus tentang skala.

We have to activate thousands of officers,

Kami harus mengaktifkan ribuan petugas,

hundreds of companies around the world

ratusan perusahaan di seluruh dunia

if technology will allow us to outrun the perpetrators

jika teknologi memungkinkan kita untuk berlari lebih cepat dari para pelaku

and dismantle the communities that are normalizing child sexual abuse

dan membongkar komunitas yang menormalkan pelecehan seksual anak

around the world today.

di seluruh dunia saat ini.

And the time to do this is now.

Dan waktu untuk melakukan ini adalah sekarang.

We can no longer say we don't know the impact this is having on our children.

Kita tidak bisa lagi mengatakan kita tidak tahu dampaknya terhadap anak-anak kita.

The first generation of children whose abuse has gone viral

Generasi pertama anak-anak yang pelecehannya telah menyebar

are now young adults.

sekarang orang dewasa muda.

The Canadian Centre for Child Protection

Pusat Perlindungan Anak Kanada

just did a recent study of these young adults

baru saja melakukan penelitian ini ke para remaja ini

to understand the unique trauma they try to recover from,

untuk memahami trauma unik yang mereka coba pulihkan,

knowing that their abuse lives on.

mengetahui bahwa pelecehan mereka tetap ada.

Eighty percent of these young adults have thought about suicide.

Delapan puluh persen dari orang dewasa muda ini berpikir tentang bunuh diri.

More than 60 percent have attempted suicide.

Lebih dari 60 persen telah mencoba bunuh diri.

And most of them live with the fear every single day

Dan kebanyakan dari mereka hidup dengan ketakutan setiap hari

that as they walk down the street or they interview for a job

bahwa ketika mereka berjalan di jalan atau wawancara untuk suatu pekerjaan

or they go to school

atau mereka pergi ke sekolah

or they meet someone online,

atau mereka bertemu seseorang secara daring,

that that person has seen their abuse.

bahwa orang itu telah melihat pelecehan mereka.

And the reality came true for more than 30 percent of them.

Dan kenyataan menjadi kenyataan bagi lebih dari 30 persen dari mereka.

They had been recognized from their abuse material online.

Mereka telah dikenali dari materi penyalahgunaan mereka secara daring.

This is not going to be easy,

Ini tidak akan mudah,

but it is not impossible.

tapi itu bukan tidak mungkin.

Now it's going to take the will,

Sekarang ini membutuhkan kemauan

the will of our society

kehendak masyarakat kita

to look at something that is really hard to look at,

untuk melihat sesuatu yang sangat sulit untuk dilihat,

to take something out of the darkness

untuk mengambil sesuatu dari kegelapan

so these kids have a voice;

agar anak-anak ini memiliki suara;

the will of companies to take action and make sure that their platforms

keinginan perusahaan untuk mengambil tindakan dan memastikan platform mereka

are not complicit in the abuse of a child;

tidak terlibat dalam pelecehan anak;

the will of governments to invest with their law enforcement

keinginan pemerintah untuk berinvestasi dengan penegakan hukum mereka

for the tools they need to investigate a digital first crime,

untuk alat yang mereka butuhkan untuk menyelidiki kejahatan digital pertama,

even when the victims cannot speak for themselves.

bahkan ketika para korban tidak dapat berbicara sendiri.

This audacious commitment is part of that will.

Komitmen yang berani ini adalah bagian dari keinginan itu.

It's a declaration of war against one of humanity's darkest evils.

Ini ialah deklarasi perang melawan salah satu kejahatan paling gelap umat manusia.

But what I hang on to

Tapi apa yang saya pegang

is that it's actually an investment in a future

adalah bahwa itu sebenarnya investasi di masa depan

where every child can simply be a kid.

di mana setiap anak bisa menjadi anak-anak.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)