How we can eliminate child sexual abuse material from the internet | Julie Cordua

Reviewer: 24 Anh

[This talk contains mature content]

[Bài phát biểu này có nội dung nhạy cảm]

Five years ago,

Năm năm trước,

I received a phone call that would change my life.

tôi đã nhận một cuộc điện thoại làm thay đổi cuộc đời mình.

I remember so vividly that day.

Tôi vẫn còn nhớ như in ngày hôm đó.

It was about this time of year,

Cũng vào tầm này trong năm,

and I was sitting in my office.

và tôi đang ngồi trong văn phòng.

I remember the sun streaming through the window.

Tôi nhớ những tia nắng chiếu qua cửa sổ.

And my phone rang.

Và điện thoại tôi reo lên.

And I picked it up,

Tôi bắt máy,

and it was two federal agents, asking for my help

và hai người đại diện liên bang nhờ tôi giúp đỡ

in identifying a little girl

tìm một bé gái

featured in hundreds of child sexual abuse images they had found online.

xuất hiện trong hàng trăm ảnh lạm dụng tình dục trẻ em trên mạng.

They had just started working the case,

Họ mới bắt đầu điều tra trường hợp này,

but what they knew

nhưng điều mà họ biết

was that her abuse had been broadcast to the world for years

là việc bé bị lạm dụng đã được phát sóng trên toàn thế giới nhiều năm trời

on dark web sites dedicated to the sexual abuse of children.

trên các trang web đen dành riêng cho việc lạm dụng tình dục trẻ em.

And her abuser was incredibly technologically sophisticated:

Và kẻ lạm dụng bé có kĩ năng công nghệ vô cùng tinh vi:

cứ vài tuần lại có ảnh và video mới,

new images and new videos every few weeks,

but very few clues as to who she was

nhưng lại rất ít dấu vết về danh tính

or where she was.

hoặc nơi sống của cô bé.

And so they called us,

Nên họ đã gọi cho chúng tôi,

because they had heard we were a new nonprofit

vì họ biết chúng tôi là tổ chức phi lợi nhuận mới

building technology to fight child sexual abuse.

tạo nên công nghệ để chống lại sự lạm dụng tình dục ở trẻ em.

But we were only two years old,

Nhưng chúng tôi mới thành lập được hai năm,

and we had only worked on child sex trafficking.

và chúng tôi chỉ từng xử lý các vụ bán dâm ở trẻ em.

And I had to tell them

Và tôi phải nói với họ rằng

chúng tôi bất lực.

we had nothing.

We had nothing that could help them stop this abuse.

Chúng tôi không có gì để giúp họ chấm dứt việc lạm dụng này.

It took those agents another year

Phải mất một năm nữa thì các đặc vụ ấy

to ultimately find that child.

mới có thể tìm thấy đứa bé.

And by the time she was rescued,

Và khi bé được giải cứu,

hundreds of images and videos documenting her rape had gone viral,

hàng trăm bức ảnh và video ghi lại cảnh bé bị cưỡng hiếp

đã lan truyền rộng rãi,

from the dark web

từ các trang web đen

to peer-to-peer networks, private chat rooms

cho đến các mạng lưới peer-to-peer, phòng trò chuyện cá nhân,

and to the websites you and I use

và các trang mạng chúng ta sử dụng

every single day.

mỗi ngày.

And today, as she struggles to recover,

Và hôm nay, khi bé đang cố gắng hồi phục,

em phải sống với sự thật rằng hàng ngàn người trên thế giới

she lives with the fact that thousands around the world

continue to watch her abuse.

vẫn tiếp tục xem cảnh em bị lạm dụng.

I have come to learn in the last five years

Trong năm năm qua, tôi dần hiểu ra

that this case is far from unique.

rằng trường hợp này quá đỗi thông thường.

Làm sao mà xã hội của chúng ta lại trở nên như vậy?

How did we get here as a society?

In the late 1980s, child pornography --

Vào năm 1980, phim khiêu dâm trẻ em -

or what it actually is, child sexual abuse material --

hay thực ra là văn hóa phẩm lạm dụng tình dục ở trẻ em -

was nearly eliminated.

gần như bị xóa bỏ.

New laws and increased prosecutions made it simply too risky

Luật mới và các mức truy tố tăng dần

khiến việc kinh doanh phim qua thư trở nên rất rủi ro.

to trade it through the mail.

And then came the internet, and the market exploded.

Và đến thời Internet, thị trường bùng nổ.

The amount of content in circulation today

Lượng thông tin lưu hành ngày nay

is massive and growing.

trở nên khổng lồ và tiếp tục tăng lên.

This is a truly global problem,

Đây thực sự là vấn đề toàn cầu ,

but if we just look at the US:

nhưng nếu ta chỉ nhìn vào nước Mỹ:

in the US alone last year,

chỉ mình nước Mỹ vào năm ngoái,

more than 45 million images and videos of child sexual abuse material

có hơn 45 triệu hình ảnh và video về lạm dụng tình dục ở trẻ em

were reported to the National Center for Missing and Exploited Children,

được báo cáo đến Trung tâm Quốc gia về Trẻ em bị Mất tích và Bóc lột,

and that is nearly double the amount the year prior.

và con số này gần như gấp đôi so với năm trước đó.

And the details behind these numbers are hard to contemplate,

Và chi tiết đằng sau những con số này rất khó để có thể dự tính,

with more than 60 percent of the images featuring children younger than 12,

với hơn 60% ảnh là của những bé dưới 12 tuổi,

and most of them including extreme acts of sexual violence.

và hầu hết các video chứa cả hành động bạo lực tình dục cực đoan.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

Những người lạm dụng đang vui vẻ trong phòng chat riêng về lạm dụng trẻ em,

where they gain rank and notoriety

nơi họ ganh đua thứ bậc và sự nổi tiếng

with more abuse and more victims.

với ngày càng nhiều vụ lạm dụng và nạn nhân.

In this market,

Ở thị trường này,

the currency has become the content itself.

chính tiền bạc đã hóa thành nội dung.

Rõ ràng là những kẻ lạm dụng nhanh chóng tận dụng công nghệ mới,

It's clear that abusers have been quick to leverage new technologies,

but our response as a society has not.

nhưng phản ứng của xã hội thì không.

These abusers don't read user agreements of websites,

Những kẻ lạm dụng này không đọc thoả thuận với người dùng trên website,

and the content doesn't honor geographic boundaries.

và nội dung thì không bị giới hạn bởi địa lí.

And they win when we look at one piece of the puzzle at a time,

Và họ đã thắng khi ta chỉ nhìn một mảnh ghép tại một thời điểm,

which is exactly how our response today is designed.

chính xác là đặc tính về cách ta phản ứng.

Law enforcement works in one jurisdiction.

Cơ quan hành pháp chỉ hoạt động theo thẩm quyền pháp lý.

Companies look at just their platform.

Các công ty chỉ nhìn vào nền tảng kết nối của riêng mình.

And whatever data they learn along the way

Và các dữ liệu họ thu thập được mỗi ngày

is rarely shared.

hiếm khi được chia sẻ.

It is so clear that this disconnected approach is not working.

Rõ ràng là cách tiếp cận rời rạc này chẳng có hiệu quả.

We have to redesign our response to this epidemic

Ta phải thiết kế lại phản ứng của ta trước bệnh dịch này

for the digital age.

trong thời đại kĩ thuật số.

And that's exactly what we're doing at Thorn.

Và đó chính xác là những gì chúng tôi đang làm tại Thorn.

We're building the technology to connect these dots,

Chúng tôi đang xây dựng công nghệ để kết nối những điểm ngắt này,

to arm everyone on the front lines --

để trang bị cho những ai đang ở tiền tuyến,

law enforcement, NGOs and companies --

cơ quan hành pháp, các tổ chức phi chính phủ và công ty,

with the tools they need to ultimately eliminate

những công cụ thiết yếu để loại bỏ triệt để

child sexual abuse material from the internet.

lạm dụng tình dục ở trẻ em trên Internet.

Let's talk for a minute --

Hãy bàn luận trong một phút--

(Applause)

(Vỗ tay)

Thank you.

Cảm ơn.

(Applause)

(Vỗ tay)

Let's talk for a minute about what those dots are.

Hãy dành một phút bàn luận về những điểm nối này.

As you can imagine, this content is horrific.

Bạn có thể tưởng tượng, nội dung này rất kinh khủng.

If you don't have to look at it, you don't want to look at it.

Nếu bạn không phải nhìn nó, bạn sẽ không muốn thấy nó.

And so, most companies or law enforcement agencies

Và như thế, hầu hết các công ty hoặc các cơ quan hành pháp

that have this content

sở hữu nội dung này

can translate every file into a unique string of numbers.

có thể chuyển đổi mọi file sang một dãy số đặc biệt.

This is called a "hash."

Nó được gọi là "mã hoá."

It's essentially a fingerprint

Nó thực ra là một dấu tay

for each file or each video.

cho mỗi file hoặc video.

And what this allows them to do is use the information in investigations

Và nó chỉ cho phép sử dụng thông tin trong các cuộc điều tra

or for a company to remove the content from their platform,

hoặc công ty muốn xoá nội dung đó ra khỏi nền tảng của họ,

without having to relook at every image and every video each time.

mà không phải nhìn lại hình ảnh hoặc video đó mỗi lần.

The problem today, though,

Tuy nhiên, vấn đề hiện nay là

is that there are hundreds of millions of these hashes

có hàng trăm triệu mã hoá như thế

sitting in siloed databases all around the world.

trong kho dữ liệu còn tồn đọng trên toàn thế giới,

In a silo,

Mỗi kho biệt lập chỉ dành riêng cho một tổ chức có quyền kiểm soát nó,

it might work for the one agency that has control over it,

but not connecting this data means we don't know how many are unique.

nhưng nếu không kết nối các kho này, ta không biết có bao nhiêu kho biệt lập.

We don't know which ones represent children who have already been rescued

Chúng ta không biết kho nào thể hiện những đứa trẻ đã được giải cứu

or need to be identified still.

hoặc vẫn cần phải xác định danh tính.

Nên tiền đề đầu tiên và cơ bản, đó là tất cả các dữ liệu này

So our first, most basic premise is that all of this data

must be connected.

phải được kết nối.

There are two ways where this data, combined with software on a global scale,

Có hai cách mà các dữ liệu này,

khi kết hợp với các phần mềm trên phạm vi toàn cầu,

can have transformative impact in this space.

có thể tạo ra ảnh hưởng mang tính thay đổi trong không gian này.

The first is with law enforcement:

Một là hành pháp:

giúp họ xác định nạn nhân nhanh hơn,

helping them identify new victims faster,

stopping abuse

chấm dứt lạm dụng

và chấm dứt việc sản xuất nội dung này.

and stopping those producing this content.

The second is with companies:

Hai là các công ty:

sử dụng nó như manh mối để xác định hàng trăm triệu file

using it as clues to identify the hundreds of millions of files

in circulation today,

được lưu hành ngày nay,

pulling it down

phá huỷ nó

and then stopping the upload of new material before it ever goes viral.

và chấm dứt việc đăng tải các nguồn mới trước khi chúng trở nên phổ biến.

Four years ago,

Bốn năm trước,

when that case ended,

khi vụ án đó kết thúc,

our team sat there, and we just felt this, um ...

đội của chúng tôi đã ngồi lại và chúng tôi cảm thấy điều này, à ừm ...

... deep sense of failure, is the way I can put it,

... cảm giác thất bại nặng nề, đó là cách tôi có thể mô tả bằng lời,

because we watched that whole year

vì chúng tôi đã theo dõi suốt cả năm trời

while they looked for her.

quá trình họ tìm kiếm cô bé.

Và chúng tôi đã nhận ra mọi thời điểm trong quá trình điều tra

And we saw every place in the investigation

khi mà nếu công nghệ này tồn tại,

where, if the technology would have existed,

they would have found her faster.

họ sẽ tìm thấy bé nhanh hơn.

And so we walked away from that

Và chúng tôi đã từ bỏ

and we went and we did the only thing we knew how to do:

và trở lại và làm một điều duy nhất mà chúng tôi biết cách làm:

we began to build software.

chúng tôi bắt đầu xây dựng phần mềm.

So we've started with law enforcement.

Chúng tôi bắt đầu với cơ quan hành pháp.

Our dream was an alarm bell on the desks of officers all around the world

Chúng tôi mơ ước đặt chuông báo

trên bàn làm việc của viên chức trên toàn thế giới

so that if anyone dare post a new victim online,

để nếu ai đó dám đăng thông tin về một nạn nhân mới lên mạng,

someone would start looking for them immediately.

mọi người có thể bắt đầu tìm kiếm kẻ đó ngay lập tức.

I obviously can't talk about the details of that software,

Rõ ràng tôi không thể nói chi tiết về phần mềm này,

but today it's at work in 38 countries,

nhưng hiện nay nó có mặt trên 38 quốc gia,

having reduced the time it takes to get to a child

giảm thiểu thời gian cần dùng để tìm kiếm một đứa trẻ

by more than 65 percent.

hơn 65%.

(Vỗ tay)

(Applause)

And now we're embarking on that second horizon:

Giờ chúng tôi đang bắt tay vào giai đoạn thứ hai:

building the software to help companies identify and remove this content.

xây dựng phần mềm giúp các công ty nhận dạng và xoá thông tin như thế.

Let's talk for a minute about these companies.

Hãy nói về các công ty.

So, I told you -- 45 million images and videos in the US alone last year.

Như tôi đã nói, tính riêng ở Mỹ năm ngoái có 45 triệu hình ảnh và video.

Those come from just 12 companies.

Chúng chỉ đến từ 12 công ty.

Twelve companies, 45 million files of child sexual abuse material.

12 công ty, 45 triệu file về lạm dụng tình dục ở trẻ em.

These come from those companies that have the money

Chúng đến từ các công ty có tiềm lực tài chính

to build the infrastructure that it takes to pull this content down.

để xây dựng cơ sở cần có để gỡ nội dung này.

But there are hundreds of other companies,

Nhưng còn hàng trăm công ty khác,

small- to medium-size companies around the world,

các công ty vừa và nhỏ trên thế giới,

that need to do this work,

cần phải làm việc này.

but they either: 1) can't imagine that their platform would be used for abuse,

Nhưng hoặc là họ không tin nền tảng của mình bị lợi dụng cho nạn lạm dụng,

or 2) don't have the money to spend on something that is not driving revenue.

hoặc không có ngân sách cho một việc không tạo ra lợi nhuận.

So we went ahead and built it for them,

Nên chúng tôi ngỏ lời trước và xây dựng nó cho họ,

and this system now gets smarter with the more companies that participate.

và hệ thống này giờ đã thông minh hơn với nhiều công ty tham gia hơn.

Let me give you an example.

Để tôi cho bạn một ví dụ.

Our first partner, Imgur -- if you haven't heard of this company,

Đối tác đầu tiên của chúng tôi là Imgur,

nếu bạn không biết công ty này,

it's one of the most visited websites in the US --

nó là một trong những website được truy cập nhiều nhất nước Mỹ,

millions of pieces of user-generated content uploaded every single day,

hàng triệu nội dung được người dùng đăng tải lên mỗi ngày,

in a mission to make the internet a more fun place.

với mục đích là khiến Internet trở nên vui hơn.

Họ hợp tác với chúng tôi đầu tiên.

They partnered with us first.

Within 20 minutes of going live on our system,

Trong 20 phút áp dụng hệ thống của chúng tôi,

someone tried to upload a known piece of abuse material.

có người cố đăng tải nội dụng lạm dụng.

They were able to stop it, they pull it down,

Họ đã có thể ngăn chặn nó, họ gỡ nó xuống,

they report it to the National Center for Missing and Exploited Children.

họ báo cáo lên Trung tâm Quốc gia về Trẻ em bị Mất tích và Bóc lột.

But they went a step further,

Nhưng họ còn tiến một bước xa hơn,

and they went and inspected the account of the person who had uploaded it.

và họ điều tra tài khoản của người đã đăng nó lên.

Có thêm hàng trăm file về lạm dụng tình dục ở trẻ em

Hundreds more pieces of child sexual abuse material

that we had never seen.

mà chúng tôi chưa bao giờ thấy.

And this is where we start to see exponential impact.

Và đây là lúc chúng tôi bắt đầu chứng kiến ảnh hưởng theo cấp số mũ.

We pull that material down,

Chúng tôi gỡ các file đó xuống,

it gets reported to the National Center for Missing and Exploited Children

báo cáo lên Trung tâm Quốc gia về Trẻ em bị Mất tích và Bóc lột

và mã hoá chúng về hệ thống của mình

and then those hashes go back into the system

and benefit every other company on it.

và giúp ích cho các công ty khác sử dụng hệ thống.

Và khi hàng triệu mã hoá tăng lên hàng triệu nữa, lúc này,

And when the millions of hashes we have lead to millions more and, in real time,

companies around the world are identifying and pulling this content down,

các công ty trên thế giới đang nhận dạng và gỡ các nội dung đó xuống,

we will have dramatically increased the speed at which we are removing

chúng tôi sẽ đẩy nhanh tốc độ xoá bỏ

child sexual abuse material from the internet around the world.

các file về lạm dụng tình dục trẻ em trên mạng Internet toàn thế giới.

(Applause)

(Vỗ tay)

But this is why it can't just be about software and data,

Nhưng đây là lý do nó không chỉ là phần mềm và dữ liệu,

it has to be about scale.

nó cần phải được nhân rộng.

We have to activate thousands of officers,

Chúng tôi phải trang bị cho hàng ngàn viên chức,

hundreds of companies around the world

hàng trăm công ty trên thế giới

if technology will allow us to outrun the perpetrators

nếu công nghệ giúp ta vượt mặt thủ phạm

and dismantle the communities that are normalizing child sexual abuse

và đập tan các cộng đồng bình thường hóa lạm dụng tinh dục trẻ em

around the world today.

trên toàn thế giới ngày nay.

Và bây giờ là lúc ta hành động.

And the time to do this is now.

We can no longer say we don't know the impact this is having on our children.

Chúng ta không thể nói là mình không biết ảnh hưởng của tệ nạn này đến trẻ em.

The first generation of children whose abuse has gone viral

Thế hệ đầu tiền mà video của các em phổ biến ở khắp nơi

are now young adults.

nay đã là trẻ vị thành niên.

The Canadian Centre for Child Protection

Trung tâm Bảo vệ Trẻ em ở Canada

vừa làm một nghiên cứu với trẻ vị thành niên

just did a recent study of these young adults

to understand the unique trauma they try to recover from,

để hiểu những tổn thương của các em khi đang cố gắng hồi phục,

knowing that their abuse lives on.

biết được sự lạm dụng ấy vẫn còn ám ảnh các em.

Eighty percent of these young adults have thought about suicide.

80% trẻ mới lớn đã nghĩ đến việc tự tử.

More than 60 percent have attempted suicide.

Hơn 60% đã cố gắng tự tử.

And most of them live with the fear every single day

Và hầu hết các em phải sống với nỗi sợ hãi mỗi ngày

that as they walk down the street or they interview for a job

khi đi trên đường hoặc phỏng vấn xin việc

or they go to school

hoặc khi đến trường

or they meet someone online,

hoặc gặp ai trên mạng,

mà người đó đã nhìn thấy cảnh các em bị lạm dụng.

that that person has seen their abuse.

And the reality came true for more than 30 percent of them.

Và thực tế này đã xảy ra với hơn 30% trong số các em.

They had been recognized from their abuse material online.

Các em bị nhận ra từ các tin lạm dụng trên mạng.

Đây không phải là điều dễ dàng,

This is not going to be easy,

but it is not impossible.

nhưng không phải là bất khả thi.

Now it's going to take the will,

Giờ đây, đòi hỏi có quyết tâm,

the will of our society

quyết tâm của xã hội

to look at something that is really hard to look at,

để đối mặt với một vấn đề rất khó để có thể đối mặt,

để đưa chúng ra ánh sáng

to take something out of the darkness

so these kids have a voice;

để những đứa trẻ này có tiếng nói;

quyết tâm hành động của các công ty và đảm bảo nền tảng của họ

the will of companies to take action and make sure that their platforms

không đồng loã với nạn lạm dụng trẻ em;

are not complicit in the abuse of a child;

the will of governments to invest with their law enforcement

quyết tâm của chính phủ để đầu tư cho cơ quan hành pháp

for the tools they need to investigate a digital first crime,

bằng các công cụ cần thiết để điều tra tội phạm công nghệ cao,

even when the victims cannot speak for themselves.

kể cả khi các nạn nhân không thể lên tiếng.

This audacious commitment is part of that will.

Cam kết táo bạo này là một phần của quyết tâm đó.

It's a declaration of war against one of humanity's darkest evils.

Đó là lời tuyên bố đấu tranh

chống lại một trong những tội ác đen tối nhất của con người.

But what I hang on to

Nhưng thứ mà tôi hằng mong chờ

is that it's actually an investment in a future

đó là thật sự có khoản đầu tư nghiêm túc cho một tương lai

where every child can simply be a kid.

nơi trẻ em chỉ đơn giản là trẻ em.

Thank you.

Cảm ơn.

(Applause)

(Vỗ tay)