How we can eliminate child sexual abuse material from the internet | Julie Cordua

번역: JungJae Lee 검토: Jihyeon J. Kim

[This talk contains mature content]

[본 강연에는 성인용 내용이 포함되어 있습니다]

Five years ago,

5년 전

I received a phone call that would change my life.

제 삶을 뒤흔든 연락을 한 통 받았습니다.

I remember so vividly that day.

그 날을 무척 선명하게 기억합니다.

It was about this time of year,

당시 이맘때 쯤

and I was sitting in my office.

저는 사무실에 앉아있었습니다.

I remember the sun streaming through the window.

햇빛이 창을 너머와 비치고 있었습니다.

And my phone rang.

전화벨이 울렸고

And I picked it up,

저는 전화를 받았습니다.

and it was two federal agents, asking for my help

두 명의 연방 요원이 한 어린 소녀의 신원을 확인해야 한다고

in identifying a little girl

도움을 요청하고 있었습니다.

featured in hundreds of child sexual abuse images they had found online.

그 소녀는 온라인에서 확보된 성폭력 이미지 수백 건의 희생양이었습니다.

They had just started working the case,

연방 요원들은 막 조사에 착수한 상태였고

but what they knew

그들이 확인한 내용은

was that her abuse had been broadcast to the world for years

아이가 학대당하는 장면이 몇 년이나 전 세계로 중계되었다는 사실이었습니다.

on dark web sites dedicated to the sexual abuse of children.

아동 성폭력 자료를 전문적으로 다루는 다크웹을 통해서 말이죠

And her abuser was incredibly technologically sophisticated:

소녀를 학대한 범인은 믿기지 않을 정도로 정교한 기술을 사용했습니다.

new images and new videos every few weeks,

새로운 사진과 동영상을 몇 주마다 한 번씩 올렸지만

but very few clues as to who she was

단서는 거의 남기지 않았습니다. 그 아이의 신원도

or where she was.

어디 있는지도 찾을 수 없었습니다.

And so they called us,

그래서 우리에게 도움을 요청했습니다.

because they had heard we were a new nonprofit

우리가 새로운 비영리 회사로 아동 성폭력에 맞서 싸우기 위한

building technology to fight child sexual abuse.

기술을 개발한다고 들었기 때문입니다.

But we were only two years old,

하지만 저희는 고작 2년밖에 되지 않은 상태였고

and we had only worked on child sex trafficking.

당시 아동·청소년 성매매 범죄를 대상으로 일한 경험밖에 없었습니다.

And I had to tell them

그래서 저는 그 분들에게

we had nothing.

할 수 있는 게 없다고 말해야 했죠.

We had nothing that could help them stop this abuse.

이러한 학대를 막기 위해 저희가 도울 수 있는 일이 없었습니다.

It took those agents another year

연방 요원이 마침내 그 아이를 찾아내기까지

to ultimately find that child.

한 해가 더 걸렸습니다.

And by the time she was rescued,

아이가 구출되었을 당시

hundreds of images and videos documenting her rape had gone viral,

그녀가 강간당하는 장면을 기록한 수백 건의 사진과 영상이 퍼진 상태였습니다.

from the dark web

다크웹에서 시작해

to peer-to-peer networks, private chat rooms

P2P 네트워크와 사설 채팅방

and to the websites you and I use

그리고 여러분과 제가 아주 일상적으로 사용하는

every single day.

웹사이트들로 말이죠.

And today, as she struggles to recover,

그리고 오늘날, 그 소녀는 회복을 위해 몸부림치며

she lives with the fact that thousands around the world

전 세계 수천 명이 지켜보리라는 사실과 함께 살아가야 합니다.

continue to watch her abuse.

그녀가 학대당하는 모습을요.

I have come to learn in the last five years

저는 지난 5년간

that this case is far from unique.

이러한 사건이 드물지 않다는 것을 알게 되었습니다.

How did we get here as a society?

어쩌다 사회가 이 모양이 되었을까요?

In the late 1980s, child pornography --

1980년 후반 아동 음란물은

or what it actually is, child sexual abuse material --

더 정확히, 아동 성폭력 자료는

was nearly eliminated.

거의 근절되었습니다.

New laws and increased prosecutions made it simply too risky

새 법안이 발의되고 기소가 증가하며 단순히

편지로 거래하는 행위가 너무 위험해졌기 때문입니다.

to trade it through the mail.

And then came the internet, and the market exploded.

그러나 인터넷 시대가 열리며 시장이 폭발했습니다.

The amount of content in circulation today

오늘날 돌고 도는 아동 성폭력 자료는

is massive and growing.

양이 엄청날 뿐 아니라 증가하고 있습니다.

This is a truly global problem,

이는 정말로 국제적 문제입니다만

but if we just look at the US:

미국만 예로 들어 보겠습니다.

in the US alone last year,

2018년 미국에서만

more than 45 million images and videos of child sexual abuse material

4천 5백만 건이 넘는 아동 성폭력 사진·영상 자료가

were reported to the National Center for Missing and Exploited Children,

미 국립 실종 학대 아동방지센터 (NCMEC)로 신고되었고

and that is nearly double the amount the year prior.

이는 거의 그 전년도의 두 배에 해당하는 양입니다.

And the details behind these numbers are hard to contemplate,

이 수치 이면에 있는 세부사항은 생각하기조차 고통스럽습니다.

with more than 60 percent of the images featuring children younger than 12,

이미지의 60% 이상이 12살 미만의 어린이를 대상으로 하고 있으며

and most of them including extreme acts of sexual violence.

그 대부분이 극심한 성폭력을 담고 있습니다.

Abusers are cheered on in chat rooms dedicated to the abuse of children,

학대범들은 아동 성폭력 자료 교환을 위해 개설된 채팅방에서 환호하며

where they gain rank and notoriety

더 많은 희생양을 학대할수록

with more abuse and more victims.

그 채팅방 안에서 계급과 명성을 얻습니다.

In this market,

이 시장에서

the currency has become the content itself.

교환에 사용하는 화폐는 성폭력 자료 자체입니다.

It's clear that abusers have been quick to leverage new technologies,

학대범들은 새로운 기술에 빠르게 적응했지만

but our response as a society has not.

사회의 대응책은 그렇게 적응하지 못했습니다.

These abusers don't read user agreements of websites,

이 학대범들은 웹사이트의 이용약관을 읽지 않으며

and the content doesn't honor geographic boundaries.

그들이 공유하는 자료는 지리적 경계에 묶이지 않습니다.

And they win when we look at one piece of the puzzle at a time,

우리가 단서를 한 조각씩 보는 동안 그들은 승리합니다.

which is exactly how our response today is designed.

오늘날 사회의 대응책이 이렇게 설계되어있기 때문입니다.

Law enforcement works in one jurisdiction.

법 집행은 특정 관할권에서만 효력을 발휘합니다.

Companies look at just their platform.

회사는 자신의 플랫폼만 관리합니다.

And whatever data they learn along the way

그리고 그 과정에서 그들이 얻는 정보가 무엇이든

is rarely shared.

좀처럼 공유하지 않습니다.

It is so clear that this disconnected approach is not working.

이렇게 서로 분절된 접근으로는 문제를 결코 해결할 수 없습니다.

We have to redesign our response to this epidemic

대응책을 새롭게 설계해야만 이 디지털 시대의 전염병에

for the digital age.

맞설 수 있습니다.

And that's exactly what we're doing at Thorn.

그것이 쏜(Thorn)에서 하는 일입니다.

We're building the technology to connect these dots,

우리는 연결점을 서로 이어주는 기술을 개발해

to arm everyone on the front lines --

최전선의 모든 기관

law enforcement, NGOs and companies --

집행기관과 비정부기구(NGO) 그리고 기업을

with the tools they need to ultimately eliminate

아동 성폭력 자료를 인터넷에서 근절하는데

child sexual abuse material from the internet.

필요한 도구로 무장시키고자 합니다.

Let's talk for a minute --

이 기술에 대해 잠시 이야기하겠습니다.

(Applause)

(박수)

Thank you.

감사합니다.

(Applause)

(박수)

Let's talk for a minute about what those dots are.

먼저 연결점들이 무엇인지 말씀드리겠습니다.

As you can imagine, this content is horrific.

상상이 가시겠지만 여기서 다루는 자료들은 끔찍합니다.

If you don't have to look at it, you don't want to look at it.

꼭 봐야 할 필요가 없다면 보고싶지 않을 자료들입니다.

And so, most companies or law enforcement agencies

따라서 이런 자료를 확보한

that have this content

회사나 사법 당국 대부분이

can translate every file into a unique string of numbers.

그 파일을 모두 고유한 수열로 변환 할 수 있습니다.

This is called a "hash."

이 수열을 ‘해시(hash)’라고 합니다.

It's essentially a fingerprint

해시는 기본적으로 각 파일과 동영상의

for each file or each video.

지문과 같은 역할을 합니다.

And what this allows them to do is use the information in investigations

해시를 사용하여 수사 과정에서 파일의 정보를 사용하거나

or for a company to remove the content from their platform,

회사가 자기 플랫폼에서 자료를 제거할 수 있습니다.

without having to relook at every image and every video each time.

그 과정에서 사진과 영상을 매번 다시 보지 않아도 됩니다.

The problem today, though,

하지만 문제는

is that there are hundreds of millions of these hashes

수백, 수천만 개나 되는 해시가

sitting in siloed databases all around the world.

전 세계에 있는 데이터베이스에 각각 나뉘어 있다는 겁니다.

In a silo,

고립된 해시가

it might work for the one agency that has control over it,

이를 통제하는 단체에는 도움이 될지 몰라도

but not connecting this data means we don't know how many are unique.

정보를 통합하지 못하면 얼마나 많은 개별 해시가 있는지 알 수 없습니다.

We don't know which ones represent children who have already been rescued

즉 해시가 이미 구조된 아동에게 관계되어 있는지, 아니면 여전히

or need to be identified still.

구조가 필요한 아동에게 관계되어 있는지를 알 수 없다는 뜻입니다.

So our first, most basic premise is that all of this data

따라서 첫 번째 가장 기본적인 전제는 이 모든 정보가

must be connected.

반드시 연결되어야 한다는 점입니다.

There are two ways where this data, combined with software on a global scale,

두 가지 방법으로 이 데이터를 국제적 규모의 소프트웨어와 결합해

can have transformative impact in this space.

피해 아동을 돕는 데 혁신적인 영향을 미칠 수 있습니다.

The first is with law enforcement:

하나는 집행기관에 연계하여

helping them identify new victims faster,

새로운 희생자를 더 빠르게 식별하고

stopping abuse

학대를 멈춰

and stopping those producing this content.

아동 성폭력 자료 생산을 제재하는 것입니다.

The second is with companies:

두 번째는 기업과 연계하여

using it as clues to identify the hundreds of millions of files

오늘날 돌고 도는 수백 수천만 개의 파일을

in circulation today,

식별하는 단서로 사용해

pulling it down

자료를 끌어내리고

and then stopping the upload of new material before it ever goes viral.

애초에 퍼져나가지 못하도록 새로운 자료의 업로드를 막는 것입니다.

Four years ago,

4년 전

when that case ended,

그 사건이 종료되고

our team sat there, and we just felt this, um ...

저희 팀은 그곳에 앉아 어떤 감정을 느꼈습니다.

... deep sense of failure, is the way I can put it,

깊은 좌절감 정도가 적당하겠네요.

because we watched that whole year

그해 내내 연방 요원들이 그 아이를 찾는 과정을

while they looked for her.

지켜보았기 때문입니다.

And we saw every place in the investigation

저희 팀이 수사 과정에서 주목한 모든 지점이

where, if the technology would have existed,

만약 기술만 있었더라면

they would have found her faster.

그 아이를 더 빨리 찾을 수도 있었다고 말하고 있었습니다.

And so we walked away from that

그래서 거기서 물러나

and we went and we did the only thing we knew how to do:

우리가 할 줄 아는 유일한 일을 하기로 했습니다.

we began to build software.

소프트웨어를 짜기 시작했습니다.

So we've started with law enforcement.

먼저 집행 기관과 함께 시작했습니다.

Our dream was an alarm bell on the desks of officers all around the world

우리의 목표는 전 세계 경찰관의 책상 위에 놓인 자명종이 되어

so that if anyone dare post a new victim online,

누구라도 감히 새로운 희생자를 인터넷에 올리면

someone would start looking for them immediately.

즉시 그들을 추적하는 것이었습니다.

I obviously can't talk about the details of that software,

물론 이 소프트웨어의 자세한 사항을 말씀드릴 수는 없지만

but today it's at work in 38 countries,

이제 38개 나라에서 이 소프트웨어를 사용하고

having reduced the time it takes to get to a child

아이들을 찾아내는 데 걸리는 시간을

by more than 65 percent.

65% 이상 단축했습니다.

(Applause)

(박수)

And now we're embarking on that second horizon:

이제 두 번째 목표에 착수하고 있습니다.

building the software to help companies identify and remove this content.

회사에서 자료를 식별하고 제거하는 데 도움을 주는 소프트웨어를 만들고 있습니다.

Let's talk for a minute about these companies.

이 회사들에 관해 이야기 해 봅시다.

So, I told you -- 45 million images and videos in the US alone last year.

앞서 말했듯 2018년 미국에서만 4천5백만 건의 사진과 동영상이 보고되었습니다.

Those come from just 12 companies.

이는 겨우 12개의 회사에서 나왔습니다.

Twelve companies, 45 million files of child sexual abuse material.

12개의 회사에서 아동 성폭력 자료가 4천5백만건 나온 겁니다.

These come from those companies that have the money

이 자료를 보고한 회사들은

to build the infrastructure that it takes to pull this content down.

아동 성폭력 자료를 끌어내리기 위한 인프라를 구축할 자금이 있습니다.

But there are hundreds of other companies,

하지만 수백 개의 다른 회사들

small- to medium-size companies around the world,

전 세계의 규모가 작거나 중간 정도인 회사는

that need to do this work,

아동 음란물을 근절시켜야 하지만

but they either: 1) can't imagine that their platform would be used for abuse,

1) 그들의 플랫폼이 학대를 위해 사용되리라 생각하지 못하거나

or 2) don't have the money to spend on something that is not driving revenue.

2) 수익을 창출하지 못하는 사업에 투자할 자금이 없습니다.

So we went ahead and built it for them,

그래서 우리가 나서서 만들었습니다.

and this system now gets smarter with the more companies that participate.

이제 이 시스템은 더 많은 회사가 참여할수록 똑똑해집니다.

Let me give you an example.

예를 들어보겠습니다.

Our first partner, Imgur -- if you haven't heard of this company,

우리의 첫 번째 파트너 이미져(Imgur), 생소하신 분을 위해 덧붙이자면

it's one of the most visited websites in the US --

이 회사는 미국에서 가장 많이 방문하는 웹사이트 중 하나로

millions of pieces of user-generated content uploaded every single day,

매일 사용자 제작 이미지 수 백만 개가 등록되며

in a mission to make the internet a more fun place.

인터넷을 더 재미있는 공간으로 만들자는 목표를 가지고 있습니다.

They partnered with us first.

우리는 이미져와 처음으로 파트너 관계를 맺었습니다.

Within 20 minutes of going live on our system,

시스템을 시작한 지 20분 만에

someone tried to upload a known piece of abuse material.

누군가 저희 쪽에 해시가 있는 성폭행 자료를 올리려고 시도했습니다.

They were able to stop it, they pull it down,

이미져 측에서 멈출 수 있었고 자료를 내렸으며

they report it to the National Center for Missing and Exploited Children.

미 국립 실종 학대 아동방지센터에 신고했습니다.

But they went a step further,

하지만 한발 더 나아갔습니다.

and they went and inspected the account of the person who had uploaded it.

이미져측에서 그 자료를 올린 사람의 계정을 조사했습니다.

Hundreds more pieces of child sexual abuse material

수백 건의 아동 성폭력 자료가 더 있었는데

that we had never seen.

한 번도 보지 못한 것들 이었습니다.

And this is where we start to see exponential impact.

여기에서 우리는 기하급수적인 효과를 보기 시작했습니다.

We pull that material down,

그 자료를 플랫폼에서 내리고

it gets reported to the National Center for Missing and Exploited Children

미 국립 실종 학대 아동방지센터에 신고한 뒤

and then those hashes go back into the system

그 해시들을 시스템에 기록하여

and benefit every other company on it.

다른 모든 회사에서도 사용할 수 있게 했습니다.

And when the millions of hashes we have lead to millions more and, in real time,

우리가 확보한 수 백만의 해시가 다른 수 백만의 해시에 실시간으로 연결되고

companies around the world are identifying and pulling this content down,

전 세계의 회사가 그 자료를 식별한 뒤 플랫폼에서 내려

we will have dramatically increased the speed at which we are removing

전 세계의 인터넷에서 극적으로 속도를 높여

child sexual abuse material from the internet around the world.

아동 성폭력 자료를 제거할 것입니다.

(Applause)

(박수)

But this is why it can't just be about software and data,

하지만 이것이 소프트웨어와 데이터에만 머무를 수 없는 이유입니다.

it has to be about scale.

규모를 넓혀야 합니다.

We have to activate thousands of officers,

수천 명의 경찰에게 알리고

hundreds of companies around the world

전 세계 수백 개의 회사에 도입해야 합니다.

if technology will allow us to outrun the perpetrators

기술을 활용해 가해자들을 잡고

and dismantle the communities that are normalizing child sexual abuse

오늘날 전 세계에서 아동 성폭력을 일반적인 현상으로 만드는

around the world today.

커뮤니티를 해체할 수 있을 것입니다.

And the time to do this is now.

지금 당장 시작해야 합니다.

We can no longer say we don't know the impact this is having on our children.

더 이상 이러한 일들이 우리 아이들에게 미치는 영향을 모른다고 할 수 없습니다.

The first generation of children whose abuse has gone viral

성폭행당한 자료가 퍼진 아이들 중 첫 번째 세대는

are now young adults.

이제 청년기에 들어섰습니다.

The Canadian Centre for Child Protection

캐나다 아동보호 센터는

just did a recent study of these young adults

최근 이 청소년들을 조사하여

to understand the unique trauma they try to recover from,

그들이 극복하고자 노력하는 트라우마를 이해하고자 했습니다.

knowing that their abuse lives on.

그들은 자신이 받은 학대와 함께 살아가고 있었습니다.

Eighty percent of these young adults have thought about suicide.

그들 중 80%가 자살에 대해 생각한 적이 있었고.

More than 60 percent have attempted suicide.

60% 이상이 자살을 시도했습니다.

And most of them live with the fear every single day

대부분 매일 공포를 느끼며 살아갑니다.

that as they walk down the street or they interview for a job

길을 걷거나 면접을 보다가

or they go to school

혹은 학교에 가거나

or they meet someone online,

온라인으로 사람을 만날 때

that that person has seen their abuse.

자기가 성폭행 당하는 모습을 봤을지도 모른다는 공포를 느낍니다.

And the reality came true for more than 30 percent of them.

그리고 30% 이상에게 그 공포는 현실이 되었습니다.

They had been recognized from their abuse material online.

누군가 온라인상의 파일을 통해 그들을 알아본 것입니다.

This is not going to be easy,

아동 성폭력 자료 근절은 쉽지 않겠지만

but it is not impossible.

불가능하지 않습니다.

Now it's going to take the will,

이제 이 과업은 의지에 달려있습니다.

the will of our society

우리 사회의 의지

to look at something that is really hard to look at,

정말로 직시하기 힘든 것을 보고자 하고

to take something out of the darkness

어둠으로부터 무언가를 끌고 나와

so these kids have a voice;

이 아이들이 목소리를 낼 수 있게 하는 의지

the will of companies to take action and make sure that their platforms

조치를 취하여 그들의 플랫폼이 아동 성폭력 자료로부터

are not complicit in the abuse of a child;

깨끗하게 유지되도록 노력하는 기업의 의지.

the will of governments to invest with their law enforcement

집행 기관이 디지털 범죄를 수사하는 데 필요한

for the tools they need to investigate a digital first crime,

기술을 제공하는 정부의 의지.

even when the victims cannot speak for themselves.

심지어 피해자들이 자신을 위해 목소리 조차 낼 수 없는 디지털 범죄일지라도.

This audacious commitment is part of that will.

TED의 대담한 헌신이 그 의지의 일부입니다.

It's a declaration of war against one of humanity's darkest evils.

이는 인류의 가장 어두운 악에게 선포하는 전쟁입니다.

But what I hang on to

하지만 제가 가장 의지하는 것은

is that it's actually an investment in a future

이게 미래를 위한 투자라는 사실입니다.

where every child can simply be a kid.

모든 아이가 그저 아이로 남을 수 있는 미래가 오기를 바랍니다.

Thank you.

감사합니다.

(Applause)

(박수)