What you need to know about face surveillance | Kade Crockford

번역: Chanhong Park 검토: Jihyeon J. Kim

How many of you have ever heard someone say

사생활은 사라졌다고 들어보신 분들 몇 분이나 계신가요?

privacy is dead?

Raise your hand.

손 들어보세요.

How many of you have heard someone say

자신은 숨길 게 없기 때문에

they don't care about their privacy because they don't have anything to hide?

자신의 사생활에 대해 신경쓰지 않는다는 사람들을 본 적 있나요?

Go on.

들어보세요.

(Laughter)

(웃음)

Now, how many of you use any kind of encryption software?

암호화 소프트웨어를 사용해보신 분은 몇이나 계신가요?

Raise your hand.

손 들어보세요.

Or a password to protect an online account?

온라인 계정을 보호하기 위해 비밀번호를 사용하시는 분은요?

Or curtains or blinds on your windows at home?

집에서 커튼으로 가리시는 분도 계신가요?

(Laughter)

(웃음)

OK, so that's everyone, I think.

다들 그러시는 것 같네요.

(Laughter)

(웃음)

So why do you do these things?

그럼 왜들 그러시는 건가요?

My guess is,

제 생각엔

it's because you care about your privacy.

자신의 사생활을 보호하기 위해서입니다.

The idea that privacy is dead is a myth.

사생활이 사라졌다는 말은 근거 없는 믿음입니다.

The idea that people don't care about their privacy

자기 사생활을 보호에 신경쓰지 않는 이유가

because "they have nothing to hide"

숨길 게 없어서라든가

or they've done nothing wrong

잘못한 게 없다는 생각도

is also a myth.

마찬가지로 근거 없는 믿음입니다.

I'm guessing that you would not want to publicly share on the internet,

여러분들은 자신의 모든 의료기록이 누구나 볼 수 있게

for the world to see,

인터넷에 공유되는 것을

all of your medical records.

원하지 않을 겁니다.

Or your search histories from your phone or your computer.

또는 휴대 전화나 컴퓨터의 검색기록도요.

And I bet

그리고

that if the government wanted to put a chip in your brain

정부가 여러분의 머릿속에 칩을 심어

to transmit every one of your thoughts to a centralized government computer,

생각을 속속들이 정부 중앙 컴퓨터로 전송하는 것도

you would balk at that.

꺼리실 거라 장담합니다.

(Laughter)

(웃음)

That's because you care about your privacy,

그렇기 때문에 여러분들은 사생활을 지키려 한다는 겁니다,

like every human being.

다른 모든 사람들처럼요.

So, our world has changed fast.

세계는 빠르게 변화하고 있습니다.

And today, there is understandably a lot of confusion

당연하게도 사생활의 정의와 그것이 왜 중요한지에 대해

about what privacy is and why it matters.

오늘날 많은 논란이 있습니다.

Privacy is not secrecy.

사생활이 곧 비밀은 아닙니다.

It's control.

사생활이란 통제하는 겁니다.

I share information with my doctor about my body and my health,

저는 제 신체와 건강에 대한 정보를 의사와 공유하지만

expecting that she is not going to turn around

의사가 그 정보를 제 부모님이나

and share that information with my parents,

직장 또는 제 아이에게

or my boss or my kids.

알리게 하지는 않습니다.

That information is private, not secret.

이런 정보는 비밀이 아니라 사생활입니다.

I'm in control over how that information is shared.

제 정보가 어디까지 공유되는지 스스로 통제가 가능합니다.

You've probably heard people say that there's a fundamental tension

여러분은 사생활과 보안 사이에

between privacy on the one hand

근본적으로 긴장상태가 존재한다는

and safety on the other.

주장을 들어보셨을 겁니다.

But the technologies that advance our privacy

하지만 과학기술은 사생활 보호뿐 아니라

also advance our safety.

보안도 향상시켰습니다.

Think about fences, door locks,

담장이나, 도어록,

curtains on our windows, passwords,

창문 커튼, 비밀번호,

encryption software.

암호화 소프트웨어 같은 거죠.

All of these technologies

이 모든 기술들은

simultaneously protect our privacy and our safety.

사생활과 보안을 동시에 지켜줍니다.

Dragnet surveillance, on the other hand, protects neither.

반면 저인망식 감시는 그렇지 않습니다.

In recent years,

최근 몇 년,

the federal government tasked a group of experts

정부는 사생활 보호 및 시민 자유 검토 위원회라는

called The Privacy and Civil Liberties Oversight Board

전문가들에게 9.11사건 이후의

with examining post-9/11 government surveillance programs,

정부 감시 프로그램을 검토하도록 지시했습니다,

dragnet surveillance programs.

저인망식 감시 프로그램이죠.

Those experts could not find a single example

전문가들은 이 프로그램이 안전을 보장해준다는

of that dragnet surveillance advancing any safety --

단 하나의 사례도 찾지 못 했습니다.

didn't identify or stop a single terrorist attack.

터레러리스트의 공격을 사전에 예방하지도 못했고요.

You know what that information was useful for, though?

수집된 정보가 어디에 유용했을까요?

Helping NSA employees spy on their romantic interests.

NSA 직원들이 연애상대를 감시하는 데는 좋았죠.

(Laughter)

(웃음)

(Audience: Wow.)

(청중: 와.)

Another example is closer to home.

또 다른 사례는 가정과 밀접합니다.

So millions of people across the United States and the world

미국과 전 세계에서 수백 만 명이

are adopting so-called "smart home" devices,

인터넷으로 연결된 감시 카메라 같은

like internet-connected surveillance cameras.

"스마트 홈'이라는 장치를 사용합니다.

But we know that any technology connected to the internet

하지만 인터넷이 연결되어 있다면

can be hacked.

해킹당할 수도 있죠.

And so if a hacker

그래서 만약 해커가

gets into your internet-connected surveillance camera at home,

인터넷에 연결된 가정용 감시 카메라를 해킹하게 되면,

they can watch you and your family coming and going,

여러분이나 가족이 드나드는 것을 볼 수 있을 거고,

finding just the right time to strike.

침입하기 좋은 시간을 알 수 있겠죠.

You know what can't be hacked remotely?

해킹되지 않는 게 뭔지 아세요?

Curtains.

커튼입니다.

(Laughter)

(웃음)

Fences.

담장과

Door locks.

문 잠금장치가 있죠

(Laughter)

(웃음)

Privacy is not the enemy of safety.

사생활은 안전의 적이 아닙니다.

It is its guarantor.

보증인이죠.

Nonetheless, we daily face a propaganda onslaught

그럼에도 감시 프로그램에 의해 사생활이 침해되는 것이

telling us that we have to give up some privacy in exchange for safety

안전의 대가로 당연하다는 선전물을

through surveillance programs.

우린 매일 마주합니다.

Face surveillance is the most dangerous of these technologies.

여러 기술 중 가장 위험한 것이 안면 인식 감시 기술입니다.

There are two primary ways today governments use technologies like this.

정부는 현재 이 기술에 주로 두 가지 방법을 사용합니다.

One is face recognition.

첫 번째는 안면 인식입니다.

That's to identify someone in an image.

사진 속의 인물을 특정하는 겁니다.

The second is face surveillance,

두 번째는 안면 감시인데,

which can be used in concert

콘서트장에서 조차

with surveillance-camera networks and databases

감시카메라 네크워크와 데이터베이스를 통해

to create records of all people's public movements,

모든 사람들의 행동과 습성, 상호교류 등을 기록할 수 있습니다.

habits and associations,

effectively creating a digital panopticon.

효과적으로 디지털 원형 교도소를 설계하는 겁니다.

This is a panopticon.

이게 원형 교도소입니다.

It's a prison designed to allow a few guards in the center

중앙에 있는 교도관들이 주위의 모든 감방에서 일어나는

to monitor everything happening in the cells around the perimeter.

모든 일을 감시할 수 있도록 설계된 교도소입니다.

The people in those prison cells can't see inside the guard tower,

이 감방의 수감자들은 감시탑 내부를 볼 수 없지만,

but the guards can see into every inch of those cells.

교도관들은 감방 구석구석을 감시할 수 있습니다.

The idea here

여기서 생각할 수 있는 것은

is that if the people in those prison cells

만약 이 감방의 수감자들이

know they're being watched all the time,

자신이 항상 감시당하고 있거나,

or could be,

그럴 수 있다는 것을 안다면,

they'll behave accordingly.

그에 부응해 행동할 겁니다.

Similarly, face surveillance enables a centralized authority --

마찬가지로, 안면 감시 역시 집중된 권한을 부여합니다.

in this case, the state --

정부에게 말이죠.

to monitor the totality of human movement and association

공공장소에서의 사람들의 움직임과 상호교류를 완벽히

in public space.

지켜볼 수 있습니다.

And here's what it looks like

현실세계에서의 모습은 이렇습니다.

in real life.

In this case, it's not a guard in a tower,

이 경우는 감시탑의 교도관이 아니라,

but rather a police analyst in a spy center.

경찰 관제센터의 영상분석가들입니다.

The prison expands beyond its walls,

교도소는 그 영역을 확장해,

encompassing everyone,

언제 어디서든 모든 사람을

everywhere, all the time.

가두둘 수 있게 된 겁니다.

In a free society,

자유사회에서,

this should terrify us all.

이는 분명 모두에게 위협적입니다.

For decades now, we've watched cop shows

수십 년간, 경찰드라마에서는

that push a narrative that says

안면 감시 같은 기술들이

technologies like face surveillance ultimately serve the public good.

궁극적으로 공공의 이익을 지켜주는 것처럼 비쳤습니다.

But real life is not a cop drama.

하지만 현실은 드라마가 아닙니다.

The bad guy didn't always do it,

나쁜 사람이라고 해서 항상 나쁜 일을 하는 것도 아니고,

the cops definitely aren't always the good guys

경찰이라고 해서 모두 좋은 사람은 아닙니다.

and the technology doesn't always work.

기술이 항상 제대로 기능하는 것도 아니죠.

Take the case of Steve Talley,

콜로라도의 재무분석가,

a financial analyst from Colorado.

스티브 탤리의 사례를 보죠.

In 2015, Talley was arrested, and he was charged with bank robbery

2015년, 탤리는 은행강도 혐의로 체포됐는데

on the basis of an error in a facial recognition system.

안면 인식 시스템의 오류 때문이었습니다.

Talley fought that case

탤리는 소송을 통해

and he eventually was cleared of those charges,

결국 혐의를 벗었지만,

but while he was being persecuted by the state,

주정부에 의해 기소되는 동안,

he lost his house, his job and his kids.

집과 직장, 아이들을 잃었습니다.

Steve Talley's case is an example

스티브 탤리의 사례는

of what can happen when the technology fails.

기술의 오류로 생길 수 있는 문제들 중 하나입니다.

But face surveillance is just as dangerous when it works as advertized.

하지만 안면 감시는 정상적으로 작동해도 위험합니다.

Just consider how trivial it would be

익명의 알콜중독자 모임이 있는

for a government agency to put a surveillance camera

건물 바깥에 정부가 감시카메라를

outside a building where people meet for Alcoholics Anonymous meetings.

설치하는 게 얼마나 손쉬운지 생각해보세요.

They could connect that camera

카메라를 통해

to a face-surveillance algorithm and a database,

안면 감시 알고리즘과 데이터베이스에 접근하면

press a button and sit back and collect

버튼 하나만 누르고 앉아

a record of every person receiving treatment for alcoholism.

알콜중독치료를 받는 모든 참석자들의 정보를 수집할 수 있습니다.

It would be just as easy for a government agency

정부가 이 기술을 여성 행진이나

to use this technology to automatically identify

흑인 민권 운동 참석자들 개개인을

every person who attended the Women's March

자동으로 특정하기 위해 사용하는 것도 아주 쉬울 겁니다.

or a Black Lives Matter protest.

Even the technology industry is aware of the gravity of this problem.

심지어 이쪽 기술 업계도 문제의 심각성을 알고 있습니다.

Microsoft's president Brad Smith has called on Congress to intervene.

마이크로소프트의 사장 브래드 스미스는 의회의 개입을 요청했습니다.

Google, for its part,

한편 구글은,

has publicly declined to ship a face surveillance product,

안면 감시 상품의 이용을 공식적으로 거부했는데,

in part because of these grave human and civil rights concerns.

부분적으로는 심각한 인권 문제를 인식한 거죠.

And that's a good thing.

바람직한 일입니다.

Because ultimately,

왜냐하면 궁극적으로,

protecting our open society is much more important

열린 사회를 보호하는 게 기업 이윤 보다

than corporate profit.

훨씬 더 중요하기 때문입니다.

The ACLU's nationwide campaign

ACLU는 이 위험한 기술 도입에

to get the government to pump the brakes

정부가 제동을 걸어야 한다며

on the adoption of this dangerous technology

전국적인 캠페인을 벌여왔는데

has prompted reasonable questions from thoughtful people.

이는 양식 있는 사람들의 합리적 의심을 유발했습니다.

What makes this technology in particular so dangerous?

어떤 특별한 게 이 기술을 위험하게 만드는 건가?

Why can't we just regulate it?

우리가 통제할 수는 없는가?

In short, why the alarm?

간단히 말해, 왜 경계해야 하는가?

Face surveillance is uniquely dangerous for two related reasons.

안면 감시는 상호연관된 두 가지 이유로 특히 위험합니다.

One is the nature of the technology itself.

하나는 기술 그 자체의 본질입니다.

And the second is that our system

다른 하나는 우리 시스템이

fundamentally lacks the oversight and accountability mechanisms

정부의 기술 남용 우려가 없도록 할 수 있는

that would be necessary

감독 기능과 책임 체계가

to ensure it would not be abused in the government's hands.

근본적으로 취약하다는 것입니다.

First, face surveillance enables a totalizing form of surveillance

첫째, 안면 감시는 과거에는 불가능했던 모든 형태의 감시를

never before possible.

가능하게 합니다.

Every single person's every visit to a friend's house,

개개인의 모든 방문은 그곳이 친구집이든,

a government office,

관공서,

a house of worship,

교회,

a Planned Parenthood,

가족 계획 연맹,

a cannabis shop,

대마초 가게,

a strip club;

스트립 클럽이든요.

every single person's public movements, habits and associations

모든 개개인의 사회적 행동과 습성, 상호교류가

documented and catalogued,

기록되고 분류됩니다,

not on one day, but on every day,

하루만이 아니라, 매일요,

merely with the push of a button.

버튼 하나만 누르면 됩니다.

This kind of totalizing mass surveillance

이 총체적이면서도 대량적 감시는

fundamentally threatens what it means to live in a free society.

자유사회에서의 삶에 필요한 요소에 근본적인 위협이 됩니다.

Our freedom of speech, freedom of association,

언론의 자유와 결사의 자유,

freedom of religion,

종교의 자유,

freedom of the press,

출판의 자유,

our privacy,

우리의 사생활,

our right to be left alone.

혼자 있을 권리 등에 말입니다.

You may be thinking,

이렇게 생각하실 지도 모릅니다,

"OK, come on, but there are tons of ways the government can spy on us."

"그래, 하지만 정부가 우리를 감시하는 방법은 수도 없이 많다고."

And yes, it's true,

네, 맞습니다,

the government can track us through our cell phones,

정부는 휴대 전화를 통해 우릴 추적할 수 있습니다,

but if I want to go to get an abortion,

하지만 낙태를 하러 가거나,

or attend a political meeting,

정치적 모임에 참석하거나,

or even just call in sick and play hooky and go to the beach ...

꾀병으로 병가를 내고 해변으로 놀러 가고 싶다면...

(Laughter)

(웃음)

I can leave my phone at home.

집에 휴대 전화를 놓고 가면 됩니다.

I cannot leave my face at home.

하지만 얼굴은 그렇지 않습니다.

And that brings me to my second primary concern:

이런 점들이 제게 두 번째 염려를 하게 합니다.

How we might meaningfully regulate this technology.

어떻게 하면 이 기술을 의미있게 통제할 수 있는가.

Today, if the government wants to know where I was last week,

아직은 지난주 제가 어디 있었는지 정부가 알고 싶다고 해서,

they can't just hop into a time machine and go back in time and follow me.

타임머신을 타고 과거로 가 절 찾을 순 없습니다.

And they also, the local police right now,

그리고 아직은 경찰이,

don't maintain any centralized system of tracking,

차후 유용한 정보로 쓰기 위해,

where they're cataloging every person's public movements all the time,

상시 모든 사람들의 행동을 분류하는,

just in case that information some day becomes useful.

집중된 추적 시스템을 운영하지도 않습니다.

Today, if the government wants to know where I was last week,

지금은, 만약 정부가 지난주 또는 지난 달,

or last month or last year,

작년의 제 소재를 알고 싶다면

they have to go to a judge, get a warrant

판사로부터 영장을 받아

and then serve that warrant on my phone company,

제 사생활을 지키도록 계약관계에 있는

which by the way, has a financial interest in protecting my privacy.

휴대 전화 통신사에 집행해야 하죠.

With face surveillance,

하지만 안면 감시를 한다면

no such limitations exist.

이런 제약은 있을 수 없습니다.

This is technology that is 100 percent controlled by the government itself.

이 기술은 정부가 완전히 통제하고 있습니다.

So how would a warrant requirement work in this context?

이런 경우 영장이 의미 있을까요?

Is the government going to go to a judge

정부가 판사로부터

and get a warrant,

영장을 받아

and then serve the warrant on themselves?

스스로에게 집행을 하는데요?

That would be like me giving you my diary,

이건 마치 제가 여러분에게 제 일기장을 주고는,

and saying, "Here, you can hold on to this forever,

"평생 이거 가지고 있어도 돼,

but you can't read it until I say it's OK."

근데 내가 허락하기 전까진 읽어보면 안 돼."하는 것과 같습니다.

So what can we do?

그럼 우린 어떻게 해야 할까요?

The only answer to the threat

정부의 안면 감시로 인한 위협에

posed by the government's use of face surveillance

대처할 수 있는 유일한 방법은

is to deny the government the capacity to violate the public's trust,

정부 조직 내에 안면 감시 네트워크를

by denying the government the ability

갖추지 못하게 함으로써

to build these in-house face-surveillance networks.

공공의 신뢰를 저버리는 일을 할 수 없게 하는 것입니다.

And that's exactly what we're doing.

그게 바로 저희가 하는 일입니다.

The ACLU is part of a nationwide campaign

ACLU는 정부가 이런 위험한 기술을

to pump the brakes on the government's use of this dangerous technology.

사용하는 것에 반대하는 전국적인 캠페인 단체 중 하나입니다.

We've already been successful,

저희는 매사추세츠 주의 서머빌부터,

from San Francisco to Somerville, Massachusetts,

샌프란시스코에 이르기까지 이런 기술 사용을

we have passed municipal bans

금지하는 지방정부의 법안을

on the government's use of this technology.

통과시키는데 성공적으로 임했습니다.

And plenty of other communities here in Massachusetts

그리고 여기 매사추세츠 주와

and across the country

전국의 많은 단체들이

are debating similar measures.

비슷한 정책을 논의 중입니다.

Some people have told me that this movement is bound to fail.

어떤 사람들은 저의 이런 활동이 실패할 거라고 합니다.

That ultimately,

결국은

merely because the technology exists,

이미 존재하는 기술이기에

it will be deployed in every context

어느 나라에서든

by every government everywhere.

사용될 거라고 합니다.

Privacy is dead, right?

사생활은 사라졌습니다, 맞나요?

So the narrative goes.

항상 그렇게들 말합니다.

Well, I refuse to accept that narrative.

하지만 전 그 말을 거부합니다.

And you should, too.

여러분들도 그래야 하고요.

We can't allow Jeff Bezos or the FBI

우린 제프 베조스나 FBI가

to determine the boundaries of our freedoms in the 21st century.

21세기 우리의 자유를 제한하도록 내버려 둬선 안 됩니다.

If we live in a democracy,

우리가 민주국가에서 살면서

we are in the driver's seat,

주도적인 위치에서

shaping our collective future.

모두의 미래를 만들고 있다면요.

We are at a fork in the road right now.

우린 지금 갈림길에 서 있습니다.

We can either continue with business as usual,

우린 정부가 이 검증되지 않은 기술을

allowing governments to adopt and deploy these technologies unchecked,

지금껏 하던대로 자신이 사는 지역, 거리, 학교에서

in our communities, our streets and our schools,

사용하도록 허용하거나

or we can take bold action now

사생활을 지키고

to press pause on the government's use of face surveillance,

우리 모두의 더 안전하고 자유로운 미래를 위해

protect our privacy

정부의 안면 감시를

and to build a safer, freer future

당장 멈추도록

for all of us.

행동을 취할 수도 있습니다.

Thank you.

감사합니다.

(Applause and cheers)

(박수와 환호)