When technology can read minds, how will we protect our privacy? | Nita Farahany

번역: Jongho Jeong 검토: Tae Young Choi

In the months following the 2009 presidential election in Iran,

2009년 이란의 대통령 선거 뒤 몇 달 동안

protests erupted across the country.

전국에서 폭발적으로 시위가 일어났습니다.

The Iranian government violently suppressed

이란 정부는 폭력적 수단을 동원해서

what came to be known as the Iranian Green Movement,

'이란 녹색 운동'이란 시민운동을 억압했습니다.

even blocking mobile signals

이동 전화 신호를 차단해서

to cut off communication between the protesters.

시위자들 사이의 연락을 막기까지 했죠.

My parents, who emigrated to the United States in the late 1960s,

제 부모님은 1960년대 후반에 미국으로 이민을 오셨지만

spend substantial time there,

이란에서 꽤 오래 사셨고

where all of my large, extended family live.

저희 대가족 모두가 그곳에 살고 있었습니다.

When I would call my family in Tehran

테헤란에 있는 가족에게 전화를 하면

during some of the most violent crackdowns of the protest,

시위 진압이 가장 극심할 때는

none of them dared discuss with me what was happening.

무슨 일이 벌어지고 있는지 누구도 감히 얘기하지 않았습니다.

They or I knew to quickly steer the conversation to other topics.

그분들이나 저나 대화 주제를 빨리 바꾸려고 했었죠.

All of us understood what the consequences could be

우리 모두는 알고 있었어요.

반체제 행동이 발각되면 어떤 결과가 올지 말이죠.

of a perceived dissident action.

But I still wish I could have known what they were thinking

하지만 물어볼 걸 그랬다는 생각이 들어요.

그분들이 어떤 생각을 하고 있었는지, 또는 어떻게 느꼈는지를요.

or what they were feeling.

What if I could have?

제가 그걸 알았다면 어떻게 됐을까요?

Or more frighteningly,

아니면 더 공포스럽게도

what if the Iranian government could have?

이란 정부가 그걸 알았다면 어떻게 되었을까요?

Would they have arrested them based on what their brains revealed?

그분들의 뇌가 보여주는 것을 바탕으로 이란 정부가 그분들을 체포했을까요?

That day may be closer than you think.

그런 날이 생각보다 더 빨리 올지도 모릅니다.

With our growing capabilities in neuroscience, artificial intelligence

신경과학, 인공지능과 기계학습에 대한 우리의 능력이 커지면서

and machine learning,

we may soon know a lot more of what's happening in the human brain.

인간의 두뇌에서 어떤 일이 일어나는지 곧 훨씬 더 많이 알게 될 것입니다.

As a bioethicist, a lawyer, a philosopher

생명윤리학자이자 법률가이자 철학자로서

and an Iranian-American,

그리고 이란계 미국인으로서

I'm deeply concerned about what this means for our freedoms

제가 깊은 관심을 두는 것은

이런 사실이 우리의 자유에 어떤 의미를 갖는지와

and what kinds of protections we need.

어떤 종류의 보호책이 필요한지에 관한 것입니다.

I believe we need a right to cognitive liberty,

저는 우리에게 인지적 자유의 권리가 필요하다고 생각합니다.

as a human right that needs to be protected.

보호받아야 할 인간의 권리죠.

If not, our freedom of thought,

그렇지 않으면 사상의 자유와

access and control over our own brains

우리 자신의 두뇌에 대한 접근과 통제

and our mental privacy will be threatened.

그리고 우리의 정신적 사생활이 위협받을 것입니다.

Consider this:

이것을 생각해보세요.

the average person thinks thousands of thoughts each day.

보통 사람은 매일 수천 가지 생각을 합니다.

As a thought takes form,

수학 계산이나 숫자, 낱말처럼 생각이 형태를 취할 때

like a math calculation or a number, a word,

neurons are interacting in the brain,

두뇌의 신경 세포들이 상호 작용을 합니다.

creating a miniscule electrical discharge.

아주 미세한 전류를 방출하면서 말이죠.

When you have a dominant mental state, like relaxation,

긴장을 풀고 있을 때 같은 특정한 정신 상태일 때

hundreds and thousands of neurons are firing in the brain,

수십만 개의 신경 세포들이 뇌에서 열기를 내게되는데

creating concurrent electrical discharges in characteristic patterns

그와 동시에 특정한 양상의 전류 방출이 일어납니다.

that can be measured with electroencephalography, or EEG.

이는 뇌파측정술, 즉 EEG로 측정할 수 있습니다.

In fact, that's what you're seeing right now.

사실 지금 보고 계신 것이 바로 그것입니다.

You're seeing my brain activity that was recorded in real time

지금 보고 계신 것은 저의 두뇌 활동인데요.

간단한 장치를 머리에 쓰면 실시간으로 기록됩니다.

with a simple device that was worn on my head.

What you're seeing is my brain activity when I was relaxed and curious.

이것은 긴장을 푼 상태에서 호기심이 많을 때의 두뇌 활동입니다.

To share this information with you,

이것을 보여드리기 위해서 초기 시판용 EEG 장치를 썼습니다.

I wore one of the early consumer-based EEG devices

like this one,

바로 이렇게 생긴 건데요.

which recorded the electrical activity in my brain in real time.

이 장치로 저의 두뇌 활동을 실시간으로 기록했습니다.

It's not unlike the fitness trackers that some of you may be wearing

여러분 중에도 착용하고 계실 운동량 기록 장치와 다르지 않죠.

to measure your heart rate or the steps that you've taken,

그런 장치는 심장박동이나 걸음 수를 측정해주기도 하고

or even your sleep activity.

수면 활동까지도 측정합니다.

It's hardly the most sophisticated neuroimaging technique on the market.

이 장치는 시중에서 가장 복잡한 신경 촬영 기법은 전혀 아닙니다.

But it's already the most portable

하지만 그것은 이미 가장 휴대하기 좋고

and the most likely to impact our everyday lives.

우리의 일상생활에 영향을 미칠 가능성이 매우 높습니다.

This is extraordinary.

엄청난 일이에요.

Through a simple, wearable device,

간단한 착용 장치를 통해

we can literally see inside the human brain

말 그대로 두뇌 속을 볼 수 있고

and learn aspects of our mental landscape without ever uttering a word.

우리의 심리적 양상을 알 수 있습니다.

말 한마디 하지 않아도 말이죠.

While we can't reliably decode complex thoughts just yet,

복잡한 생각은 아직 확실하게 해독할 수 없지만

we can already gauge a person's mood,

이미 사람의 기분을 측정할 수 있고

and with the help of artificial intelligence,

인공지능의 도움을 받는다면

we can even decode some single-digit numbers

머릿속의 한 자릿수 숫자를 알아내거나

or shapes or simple words that a person is thinking

도형이나 간단한 낱말까지도 해독할 수 있습니다.

우리가 생각하고 있거나 듣거나 보는 것만으로도요.

or hearing, or seeing.

Despite some inherent limitations in EEG,

뇌파기록술이 갖고 있는 몇몇 한계에도 불구하고

I think it's safe to say that with our advances in technology,

제가 자신있게 말할 수 있는 것은

과학 기술의 발달과 더불어

more and more of what's happening in the human brain

인간 두뇌에서 일어나는 일의 더욱 더 많은 부분이

can and will be decoded over time.

앞으로 해독될 수 있고 그렇게 될 것이라는 사실입니다.

Already, using one of these devices,

이미 이런 장치들 중 하나를 사용하여

an epileptic can know they're going to have an epileptic seizure

간질 환자가 자신에게 발작이 일어날 거라는 걸 알 수 있습니다.

before it happens.

발작이 일어나기도 전에 말이죠.

A paraplegic can type on a computer with their thoughts alone.

하반신 마비 환자가 생각만으로도 컴퓨터 자판을 입력할 수도 있죠.

A US-based company has developed a technology to embed these sensors

미국의 어느 회사가 개발한 기술 중에는

뇌파 센서를 자동차의 머리 받침대 안에 넣어서

into the headrest of automobilies

so they can track driver concentration,

운전자의 집중, 산만, 인지 부하 여부를 추적하는 것도 있습니다.

distraction and cognitive load while driving.

Nissan, insurance companies and AAA have all taken note.

닛산, 보험사, 미국 자동차서비스협회가 모두 이 기술에 관심을 보였죠.

You could even watch this choose-your-own-adventure movie

관객의 선택에 따라 모험이 전개되는 "더 모멘트"라는 영화도 있습니다.

"The Moment," which, with an EEG headset,

뇌파기록 헤드셋을 쓰고 이 영화를 보면

changes the movie based on your brain-based reactions,

두뇌가 보이는 반응에 따라 영화의 내용이 바뀝니다.

giving you a different ending every time your attention wanes.

주의력이 약해질 때마다 다른 결말을 보여주죠.

This may all sound great,

대단하다고 생각하실지 모르겠네요.

and as a bioethicist,

생명윤리학자로서 저도 적극 지지합니다.

I am a huge proponent of empowering people

사람들에게 자신의 건강과 행복을 책임질 능력을 주고

to take charge of their own health and well-being

by giving them access to information about themselves,

그들 자신에 대한 정보를 제공한다는 측면에서는 말이죠.

including this incredible new brain-decoding technology.

이 놀랍고 새로운 두뇌 해독 기술을 포함해서요.

But I worry.

하지만 걱정되기도 합니다.

I worry that we will voluntarily or involuntarily give up

제가 걱정하는 것은 우리가 원해서든 아니면 억지로든

우리 자유의 마지막 요새를 포기할 수도 있다는 점입니다.

our last bastion of freedom, our mental privacy.

우리의 정신적 사생활 말이죠.

That we will trade our brain activity

우리의 두뇌 활동에 대한 정보를 주고

for rebates or discounts on insurance,

그 댓가로 보험료 할인을 받으려 할지 모릅니다.

or free access to social-media accounts ...

아니면 공짜 SNS 계정이나

or even to keep our jobs.

심지어 일자리를 바랄지도 모르죠.

In fact, in China,

실제로 중국에서는

the train drivers on the Beijing-Shanghai high-speed rail,

전세계 고속철도 중 가장 붐비는 북경-상해 노선의 열차 기관사들에게

the busiest of its kind in the world,

are required to wear EEG devices

뇌파 기록 장치를 착용하도록 하고

to monitor their brain activity while driving.

운행 중 두뇌 활동을 관찰합니다.

According to some news sources,

일부 뉴스 보도에 따르면

in government-run factories in China,

중국의 정부가 운영하는 공장에서는

the workers are required to wear EEG sensors to monitor their productivity

노동자들에게 EEG 센서를 착용하도록 합니다.

근무 중 생산성과 정서 상태를 관찰하기 위해서죠.

and their emotional state at work.

Workers are even sent home

심지어 노동자를 귀가시키기도 해요.

if their brains show less-than-stellar concentration on their jobs,

두뇌 상태가 작업하기에 낮은 집중력을 보이거나

or emotional agitation.

정서적 동요를 보일 때 말이죠.

It's not going to happen tomorrow,

이런 일이 당장 일어나진 않겠지만

but we're headed to a world of brain transparency.

우리는 머릿속이 투명하게 공개되는 세계를 향해 가고 있습니다.

And I don't think people understand that that could change everything.

그러면 모든 게 바뀔 수 있다는 걸 사람들은 모르는 거 같아요.

Everything from our definitions of data privacy to our laws,

개인정보 보호에 대한 정의와 법률은 물론이고

to our ideas about freedom.

자유에 대한 개념까지 모든 것을요.

In fact, in my lab at Duke University,

사실 듀크대학교의 제 연구실에서는

we recently conducted a nationwide study in the United States

최근에 미국 전역을 대상으로 하는 연구를 통해

to see if people appreciated

일반인의 자신의 두뇌 정보에 대한 민감도를 알아보고자 했습니다.

the sensitivity of their brain information.

We asked people to rate their perceived sensitivity

33가지 종류의 정보에 대해서 그 민감도 점수를 매기도록 했죠.

of 33 different kinds of information,

from their social security numbers

주민등록번호에서부터

to the content of their phone conversations,

전화 통화 내용

their relationship history,

연애 이력

their emotions, their anxiety,

감정, 근심거리

the mental images in their mind

머릿속으로 그리는 이미지와

and the thoughts in their mind.

마음에 품은 생각까지요.

Shockingly, people rated their social security number as far more sensitive

놀랍게도

사람들은 사회보장번호가 다른 정보보다 훨씬 더 민감하다고 평가했습니다.

than any other kind of information,

including their brain data.

자신의 두뇌 데이터 이상으로요.

I think this is because people don't yet understand

제 생각에 이런 이유는

사람들이 이 두뇌 해독 신기술의 함의를 아직 이해하거나 믿지 못하는 것입니다.

or believe the implications of this new brain-decoding technology.

After all, if we can know the inner workings of the human brain,

어쨌든 인간 두뇌 속이 어떻게 작동하는지 알 수 있게 된다면

our social security numbers are the least of our worries.

주민등록번호를 걱정할 일이 아니에요.

(Laughter)

(웃음)

Think about it.

이것을 생각해보세요.

In a world of total brain transparency,

머릿속이 완전히 투명하게 읽히는 세상에서

who would dare have a politically dissident thought?

누가 정치적으로 반체제적인 사고를 하겠어요?

Or a creative one?

누가 창의적 사고를 할 수 있을까요?

I worry that people will self-censor

제가 걱정하는 것은

사람들이 사회에서 배척당할까 두려워 자기 검열을 할지 모른다는 거예요.

in fear of being ostracized by society,

or that people will lose their jobs because of their waning attention

아니면 직장을 잃게 될지도 모르죠.

집중력이 약해졌다거나 정서적으로 불안정해지거나

or emotional instability,

or because they're contemplating collective action against their employers.

고용주에 맞서는 집단 행동을 꾀한다는 이유로 말이죠.

That coming out will no longer be an option,

그런 걸 솔직하게 밝히는 것이 더는 자신의 선택이 아니게 될 겁니다.

because people's brains will long ago have revealed their sexual orientation,

왜냐하면 그러기 전에 사람들의 두뇌가 이미

성적 지향이나 정치적 이념이나 종교 성향을 드러내버렸을 테니까요.

their political ideology

or their religious preferences,

well before they were ready to consciously share that information

자신의 의지로 그런 정보를 타인과 공유할 준비를 갖추기 전에 말이죠.

with other people.

I worry about the ability of our laws to keep up with technological change.

제가 우려하는 것은

과학기술의 변화에 보조를 맞추기 위해 법률이 가져야 할 능력입니다.

Take the First Amendment of the US Constitution,

미국의 수정헌법 제1조에는 언론의 자유를 보호한다고 되어 있죠.

which protects freedom of speech.

Does it also protect freedom of thought?

그 조항이 사상의 자유도 보호하나요?

And if so, does that mean that we're free to alter our thoughts however we want?

그렇다면 우리가 원하는 방식으로 사고를 자유롭게 바꾼다는 뜻이지요?

Or can the government or society tell us what we can do with our own brains?

아니면 정부나 사회가 우리 뇌 속의 생각을 통제할 수 있을까요?

Can the NSA spy on our brains using these new mobile devices?

국가안보국이 이런 새로운 휴대장치로 우리의 두뇌를 염탐할 수 있을까요?

Can the companies that collect the brain data through their applications

자신들의 앱을 통해 두뇌 데이터를 수집한 기업이

sell this information to third parties?

제3자에게 이 정보를 팔 수 있을까요?

Right now, no laws prevent them from doing so.

당장은 어떤 법으로도 그런 행위를 막지 못합니다.

It could be even more problematic

이는 일부 나라에서는 훨씬 심각한 문제입니다.

in countries that don't share the same freedoms

미국인들만큼 자유를 누리지 못하는 나라들 말이죠.

enjoyed by people in the United States.

What would've happened during the Iranian Green Movement

이란녹색운동 당시에 그랬다면 어떻게 됐을까요?

if the government had been monitoring my family's brain activity,

정부가 저희 가족의 두뇌 활동을 관찰해서

and had believed them to be sympathetic to the protesters?

저희 가족이 시위자들에게 공감한다고 생각했다면요?

Is it so far-fetched to imagine a society

이런 사회를 상상한다면 너무 터무니없을까요?

in which people are arrested based on their thoughts

범행을 생각하는 것만으로 체포당하는 사회가 있다면요?

of committing a crime,

like in the science-fiction dystopian society in "Minority Report."

영화 '마이너리티 리포트'에서 본 공상과학의 반 이상향 사회 말이죠.

Already, in the United States, in Indiana,

이미 미국에서는

인디애나주의 18세 소년이 자기 학교를 위협했다는 이유로 기소되었는데

an 18-year-old was charged with attempting to intimidate his school

by posting a video of himself shooting people in the hallways ...

그 이유가 복도의 사람들에게 총을 쏘는 동영상을 올려서였어요.

Except the people were zombies

그런데 피격당한 사람들이 좀비였고

and the video was of him playing an augmented-reality video game,

그 영상은 그 소년이 증강 현실 게임을 하고 있는 영상있었습니다.

all interpreted to be a mental projection of his subjective intent.

그것만 빼고는 모든 것이

그 소년의 주관적 의사를 보여주는 거라고 생각했던 거죠.

This is exactly why our brains need special protection.

바로 이 때문에 우리 뇌를 특별히 보호해야 하는 겁니다.

If our brains are just as subject to data tracking and aggregation

두뇌 정보를 추적하고 수집하는 일이 금융 거래 기록만큼이나 쉽고

as our financial records and transactions,

if our brains can be hacked and tracked like our online activities,

우리의 뇌가 온라인 활동, 이동 전화와 앱처럼 해킹되고 추적당할 수 있다면

our mobile phones and applications,

then we're on the brink of a dangerous threat to our collective humanity.

그러면 우리 인류 전체에게 곧 심각한 위협이 닥칠 것입니다.

Before you panic,

겁먹지는 마시고요.

I believe that there are solutions to these concerns,

이런 걱정을 해결할 방법이 있습니다.

but we have to start by focusing on the right things.

단, 초점을 제대로 잡고 시작해야 해요.

When it comes to privacy protections in general,

일반적인 사생활 보호를 대상으로 한다면

I think we're fighting a losing battle

싸움에서 지게 될 겁니다.

by trying to restrict the flow of information.

정보의 흐름을 제한하려 할 테니까요.

Instead, we should be focusing on securing rights and remedies

대신에 인권과 권리 침해에 대한 구제 법안 확립에 초점을 맞추고

against the misuse of our information.

우리 정보의 오용에 맞서야 합니다.

If people had the right to decide how their information was shared,

자신의 정보가 공유되는 방식을 결정할 권리를 가져야 하고

and more importantly, have legal redress

무엇보다도 법적 보상이 있어야 합니다.

if their information was misused against them,

원치 않게 자신의 정보가 오용됐을 때에 대한 보상이죠.

say to discriminate against them in an employment setting

예를 들면 고용, 보건 또는 교육에서 차별당했을 경우에요.

or in health care or education,

this would go a long way to build trust.

이런 신뢰를 쌓기에는 갈 길이 멉니다.

In fact, in some instances,

사실 몇몇 경우에

we want to be sharing more of our personal information.

우리는 우리 개인 정보를 더 많이 공유하길 원합니다.

Studying aggregated information can tell us so much

예를 들어 집적된 정보를 살펴보면

우리의 건강과 생활상에 대해 너무나 많은 걸 알 수 있습니다.

about our health and our well-being,

but to be able to safely share our information,

하지만 우리의 정보를 안전하게 공유하려면

we need special protections for mental privacy.

두뇌 개인정보에 대해 특별한 보호가 필요합니다.

This is why we need a right to cognitive liberty.

그래서 인지 자유의 권리가 필요한 것입니다.

This right would secure for us our freedom of thought and rumination,

이 권리는 사상과 생각의 자유, 즉 자기결정의 자유를 보장할 것입니다.

our freedom of self-determination,

and it would insure that we have the right to consent to or refuse

그리고 타인이 우리 두뇌에 접근하거나 변경하려 할 때

access and alteration of our brains by others.

동의나 거부권을 갖게 할 것입니다.

This right could be recognized

이 권리는 세계 인권 선언의 일부로 인정받을 수 있는데

as part of the Universal Declaration of Human Rights,

which has established mechanisms

세계 인권 선언은 이런 사회적 권리를 강화하는 체계를 확립해주었죠.

for the enforcement of these kinds of social rights.

During the Iranian Green Movement,

이란 녹색운동이 일어났을 때

the protesters used the internet and good old-fashioned word of mouth

시위자들은 인터넷을 이용하거나 예전처럼 입에서 입으로 소식을 전하며

to coordinate their marches.

시위대를 조직하였습니다.

And some of the most oppressive restrictions in Iran

결국 이란의 가장 억압적인 몇몇 제약이 해제되었죠.

were lifted as a result.

But what if the Iranian government had used brain surveillance

하지만 이란 정부가 우리 두뇌를 감시했다면 어떻게 되었을까요?

to detect and prevent the protest?

그 시위를 탐지하고 예방한다는 목적으로 말이죠.

Would the world have ever heard the protesters' cries?

전 세계 사람들에게 시위자들의 외침이 들렸을까요?

The time has come for us to call for a cognitive liberty revolution.

우리에게 인지 자유의 혁신이 필요한 때가 왔습니다.

To make sure that we responsibly advance technology

우리 과학 기술을 책임감 있게 발전시켜야만

that could enable us to embrace the future

미래를 받아들일 수 있을 것입니다.

while fiercely protecting all of us from any person, company or government

그와 동시에 우리 모두를 확실하게 보호해야 합니다.

어떤 개인, 회사, 정부가

that attempts to unlawfully access or alter our innermost lives.

우리의 가장 내밀한 삶에 불법적으로 접근하거나 바꾸지 못하도록 말이죠.

Thank you.

고맙습니다.

(Applause)

(박수)