How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

번역: Minjeong Lee 검토: Jihyeon J. Kim

Do you remember when you were a child,

어린 시절에 대해 떠올려 보세요.

you probably had a favorite toy that was a constant companion,

아마 여러분에게는 친구와 같은 가장 아끼는 장난감이 있었을 거예요.

like Christopher Robin had Winnie the Pooh,

크리스토퍼 로빈이 곰돌이 푸 인형을 가지고 다녔던 것처럼 말이죠.

and your imagination fueled endless adventures?

그리고 여러분의 상상력은 끝없는 모험에 불을 붙였을 거예요.

What could be more innocent than that?

이보다 더 순수할 때가 있었을까요?

Well, let me introduce you to my friend Cayla.

여러분들에게 제 친구 캐일라를 소개할게요.

Cayla was voted toy of the year in countries around the world.

캐일라는 세계에서 올해의 인형으로 선정되었습니다.

She connects to the internet and uses speech recognition technology

캐일라는 인터넷에 연결하여 음성인식 기술을 사용해

to answer your child's questions,

아이들의 질문에 대답을 해주거나

respond just like a friend.

친구처럼 말동무를 해 줍니다.

But the power doesn't lie with your child's imagination.

이 기술은 아이들의 상상력을 책임지지 않습니다.

It actually lies with the company harvesting masses of personal information

사실 이 기술은

막대한 양의 개인 정보를 수집하는 회사들을 위한 것이죠.

while your family is innocently chatting away in the safety of their home,

여러분의 가족들은 아무것도 모른채

집이라는 안전한 공간에서 이야기를 나누고 있지만

a dangerously false sense of security.

사실 이것은 위험한 가짜 안도감입니다.

This case sounded alarm bells for me,

이러한 사례는 저에게 경각심을 불러일으킵니다.

as it is my job to protect consumers' rights in my country.

저는 우리나라 고객들의 권리를 지키는 일을 하거든요.

And with billions of devices such as cars,

그리고 자동차나 에너지 미터기, 진공청소기와 같이

energy meters and even vacuum cleaners expected to come online by 2020,

2020년까지 온라인 상에 등장할 것으로 예상되는

we thought this was a case worth investigating further.

수십억 가지의 기계들을 더 깊게 조사할만한 가치가 있다고 생각합니다.

Because what was Cayla doing

캐일라는 자신이 배운 흥미로운 것들을 이용해

with all the interesting things she was learning?

무엇을 하고 있었을까요?

Did she have another friend she was loyal to and shared her information with?

캐일라는 자신이 충성하고

자신의 정보를 공유할 만한 다른 친구가 있을까요?

Yes, you guessed right. She did.

맞습니다. 여러분이 생각하신 대로 캐일라에게는 그런 친구가 있어요.

In order to play with Cayla,

캐일라와 놀기 위해서는 앱을 다운받아야 합니다.

you need to download an app to access all her features.

그래야 캐일라의 기능에 접근할 수 있죠.

Parents must consent to the terms being changed without notice.

부모들은 약관이 바뀐 것을 모른 채 약관에 동의하게 됩니다.

The recordings of the child, her friends and family,

아이와 캐일라의 친구, 가족들의 기록은 표적 광고에 사용될 수 있습니다.

can be used for targeted advertising.

And all this information can be shared with unnamed third parties.

또한 이 모든 정보들은 이름 모를 제 3자와 공유되기도 하죠.

Enough? Not quite.

이게 끝이 아닙니다.

Anyone with a smartphone can connect to Cayla

스마트폰을 사용하는 사람들은

일정 거리 안에서 캐일라에게 연결할 수 있어요.

within a certain distance.

When we confronted the company that made and programmed Cayla,

캐일라를 만들고 프로그래밍한 회사에 항의했을 때

they issued a series of statements

그들은 IT 전문가만이 캐일라의 보안을 뚫을 수 있다는

that one had to be an IT expert in order to breach the security.

일련의 성명서를 발표했습니다.

Shall we fact-check that statement and live hack Cayla together?

그 진실을 확인하기 위해 함께 캐일라를 해킹해 볼까요?

Here she is.

여기 캐일라가 있습니다.

Cayla is equipped with a Bluetooth device

캐일라는 블루투스 기능을 탑재하고 있죠.

which can transmit up to 60 feet,

이 기능으로 최대 60피트(약 18m)까지 신호를 보낼 수 있어요.

a bit less if there's a wall between.

만약 그 사이에 벽이 있다면 도달 거리가 더 짧아지겠죠.

That means I, or any stranger, can connect to the doll

이는 즉 캐일라와 캐일라의 친구들이 방 밖에서 놀고 있을 때

while being outside the room where Cayla and her friends are.

저 또는 다른 사람이 캐일라에 접속할 수 있다는 것을 의미합니다.

And to illustrate this,

이를 설명하기 위해

I'm going to turn Cayla on now.

한번 캐일라를 켜 볼게요.

Let's see, one, two, three.

어디보자... 하나, 둘, 셋.

There. She's on. And I asked a colleague

아, 이제 켜졌네요.

지금 제 동료에게 밖에서 스마트폰으로 연결해 달라고 부탁했어요.

to stand outside with his smartphone,

and he's connected,

and to make this a bit creepier ...

그리고 상황을 좀 더 오싹하게 만들기 위해...

(Laughter)

(웃음)

let's see what kids could hear Cayla say in the safety of their room.

한번 아이들이 안전한 방 안에서

캐일라가 하는 말을 들을 수 있는지 확인해 볼 거예요.

Man: Hi. My name is Cayla. What is yours?

안녕. 나는 캐일라야. 네 이름은 뭐니?

Finn Myrstad: Uh, Finn.

핀이야.

Man: Is your mom close by?

엄마가 옆에 계시니?

FM: Uh, no, she's in the store.

아니. 지금 가계에 계셔.

Man: Ah. Do you want to come out and play with me?

그러면 나랑 밖에서 놀래?

FM: That's a great idea.

그래. 좋은 생각이야.

Man: Ah, great.

좋아.

FM: I'm going to turn Cayla off now.

이제 캐일라를 끄겠습니다.

(Laughter)

(웃음)

We needed no password

이렇게 해킹을 하는 데 비밀번호가 필요하다거나

or to circumvent any other type of security to do this.

보안을 우회해야 할 필요는 없었어요.

We published a report in 20 countries around the world,

우리는 세계의 20개국에 이 중대한 보안상의 결함과

exposing this significant security flaw

그 밖의 다른 중대한 문제들에 대한 보고서를 발표했습니다.

and many other problematic issues.

So what happened?

그러자 어떤 일이 발생했을까요?

Cayla was banned in Germany,

캐일라는 독일에서 판매금지 처분이 되었고

taken off the shelves by Amazon and Wal-Mart,

아마존이나 월마트에서도 판매 중지되었습니다.

and she's now peacefully resting

그리고 캐일라는 현재

at the German Spy Museum in Berlin.

독일의 스파이 박물관에서 편히 쉬고 있죠.

(Laughter)

(웃음)

However, Cayla was also for sale in stores around the world

하지만 우리가 이와 같은 보고서를 발표한 뒤에도

for more than a year after we published our report.

캐일라는 다른 국가의 매장에서 1년 이상 판매되었습니다.

What we uncovered is that there are few rules to protect us

다음과 같은 사실을 밝혀냈습니다.

우리의 정보를 지켜주는 규칙은 정말 적으며

and the ones we have are not being properly enforced.

그 마저도 우리를 보호하기에 적절하지 않다는 것입니다.

We need to get the security and privacy of these devices right

이런 기계들이 시장에서 판매되기 전에 이런 기계의

before they enter the market,

보안과 개인 정보 보호 권리를 획득해야 합니다.

because what is the point of locking a house with a key

만약 연결된 기기를 통해 집 안에 아무나 들어올 수 있다면

if anyone can enter it through a connected device?

집 문을 열쇠로 잠그는 것은 소용 없기 때문이죠.

You may well think, "This will not happen to me.

여러분은 아마도 이런 일이 자신에게 발생하지 않을 거라고 생각하며

I will just stay away from these flawed devices."

이런 문제가 있는 기기만 사용하지 않으면 된다고 생각할 수도 있어요.

But that won't keep you safe,

하지만 그렇다고 해서 완전하게 보호받을 수는 없습니다.

because simply by connecting to the internet,

인터넷에 연결하기만 해도

you are put in an impossible take-it-or-leave-it position.

여러분의 개인 정보는 노출에 취약한 상태가 되니까요.

Let me show you.

더 자세히 설명해 드릴게요.

Like most of you, I have dozens of apps on my phone,

많은 분들과 마찬가지로 제 핸드폰에도 수십 개의 앱이 있습니다.

and used properly, they can make our lives easier,

이 앱을 적절히 사용하면

우리의 삶을 쉽고 편리하며 심지어 건강하게 할 수도 있습니다.

more convenient and maybe even healthier.

But have we been lulled into a false sense of security?

하지만 우리가 거짓된 안도감에 길들여진 적이 있을까요?

It starts simply by ticking a box.

이것은 우리가 네모칸 안에 체크를 하는 순간 시작됩니다.

Yes, we say,

맞아요.

다들 이러한 조항에 대해 읽어본 적이 있을 거예요.

I've read the terms.

But have you really read the terms?

하지만 정말 약관을 자세히 읽어 본 적이 있나요?

Are you sure they didn't look too long

약관이 그렇게 길지 않았다고 확신하나요?

and your phone was running out of battery,

약관을 읽다가 핸드폰 배터리가 다 닳아버리거나

and the last time you tried they were impossible to understand,

약관을 읽어보려 했을 때 이해할 수 없었으며

and you needed to use the service now?

서비스를 지금 당장 사용해야 할 때가 있지 않았나요?

And now, the power imbalance is established,

현재, 힘의 불균형이 확립되었습니다.

because we have agreed to our personal information

우리는 회사가 개인 정보를 수집하고

being gathered and used on a scale we could never imagine.

맘대로 이용할 수 있도록 동의해왔기 때문입니다.

This is why my colleagues and I decided to take a deeper look at this.

이러한 이유로 저와 제 동료는

이 문제를 더 깊게 파헤쳐 보기로 했습니다.

We set out to read the terms

일반적인 핸드폰에 설치되어 있는 유명한 앱들의 약관을 읽어보기로 했습니다.

of popular apps on an average phone.

And to show the world how unrealistic it is

그리고 소비자들이 실제로 약관을 읽을 것이라고 기대하는 것이

to expect consumers to actually read the terms,

얼마나 비현실적인지 세계에 알리기 위해

we printed them,

900쪽 이상 분량의 약관을 인쇄하여

more than 900 pages,

and sat down in our office and read them out loud ourselves,

사무실에서 크게 읽기 시작했습니다.

streaming the experiment live on our websites.

이 실험은 우리 웹사이트에서 실시간으로 중계되었죠.

As you can see, it took quite a long time.

보시다시피 약관을 다 읽는 데는 꽤 오랜 시간이 걸렸습니다.

It took us 31 hours, 49 minutes and 11 seconds

약 31시간 49분 11초가 걸렸습니다.

to read the terms on an average phone.

보통 핸드폰에 있는 약관을 모두 읽는 데요.

That is longer than a movie marathon of the "Harry Potter" movies

이는 영화 "해리 포터"와 "대부"의 상영시간을 합친 것보다 더 길었습니다.

and the "Godfather" movies combined.

(Laughter)

(웃음)

And reading is one thing.

글을 읽는 것와 이해하는 것은 별개의 문제라고 생각합니다.

Understanding is another story.

That would have taken us much, much longer.

이해하는 것은 더 많은 시간이 소요되죠.

And this is a real problem,

이것은 정말 중요한 문제입니다.

because companies have argued for 20 to 30 years

기업들은 인터넷 규제에 반대해서 20년, 30년 동안 논쟁해왔으며

against regulating the internet better,

because users have consented to the terms and conditions.

사용자들은 조항과 약관에 동의해야 하기 때문입니다.

As we've shown with this experiment,

이 실험을 통해 보여드린 것처럼

achieving informed consent is close to impossible.

사전에 고지된 동의를 얻는 것은 거의 불가능한 일입니다.

Do you think it's fair to put the burden of responsibility on the consumer?

고객들에게 책임 부담을 지우는 게 공정하다고 생각하시나요?

I don't.

저는 그렇게 생각하지 않습니다.

I think we should demand less take-it-or-leave-it

회사가 고객들에게 책임을 전가하기 보다는

사용자들이 약관에 동의하기 전에

and more understandable terms before we agree to them.

약관을 이해하기 쉽도록 만들어야 한다고 생각합니다.

(Applause)

(박수)

Thank you.

감사합니다.

Now, I would like to tell you a story about love.

이제 여러분들께

사랑에 관한 얘기를 해드릴 거예요.

Some of the world's most popular apps are dating apps,

세계적으로 인기가 많은 앱들 중에는 소개팅 앱이 있습니다.

an industry now worth more than, or close to, three billion dollars a year.

이 산업은 현재 매년

30억 달러에 달하는 가치를 창출하고 있죠.

And of course, we're OK sharing our intimate details

물론 제 짝과 은밀한 내용을 나누는 건 괜찮죠.

with our other half.

But who else is snooping,

하지만 우리 자신을 노출하는 동안

saving and sharing our information

누군가는 우리 정보를 염탐하고

while we are baring our souls?

저장하고 공유하고 있습니다.

My team and I decided to investigate this.

우리 팀과 저는 이에 대해 조사하기로 했죠.

And in order to understand the issue from all angles

이 문제를 다양한 각도에서 이해하고 이 일을 철저하게 수행하기 위해

and to truly do a thorough job,

I realized I had to download

세계에서 가장 인기있는 소개팅 앱을

one of the world's most popular dating apps myself.

제 핸드폰에 설치해야 한다는 것을 꺠달았습니다.

So I went home to my wife ...

그래서 집에 가서 제 아내에게

(Laughter)

(웃음)

who I had just married.

막 결혼한 사이였죠.

"Is it OK if I establish a profile on a very popular dating app

"아주 인기 있는 소개팅 앱에 내 프로필을 올려도 될까

순전히 과학적인 목적인데?"

for purely scientific purposes?"

(Laughter)

(웃음)

This is what we found.

이런 것을 찾았습니다.

Hidden behind the main menu was a preticked box

메인 메뉴 뒤에 숨어있던 것은

미리 체크되어 있던 네모 상자였습니다.

that gave the dating company access to all my personal pictures on Facebook,

소개팅 어플 회사에게 제 페이스북에 있는

모든 사진들에 대한 접근권한을 주는 것이었죠.

in my case more than 2,000 of them,

제 페이스북 계정에는 2천 개 이상의 사진이 있었고

and some were quite personal.

그 중에는 굉장히 개인적인 사진들도 많았습니다.

And to make matters worse,

이뿐만이 아니었습니다.

when we read the terms and conditions,

약관 및 조항을 읽을 때 다음과 같은 것을 발견했습니다.

we discovered the following,

and I'm going to need to take out my reading glasses for this one.

이걸 여러분들에게 읽어드리기 위해

제 독서용 안경을 꺼내들어야 겠네요.

And I'm going to read it for you, because this is complicated.

한번 읽어 보겠습니다. 아주 복잡한 내용입니다.

All right.

시작해 볼게요.

"By posting content" --

“콘텐츠를 게시하면”

and content refers to your pictures, chat

여기서 콘텐츠란 여러분의 사진이나

and other interactions in the dating service --

앱을 이용하며 다른 사람과 대화했던 내용을 의미합니다.

"as a part of the service,

“서비스의 일부로서,

you automatically grant to the company,

사용자는 자동으로 회사와 계열사, 라이센스 사용자 및 후임자에게

its affiliates, licensees and successors

취소 불능을 허가합니다.”

an irrevocable" -- which means you can't change your mind --

이는 여러분이 허락한 것을 취소할 수 없다는 것을 의미하죠.

"perpetual" -- which means forever --

“영구적으로” 이는 영원하다는 것을 의미하고

"nonexclusive, transferrable, sublicensable, fully paid-up,

“비독점적이고, 양도 가능하며, 2차 가공 허가 및 전액 납입된,

worldwide right and license to use, copy, store, perform,

전 세계적인 권리 및 라이센스를 콘텐츠를

사용, 복사, 저장, 실행, 표시, 재생산,

display, reproduce, record,

기록, 재생, 개조, 수정 및 배포하기 위해

play, adapt, modify and distribute the content,

콘텐츠의 파생 저작물을 준비하거나

prepare derivative works of the content,

or incorporate the content into other works

다른 저작물에 콘텐츠를 통합하고

and grant and authorize sublicenses of the foregoing in any media

현재 알려지거나 이후에 작성되는 모든 미디어에서

이전 저작물의 라이선스를 부여하고 승인합니다.”

now known or hereafter created."

That basically means that all your dating history

이는 여러분의 모든 소개팅 기록 및 그와 관련된 모든 것들이

and everything related to it can be used for any purpose for all time.

항상 어떤 목적으로든 사용될 수 있다는 것을 의미합니다.

Just imagine your children seeing your sassy dating photos

여러분의 자녀가

20년 후 피임 광고에서 여러분이 소개팅 어플에 올린

in a birth control ad 20 years from now.

멋진 사진을 보았다고 상상해 보세요.

But seriously, though --

다시 본론으로 돌아가서...

(Laughter)

(웃음)

what might these commercial practices mean to you?

이 상업적 관행이 여러분들에게 의미하는 것은 무엇인가요?

For example, financial loss:

이 관행은 경제적 손실을 가져다 줄 수도 있습니다.

based on your web browsing history,

여러분의 웹 검색 기록에 기반한 알고리즘은

algorithms might decide whether you will get a mortgage or not.

이후에 대출을 받을 것인지 아닌지를 결정할 수 있습니다.

Subconscious manipulation:

여러분의 잠재의식을 조정할 수도 있어요.

companies can analyze your emotions based on your photos and chats,

회사들은 여러분의 사진 또는 채팅 내역을 기반으로

여러분의 감정을 분석하여

targeting you with ads when you are at your most vulnerable.

여러분이 가장 취약한 상태에 있을 때 표적 광고 대상으로 이용합니다.

Discrimination:

차별을 받을 수도 있습니다.

a fitness app can sell your data to a health insurance company,

피트니스 앱은 여러분의 정보를 건강 보험 회사에 팔아

preventing you from getting coverage in the future.

미래에 보험에 가입하지 못하도록 할 수도 있어요.

All of this is happening in the world today.

이런 일들은 전 세계에서 지금도 발생하고 있습니다.

But of course, not all uses of data are malign.

하지만 물론 모든 정보들이 악의적으로 사용되지는 않습니다.

Some are just flawed or need more work,

일부는 결함이 있고 보완할 필요성이 있지만

and some are truly great.

좋은 점도 있어요.

And there is some good news as well.

그리고 희소식도 있습니다.

The dating companies changed their policies globally

우리가 소개팅 어플 회사에 법적 소송을 제기한 뒤

이 회사는 자사의 정책을 세계적으로 바꾸었거든요.

after we filed a legal complaint.

But organizations such as mine

하지만 제가 다니는 기관처럼 고객들의 권리를 위해

that fight for consumers' rights can't be everywhere.

싸우는 기관들은 그리 많지 않습니다.

Nor can consumers fix this on their own,

또한 고객들은 이 문제를 스스로 해결할 수 없죠.

because if we know that something innocent we said

만약 우리가 무결하다고 말한 어떤 것이

다시 돌아와 우리를 해친다는 것을 알았을 때

will come back to haunt us,

we will stop speaking.

사람들은 말하기를 멈출 것이기 때문이죠.

If we know that we are being watched and monitored,

만약 우리가 감시당한다는 것을 안다면

we will change our behavior.

우리는 행동을 바꿀 것이기 때문입니다.

And if we can't control who has our data and how it is being used,

또한 우리 정보를 사용하는 사람과

이것이 사용되는 방법을 통제하지 못한다면

우리 삶의 통제권을 잃게 되기 때문입니다.

we have lost the control of our lives.

The stories I have told you today are not random examples.

제가 오늘 말씀드린 얘기는 무작위로 발생하는 일이 아닙니다.

They are everywhere,

이런 일은 언제든지 발생할 수 있으며

and they are a sign that things need to change.

바뀌어야 할 필요가 있다는 신호를 보내고 있어요.

And how can we achieve that change?

그렇다면 어떻게 변화를 만들 수 있을까요?

Well, companies need to realize that by prioritizing privacy and security,

회사들은 개인 정보 및 보안을 우선순위에 놓음으로써 신뢰를 쌓고

they can build trust and loyalty to their users.

사용자의 충성도를 높일 수 있음을 깨달아야 할 필요가 있겠죠.

Governments must create a safer internet

정부는 강제책 및 최신 규제를 강화하여

by ensuring enforcement and up-to-date rules.

더 안전한 인터넷 환경을 구축해야 합니다.

And us, the citizens?

그러면 우리 시민들은 어떻게 해야 할까요?

We can use our voice

우리는 발언권을 써서

to remind the world that technology can only truly benefit society

기술이 기본권을 존중할 때에만

사회에 진정으로 효용을 줄 수 있음을 전 세계에 상기시켜야 합니다.

if it respects basic rights.

Thank you so much.

대단히 감사합니다.

(Applause)

(박수)