How a handful of tech companies control billions of minds every day | Tristan Harris

번역: JY Kang 검토: Boram Cho

I want you to imagine

한번 상상해보세요.

walking into a room,

어떤 방에 들어갑니다.

a control room with a bunch of people,

사람들로 가득한 어느 조종실입니다.

a hundred people, hunched over a desk with little dials,

작은 다이얼이 있는 책상에 100명의 사람들이 앉아 있습니다.

and that that control room

그 조종실에서 하는 일이

will shape the thoughts and feelings

10억 명 사람들의 생각과 감정을 조종하는 일이라고 상상해보세요.

of a billion people.

This might sound like science fiction,

공상 과학 소설 같은 얘기지만

but this actually exists

이런 곳이 실제로 존재합니다.

right now, today.

바로 지금, 오늘날 말이죠.

I know because I used to be in one of those control rooms.

제가 한때 그런 조종실에서 일했던 사람이라서 잘 압니다.

I was a design ethicist at Google,

저는 구글의 디자인 윤리학자였습니다.

where I studied how do you ethically steer people's thoughts?

윤리적 범위에서 사람들의 생각을 조종하는 방법을 연구했죠.

Because what we don't talk about is how the handful of people

여러분이 모르는 사실은

불과 극소수의 IT 기업에서 일하는 극소수의 사람들이

working at a handful of technology companies

오늘날 자그마치 10억 명 사람들의 생각을

through their choices will steer what a billion people are thinking today.

그들 마음대로 조종하고 있다는 것입니다.

Because when you pull out your phone

스마트폰을 꺼내는 순간, 그 작동 방식과 알림 메세지는

and they design how this works or what's on the feed,

그들이 이미 설계한 대로 짧은 순간에 우리가 어떤 생각을 하도록 만듭니다.

it's scheduling little blocks of time in our minds.

If you see a notification, it schedules you to have thoughts

알림 메세지를 보는 순간에

나도 모르게 어떤 생각을 하게 만들고,

that maybe you didn't intend to have.

If you swipe over that notification,

그 메세지를 밀어서 확인하는 순간

it schedules you into spending a little bit of time

거기에 빠져 잠깐이라도 시간을 허비하도록 만드는 거예요.

getting sucked into something

that maybe you didn't intend to get sucked into.

여러분이 그럴 의도가 없었다 해도 말이죠.

When we talk about technology,

보통 우리는 테크놀로지가

we tend to talk about it as this blue sky opportunity.

무한한 가능성의 기회를 준다고 말하곤 합니다.

It could go any direction.

어느 방향으로든 발전할 수 있다고 보죠.

And I want to get serious for a moment

그런데 제가 진지하게 말씀드리고 싶은 것은

and tell you why it's going in a very specific direction.

기술이 아주 특정한 방향으로 나아가고 있다는 사실입니다.

Because it's not evolving randomly.

기술은 아무렇게나 진화하지 않습니다.

There's a hidden goal driving the direction

우리가 만드는 모든 기술은 한 가지 숨겨진 목적을 두고 발전해 나갑니다.

of all of the technology we make,

and that goal is the race for our attention.

우리의 관심을 끌기 위해 경쟁하는 것이죠.

Because every news site,

모든 뉴스 웹사이트와

TED, elections, politicians,

TED, 선거, 정치인,

games, even meditation apps

게임, 심지어 명상 앱까지도

have to compete for one thing,

모두 단 한 가지를 위해 경쟁합니다.

which is our attention,

우리의 관심이죠.

and there's only so much of it.

그런데 인간의 관심은 한계가 있습니다.

And the best way to get people's attention

사람들의 관심을 끄는 최고의 방법은

is to know how someone's mind works.

인간의 사고방식을 이해하는 겁니다.

And there's a whole bunch of persuasive techniques

그리고 거기에는 무수히 많은 설득 기술이 동원되죠.

that I learned in college at a lab called the Persuasive Technology Lab

제가 대학원 시절, 이른바 설득 기술 연구실에서 배운 것은

to get people's attention.

사람들의 관심을 끄는 기술이었습니다.

A simple example is YouTube.

간단한 예로 유튜브가 있죠.

YouTube wants to maximize how much time you spend.

유튜브는 여러분이 최대한 오래 사이트에 머물러 있기를 바랍니다.

And so what do they do?

그래서 어떻게 했을까요?

They autoplay the next video.

다음 영상을 자동 재생합니다.

And let's say that works really well.

그게 아주 효과가 좋았다고 치죠. 사람들의 시간을 좀 더 뺐었어요.

They're getting a little bit more of people's time.

넷플릭스는 그걸 보고 이렇게 말할 겁니다.

Well, if you're Netflix, you look at that and say,

"저러면 우리 시장 지분이 줄어들잖아."

well, that's shrinking my market share,

"우리도 다음 화를 자동 재생해야지."

so I'm going to autoplay the next episode.

But then if you're Facebook,

페이스북이라면 또 이럴 거예요.

you say, that's shrinking all of my market share,

"저게 우리 시장 지분을 다 뺏어가네."

so now I have to autoplay all the videos in the newsfeed

"그럼 우린 게시글의 모든 영상을 클릭도 하기 전에 자동 재생해야지."

before waiting for you to click play.

So the internet is not evolving at random.

이렇게 인터넷은 아무렇게나 진화하지 않습니다.

The reason it feels like it's sucking us in the way it is

이런 식으로 우리가 인터넷에 중독되어 가는 느낌이 드는 이유는

is because of this race for attention.

바로 이 관심을 위한 경쟁 때문입니다.

We know where this is going.

이 방향으로 가고 있어요.

Technology is not neutral,

기술은 중립적이지 않습니다.

and it becomes this race to the bottom of the brain stem

인간의 뇌 중심 깊은 곳까지 누가 먼저 도달할지 경쟁하는 거죠.

of who can go lower to get it.

Let me give you an example of Snapchat.

스냅챗의 예를 말씀드리겠습니다.

If you didn't know, Snapchat is the number one way

아실지 모르겠지만

스냅챗은 미국 10대들이 가장 많이 쓰는 메신저입니다.

that teenagers in the United States communicate.

So if you're like me, and you use text messages to communicate,

저 같은 세대가 문자로 연락하듯이

Snapchat is that for teenagers,

10대 아이들은 스냅챗을 이용하죠. 약 1억 명이 사용하고 있습니다.

and there's, like, a hundred million of them that use it.

스냅챗은 '스냅 스트리크'라는 기술을 개발했습니다.

And they invented a feature called Snapstreaks,

두 사람이 서로 매일 연락하며 대화를 유지한 기간을 보여주는 기능이죠.

which shows the number of days in a row

that two people have communicated with each other.

In other words, what they just did

즉 스냅챗은 이 두 사람에게

is they gave two people something they don't want to lose.

잃고 싶지 않은 무언가를 만들어 준 거라고 할 수 있습니다.

Because if you're a teenager, and you have 150 days in a row,

왜냐면 여러분이 10대이고 누군가와 150일간 매일 대화했다면

you don't want that to go away.

그걸 계속 간직하고 싶거든요.

And so think of the little blocks of time that that schedules in kids' minds.

그렇게 하루에도 여러 번 스냅챗을 붙잡도록 아이들의 마음을 조종하죠.

이론상으로만 그렇다는 게 아니에요.

This isn't theoretical: when kids go on vacation,

아이들이 여행을 가야 할 때는 친구 다섯 명에게 비밀번호를 넘기고

it's been shown they give their passwords to up to five other friends

to keep their Snapstreaks going,

연속 대화를 유지한다는 조사 결과도 있습니다.

even when they can't do it.

자기가 스냅챗을 못 하더라도요.

And they have, like, 30 of these things,

이런 걸 30개 정도 갖고 있으면서

and so they have to get through taking photos of just pictures or walls

벽이나 천장 사진 같은 걸 대충 찍어 올려서라도

or ceilings just to get through their day.

그날의 연속 대화를 이어가는 거죠.

So it's not even like they're having real conversations.

진짜 대화를 나누는 것도 아닙니다.

We have a temptation to think about this

이걸 우리는 쉽게 생각합니다.

as, oh, they're just using Snapchat

"옛날에 우리가 전화로 수다 떨듯이 요즘 애들은 스냅챗을 쓰는 거네."

the way we used to gossip on the telephone.

It's probably OK.

"별 문제 없겠지."

Well, what this misses is that in the 1970s,

하지만 지금과 70년대는 다릅니다.

when you were just gossiping on the telephone,

여러분이 전화로 수다 떨 때는

there wasn't a hundred engineers on the other side of the screen

화면 뒤에 숨은 100명의 기술자가

who knew exactly how your psychology worked

여러분의 심리를 정확하게 파악해서

and orchestrated you into a double bind with each other.

누가 먼저 끊지 못하도록 조종하지는 않았으니까요.

Now, if this is making you feel a little bit of outrage,

이 얘기에 조금 화가 나실 수도 있는데요.

notice that that thought just comes over you.

바로 그 감정이 자연스럽게 일어나는 것에 주목해보세요.

Outrage is a really good way also of getting your attention,

분노 또한 사람의 관심을 끄는 아주 탁월한 방법입니다.

because we don't choose outrage.

분노는 선택할 수 있는 게 아니라 그냥 일어나는 감정이기 때문이죠.

It happens to us.

And if you're the Facebook newsfeed,

페이스북 뉴스피드 개발자라면

whether you'd want to or not,

사람들이 원하든 원하지 않든 그 분노로 이익을 얻는 겁니다.

you actually benefit when there's outrage.

Because outrage doesn't just schedule a reaction

왜냐면 분노는 여러분이 감정적으로 시간을 소비하게 할 뿐만 아니라

in emotional time, space, for you.

We want to share that outrage with other people.

그 분노를 다른 사람들과 나누고 싶게 만들기 때문입니다.

So we want to hit share and say,

공유하기 버튼을 누르는 거죠.

"Can you believe the thing that they said?"

"얘네가 이런 말을 했다니 말이 돼?"

And so outrage works really well at getting attention,

이런 식으로 분노는 관심을 끄는 데에 아주 용이합니다.

such that if Facebook had a choice between showing you the outrage feed

만약 페이스북에 여러분이 분노할 만한 소식과

and a calm newsfeed,

잔잔한 소식을 선택하라고 하면

they would want to show you the outrage feed,

분노할 만한 것을 고를 겁니다.

not because someone consciously chose that,

누군가의 의도적 선택이라기보다

but because that worked better at getting your attention.

그게 여러분의 관심을 끌기에 더 효과적이기 때문이죠.

And the newsfeed control room is not accountable to us.

뉴스피드 조종실은 우리에 대한 책임이 없습니다.

It's only accountable to maximizing attention.

단지 관심을 최대한 끄는 것만 책임지죠.

It's also accountable,

광고를 통해 수익을 내는 구조이기 때문에 더욱 그렇습니다.

because of the business model of advertising,

for anybody who can pay the most to actually walk into the control room

돈 많은 사람이 조종실을 찾아와서 이렇게 말하는 거죠.

and say, "That group over there,

"저 사람들의 머릿속에서 이런 생각을 하게 만들어주세요."

I want to schedule these thoughts into their minds."

So you can target,

속이기 쉬운 대상을 골라서 정확하게 거짓말로 속일 수도 있습니다.

you can precisely target a lie

directly to the people who are most susceptible.

And because this is profitable, it's only going to get worse.

이건 돈이 되는 장사라 점점 더 악화할 겁니다.

So I'm here today

제가 오늘 여기 온 이유도

because the costs are so obvious.

치뤄야 할 대가가 뻔히 보이기 때문입니다.

I don't know a more urgent problem than this,

이보다 더 시급한 문제는 없어요.

because this problem is underneath all other problems.

왜냐면 이건 다른 모든 문제의 밑바탕에 깔려있기 때문입니다.

It's not just taking away our agency

우리가 무엇에 관심을 두고 어떻게 살아갈지를 결정하는

to spend our attention and live the lives that we want,

우리의 주체성을 빼앗을 뿐 아니라

it's changing the way that we have our conversations,

우리가 서로 대화하는 방식을 바꿔버리고

it's changing our democracy,

민주주의를 변질시키고

and it's changing our ability to have the conversations

상대방과 대화하는 능력 및 대인 관계를 맺는 능력에도 영향을 미칩니다.

and relationships we want with each other.

And it affects everyone,

모든 사람에게 영향을 미치죠.

because a billion people have one of these in their pocket.

10억 명의 사람들의 호주머니에 이런 게 하나씩 있으니까요.

So how do we fix this?

이 문제를 어떻게 해결하죠?

We need to make three radical changes

세 가지 근본적인 변화가 필요합니다.

to technology and to our society.

기술과 우리 사회에 있어서 말이죠.

The first is we need to acknowledge that we are persuadable.

첫째는, 우리가 설득당하기 쉽다는 걸 인정하는 겁니다.

Once you start understanding

우리가 자기도 모르게 여기저기 시간을 빼앗기며 수많은 생각을 하도록

that your mind can be scheduled into having little thoughts

or little blocks of time that you didn't choose,

조종될 수 있다는 것을 인정하면

wouldn't we want to use that understanding

그 사실을 오히려 역이용해서

and protect against the way that that happens?

그런 일이 생기지 않게 자신을 보호하려 하지 않을까요?

I think we need to see ourselves fundamentally in a new way.

우리 자신을 바라보는 방식을 근본적으로 바꿔야 합니다.

It's almost like a new period of human history,

인류의 새 시대가 열린 것이죠. 계몽주의 시대처럼요.

like the Enlightenment,

but almost a kind of self-aware Enlightenment,

하지만 스스로 깨달아야 하는 계몽주의 시대인 거죠.

that we can be persuaded,

우리가 설득당할 수 있음을 깨닫고

and there might be something we want to protect.

그 사실로부터 보호해야 할 것이 있다고 말이죠.

The second is we need new models and accountability systems

둘째로, 새로운 모델과 책임 시스템이 필요합니다.

so that as the world gets better and more and more persuasive over time --

세상은 시간이 갈수록 점점 더 발전하면서

because it's only going to get more persuasive --

더욱 강력하게 설득하려는 방향으로만 가기 때문에

that the people in those control rooms

조종실에 있는 사람들이 우리가 원하는 것에

are accountable and transparent to what we want.

투명하고 책임감을 갖게 하는 시스템이 필요합니다.

The only form of ethical persuasion that exists

윤리적인 설득은 설득하는 이들의 목적이

is when the goals of the persuader

설득당하는 이들의 목적과

are aligned with the goals of the persuadee.

같을 때만 성립하기 때문입니다.

And that involves questioning big things, like the business model of advertising.

즉, 이 기업들의 광고 수익 구조를 과감하게 물어볼 수도 있어야 합니다.

Lastly,

마지막으로

we need a design renaissance,

이런 설계에 대한 변화가 필요합니다.

because once you have this view of human nature,

무려 10억 명의 생각을 조종할 수 있게 하는

인간의 본성을 생각해보세요.

that you can steer the timelines of a billion people --

just imagine, there's people who have some desire

내가 원하는 대로 어떤 걸 하고 싶고,

about what they want to do and what they want to be thinking

생각하고, 느끼고, 알고 싶은데

and what they want to be feeling and how they want to be informed,

그런 개개인의 욕구는 다 무시당한 채 누군가에 의해

and we're all just tugged into these other directions.

엉뚱한 방향으로 조종당하는 사람들이 수십억 명이나 됩니다.

And you have a billion people just tugged into all these different directions.

그러나 설계 전반에 걸쳐 르네상스적인 혁명을 일으키면

Well, imagine an entire design renaissance

that tried to orchestrate the exact and most empowering

10억 명이 각자 자신의 시간을 가장 값지게 사용할 수 있는

time-well-spent way for those timelines to happen.

가장 효과적인 방법을 지휘할 수 있습니다.

And that would involve two things:

여기에는 두 가지 요소가 있습니다.

one would be protecting against the timelines

첫째, 원치 않게 시간을 낭비하게 만드는 요소를 막는 것입니다.

that we don't want to be experiencing,

the thoughts that we wouldn't want to be happening,

so that when that ding happens, not having the ding that sends us away;

그래야 그런 상황이 일어나도 거기에 정신이 팔리지 않죠.

and the second would be empowering us to live out the timeline that we want.

둘째, 우리가 원하는 방향으로 시간을 보내는 것이 가능하도록 하는 겁니다.

So let me give you a concrete example.

구체적인 예를 들어 볼게요.

Today, let's say your friend cancels dinner on you,

친구가 오늘 밤 저녁 약속을 취소했다고 치죠.

and you are feeling a little bit lonely.

그러면 여러분은 조금 외로워지겠죠?

And so what do you do in that moment?

그럴 때는 뭘 하죠? 페이스북에 접속하겠죠.

You open up Facebook.

And in that moment,

바로 그 순간

the designers in the control room want to schedule exactly one thing,

페이스북 조종실에 있는 디자이너에겐 단 하나의 목표가 있죠.

which is to maximize how much time you spend on the screen.

여러분이 최대한 오래 페이스북에 머물게 하는 겁니다.

Now, instead, imagine if those designers created a different timeline

그런데 디자이너가 목표를 완전히 바꿔서

that was the easiest way, using all of their data,

가진 정보를 총동원해서 가장 간단한 방법으로

to actually help you get out with the people that you care about?

여러분이 좋아하는 사람들과 시간을 보내도록 도와준다면요?

Just think, alleviating all loneliness in society,

우리가 사회에서 느끼는 모든 외로움이 이런 식으로 사라진다고 생각해보세요.

if that was the timeline that Facebook wanted to make possible for people.

페이스북이 사람들을 위해 그렇게만 해준다면 말이죠.

Or imagine a different conversation.

아니면 다른 상황을 생각해보죠.

Let's say you wanted to post something supercontroversial on Facebook,

엄청난 논란을 일으킬 글을 페이스북에 올린다고 치죠.

which is a really important thing to be able to do,

어떤 쟁점을 두고 서로 토론할 수 있다는 것은 무척 중요해요.

to talk about controversial topics.

And right now, when there's that big comment box,

페이스북에 새 게시물을 입력하는 커다란 창을 보면

it's almost asking you, what key do you want to type?

마치 내가 입력한 것을 키워드 삼아

In other words, it's scheduling a little timeline of things

또 한참을 페이스북에 머물게 하려는 것 같아요.

you're going to continue to do on the screen.

만약 옆에 다른 버튼이 있어서

And imagine instead that there was another button there saying,

"가장 의미 있는 시간을 보내려면 뭘 하고 싶은가요?" 라 묻고

what would be most time well spent for you?

And you click "host a dinner."

'저녁 식사 초대'를 눌러 포스팅하면

And right there underneath the item it said,

바로 밑에 '저녁 식사에 참여하기' 버튼이 나온다 생각해보세요.

"Who wants to RSVP for the dinner?"

And so you'd still have a conversation about something controversial,

여러분은 여전히 논란거리가 될 만한 주제로 대화를 나누지만

but you'd be having it in the most empowering place on your timeline,

원하는 시간과 장소에서 대화를 하는 거예요.

which would be at home that night with a bunch of a friends over

바로 친구가 저녁을 취소한 그 날

다른 많은 친구들과 함께 논란거리로 열띤 대화를 나누는 거죠.

to talk about it.

So imagine we're running, like, a find and replace

워드 문서를 작성할 때 쓰는 '찾아 바꾸기' 기능처럼

on all of the timelines that are currently steering us

우리를 점점 더 인터넷 중독으로 만드는 모든 게시물을 찾아내서

towards more and more screen time persuasively

and replacing all of those timelines

이것을 우리가 실제 삶에서 하고 싶은 것으로 모두 바꾼다고 생각해보세요.

with what do we want in our lives.

It doesn't have to be this way.

꼭 이런 방식이 아니어도 됩니다.

Instead of handicapping our attention,

우리의 관심을 엉뚱한 데 허비하는 대신

imagine if we used all of this data and all of this power

수많은 데이터와 그것을 통제할 힘과 설득당하기 쉬운 인간의 본성을 이용해

and this new view of human nature

to give us a superhuman ability to focus

우리가 정말 원하는 것에 집중할 수 있는 초인적인 힘과

and a superhuman ability to put our attention to what we cared about

and a superhuman ability to have the conversations

민주주의에 필요한 소통을 할 수 있는 초인적인 힘을 갖는다고 생각해보세요.

that we need to have for democracy.

The most complex challenges in the world

세상에서 가장 어려운 과제는

require not just us to use our attention individually.

개개인의 관심뿐만 아니라

They require us to use our attention and coordinate it together.

공동체 전체의 관심이 모일 때 비로소 해결할 수 있습니다.

Climate change is going to require that a lot of people

기후 변화를 해결하려면 많은 사람의 관심을

are being able to coordinate their attention

가장 강력한 방법으로 모아 힘을 실어야 합니다.

in the most empowering way together.

And imagine creating a superhuman ability to do that.

이런 문제를 해결할 수 있는 초인적인 힘이 생긴다고 생각해보세요.

Sometimes the world's most pressing and important problems

가장 시급하고 중요한 문제는

are not these hypothetical future things that we could create in the future.

우리가 미래에 일으킬지도 모를 가상의 문제가 아닙니다.

Sometimes the most pressing problems

가장 시급하고 중요한 문제는 바로 우리 코앞에 있는

are the ones that are right underneath our noses,

the things that are already directing a billion people's thoughts.

이미 10억 명 사람들의 생각을 조종하고 있는 것들입니다.

And maybe instead of getting excited about the new augmented reality

증강현실, 가상현실이나 앞으로 펼쳐질 놀라운 기술에 열광하는 대신에

and virtual reality and these cool things that could happen,

which are going to be susceptible to the same race for attention,

우리 관심을 끌려고 경쟁할 게 뻔한 그런 것에 열광할 것이 아니라

if we could fix the race for attention

이미 10억 명의 주머니에 든 휴대폰에서

on the thing that's already in a billion people's pockets.

우리의 관심을 끌려고 경쟁하는 것을 바로잡아야 하지 않을까요.

Maybe instead of getting excited

가장 멋진 최신 교육용 앱에 열광할 것이 아니라

about the most exciting new cool fancy education apps,

we could fix the way kids' minds are getting manipulated

내용 없는 문자를 주고받도록 아이들의 마음이 조종당하는 상황을

into sending empty messages back and forth.

바로잡아야 할 것입니다.

(Applause)

(박수)

Maybe instead of worrying

한 가지 목표만 극대화하려는

about hypothetical future runaway artificial intelligences

인공지능을 통제할 수 없게 되는 가상의 미래를 걱정하는 대신

that are maximizing for one goal,

we could solve the runaway artificial intelligence

우리는 이미 존재하는 인공지능을 통제할 수 있어야 합니다.

that already exists right now,

which are these newsfeeds maximizing for one thing.

바로 단 한 가지 목표인 우리의 관심을 끄는 것을 극대화하려는 뉴스피드를요.

It's almost like instead of running away to colonize new planets,

새로운 행성을 식민지로 만들려고 밖으로만 나갈 것이 아니라

we could fix the one that we're already on.

우리가 살고 있는 이곳을 바로잡을 수 있어야 합니다.

(Applause)

(박수)

Solving this problem

이 문제의 해법이

is critical infrastructure for solving every other problem.

다른 모든 문제를 해결할 수 있는 가장 중요한 기반이 될 것입니다.

There's nothing in your life or in our collective problems

우리의 삶과 사회의 모든 문제는

that does not require our ability to put our attention where we care about.

우리가 정말 소중히 여기는 것에 관심을 둘 때만 해결할 수 있습니다.

At the end of our lives,

우리가 삶을 마감할 때

all we have is our attention and our time.

결국 남는 건 우리의 관심과 시간입니다.

What will be time well spent for ours?

우리는 어떤 시간을 보내야 할까요?

Thank you.

고맙습니다.

(Applause)

(박수)

Chris Anderson: Tristan, thank you. Hey, stay up here a sec.

Chris Anderson: 트리스탄 씨. 고맙습니다. 잠시 얘기 나누실까요.

First of all, thank you.

우선, 고맙습니다.

I know we asked you to do this talk on pretty short notice,

제가 듣기로 갑자기 강연을 요청받으셨다고 하던데요.

and you've had quite a stressful week

강연 준비를 하시느라 힘든 한 주를 보내셨겠어요.

getting this thing together, so thank you.

감사합니다.

Some people listening might say, what you complain about is addiction,

중독에 관한 문제를 지적하셨는데요.

and all these people doing this stuff, for them it's actually interesting.

그런데 사람들이 실제로 즐기고 있다고 할 수도 있잖아요.

이런 건 사용자가 무척 흥미롭게 느낄 내용으로 설계가 되어 있어요.

All these design decisions

have built user content that is fantastically interesting.

The world's more interesting than it ever has been.

세상이 역사상 이렇게 재밌던 적은 없었는데, 무엇이 잘못된 걸까요?

What's wrong with that?

Tristan Harris: I think it's really interesting.

Tristan Harris: 좋은 질문이네요.

그걸 설명하는 한 가지 방법은, 예를 들어 유튜브를 보세요.

One way to see this is if you're just YouTube, for example,

you want to always show the more interesting next video.

흥미를 느낄 만한 다음 영상을 보여주고 더 흥미로운 다음 영상을 또 제시하죠.

You want to get better and better at suggesting that next video,

하지만 심지어 모두가 보고 싶어 하는 완벽한 다음 영상을 소개하더라도

but even if you could propose the perfect next video

that everyone would want to watch,

계속해서 우릴 화면에 붙잡아야 유튜브엔 좋은 일이란 거죠.

it would just be better and better at keeping you hooked on the screen.

그 공식에 빠진 게 있는데요.

So what's missing in that equation

그 끝이 어딘지 알아야 한다는 것이죠.

is figuring out what our boundaries would be.

You would want YouTube to know something about, say, falling asleep.

내가 졸린다는 걸 유튜브도 알아야 하잖아요.

넷플릭스 사장이 최근에 이런 말을 했는데요.

The CEO of Netflix recently said,

자신들의 최대 경쟁자는 페이스북, 유튜브, 그리고 졸음이라고 했죠.

"our biggest competitors are Facebook, YouTube and sleep."

And so what we need to recognize is that the human architecture is limited

우리가 알아야 할 것은, 인간의 구조에는 한계가 있다는 사실입니다.

and that we have certain boundaries or dimensions of our lives

우리 삶에는 일정한 경계와 공간이 있고

that we want to be honored and respected,

우리는 그 경계와 공간을 지키고 싶어 해요.

and technology could help do that.

기술이 그걸 도울 수 있습니다.

(Applause)

(박수)

CA: I mean, could you make the case

CA: 그러니까 문제점 중의 하나가

that part of the problem here is that we've got a naïve model of human nature?

인간 본성에 대한 모델이 너무 순진하다는 거죠?

So much of this is justified in terms of human preference,

인간이 선호한다는 이유로 대부분이 정당화되고

where we've got these algorithms that do an amazing job

인간의 기호에 맞게 놀랍도록 최적화하는 알고리즘을 갖고 있는데

of optimizing for human preference,

but which preference?

선호한다는 게 다 같은 건 아니니까요.

There's the preferences of things that we really care about

곰곰이 생각해본 후 정말로 원해서 선택하는 것이 있고

when we think about them

versus the preferences of what we just instinctively click on.

반면에, 본능적으로 클릭하는 것도 선호하는 것이라고 할 수 있잖아요.

If we could implant that more nuanced view of human nature in every design,

인간 본성에 대한 그 미묘한 관점의 차이를 설계에 반영한다면

would that be a step forward?

진전이 있지 않을까요?

TH: Absolutely. I mean, I think right now

TH: 물론입니다. 제 생각에는

it's as if all of our technology is basically only asking our lizard brain

현재 기술은 기본적으로 우리의 본능만 건드리는 것 같습니다.

의미가 없더라도 충동적으로 1초라도 더 머물게 하려는

what's the best way to just impulsively get you to do

the next tiniest thing with your time,

가장 효과적인 방법이 무엇일까만 연구하죠.

instead of asking you in your life

인생에 주어진 시간을 어떻게 해야 가장 잘 보낼 수 있는지, 혹은

what we would be most time well spent for you?

What would be the perfect timeline that might include something later,

TED 콘퍼런스의 마지막 날 콘퍼런스가 끝난 후를 포함해

어떻게 해야 시간을 완벽하게 잘 썼다고 할 수 있을지 묻는 대신에요.

would be time well spent for you here at TED in your last day here?

CA: 그러니까 페이스북이나 구글 같은 데서

CA: So if Facebook and Google and everyone said to us first up,

이런 메세지를 먼저 띄워야겠네요.

"Hey, would you like us to optimize for your reflective brain

"사고의 측면을 최적화할까요, 아니면 본능 측면을 최적화할까요?

or your lizard brain? You choose."

TH: Right. That would be one way. Yes.

선택하세요."

TH: 그렇습니다. 그것도 방법이죠.

CA: You said persuadability, that's an interesting word to me

CA: 설득도 언급하셨는데요. 흥미로운 단어라고 생각합니다.

because to me there's two different types of persuadability.

왜냐면, 제가 보기엔 설득에는 두 종류가 있는 것 같은데요.

There's the persuadability that we're trying right now

설득의 하나는 지금도 우리가 하고 있는 거죠.

of reason and thinking and making an argument,

판단하고, 생각하고, 논쟁을 벌이죠.

but I think you're almost talking about a different kind,

그런데 강연에서는 다른 종류의 설득,

더 본능적인 설득을 말씀하신 것 같아요.

a more visceral type of persuadability,

of being persuaded without even knowing that you're thinking.

생각할 새도 없이 설득당하는 건가요?

TH: 바로 그겁니다. 제가 그걸 문제로 삼는 이유가 있는데요.

TH: Exactly. The reason I care about this problem so much is

제가 있었던 스탠퍼드대의 설득 기술 연구실이라는 곳에서는

I studied at a lab called the Persuasive Technology Lab at Stanford

말씀하신 바로 그 기술을 가르쳤어요.

that taught [students how to recognize] exactly these techniques.

그 은밀한 기술을 알려주는 학술 대회와 워크숍도 있죠.

There's conferences and workshops that teach people all these covert ways

사람들의 관심을 끌고, 그들 삶을 조작하는 기술이죠.

of getting people's attention and orchestrating people's lives.

대부분의 사람은 그런 게 있는지도 모르기 때문에

And it's because most people don't know that that exists

that this conversation is so important.

이런 대화를 나누는 것이 의미가 있죠.

CA: Tristan, you and I, we both know so many people from all these companies.

CA: 저나 트리스탄 씨나 이쪽 분야에 지인이 많은데요.

There are actually many here in the room,

이 강연장에도 많은 분이 계시고요.

and I don't know about you, but my experience of them

트리스탄 씨는 어떨지 모르지만 제가 경험한 바로는

모두 선의로 이 일을 하고 있어요.

is that there is no shortage of good intent.

People want a better world.

사람들은 더 나은 세상을 원하니까요.

They are actually -- they really want it.

다들 더 나은 세상을 진정으로 원합니다.

And I don't think anything you're saying is that these are evil people.

트리스탄 씨도 강연에서 이들이 나쁜 사람이라고 말씀하신 것 같지는 않아요.

It's a system where there's these unintended consequences

통제하지 못할 정도로 의도하지 않은 결과를 만드는 시스템이 문제인 거죠.

that have really got out of control --

TH: 관심을 끌려는 경쟁이죠.

TH: Of this race for attention.

더 본능적인 것을 자극해 관심을 끌려는 전형적 방식이죠. 너무 치열해요.

It's the classic race to the bottom when you have to get attention,

and it's so tense.

더 많은 관심을 얻는 유일한 방법은 뇌의 중심까지 파고드는 거예요.

The only way to get more is to go lower on the brain stem,

to go lower into outrage, to go lower into emotion,

우리의 분노와 감정까지 파고들어가고

to go lower into the lizard brain.

우리 본능까지 자극하고 있습니다.

CA: Well, thank you so much for helping us all get a little bit wiser about this.

CA: 감사합니다. 덕분에 이 문제에 더 현명하게 대처할 수 있겠네요.

Tristan Harris, thank you. TH: Thank you very much.

CA: 트리스탄 해리 씨였습니다. TH: 감사합니다.

(Applause)

(박수)