How we need to remake the internet | Jaron Lanier

번역: JY Kang 검토: Noh kyua

Back in the 1980s, actually, I gave my first talk at TED,

1980년대에 제가 TED에서 처음으로 강연했을 때

and I brought some of the very, very first public demonstrations

최초로 가상 현실 기술을 공개 시연한 적이 있습니다.

of virtual reality ever to the TED stage.

이 TED 무대에서 처음으로 말이죠.

And at that time, we knew that we were facing a knife-edge future

우리는 그때 이미 불안한 미래와 직면했음을 알고 있었습니다.

where the technology we needed,

우리가 원했던 기술과

the technology we loved,

소중히 생각했던 기술 때문에

could also be our undoing.

파멸하게 될지 모를 미래 말이죠.

We knew that if we thought of our technology

우리가 깨닫게 된 것은

만약 우리의 기술을 더 강한 권력을 얻는 수단으로 생각하고

as a means to ever more power,

if it was just a power trip, we'd eventually destroy ourselves.

그 힘을 과시하다보면 결국 스스로 파멸하게 될 거란 사실이었습니다.

That's what happens

그렇게 될 겁니다.

when you're on a power trip and nothing else.

기술을 남용하기만 한다면 말이죠.

So the idealism

그 당시의 이상주의적인

of digital culture back then

디지털 문화는

was all about starting with that recognition of the possible darkness

기술이 가진 어두운 측면의 가능성을 파악하고

and trying to imagine a way to transcend it

그것을 뛰어넘을 방법을 찾고자 노력하는 것이었습니다.

with beauty and creativity.

미적 감각과 창의성을 통해서 말이죠.

I always used to end my early TED Talks with a rather horrifying line, which is,

제가 초기에 TED 강연을 할 때는 이런 무서운 말로 끝맺곤 했습니다.

"We have a challenge.

"우리에게는 한가지 숙제가 있습니다.

We have to create a culture around technology

우리는 기술을 둘러싼 문화를 창조해야 합니다.

that is so beautiful, so meaningful,

아름답고, 의미 있고

so deep, so endlessly creative,

깊이 있고, 무한히 창의적이고

so filled with infinite potential

무한한 잠재력을 가진 문화 말이죠.

that it draws us away from committing mass suicide."

그래야 집단 자살을 막을 수 있습니다."

So we talked about extinction as being one and the same

그래서 인류의 멸종에 대해서도 토론이 이루어졌습니다.

매혹적이고 무한한 창의성을 가진 미래의 필요성에 덧붙여서 말이죠.

as the need to create an alluring, infinitely creative future.

And I still believe that that alternative of creativity

그리고 여전히 제 생각에는

죽음 대신에 창의성을 선택하는 쪽이

as an alternative to death

is very real and true,

현실인 것 같습니다.

maybe the most true thing there is.

어쩌면 가장 사실적인 문제죠.

In the case of virtual reality --

가상 현실의 경우에는..

well, the way I used to talk about it

제가 이 주제로 얘기할 때마다

is that it would be something like

한가지 비유를 들곤 하는 것이

what happened when people discovered language.

인간이 언어를 발명했을 때입니다.

With language came new adventures, new depth, new meaning,

언어를 통해서 새로운 모험을 만나고, 새로운 깊이와 새로운 의미를 얻고

new ways to connect, new ways to coordinate,

새로운 연락 방법, 새로운 협력 수단

new ways to imagine, new ways to raise children,

새로운 생각 수단, 새로운 자녀 양육법이 생겼죠.

and I imagined, with virtual reality, we'd have this new thing

그리고 제가 상상했던 가상현실이 가져올 새로운 기술은

that would be like a conversation

일종의 대화 수단뿐만 아니라

but also like waking-state intentional dreaming.

의도적 몽유 상태가 되는 것이었습니다.

We called it post-symbolic communication,

"탈-기호화 소통"이라고 하는 것인데요.

because it would be like just directly making the thing you experienced

왜냐하면 여러분이 경험하는 대상을 직접 느끼도록 해주기 때문입니다.

instead of indirectly making symbols to refer to things.

그 대상을 직접적으로 기호화하는 대신에 말이죠.

It was a beautiful vision, and it's one I still believe in,

정말 멋진 생각이었습니다. 지금도 그렇게 생각해요.

and yet, haunting that beautiful vision

하지만 그 구상에서 떠오른 문제점은

was the dark side of how it could also turn out.

그 기술이 드러낼지 모를 어두운 면이었습니다.

And I suppose I could mention

한가지 언급하고 싶은 것은

from one of the very earliest computer scientists,

초기 컴퓨터 과학자들 중의 한 사람인

whose name was Norbert Wiener,

노버트 위너 박사의 주장인데요.

and he wrote a book back in the '50s, from before I was even born,

제가 태어나기도 전인 1950년대에 그분이 쓴 저서 하나가 있습니다.

called "The Human Use of Human Beings."

"인간의 인간적 활용"이란 책인데요.

And in the book, he described the potential

그 책에서 그분은 한가지 가능성에 대해서 설명했습니다.

to create a computer system that would be gathering data from people

어느 컴퓨터 시스템이 개발되어 사람들로부터 정보를 수집하고

and providing feedback to those people in real time

그 사람들에게 실시간으로 피드백을 제공함으로써

in order to put them kind of partially, statistically, in a Skinner box,

사람들을 부분적, 혹은 통계적인 실험용 상자에 넣을 거라고 했죠.

in a behaviorist system,

일종의 행동심리 시스템에 가두는 것입니다.

and he has this amazing line where he says,

그리고 이런 놀라운 말을 했습니다.

one could imagine, as a thought experiment --

사고 실험으로 상상해보면 --

and I'm paraphrasing, this isn't a quote --

아, 제 나름의 해석입니다. 책 내용을 그대로 옮기는 건 아니에요.

one could imagine a global computer system

전 세계적인 컴퓨터 시스템을 상상해보면

where everybody has devices on them all the time,

모든 사람들이 컴퓨터를 늘 지니고 다니고

and the devices are giving them feedback based on what they did,

그 장치는 사람의 행동에 따라 피드백을 줄 것입니다.

and the whole population

그리고 인류 전체가

is subject to a degree of behavior modification.

행동 수정을 당하는 상태가 될 것입니다.

And such a society would be insane,

그런 사회는 정상이 아닙니다.

could not survive, could not face its problems.

그 안에서는 살 수도 없고, 뭐가 문제인지도 모를 겁니다.

And then he says, but this is only a thought experiment,

하지만 그분은 이건 단지 사고 실험이고

and such a future is technologically infeasible.

그런 미래는 기술적으로 실현될 수 없다고 언급했죠.

(Laughter)

(웃음)

And yet, of course, it's what we have created,

하지만, 우리는 물론 그런 세상을 만들었고

and it's what we must undo if we are to survive.

그걸 되돌려야만 우리가 살아남을 수 있습니다.

So --

그래서..

(Applause)

(박수)

I believe that we made a very particular mistake,

저는 우리가 아주 특별한 실수를 저질렀다고 생각합니다.

and it happened early on,

일이 벌어진 지 초기 단계라

and by understanding the mistake we made,

우리가 어떤 실수를 저질렀는지 안다면

we can undo it.

다시 되돌릴 수 있을 겁니다.

It happened in the '90s,

이 일은 90년대에 벌어졌고

and going into the turn of the century,

이미 한 세기가 넘어가는 시점에 있습니다.

and here's what happened.

어떤 일이 있었는지 말씀드리죠.

Early digital culture,

초기의 디지털 문화와

and indeed, digital culture to this day,

그리고 사실.. 지금까지의 디지털 문화에는

had a sense of, I would say, lefty, socialist mission about it,

말하자면 일종의 좌편향의 사회주의적 임무가 있습니다.

that unlike other things that have been done,

인류가 이뤄온 다른 업적들, 예를 들어 책의 발명 같은 것과 달리

like the invention of books,

everything on the internet must be purely public,

인터넷 안의 모든 것들은 완전히 공개되어야 하고

must be available for free,

공짜로 쓸 수 있어야 한다는 거예요.

because if even one person cannot afford it,

단 한 명이라도 인터넷을 쓸 형편이 안되면다면

then that would create this terrible inequity.

그에게는 너무나 불공평하기 때문입니다.

Now of course, there's other ways to deal with that.

물론 그런 문제를 해결할 여러 방법이 있습니다.

If books cost money, you can have public libraries.

책을 살 돈이 없으면 공용 도서관을 찾는다거나

And so forth.

그 외 방법들이 있죠.

But we were thinking, no, no, no, this is an exception.

하지만 이걸 생각해보면.. 아니요. 여기엔 예외가 있어요.

This must be pure public commons, that's what we want.

인터넷은 순전히 공공의 것이어야 합니다.

우리도 그것을 원하고요.

And so that spirit lives on.

그 정신이 살아있는 부분도 있습니다.

You can experience it in designs like the Wikipedia, for instance,

예를 들면, 위키피디아 같은 사이트가 만들지는 것에서도 경험할 수 있고

many others.

다른 경우도 많죠.

But at the same time,

하지만 그와 동시에

we also believed, with equal fervor,

동일한 열정을 가지고 있지만

in this other thing that was completely incompatible,

완전히 상반된 다른 부분도 있습니다.

which is we loved our tech entrepreneurs.

우리가 좋아하는 기술 기업가들이죠.

We loved Steve Jobs; we loved this Nietzschean myth

우리는 스티브 잡스를 사랑하고

니체처럼 세상을 바꿀 기술 신화를 이뤄낸 이들도 사랑합니다.

of the techie who could dent the universe.

Right?

그렇죠?

And that mythical power still has a hold on us, as well.

그 신화적 능력이 여전히 우리를 지배하고 있기도 하고요.

So you have these two different passions,

따라서 이 전혀 다른 두 가지 열정을 가지고

for making everything free

모든 정보를 자유롭게 만들고

and for the almost supernatural power of the tech entrepreneur.

인터넷 기업들도 초월적 능력을 발휘해야 하는 것입니다.

How do you celebrate entrepreneurship when everything's free?

기업들이 모든 것을 공짜로 만든다면 얼마나 좋을까요?

Well, there was only one solution back then,

물론 그러려면 방법은 단 하나뿐입니다.

which was the advertising model.

광고 수익 모델이죠.

And so therefore, Google was born free, with ads,

그래서 구글이 광고 덕분에 무료 서비스로 출발했고

Facebook was born free, with ads.

페이스북도 광고 덕분에 무료로 시작했죠.

Now in the beginning, it was cute,

물론 처음에는 귀엽게 봐줄 만 했어요.

like with the very earliest Google.

초창기 구글은 그랬죠.

(Laughter)

(웃음)

The ads really were kind of ads.

그때의 광고는 그야말로 광고였습니다.

They would be, like, your local dentist or something.

예를 들면, 지역 치과 광고나 그 비슷한 거였죠.

But there's thing called Moore's law

하지만 무어의 법칙에 따라

that makes the computers more and more efficient and cheaper.

점점 컴퓨터 성능이 좋아지고 가격도 싸지면서

Their algorithms get better.

광고 알고리즘도 점차 발전했죠.

We actually have universities where people study them,

그 분야를 가르치는 대학도 있어서 기술이 갈수록 좋아졌습니다.

and they get better and better.

And the customers and other entities who use these systems

그리고 그 시스템을 이용하는 소비자나 다른 기업들도

just got more and more experienced and got cleverer and cleverer.

경험이 쌓여갈수록 점점 더 똑똑해졌죠.

And what started out as advertising

결국, 광고로 시작되었던 것들을

really can't be called advertising anymore.

더 이상 광고로 볼 수 없게 되었습니다.

It turned into behavior modification,

이용자의 행동을 수정하는 쪽으로 바뀌었죠.

just as Norbert Wiener had worried it might.

노버트 위너 박사가 걱정했던 그대로 된 것이죠.

And so I can't call these things social networks anymore.

그래서 이젠 더 이상 이것들을 소셜 네트워크라고 할 수 없습니다.

I call them behavior modification empires.

행동 수정의 제국이라고 해야 하죠.

(Applause)

(박수)

And I refuse to vilify the individuals.

관련된 개개인을 비난하는 건 아닙니다.

I have dear friends at these companies,

제 친한 친구들도 관련 회사에서 일하고 있고

sold a company to Google, even though I think it's one of these empires.

자기 회사를 구글에 판 경우도 있죠. 구글도 그 제국에 속하지만요.

I don't think this is a matter of bad people who've done a bad thing.

행위는 나쁘지만 사람이 나빠서 그런 건 아니라고 생각합니다.

I think this is a matter of a globally tragic,

오히려 전 세계적인 비극이라고 생각해요.

astoundingly ridiculous mistake,

너무나 터무니없는 실수이지

rather than a wave of evil.

악의 물결은 아닐 것입니다.

Let me give you just another layer of detail

좀 더 자세하게 설명드리겠습니다.

into how this particular mistake functions.

이 특정한 실수가 어떻게 작동하는지에 대해서요.

So with behaviorism,

행동주의 측면에서

you give the creature, whether it's a rat or a dog or a person,

여러분은 어떤 대상, 예를 들면 쥐나 개, 혹은 사람이 될 수 있겠죠.

little treats and sometimes little punishments

그 대상에게 작은 보상이나 때로는 벌을 줄 수도 있습니다.

as feedback to what they do.

그들 행동에 대응해서 말이죠.

So if you have an animal in a cage, it might be candy and electric shocks.

예를 들어, 우리에 가둬 둔 동물이라면

사탕을 주거나 전기 충격을 가하는 겁니다.

But if you have a smartphone,

그런데 스마트폰이라면

it's not those things, it's symbolic punishment and reward.

그런 형태가 아니라, 기호화된 벌과 보상을 줘야겠죠.

Pavlov, one of the early behaviorists,

초창기 행동심리학자인 파블로프가

demonstrated the famous principle.

실험했던 유명한 이론이 있습니다.

You could train a dog to salivate just with the bell, just with the symbol.

먹이 대신 기호화된 종소리를 듣고 개가 침을 흘리도록 훈련시킨 것이죠.

So on social networks,

소셜 네트워크에도

social punishment and social reward function as the punishment and reward.

마찬가지로 사회적 벌과 사회적 보상의 기능이 있습니다.

And we all know the feeling of these things.

다들 어떤 느낌인지 아실텐데요. 이럴 때 희열을 느끼죠.

You get this little thrill --

"Somebody liked my stuff and it's being repeated."

"누가 내 글에 '좋아요'를 누르고 공유하기까지 했어!"

아니면 벌은 이런 경우죠.

Or the punishment: "Oh my God, they don't like me,

"세상에, 다들 나는 별론가 봐. 다른 사람이 더 인기가 많아.."

maybe somebody else is more popular, oh my God."

So you have those two very common feelings,

일반적으로 이렇게 두 가지 감정이 있습니다.

and they're doled out in such a way that you get caught in this loop.

그렇게 상과 벌을 조금씩 나눠주면서 여러분을 그 감정의 순환에 가두는 거죠.

As has been publicly acknowledged by many of the founders of the system,

그 시스템 개발자들이 이 내용을 이미 공개적으로 밝혔기 때문에

everybody knew this is what was going on.

누구나 그 사실을 알고 있습니다.

But here's the thing:

그런데 문제가 있어요.

traditionally, in the academic study of the methods of behaviorism,

전통적으로, 학교에서 행동주의 기법을 가르칠 때는

there have been comparisons of positive and negative stimuli.

긍정적 자극과 부정적 자극을 비교해서 가르칩니다.

In this setting, a commercial setting,

그 내용을 광고에 적용해보면 전혀 다른 차이점을 보입니다.

there's a new kind of difference

that has kind of evaded the academic world for a while,

학계에서는 한동안 몰랐던 사실인데요.

and that difference is that whether positive stimuli

그 차이점은 이것입니다.

상황에 따라 긍정적 자극이 부정적 자극보다 더 효과적이긴 해도

are more effective than negative ones in different circumstances,

the negative ones are cheaper.

부정적 자극은 비용이 싸거든요.

They're the bargain stimuli.

그래서 대량으로 자극이 가해집니다.

So what I mean by that is it's much easier

이것이 의미하는 바는..

신뢰를 쌓기보다 무너뜨리기가 훨씬 쉽다는 것입니다.

to lose trust than to build trust.

It takes a long time to build love.

사랑을 만들어가는 데에는 오랜 시간이 걸리지만

It takes a short time to ruin love.

사랑을 깨버리는 건 금방이죠.

Now the customers of these behavior modification empires

이들 행동 수정의 제국을 이용하는 이용자들은 이제

are on a very fast loop.

급격한 감정의 순환을 겪습니다.

They're almost like high-frequency traders.

초단타 주식 매매를 하는 것과 마찬가지에요.

They're getting feedbacks from their spends

거래를 한 뒤에 반응을 살피고

or whatever their activities are if they're not spending,

혹은 거래를 하지 않아도 어떤 움직임을 보이나 살피죠.

and they see what's working, and then they do more of that.

움직임을 보고, 그에 따라서 추가적인 행동을 취합니다.

And so they're getting the quick feedback,

그런 식으로 그들은 빠르게 피드백을 받습니다.

which means they're responding more to the negative emotions,

그것은 부정적인 감정에 대해서 더 자주 대응하는 걸 의미합니다.

because those are the ones that rise faster, right?

왜냐하면 부정적 감정은 빨리 일어나니까요. 그렇죠?

And so therefore, even well-intentioned players

따라서 선의를 가진 사람이

who think all they're doing is advertising toothpaste

자신의 행위들을 치약 광고 정도로 생각하더라도

end up advancing the cause of the negative people,

결국 부정적인 사람들을 양산하는 쪽으로 발전하게 됩니다.

the negative emotions, the cranks,

부정적 감정과 짜증

the paranoids,

피해망상

the cynics, the nihilists.

냉소주의, 허무주의.

Those are the ones who get amplified by the system.

이런 감정들을 시스템이 증폭시키는 것입니다.

And you can't pay one of these companies to make the world suddenly nice

이들 기업에게 비용을 지불할 수는 없습니다.

갑자기 좋은 세상을 만들고 민주주의를 발전시키라고 말이죠.

and improve democracy

nearly as easily as you can pay to ruin those things.

그것을 무너뜨리라고 비용을 지불하는 것만큼이나 쉬운 일이 아닙니다.

And so this is the dilemma we've gotten ourselves into.

그것이 우리의 딜레마입니다.

The alternative is to turn back the clock, with great difficulty,

대안은 시간을 되돌리는 거예요. 대단히 어렵더라도 말이죠.

and remake that decision.

그리고 결정을 다시 해야 합니다.

Remaking it would mean two things.

다시 한다는 것에는 두 가지 의미가 있어요.

It would mean first that many people, those who could afford to,

첫번째 의미로는, 형편이 되는 사람들은

would actually pay for these things.

서비스에 대한 비용을 실제로 지불해야 한다는 것입니다.

You'd pay for search, you'd pay for social networking.

검색 비용을 지불하고, SNS 사용료를 지불하는 겁니다.

How would you pay? Maybe with a subscription fee,

어떻게 지불해야 할까요? 가입비로도 가능하고

maybe with micro-payments as you use them.

서비스를 사용할 때 소액결제를 할 수도 있겠죠.

There's a lot of options.

여러가지 방법이 있습니다.

If some of you are recoiling, and you're thinking,

누군가는 그것에 반발하며 이렇게 생각할 수도 있겠죠.

"Oh my God, I would never pay for these things.

"말도 안 돼. 난 여기에 절대로 돈 안 낼 거야.

How could you ever get anyone to pay?"

누가 여기에 돈을 내겠어?"

I want to remind you of something that just happened.

하지만 최근에 일어나는 일들을 생각해보세요.

Around this same time

요즘에 와서

that companies like Google and Facebook were formulating their free idea,

구글이나 페이스북 같은 기업은 무료 서비스를 구상하고 있고

a lot of cyber culture also believed that in the future,

인터넷 문화 대다수가 앞으로도 무료일 거라고 믿고 있습니다.

televisions and movies would be created in the same way,

TV와 영화도 위키피디아처럼 이용자가 참여하는 형태로

kind of like the Wikipedia.

만들어질지도 모릅니다.

But then, companies like Netflix, Amazon, HBO,

그런데 정반대로, 넷플릭스나 아마존, HBO 같은 기업은 이렇게 말하죠.

said, "Actually, you know, subscribe. We'll give you give you great TV."

"자, 유료가입하시면 엄청난 TV 서비스를 제공해 드리겠습니다."

And it worked!

그런데 그게 통했어요!

We now are in this period called "peak TV," right?

지금 우리는 TV의 전성기 시대를 살고 있잖아요. 그렇죠?

So sometimes when you pay for stuff, things get better.

따라서 때로는 댓가를 지불하면 더 나은 걸 얻게 됩니다.

We can imagine a hypothetical --

이런 걸 한번 상상해보면..

(Applause)

(박수)

We can imagine a hypothetical world of "peak social media."

"SNS의 전성기"라는 가상의 세계를 상상해본다면

What would that be like?

그 세상은 어떤 모습일까요?

It would mean when you get on, you can get really useful,

그런 세상을 만들기만 한다면 정말 유용할 것입니다.

authoritative medical advice instead of cranks.

짜증 대신에 권위있는 의사로부터 의료 상담도 받을 수 있겠죠.

It could mean when you want to get factual information,

원할 때 사실에 근거한 정보를 얻게 되고

there's not a bunch of weird, paranoid conspiracy theories.

말도 안되는 망상 같은 음모론들은 사라질 것입니다.

We can imagine this wonderful other possibility.

이런 엄청난 가능성을 상상할 수 있죠.

Ah.

아.

I dream of it. I believe it's possible.

전 그런 세상을 꿈꿉니다. 가능할 거라고 믿어요.

I'm certain it's possible.

분명 가능하리라 확신합니다.

And I'm certain that the companies, the Googles and the Facebooks,

확신하건대, 구글이나 페이스북 같은 기업도

would actually do better in this world.

더 나은 세상을 만들 수 있습니다.

I don't believe we need to punish Silicon Valley.

실리콘 밸리의 기업들에게 벌을 줄 필요는 없다고 생각해요.

We just need to remake the decision.

다른 결정이 필요할 뿐입니다.

Of the big tech companies,

거대 인터넷 기업들 중에서

it's really only two that depend on behavior modification and spying

실제로 단 두 개 기업만이 행동 수정과 개인정보 훔쳐보기를

as their business plan.

사업계획에 반영하고 있습니다.

It's Google and Facebook.

구글과 페이스북이에요.

(Laughter)

(웃음)

And I love you guys.

전 그 사람들도 좋아해요.

Really, I do. Like, the people are fantastic.

정말 좋아해요. 대단한 사람들이죠.

I want to point out, if I may,

제가 지적하고 싶은 것은

if you look at Google,

구글을 잘 살펴보면

they can propagate cost centers endlessly with all of these companies,

다른 회사를 인수하면서 비용이 드는 부서를 계속 확장해 나갑니다.

but they cannot propagate profit centers.

하지만 수익 부서는 늘리지 못해죠.

They cannot diversify, because they're hooked.

확장에만 심취해서 다양화는 하지 못해요.

They're hooked on this model, just like their own users.

그 사업 모델에만 심취해 있습니다. 자기 서비스의 이용자들처럼요.

They're in the same trap as their users,

이용자들과 함께 함정에 빠져있는 거죠.

and you can't run a big corporation that way.

그런 방식으로는 큰 기업을 운영할 수 없습니다.

So this is ultimately totally in the benefit of the shareholders

결국에는 주주들의 이익과 직결되고

and other stakeholders of these companies.

회사 이해 당사자들에게도 문제가 되죠.

It's a win-win solution.

이건 모두에게 유리한 해법입니다.

It'll just take some time to figure it out.

파악하는 데에 시간이 좀 걸리겠죠.

A lot of details to work out,

많은 세부 사항을 파악해야

totally doable.

완전히 실행할 수 있을 겁니다.

(Laughter)

(웃음)

I don't believe our species can survive unless we fix this.

이걸 해결하지 않고는 인류는 살아남지 못할 것입니다.

We cannot have a society

우리가 용납할 수 없는 사회는

in which, if two people wish to communicate,

두 사람이 서로 소통을 원할 때

the only way that can happen is if it's financed by a third person

그들을 조종하려는 다른 이가 돈을 대야 소통이 가능한 사회입니다.

who wishes to manipulate them.

(Applause)

(박수)

(Applause ends)

In the meantime, if the companies won't change,

그런데도 그 회사들이 바뀌지 않으면 계정을 삭제해버리세요. 알았죠?

delete your accounts, OK?

(Laughter)

(웃음)

(Applause)

(박수)

That's enough for now.

이번엔 이 정도로 해두죠. 감사합니다.

Thank you so much.

(Applause)

(박수)