Beware online "filter bubbles" | Eli Pariser

번역: J J LEE 검토: Bianca Lee

Mark Zuckerberg,

한 언론인이

a journalist was asking him a question about the news feed.

마크 주커버그에게 뉴스 피드에 대한 질문을 했습니다.

And the journalist was asking him,

그 언론인은 이렇게 물었죠.

"Why is this so important?"

"이것이 왜 그렇게 중요한가요?"

And Zuckerberg said,

주커버그가 답했습니다.

"A squirrel dying in your front yard

"아프리카에서 죽어가는 사람들 보다

may be more relevant to your interests right now

여러분 앞마당에서 죽어가는 다람쥐가

than people dying in Africa."

지금 당장은 더 관심이 갈지도 모릅니다."

And I want to talk about

저는 관련성의 아이디어에 바탕을 둔

what a Web based on that idea of relevance might look like.

웹이 어떤 것인가에 대해서 말하고자 합니다.

So when I was growing up

제가 메인주의 시골에서

in a really rural area in Maine,

성장할 때는,

the Internet meant something very different to me.

인터넷은 제게 아주 다른 것을 의미했습니다.

It meant a connection to the world.

세계와의 연결을 의미했죠.

It meant something that would connect us all together.

우리를 다함께 연결할 뭔가를 의미했죠.

And I was sure that it was going to be great for democracy

저는 인터넷이 민주주의와 우리 사회에

and for our society.

유익할 것이라고 확신했습니다.

But there's this shift

하지만 온라인에서

in how information is flowing online,

어떻게 정보가 공급되는지에 변화가 존재하고,

and it's invisible.

그것은 눈에 띄지 않죠.

And if we don't pay attention to it,

그리고 거기에 관심을 기울이지 않는다면,

it could be a real problem.

진짜 문제가 될 수 있습니다.

So I first noticed this in a place I spend a lot of time --

저는 이것을 제가 많은 시간을 보내는 페이스북에서

my Facebook page.

처음으로 인지했습니다.

I'm progressive, politically -- big surprise --

저는 진보적 정치 성향을 가지고 있습니다. 놀랄만한 일인가요.

but I've always gone out of my way to meet conservatives.

하지만 저는 늘 보수적 성향의 사람들을 만나려고 노력했습니다.

I like hearing what they're thinking about;

저는 그들이 생각하는 바를 경청하기 좋아합니다.

I like seeing what they link to;

저는 그들이 연관되어 있는 것을 확인하기 좋아합니다.

I like learning a thing or two.

저는 이것 저것 배우는 것을 좋아합니다.

And so I was surprised when I noticed one day

그래서 어느날 보수주의자들이 제 페이스북 피드에서

that the conservatives had disappeared from my Facebook feed.

사라졌다는 것을 알았을 때 깜짝 놀랐습니다.

And what it turned out was going on

페이스북이 제가 어떤 링크를

was that Facebook was looking at which links I clicked on,

클릭하는지 살펴보고 있었고, 그것은 실제로

and it was noticing that, actually,

제가 보수적 성향의 친구들 보다

I was clicking more on my liberal friends' links

진보적 성향을 가진 친구들의 링크를

than on my conservative friends' links.

더 많이 클릭했다는 것을 나타내는 것이었죠.

And without consulting me about it,

그리고 제 의견을 묻지도 않고

it had edited them out.

페이스북은 그것을 편집해 버렸습니다.

They disappeared.

그들은 사라졌죠.

So Facebook isn't the only place

페이스북만이 이런 눈에 띄지 않는

that's doing this kind of invisible, algorithmic

알고리즘적인 웹 편집을

editing of the Web.

실행하고 있는 것이 아닙니다.

Google's doing it too.

구글 역시 그렇게 합니다.

If I search for something, and you search for something,

제가 뭔가를 검색하고, 여러분이 검색을 한다면,

even right now at the very same time,

바로 지금 동시에 검색을 할지라도,

we may get very different search results.

서로 다른 검색 결과를 얻을 것입니다.

Even if you're logged out, one engineer told me,

한 엔지니어가 제게 말하길, 비록 로그 아웃 했을지라도

there are 57 signals

여러분의 질의 결과에

that Google looks at --

개별적으로 맞추기 위해

everything from what kind of computer you're on

구글은 57개의 신호들을 살펴본다고 합니다.

to what kind of browser you're using

어떤 종류의 컴퓨터를 사용하는지,

to where you're located --

어떤 종류의 브라우저를 사용하는지,

that it uses to personally tailor your query results.

어느 지역에 있는지까지 모든 것을 말이죠.

Think about it for a second:

잠시 그것을 생각해보세요.

there is no standard Google anymore.

표준화된 구글은 더 이상 존재하지 않습니다.

And you know, the funny thing about this is that it's hard to see.

그리고 재미있는 것은 이것이 눈에 띄기 힘들다는 것입니다.

You can't see how different your search results are

여러분의 검색 결과가 다른 사람들의 것과

from anyone else's.

얼마나 다른지 볼 수 없습니다.

But a couple of weeks ago,

하지만 2주 전에,

I asked a bunch of friends to Google "Egypt"

저는 친구들에게 구글에서 "이집트"를 검색해보고

and to send me screen shots of what they got.

그 결과의 스크린 샷을 보내달라고 부탁했습니다.

So here's my friend Scott's screen shot.

여기 제 친구 스콧의 스크린 샷이 있습니다.

And here's my friend Daniel's screen shot.

그리고 제 친구 다니엘의 스크린 샷입니다.

When you put them side-by-side,

그것들을 나란히 놓고 볼 때,

you don't even have to read the links

이 두 페이지가 어떻게 다른지

to see how different these two pages are.

링크들을 읽어볼 필요도 없습니다.

But when you do read the links,

하지만 그 링크들을 읽어보면,

it's really quite remarkable.

정말 아주 놀랄만합니다.

Daniel didn't get anything about the protests in Egypt at all

다니엘은 구글 검색 결과의 첫 페이지에서 이집트에서의

in his first page of Google results.

시위에 대해 아무런 결과도 얻지 못했습니다.

Scott's results were full of them.

스콧의 결과는 시위에 대해 가득했습니다.

And this was the big story of the day at that time.

시위는 그 당시의 가장 큰 뉴스거리였죠.

That's how different these results are becoming.

그것이 이 결과들이 얼마나 달라지는가 하는 것입니다.

So it's not just Google and Facebook either.

구글과 페이스북만 그런 것이 아닙니다.

This is something that's sweeping the Web.

이것은 웹에 광범위하게 나타나는 것입니다.

There are a whole host of companies that are doing this kind of personalization.

이런 개인화를 실행하고 있는 수 많은 기업들이 존재합니다.

Yahoo News, the biggest news site on the Internet,

인터넷 최대 뉴스 사이트인 야후 뉴스는

is now personalized -- different people get different things.

이제 개인화 되어, 서로 다른 사람들이 서로 다른 결과를 얻습니다.

Huffington Post, the Washington Post, the New York Times --

허핑톤 포스트, 워싱턴 포스트, 뉴욕 타임즈 등

all flirting with personalization in various ways.

모두가 개인화를 다양한 방식으로 시도하고 있습니다.

And this moves us very quickly

이것이 인터넷이 우리가 보기 원한다고

toward a world in which

생각하지만 우리가 반드시

the Internet is showing us what it thinks we want to see,

볼 필요는 없는 것을 보여주는 세상으로

but not necessarily what we need to see.

빠르게 움직이게 하고 있습니다.

As Eric Schmidt said,

에릭 슈미트가

"It will be very hard for people to watch or consume something

"어떤 의미에서, 사람들이 그들에게 맞춰지지 않은

that has not in some sense

뭔가를 보고, 소비한다는 것은

been tailored for them."

매우 힘든 일이 될 것입니다." 라고 말한 대로

So I do think this is a problem.

저는 이것이 정말 문제라고 생각합니다.

And I think, if you take all of these filters together,

여러분이 이런 필터들과 알고리즘들을

you take all these algorithms,

함께 사용한다면, 제가 필터 버블이라

you get what I call a filter bubble.

부르는 것을 겪을 것이라고 생각합니다.

And your filter bubble is your own personal,

여러분의 필터 버블은 온라인에서

unique universe of information

살아가는 여러분만의 개인적인

that you live in online.

유일무이한 정보 우주입니다.

And what's in your filter bubble

여러분의 필터 버블 안에 있는 것은

depends on who you are, and it depends on what you do.

여러분이 누구인가, 여러분이 무엇을 하는가에 달려있습니다.

But the thing is that you don't decide what gets in.

하지만 무엇이 포함될지 여러분이 결정하지 않습니다.

And more importantly,

그리고 보다 중요하게는,

you don't actually see what gets edited out.

실제로 무엇이 편집되어 사라지는지 확인하지 않습니다.

So one of the problems with the filter bubble

필터 버블의 문제점 중 하나는

was discovered by some researchers at Netflix.

넷플릭스의 연구자들에 의해 발견되었습니다.

And they were looking at the Netflix queues, and they noticed something kind of funny

그들은 넷플릭스의 큐(queue)를 들여다 봤고, 아마도 우리 중 많은 수가 인지해 왔을

that a lot of us probably have noticed,

재미난 뭔가를 알아냈습니다.

which is there are some movies

압축 된 후, 즉시 우리의 가정으로

that just sort of zip right up and out to our houses.

압축이 해제됬던 영화 파일들이 있었던 겁니다.

They enter the queue, they just zip right out.

영화들은 큐에 들어가고, 바로 압축이 해제됩니다.

So "Iron Man" zips right out,

"아이언맨"은 바로 압축이 풀어지고,

and "Waiting for Superman"

"슈퍼맨을 기다리며"는

can wait for a really long time.

오랜 시간 대기열을 탑니다.

What they discovered

우리 넷플릭스 큐에서

was that in our Netflix queues

그들이 발견한 것은

there's this epic struggle going on

우리 열망하는 미래의 자아들과

between our future aspirational selves

보다 충동적인 현재의 자아 사이에서

and our more impulsive present selves.

서사시적인 투쟁이 존재한다는 것입니다.

You know we all want to be someone

우리는 모두 "라쇼몽"을 본

who has watched "Rashomon,"

사람이 되기를 바라지만,

but right now

당장은

we want to watch "Ace Ventura" for the fourth time.

"에이스 벤츄라"를 네 번째로 보기 원합니다.

(Laughter)

(웃음)

So the best editing gives us a bit of both.

최상의 편집은 우리에게 양쪽 측면을 조금씩 건내줍니다.

It gives us a little bit of Justin Bieber

저스틴 비버에 대해 조금,

and a little bit of Afghanistan.

아프가니스탄에 대해 조금 건내주죠.

It gives us some information vegetables;

그것은 우리에게 정보 야채를 제공합니다.

it gives us some information dessert.

그것은 우리에게 정보 디저트를 제공하죠.

And the challenge with these kinds of algorithmic filters,

이런 종류의 알고리즘 필터,

these personalized filters,

개인화 필터의 문제점은

is that, because they're mainly looking

여러분이 가장 처음에 무엇을 클릭하는지

at what you click on first,

주로 탐색을 하기 때문에

it can throw off that balance.

균형을 깰 수가 있다는 것입니다.

And instead of a balanced information diet,

균형잡힌 정보 식단 대신에,

you can end up surrounded

정보 정크 푸드로

by information junk food.

둘러싸일 수 있습니다.

What this suggests

이것은 실제로 인터넷에 대해

is actually that we may have the story about the Internet wrong.

우리가 원하는 것이 아닌 기사를 볼 수도 있다는 것을 시사합니다.

In a broadcast society --

정보 배급 사회에서

this is how the founding mythology goes --

이것은 어떻게 시작되는 이야기인가 하는 것입니다.

in a broadcast society,

방송 사회에서는

there were these gatekeepers, the editors,

정보관리자, 편집자가 있어서

and they controlled the flows of information.

정보의 흐름을 제어했습니다.

And along came the Internet and it swept them out of the way,

인터넷이 등장하자 모든 것을 쓸어버렸고,

and it allowed all of us to connect together,

우리 모두가 함께 연결되도록 했습니다.

and it was awesome.

그것은 정말 대단했습니다.

But that's not actually what's happening right now.

하지만 그것은 실제로 바로 지금 벌어지는 일이 아닙니다.

What we're seeing is more of a passing of the torch

우리가 보고 있는 것은 오히려 인간 정보 관리자에서

from human gatekeepers

알고리즘 정보 관리자로

to algorithmic ones.

주도권이 넘어가는 것입니다.

And the thing is that the algorithms

문제는 그 알고리즘은 아직까지

don't yet have the kind of embedded ethics

편집자들과 같이 일종의 내면적 윤리를

that the editors did.

가지고 있지 못하다는 것입니다.

So if algorithms are going to curate the world for us,

그래서 알고리즘이 우리를 위해 세상을 조율할 것이라면,

if they're going to decide what we get to see and what we don't get to see,

또 알고리즘이 우리가 무엇을 보고 보지 않을지 결정할 것이라면,

then we need to make sure

그것이 그저 관련성에

that they're not just keyed to relevance.

맞춰진 것이 아님을 확실히 할 필요가 있습니다.

We need to make sure that they also show us things

또한 거북하거나, 도전적이거나, 또는 중요한

that are uncomfortable or challenging or important --

다른 관점들을 우리에게 보여주기도 한다는 것을

this is what TED does --

확실히 할 필요가 있습니다.

other points of view.

이것이 TED가 하는 일입니다.

And the thing is, we've actually been here before

우린 사실 하나의 사회로서 전에 여기

as a society.

있어왔던 것입니다.

In 1915, it's not like newspapers were sweating a lot

그것은 1915년 신문들이 그들의 시민적 책임에 대해

about their civic responsibilities.

많이 노력했던 것과는 다릅니다.

Then people noticed

그 당시 사람들은

that they were doing something really important.

신문이 아주 중요한 일을 하고 있음을 인지했습니다.

That, in fact, you couldn't have

사실, 시민들에게 괜찮은 정보가

a functioning democracy

유입되지 못한다면,

if citizens didn't get a good flow of information,

민주주의가 제 기능을 할 수가 없습니다.

that the newspapers were critical because they were acting as the filter,

신문이 필터로서 작용했기 때문에 매우 중요했고,

and then journalistic ethics developed.

그리고 나서 기자의 윤리가 발전했습니다.

It wasn't perfect,

완벽하지는 않지만,

but it got us through the last century.

우리가 지난 세기를 지나오게 했습니다.

And so now,

그래서 현재,

we're kind of back in 1915 on the Web.

우리는 웹상에서 1915년으로 돌아와 있는 것과 같습니다.

And we need the new gatekeepers

그런 책임을 그들이 만들고 있는

to encode that kind of responsibility

코드로 표현할

into the code that they're writing.

새로운 정보 관리자가 필요합니다.

I know that there are a lot of people here from Facebook and from Google --

페이스북과 구글에 있는 많은 분들이 여기 오신 것으로 압니다.

Larry and Sergey --

래리와 세르게이는

people who have helped build the Web as it is,

현재 상황으로 웹을 구축하는데 일조한 사람들이고,

and I'm grateful for that.

그것에 대단히 감사를 드립니다.

But we really need you to make sure

하지만 거기 있는 이 알고리즘들이

that these algorithms have encoded in them

공공의 삶의 의미와 시민적 책임의 의미로

a sense of the public life, a sense of civic responsibility.

만들어진 것인지 확실히 할 필요가 있습니다.

We need you to make sure that they're transparent enough

우리 필터들을 통해서 결정하는 규칙들이

that we can see what the rules are

어떤 것인지 볼 수 있을만큼 충분히 투명한지

that determine what gets through our filters.

확실히 할 필요가 있습니다.

And we need you to give us some control

여러분이 저희에게 약간의 제어권을 주면

so that we can decide

무엇이 전달되고

what gets through and what doesn't.

무엇이 그렇지 않을지 결정할 수 있습니다.

Because I think

저는 우리 모두가

we really need the Internet to be that thing

꿈꾸는 것이 되는 인터넷이 정말

that we all dreamed of it being.

필요하다고 생각하기 때문입니다.

We need it to connect us all together.

우리 모두를 연결하기 위해 그것이 필요합니다.

We need it to introduce us to new ideas

우리에게 새로운 아이디어와 새로운 사람들,

and new people and different perspectives.

다른 시각들을 소개하기 위해 그것이 필요합니다.

And it's not going to do that

웹에서 우리 모두가 개개인으로 외따로 있다면

if it leaves us all isolated in a Web of one.

그렇게 되지 않을 것입니다.

Thank you.

감사합니다.

(Applause)

(박수)