The moral bias behind your search results | Andreas Ekström

번역: Ju Hye Lim 검토: Sanghyun Hahn

So whenever I visit a school and talk to students,

저는 학교에서 학생들에게 강연할 때마다

I always ask them the same thing:

항상 똑같은 것을 묻습니다.

Why do you Google?

왜 구글을 쓰니?

Why is Google the search engine of choice for you?

왜 검색엔진으로 구글을 선택했니?

Strangely enough, I always get the same three answers.

신기하게도, 항상 답은 세 개로 똑같습니다.

One, "Because it works,"

첫 번째는 "잘 되니까요."입니다.

which is a great answer; that's why I Google, too.

훌륭한 대답이죠. 저도 그래서 구글을 씁니다.

Two, somebody will say,

두 번째로 어떤 이들은 이렇게 말합니다.

"I really don't know of any alternatives."

"다른 건 뭐가 있는지 잘 몰라요."

It's not an equally great answer and my reply to that is usually,

첫 번째 대답만큼 좋진 않지만 이에 대한 제 대답은 주로 이렇습니다.

"Try to Google the word 'search engine,'

"''검색엔진'을 구글에 쳐 봐.

you may find a couple of interesting alternatives."

괜찮은 사이트를 한 두 개 찾을 수도 있어."

And last but not least, thirdly,

마지막으로, 세 번째 대답으로는

inevitably, one student will raise her or his hand and say,

꼭 한 명의 학생이 손을 들고 이렇게 말합니다.

"With Google, I'm certain to always get the best, unbiased search result."

"구글은 언제나 편향되지 않은 최고의 검색결과를 가져다 주니까요."

Certain to always get the best, unbiased search result.

언제나 편향되지 않은 최고의 검색결과를 가져다 준다고요.

Now, as a man of the humanities,

인류의 한 사람으로서

albeit a digital humanities man,

디지털 인류의 사람일지라도.

that just makes my skin curl,

소름이 돋게 만드는 말입니다.

even if I, too, realize that that trust, that idea of the unbiased search result

비편파적 검색결과에 대한 신뢰와 생각이 우리의

is a cornerstone in our collective love for and appreciation of Google.

구글에 대한 집단적 사랑과 감사의 초석이라는 것을 저도 알지만 말이죠.

I will show you why that, philosophically, is almost an impossibility.

제가 왜 이것이 철학적으로 거의 불가능한지 보여드리겠습니다.

But let me first elaborate, just a little bit, on a basic principle

하지만 먼저 모든 검색어 이면의 우리가 가끔 잊어버리곤 하는

behind each search query that we sometimes seem to forget.

기본 원칙에 대해 조금만 설명드리겠습니다.

So whenever you set out to Google something,

뭔가를 구글에 치려고 할 때마다

start by asking yourself this: "Am I looking for an isolated fact?"

먼저 이 질문을 스스로에게 물어보세요. "객관적 사실을 찾는 것인가?"

What is the capital of France?

프랑스의 수도는 어디인가?

What are the building blocks of a water molecule?

물 분자의 구성요소는 무엇인가?

Great -- Google away.

좋아요-- 마음껏 검색하세요.

There's not a group of scientists who are this close to proving

그 정답이 런던이나 H3O라고 증명할

that it's actually London and H30.

과학자 집단은 하나도 없으니까요.

You don't see a big conspiracy among those things.

이런 것들에는 큰 음모랄게 없는거죠.

We agree, on a global scale,

세계적으로 우리는

what the answers are to these isolated facts.

이 객관적 사실의 답에 동의하죠.

But if you complicate your question just a little bit and ask something like,

하지만 질문을 약간 더 복잡하게 만들어

"Why is there an Israeli-Palestine conflict?"

"왜 이스라엘과 팔레스타인 분쟁이 일어나는가?" 같은 다른 질문을 물으면

You're not exactly looking for a singular fact anymore,

더 이상 하나의 사실을 찾는 게 아닙니다.

you're looking for knowledge,

지식을 찾는거죠.

which is something way more complicated and delicate.

지식은 훨씬 더 복잡하고 까다롭습니다.

And to get to knowledge,

그리고 지식을 얻으려면

you have to bring 10 or 20 or 100 facts to the table

10개, 20개 또는 100개의 사실을 논의 대상으로 가져와

and acknowledge them and say, "Yes, these are all true."

모두 사실이라는 걸 인정해야 합니다.

But because of who I am,

하지만 자신이 누구냐에 따라

young or old, black or white, gay or straight,

젊든 늙었든, 흑인이든 백인이든 동성애자든 이성애자든

I will value them differently.

사람들은 각자 다르게 평가내릴 것입니다.

And I will say, "Yes, this is true,

저는 이렇게 말하겠죠. "그래, 이게 사실이지만

but this is more important to me than that."

이게 나한테 저것보다 중요해."

And this is where it becomes interesting,

여기서부터 재밌어집니다,

because this is where we become human.

이 부분에서 인간적인 모습을 보이기 때문이죠.

This is when we start to argue, to form society.

여기서 우리는 논쟁하기 시작하고 집단을 형성합니다.

And to really get somewhere, we need to filter all our facts here,

그리고 정말 어딘가에 도달하려면 친구나, 이웃, 부모님,

through friends and neighbors and parents and children

자식, 직장동료, 신문, 잡지를 통해

and coworkers and newspapers and magazines,

모든 사실을 걸러내야 합니다.

to finally be grounded in real knowledge,

궁극적으로 진리 속에 둘러싸이기 위해선 말입니다.

which is something that a search engine is a poor help to achieve.

이건 검색엔진이 도움이 안 되는 부분입니다.

So, I promised you an example just to show you why it's so hard

제가 생각해 볼 거리로 왜 진실되고 깨끗하고 객관적인

to get to the point of true, clean, objective knowledge --

지식에 도달하는 것이 왜 그렇게 어려운지 보여주는

as food for thought.

예시를 약속했었죠?

I will conduct a couple of simple queries, search queries.

한 두 개 간단한 검색어를 검색해보겠습니다,

We'll start with "Michelle Obama,"

미국의 영부인인

the First Lady of the United States.

"미셸 오바마"부터 해보죠.

And we'll click for pictures.

이미지를 누르면

It works really well, as you can see.

보시다시피 정말 잘 되네요.

It's a perfect search result, more or less.

검색결과가 거의 완벽하네요.

It's just her in the picture, not even the President.

정말 영부인만 있고 대통령 조차 같이 없습니다.

How does this work?

어떤 원리일까요?

Quite simple.

꽤 간단합니다.

Google uses a lot of smartness to achieve this, but quite simply,

구글은 기발한 방법도 많이 동원하지만 사실 단순하게,

they look at two things more than anything.

다른 것보다 두 가지를 중점적으로 봅니다.

First, what does it say in the caption under the picture on each website?

먼저, 웹사이트 상의 사진 밑에 있는 설명에 뭐라고 쓰여있는가?

Does it say "Michelle Obama" under the picture?

"미셸 오바마"라고 적혀 있는가?

Pretty good indication it's actually her on there.

그렇다면 정말로 영부인 사진일 가능성이 크죠.

Second, Google looks at the picture file,

두 번째로, 구글은 사진 파일을 봅니다.

the name of the file as such uploaded to the website.

웹사이트에 올려진 파일의 이름을 봅니다.

Again, is it called "MichelleObama.jpeg"?

파일명이 "미셸오바마.jpg"인가?

Pretty good indication it's not Clint Eastwood in the picture.

사진이 클린트 이스트우드가 아니라는 걸 잘 말해주죠.

So, you've got those two and you get a search result like this -- almost.

그렇게 두 가지가 갖춰지면 대개는 이런 검색결과가 나옵니다.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

2009년에 미셸 오바마는 인종차별 캠페인의 피해자였습니다.

where people set out to insult her through her search results.

사람들은 검색 결과로 그녀에게 모욕을 주려 했죠.

There was a picture distributed widely over the Internet

인터넷에 그녀의 얼굴을 원숭이처럼

where her face was distorted to look like a monkey.

왜곡시킨 사진이 인터넷에 널리 퍼졌었습니다.

And that picture was published all over.

모든 곳에 게시되었죠.

And people published it very, very purposefully,

사람들은 다분히 의도적으로 사진이 상위 검색 결과에

to get it up there in the search results.

뜨도록 게시했습니다.

They made sure to write "Michelle Obama" in the caption

사진 설명에 반드시 "미셸 오바마"를 넣었고

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

파일명을 "미셸오바마.jpg" 나 비슷한 이름으로 올렸습니다.

You get why -- to manipulate the search result.

검색결과를 조작하기 위해서였다는 거 아시겠죠.

And it worked, too.

이 수법은 통했습니다.

So when you picture-Googled for "Michelle Obama" in 2009,

2009년에 "미셸 오바마"의 이미지를 검색하면

that distorted monkey picture showed up among the first results.

가장 먼저 뜨는 결과들 중에 일그러진 원숭이 사진이 있었습니다.

Now, the results are self-cleansing,

검색 결과는 정화능력이 있습니다.

and that's sort of the beauty of it,

그게 사실 좋은 점이죠.

because Google measures relevance every hour, every day.

구글이 연관성을 매 시간, 매일 체크하기 때문입니다.

However, Google didn't settle for that this time,

하지만 구글은 이 때 그 이상을 했습니다.

they just thought, "That's racist and it's a bad search result

그들은 이렇게만 생각했습니다. "인종차별적이고 부적절한

and we're going to go back and clean that up manually.

검색결과니까 수동으로 정화시켜야겠어.

We are going to write some code and fix it,"

코드를 입력해서 고치자."

which they did.

그리고 그렇게 했습니다.

And I don't think anyone in this room thinks that was a bad idea.

여러분 중에 누구라도 이게 나쁜 생각이라 여기지 않을 겁니다.

Me neither.

저도 그렇습니다.

But then, a couple of years go by,

그런데 2년 후에

and the world's most-Googled Anders,

세계에서 가장 많이 검색된

Anders Behring Breivik,

안드레스 베링 브레이비크가

did what he did.

사건을 일으켰습니다.

This is July 22 in 2011,

2011년 7월 22일이었는데

and a terrible day in Norwegian history.

노르웨이 역사상 최악의 날이었습니다.

This man, a terrorist, blew up a couple of government buildings

테러리스트였던 그는 지금 우리가 있는 곳에서

walking distance from where we are right now in Oslo, Norway

걸어서 갈 수 있을만큼 가까이 있던 정부 청사 두 개를 폭파시키고

and then he traveled to the island of Utøya

우퇴야 섬으로 가서

and shot and killed a group of kids.

아이들을 모아놓고 쏘아 죽였습니다.

Almost 80 people died that day.

그 날 거의 80명의 사람들이 죽었죠.

And a lot of people would describe this act of terror as two steps,

많은 사람들이 이 테러행각을 두 단계로 묘사합니다.

that he did two things: he blew up the buildings and he shot those kids.

빌딩을 폭파시키고 아이들을 쏴 죽이는 두 가지 사건을 일으켰다고 합니다.

It's not true.

하지만 사실이 아닙니다.

It was three steps.

세 단계가 있었죠.

He blew up those buildings, he shot those kids,

건물을 폭파시키고 아이들을 쏜 다음

and he sat down and waited for the world to Google him.

앉아서 세계가 그를 구글에 검색하기를 기다렸습니다.

And he prepared all three steps equally well.

그는 세 단계를 다 잘 준비했습니다.

And if there was somebody who immediately understood this,

이걸 바로 알아차린 사람은 스웨덴인으로 스톡홀름에 사는

it was a Swedish web developer,

웹사이트 개발자이자

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

검색 엔진 최적화 전문가인 니키 린드크비스트뿐이었습니다.

He's also a very political guy

굉장히 정치적인 사람이었죠.

and he was right out there in social media, on his blog and Facebook.

소셜미디어와 블로그와 페이스북을 하는 사람이었죠.

And he told everybody,

그는 모든 사람에게

"If there's something that this guy wants right now,

"이 남자가 지금 바라는 게 있다면

it's to control the image of himself.

바로 자기 이미지를 조종하는 겁니다.

Let's see if we can distort that.

그걸 우리가 막아봅시다.

Let's see if we, in the civilized world, can protest against what he did

문명화된 세상에 사는 우리가 검색 결과로 그에게 모욕을 줘서

through insulting him in his search results."

그가 한 행동에 대해 시위할 수 있는지 봅시다."

And how?

어떻게 하는 걸까요?

He told all of his readers the following,

니키는 모든 구독자에게 이렇게 말했습니다.

"Go out there on the Internet,

"인터넷에 들어가서

find pictures of dog poop on sidewalks --

길거리에 있는 개똥 사진을 찾아,

find pictures of dog poop on sidewalks --

길거리에 있는 개똥 사진을 찾아,

publish them in your feeds, on your websites, on your blogs.

여러분의 뉴스피드, 웹사이트, 블로그에 올리세요.

Make sure to write the terrorist's name in the caption,

제목에 테러리스트의 이름을 넣는 것을 잊지 마세요.

make sure to name the picture file "Breivik.jpeg."

파일명을 꼭 "브레이비크.jpg"로 붙이세요.

Let's teach Google that that's the face of the terrorist."

구글에게 그게 테러리스트의 얼굴이라는 걸 보여줍시다."

And it worked.

그리고 이게 먹혀들었습니다.

Two years after that campaign against Michelle Obama,

미셸 오바마를 반대하는 운동이 일어나고 2년 후에

this manipulation campaign against Anders Behring Breivik worked.

안드레스 베링 브레이비크를 반대하는 조작 운동이 통했습니다.

If you picture-Googled for him weeks after the July 22 events from Sweden,

7월 22일이 몇 주나 지난 시점에서 이미지 검색을 해도

you'd see that picture of dog poop high up in the search results,

여전히 상위 검색 결과에 개똥 사진이 떴습니다.

as a little protest.

일종의 시위였죠.

Strangely enough, Google didn't intervene this time.

재미있게도 이번엔 구글이 개입하지 않았습니다.

They did not step in and manually clean those search results up.

나서서 수동적으로 검색 결과를 정화하려고 하지 않았습니다.

So the million-dollar question,

그렇다면 중요한 질문은 이겁니다.

is there anything different between these two happenings here?

두 사건 사이에 차이가 있는가?

Is there anything different between what happened to Michelle Obama

미셸 오바마에게 일어난 일과 브레이비크에게 일어난 일에

and what happened to Anders Behring Breivik?

차이가 있는가?

Of course not.

당연히 없습니다.

It's the exact same thing,

완전히 동일합니다.

yet Google intervened in one case and not in the other.

그런데도 구글은 한 번은 개입하고 다른 한 번은 안했죠.

Why?

왜일까요?

Because Michelle Obama is an honorable person, that's why,

미셸 오바마는 존경스러운 인물이고

and Anders Behring Breivik is a despicable person.

안드레스 베링 브레이비크는 파렴치한 인간이기 때문입니다.

See what happens there?

무슨 일이 벌어지고 있는지 아시겠어요?

An evaluation of a person takes place

인물에 대한 평가가 이루어지고,

and there's only one power-player in the world

세상에는 누가 어떤 사람인지 말할 수 있는 권위를 가진

with the authority to say who's who.

권력자는 단 하나밖에 없습니다.

"We like you, we dislike you.

"우리는 너가 좋아, 우리는 너가 싫어.

We believe in you, we don't believe in you.

우리는 널 믿어. 우리는 널 안 믿어.

You're right, you're wrong. You're true, you're false.

너는 맞고 너는 틀려. 너는 사실이고 너는 거짓이야."

You're Obama, and you're Breivik."

넌 오바마고 넌 브레이비크야."

That's power if I ever saw it.

바로 그게 권력입니다.

So I'm asking you to remember that behind every algorithm

그래서 저는 여러분들께 모든 알고리즘 뒤에는 항상

is always a person,

그 어떤 코드도

a person with a set of personal beliefs

완전히 말살할 수 없는 자기만의 신념을 가진

that no code can ever completely eradicate.

사람이 있다는 걸 기억해달라고 부탁하고 싶습니다.

And my message goes out not only to Google,

그리고 제가 드리는 말씀은 구글뿐만이 아니라

but to all believers in the faith of code around the world.

코드를 신뢰하는 전세계 모든 사람들에게도 해당됩니다.

You need to identify your own personal bias.

여러분은 자신이 가진 편견을 구분해내야 합니다.

You need to understand that you are human

자신이 인간이라는 걸 받아들이고

and take responsibility accordingly.

그에 맞는 책임을 져야 합니다.

And I say this because I believe we've reached a point in time

제가 이 말을 하는 이유는 우리가 인간과 기술 간의

when it's absolutely imperative

유대를 더 공고히해야 하는

that we tie those bonds together again, tighter:

절대적으로 중요한 시점에

the humanities and the technology.

다다랐다고 생각하기 때문입니다.

Tighter than ever.

그 어느 때보다 끈끈해야 하죠.

And, if nothing else, to remind us that that wonderfully seductive idea

그리고 정말 매력적으로 보이는 편파적이지 않고 깨끗한 검색 결과는

of the unbiased, clean search result

지금도, 앞으로도 허구로 남을 가능성이

is, and is likely to remain, a myth.

높다는 걸 최소한 일깨워드리기 위해서입니다.

Thank you for your time.

시간 내 주셔서 감사합니다.

(Applause)

(박수)