The moral bias behind your search results | Andreas Ekström

翻訳: Yuko Yoshida 校正: Masako Kigami

So whenever I visit a school and talk to students,

学校で生徒たちに話す機会があると

I always ask them the same thing:

必ず聞くことがあります

Why do you Google?

「なぜGoogle検索するの？

Why is Google the search engine of choice for you?

なぜ検索エンジンにGoogleしか選ばないの？」

Strangely enough, I always get the same three answers.

不思議と 返ってくる答えは 決まってこの３つです

One, "Because it works,"

１つ目は「うまく検索できるから」

which is a great answer; that's why I Google, too.

ご名答です 私も同じ理由でGoogleを使っています

Two, somebody will say,

２つ目は―

"I really don't know of any alternatives."

「ほかの検索エンジンを知らないから」

It's not an equally great answer and my reply to that is usually,

ちょっと惜しい たいてい 私はこう返します

"Try to Google the word 'search engine,'

「Googleで『検索エンジン』を

you may find a couple of interesting alternatives."

検索してごらん ほかにも面白いのがあるよ」

And last but not least, thirdly,

そして トリとなる３つ目です

inevitably, one student will raise her or his hand and say,

必ず 手を挙げて 満を持して言う子がいるんです

"With Google, I'm certain to always get the best, unbiased search result."

「Googleを使うと 絶対に 常に最高で公正な検索結果が得られるから」

Certain to always get the best, unbiased search result.

絶対に 常に最高で公正な 検索結果が得られる―

Now, as a man of the humanities,

これを耳にするたび デジタル世代とはいえ

albeit a digital humanities man,

人類のひとりとして

that just makes my skin curl,

虫唾（むしず）が走ります

even if I, too, realize that that trust, that idea of the unbiased search result

みんながGoogleを愛し 大事にしているからこそ

is a cornerstone in our collective love for and appreciation of Google.

「公正な検索結果」と信じ 考えるのだと わかっていてもです

I will show you why that, philosophically, is almost an impossibility.

公正な結果など 哲学的にほぼありえません なぜかご説明しましょう

But let me first elaborate, just a little bit, on a basic principle

でも まず検索の基本原理について 少しだけお話しさせてください

behind each search query that we sometimes seem to forget.

みんな 忘れてしまいがちなことです

So whenever you set out to Google something,

Googleで何かを検索するとき

start by asking yourself this: "Am I looking for an isolated fact?"

まず考えるべきは 「個別の事実を知りたいのか？」

What is the capital of France?

フランスの首都はどこか

What are the building blocks of a water molecule?

水分子の構成元素は何か といったものです

Great -- Google away.

この場合は ぜひGoogle検索しましょう

There's not a group of scientists who are this close to proving

科学者といえども 答えは「ロンドン」と「H30」だなんて

that it's actually London and H30.

証明できやしませんから

You don't see a big conspiracy among those things.

ここに何の陰謀もありません

We agree, on a global scale,

こうした個別の事実については

what the answers are to these isolated facts.

世界全体で 答えが何か 一致しているのです

But if you complicate your question just a little bit and ask something like,

でも 質問をほんの少し複雑にして こんな風にしたらどうでしょう

"Why is there an Israeli-Palestine conflict?"

「なぜパレスチナ問題が起こっているのか？」

You're not exactly looking for a singular fact anymore,

もはや 求めているのは ただ一つの「事実」ではなく

you're looking for knowledge,

「知識」ということになります

which is something way more complicated and delicate.

知識は はるかに複雑で繊細なものです

And to get to knowledge,

そうした知識を得るには

you have to bring 10 or 20 or 100 facts to the table

10 、20 または100の事実を集め 自分のものにし

and acknowledge them and say, "Yes, these are all true."

「これらは すべて真実だ」と 言えないといけません

But because of who I am,

でも ひとは

young or old, black or white, gay or straight,

年齢や人種、性的趣向に関わらず

I will value them differently.

違う価値観を持っています

And I will say, "Yes, this is true,

ですから「確かに これは真実だけど

but this is more important to me than that."

こっちのほうが重要だ」となります

And this is where it becomes interesting,

ここからが面白いのです

because this is where we become human.

私たちが人間らしさを発揮するからです

This is when we start to argue, to form society.

私たちは互いに議論し 社会を形成し始めます

And to really get somewhere, we need to filter all our facts here,

本当に答えを出すには まず事実をすべて ふるいにかけます

through friends and neighbors and parents and children

友だちやご近所さん 両親、子どもたち、同僚

and coworkers and newspapers and magazines,

そして新聞や雑誌を通じて ふるいにかけ

to finally be grounded in real knowledge,

真の知識にたどりつくのです

which is something that a search engine is a poor help to achieve.

ここで検索エンジンは あまり役に立ちません

So, I promised you an example just to show you why it's so hard

さきほど 真に純粋で客観的な知識を 手にするのが なぜ難しいか

to get to the point of true, clean, objective knowledge --

例をお見せするとお話ししました

as food for thought.

皆さんにお考えいただきましょう

I will conduct a couple of simple queries, search queries.

まず いくつか簡単な検索をしてみます

We'll start with "Michelle Obama,"

まずは「ミシェル・オバマ」

the First Lady of the United States.

アメリカのファーストレディです

And we'll click for pictures.

「画像」をクリックします

It works really well, as you can see.

ご覧のとおり うまく行っていますね

It's a perfect search result, more or less.

まあ 完ぺきな検索結果です

It's just her in the picture, not even the President.

写真には ミシェル一人だけ 大統領さえいません

How does this work?

どうなっているんでしょう

Quite simple.

とてもシンプルです

Google uses a lot of smartness to achieve this, but quite simply,

Googleは 色々頭を使っていますが 簡単に言うと

they look at two things more than anything.

２つのことに着目しています

First, what does it say in the caption under the picture on each website?

１つは 各ウェブサイトの写真の下にある キャプションの内容です

Does it say "Michelle Obama" under the picture?

写真の下に「ミシェル・オバマ」とあれば

Pretty good indication it's actually her on there.

彼女の写真の可能性が高いですね

Second, Google looks at the picture file,

つぎにGoogleが見るのは 写真ファイル

the name of the file as such uploaded to the website.

ウェブサイトにアップロードされた ファイルの名前です

Again, is it called "MichelleObama.jpeg"?

「MichellObama.jpeg」というファイルなら

Pretty good indication it's not Clint Eastwood in the picture.

クリント・イーストウッドの写真 ということはないでしょう

So, you've got those two and you get a search result like this -- almost.

この２つを手がかりにすると こんな検索結果になるんです―普通は

Now, in 2009, Michelle Obama was the victim of a racist campaign,

さて2009年 ミシェル・オバマに 人種差別攻撃の矛先が向きました

where people set out to insult her through her search results.

検索結果を通じて侮辱されたのです

There was a picture distributed widely over the Internet

ある写真がばらまかれ インターネットを席巻します

where her face was distorted to look like a monkey.

彼女の顔が サルのように ゆがめられた写真です

And that picture was published all over.

写真は インターネット上の あらゆるところに掲載されました

And people published it very, very purposefully,

しかも 検索結果の上位に表示されるよう

to get it up there in the search results.

非常に意図的な形でネット掲載されました

They made sure to write "Michelle Obama" in the caption

キャプションには必ず 「ミシェル・オバマ」と書かれ

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

ファイル名も 「MichelleObama.jpeg」などとされたのです

You get why -- to manipulate the search result.

そう 検索結果を操作するためです

And it worked, too.

確かに それは成功し

So when you picture-Googled for "Michelle Obama" in 2009,

Googleで「ミシェル・オバマ」を 画像検索すると

that distorted monkey picture showed up among the first results.

2009年当時 サル顔に変形された写真が 結果上位に表示されました

Now, the results are self-cleansing,

さて 検索結果には自浄作用があります

and that's sort of the beauty of it,

そこが素晴らしいところでもあり

because Google measures relevance every hour, every day.

Googleは 毎日 毎時間 関連度を測っているのです

However, Google didn't settle for that this time,

でも このときGoogleは 黙ってはいませんでした

they just thought, "That's racist and it's a bad search result

「これは人種差別的で 悪い検索結果だから

and we're going to go back and clean that up manually.

自らの手で きれいにしないといけない

We are going to write some code and fix it,"

プログラムを書いて修正するんだ」と考え

which they did.

実際にそうしました

And I don't think anyone in this room thinks that was a bad idea.

皆さんのなかで これが悪いことと 思う方はいないでしょう

Me neither.

私も そう思いません

But then, a couple of years go by,

それから２年ほどして

and the world's most-Googled Anders,

世界で最もGoogle検索されたアンネシュ

Anders Behring Breivik,

アンネシュ・ベーリン・ブレイヴィークは

did what he did.

こんなことをしました

This is July 22 in 2011,

2011年7月22日

and a terrible day in Norwegian history.

ノルウェー史上 悲惨な日となったこの日

This man, a terrorist, blew up a couple of government buildings

この男―テロリストは 政府庁舎を爆破しました

walking distance from where we are right now in Oslo, Norway

ここ ノルウェー・オスロの会場から 徒歩圏内の場所です

and then he traveled to the island of Utøya

その後 彼はウトヤ島に渡り

and shot and killed a group of kids.

子どもたちを銃撃し殺しました

Almost 80 people died that day.

その日 80人近くの命が失われました

And a lot of people would describe this act of terror as two steps,

多くの場合 このテロ行為には ２つの段階があったと語られます

that he did two things: he blew up the buildings and he shot those kids.

つまり 建物爆破と 子どもの銃殺 という２つの段階です

It's not true.

実は違うのです

It was three steps.

３つの段階があったんです

He blew up those buildings, he shot those kids,

彼は建物を爆破し 子どもたちを銃殺し

and he sat down and waited for the world to Google him.

そして世界が彼を Google検索するのを待ったのです

And he prepared all three steps equally well.

彼は この３つの段階すべてを 周到に準備していました

And if there was somebody who immediately understood this,

彼の意図をすぐに見破ったのが

it was a Swedish web developer,

スウェーデンのウェブ開発者で

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

検索エンジン適正化の専門家 ストックホルムのニック・リンドクヴィストです

He's also a very political guy

自らも非常に政治的なニックは

and he was right out there in social media, on his blog and Facebook.

ブログやFacebookなど ソーシャルメディアを通じて

And he told everybody,

みんなに訴えかけました

"If there's something that this guy wants right now,

「こいつが今ほしいものがあるとしたら

it's to control the image of himself.

自分のイメージをコントロールすることだ

Let's see if we can distort that.

みんなで それを崩そうじゃないか

Let's see if we, in the civilized world, can protest against what he did

文明社会のみんなの力をあわせて 彼の行為に対して抗議するんだ

through insulting him in his search results."

検索結果を通して彼を侮辱するんだ」

And how?

でも どうやって？

He told all of his readers the following,

彼は以下のことをするよう呼びかけました

"Go out there on the Internet,

インターネットで

find pictures of dog poop on sidewalks --

道端の犬のフンの写真を探し―

find pictures of dog poop on sidewalks --

道端の犬のフンの写真を探し―

publish them in your feeds, on your websites, on your blogs.

それをフィードやウェブサイト ブログに掲載するのです

Make sure to write the terrorist's name in the caption,

そのとき必ず キャプションにはテロリストの名前を書き

make sure to name the picture file "Breivik.jpeg."

ファイル名を「Breivik.jpeg」とするのです

Let's teach Google that that's the face of the terrorist."

Googleに これがテロリストの顔だと 教えるのです

And it worked.

効果てき面でした

Two years after that campaign against Michelle Obama,

ミシェル・オバマ事件の２年後

this manipulation campaign against Anders Behring Breivik worked.

アンネシュ・ベーリン・ブレイヴィークの 検索結果が操作されました

If you picture-Googled for him weeks after the July 22 events from Sweden,

7月22日事件以降の数週間 スウェーデンから彼をGoogleで画像検索すると

you'd see that picture of dog poop high up in the search results,

検索結果の上位に犬のフンの写真が 表示されるに至りました

as a little protest.

小さな抗議行動です

Strangely enough, Google didn't intervene this time.

奇妙なことに このとき Googleは介入しませんでした

They did not step in and manually clean those search results up.

人為的に検索結果をきれいにしようとは しなかったのです

So the million-dollar question,

さて ここで難しい質問です

is there anything different between these two happenings here?

これら２つの現象は何が違うんでしょうか？

Is there anything different between what happened to Michelle Obama

ミシェル・オバマに起こったことと

and what happened to Anders Behring Breivik?

アンネシュに起こったことは違いますか？

Of course not.

もちろん違いません

It's the exact same thing,

まったく同じ事象です

yet Google intervened in one case and not in the other.

でも Googleは片方には介入し 他方にはしませんでした

Why?

なぜでしょう

Because Michelle Obama is an honorable person, that's why,

それはミシェル・オバマが 尊敬に値する人物である一方

and Anders Behring Breivik is a despicable person.

アンネシュ・ベーリン・ブレイヴィークが 卑劣な人間だからです

See what happens there?

ご覧いただいたとおり

An evaluation of a person takes place

ここには 人に対する評価が介在しています

and there's only one power-player in the world

世界には 重要人物を決める権力を持つ―

with the authority to say who's who.

唯一の権力者がいるのです

"We like you, we dislike you.

「君は好き 君は嫌い

We believe in you, we don't believe in you.

君は信じる 君は信じない

You're right, you're wrong. You're true, you're false.

君は正しい 君は間違っている 君は真実 君は嘘

You're Obama, and you're Breivik."

君はオバマで 君はブレイヴィーク」

That's power if I ever saw it.

これが力というものです

So I'm asking you to remember that behind every algorithm

ですから覚えておいてください どんなアルゴリズムでも

is always a person,

その後ろには 必ず人間がいるんです

a person with a set of personal beliefs

人間は それぞれ価値観を持っていて プログラムで

that no code can ever completely eradicate.

その影響を 完全に消し去ることはできません

And my message goes out not only to Google,

私はこのメッセージを Googleだけではなく

but to all believers in the faith of code around the world.

プログラムに信頼を寄せる 世界中のすべての人に伝えたい

You need to identify your own personal bias.

自らの偏見をしっかり認識し

You need to understand that you are human

人間であることを自覚し

and take responsibility accordingly.

責任を持たなければいけません

And I say this because I believe we've reached a point in time

このことを伝えたいのは 結束を今一度

when it's absolutely imperative

強くしなければいけない

that we tie those bonds together again, tighter:

そんなときが来ていると 信じているからです

the humanities and the technology.

人類と技術のつながり

Tighter than ever.

この結束を 今以上に強くするのです

And, if nothing else, to remind us that that wonderfully seductive idea

少なくとも 心地よい魅惑的に聞こえる―

of the unbiased, clean search result

公正で きれいな検索結果というものは

is, and is likely to remain, a myth.

神話に過ぎず これからもそうだと 心に留めるべきです

Thank you for your time.

ありがとうございました

(Applause)

（拍手）