Beware online "filter bubbles" | Eli Pariser

イーライ・パリザー：危険なインターネット上の「フィルターに囲まれた世界」

翻訳: Sawa Horibe 校正: Takafusa Kitazume

Mark Zuckerberg,

マーク・ザッカーバーグが

a journalist was asking him a question about the news feed.

ニュース配信について質問されていました

And the journalist was asking him,

「なぜそんなに重要なんですか？」

"Why is this so important?"

ジャーナリストが聞くと

And Zuckerberg said,

ザッカーバーグは答えました

"A squirrel dying in your front yard

「今あなたの関心事は

may be more relevant to your interests right now

アフリカで死に瀕した人々よりも

than people dying in Africa."

家の庭で死にかけているリスかもしれないでしょう」

And I want to talk about

この関連性の考え方をもとにした

what a Web based on that idea of relevance might look like.

ウェブとはどういうことか話したいと思います

So when I was growing up

メイン州の片田舎に住んでいた

in a really rural area in Maine,

僕にとって 子供の頃

the Internet meant something very different to me.

インターネットは全く違う意味を持ったものでした

It meant a connection to the world.

世界へのドアであり

It meant something that would connect us all together.

人々を繋げるものでした

And I was sure that it was going to be great for democracy

民主主義と僕たちの社会に

and for our society.

大きく役立つに違いないと思っていました

But there's this shift

でも見えないところで

in how information is flowing online,

インターネットでの

and it's invisible.

情報の流れに変化がありました

And if we don't pay attention to it,

注意しないと

it could be a real problem.

大きな問題になるかもしれません

So I first noticed this in a place I spend a lot of time --

これに初めて気付いたのは僕がいつも使っている

my Facebook page.

Facebookのページでした

I'm progressive, politically -- big surprise --

見た目どおり 僕は政党的には進歩派ですが

but I've always gone out of my way to meet conservatives.

進んで保守派と交流しています

I like hearing what they're thinking about;

保守派の考えを聞いたり

I like seeing what they link to;

何にリンクしているか見たり

I like learning a thing or two.

何か学びたいと思っています

And so I was surprised when I noticed one day

ですから ある日僕のFacebookの配信から

that the conservatives had disappeared from my Facebook feed.

保守派の人たちが消えてしまって驚きました

And what it turned out was going on

何が起こったのかと言うと

was that Facebook was looking at which links I clicked on,

僕がどのリンクをクリックしているかFacebookがチェックしていて

and it was noticing that, actually,

実際に保守派より

I was clicking more on my liberal friends' links

リベラル派の友達のリンクを

than on my conservative friends' links.

クリックすることが多いと気づき

And without consulting me about it,

僕に何の相談もなく

it had edited them out.

保守派を削除していたのです

They disappeared.

保守派はいなくなってしまいました

So Facebook isn't the only place

このように目に見えないところで

that's doing this kind of invisible, algorithmic

アルゴリズムによるウェブの

editing of the Web.

編集をしているのはFacebookだけではありません

Google's doing it too.

Googleもしています

If I search for something, and you search for something,

何かの検索をするにしても 僕とあなたでは

even right now at the very same time,

たとえ今同時に検索しても

we may get very different search results.

かなり違う結果になる可能性があります

Even if you're logged out, one engineer told me,

あるエンジニアによると ログオンしてなくても

there are 57 signals

57個のシグナルを

that Google looks at --

Googleはチェックしているそうです

everything from what kind of computer you're on

どんなPCを使っているか

to what kind of browser you're using

どのブラウザを使っているか

to where you're located --

現在地は何処かなどによって

that it uses to personally tailor your query results.

検索結果を調節しているのです

Think about it for a second:

ちょっと考えてみてください

there is no standard Google anymore.

もう標準のGoogle検索はないのです

And you know, the funny thing about this is that it's hard to see.

そして妙なことに これは認識しにくい現象です

You can't see how different your search results are

自分の検索結果がどれほど

from anyone else's.

他人のものと違うか分かりません

But a couple of weeks ago,

でも数週間前

I asked a bunch of friends to Google "Egypt"

Googleで「エジプト」と検索したスクリーンショットを

and to send me screen shots of what they got.

送ってもらうよう大勢の友人に頼みました

So here's my friend Scott's screen shot.

これが友人スコットのスクリーンショットです

And here's my friend Daniel's screen shot.

こちらはダニエルからのスクリーンショットです

When you put them side-by-side,

並べて見てみると

you don't even have to read the links

リンクを読むまでもなく

to see how different these two pages are.

２つのページの違いに気付きます

But when you do read the links,

でも実際リンクを読むと

it's really quite remarkable.

本当に驚きます

Daniel didn't get anything about the protests in Egypt at all

ダニエルのGoogle検索結果の最初のページには

in his first page of Google results.

エジプトのデモ関連記事が全くなく

Scott's results were full of them.

スコットの方はそればかりでした

And this was the big story of the day at that time.

この頃大きな話題だったのにです

That's how different these results are becoming.

これほど検索結果は異なってきています

So it's not just Google and Facebook either.

GoogleとFacebookだけではありません

This is something that's sweeping the Web.

これはウェブ全体で起こっています

There are a whole host of companies that are doing this kind of personalization.

多くの企業がこのようなカスタマイズをしています

Yahoo News, the biggest news site on the Internet,

Yahoo！ニュースはネット最大のニュースサイトですが

is now personalized -- different people get different things.

今ではカスタマイズされた違う内容を提示しています

Huffington Post, the Washington Post, the New York Times --

Huffington Postや Washington Postや New York Timesも

all flirting with personalization in various ways.

様々な形でカスタマイズを試みています

And this moves us very quickly

その結果 インターネットは私たちが見たいものを

toward a world in which

予測して見せているが

the Internet is showing us what it thinks we want to see,

それは必ずしも私たちが見る必要があるものでない

but not necessarily what we need to see.

という状況に急速に変わってきています

As Eric Schmidt said,

エリック・シュミットが言うように

"It will be very hard for people to watch or consume something

「全く何のカスタマイズもされていないものを

that has not in some sense

人々が見たり利用したりするのは

been tailored for them."

とても難しくなるでしょう」

So I do think this is a problem.

ですからこれは問題だと思います

And I think, if you take all of these filters together,

このようなフィルターやアルゴリズムを

you take all these algorithms,

全部集めてできるのは

you get what I call a filter bubble.

「フィルターに囲まれた世界」だと思うのです

And your filter bubble is your own personal,

そしてこの「囲まれた世界」がネット上での

unique universe of information

あなた個人独特の

that you live in online.

情報世界となるわけです

And what's in your filter bubble

さらに自分の世界に何が含まれるかは 自分が

depends on who you are, and it depends on what you do.

どんな人で何をしているかによって決まります

But the thing is that you don't decide what gets in.

でも何が取り入れられるかは自分次第でないのが問題です

And more importantly,

もっと重要なのは

you don't actually see what gets edited out.

何が削除されるか自分には見えないことです

So one of the problems with the filter bubble

フィルターによる問題の１つは

was discovered by some researchers at Netflix.

Netflixのデータアナリストたちに発見されました

And they were looking at the Netflix queues, and they noticed something kind of funny

発送待ち段階で妙なことが起こっていたのです

that a lot of us probably have noticed,

気付いていた人も多いでしょうか

which is there are some movies

映画によってはDVDが

that just sort of zip right up and out to our houses.

すぐに発送されて家に届きます

They enter the queue, they just zip right out.

オーダーが入るとすぐに発送されます

So "Iron Man" zips right out,

ですから「アイアンマン」はすぐ届くのに

and "Waiting for Superman"

「ウェイティング・フォー・スーパーマン（原題）」は

can wait for a really long time.

待ち時間がとても長いことがあります

What they discovered

データアナリストたちが

was that in our Netflix queues

DVDの発送待ち段階で見たのは

there's this epic struggle going on

利用者の計画的な向上心と

between our future aspirational selves

もっと衝動的な今の欲望が

and our more impulsive present selves.

大きく対立している状況でした

You know we all want to be someone

「羅生門」を観たことがある人に

who has watched "Rashomon,"

なりたいと思う一方

but right now

今は ４回目の

we want to watch "Ace Ventura" for the fourth time.

「エース・ベンチュラ」を観たいわけです

(Laughter)

（笑）

So the best editing gives us a bit of both.

最良の編集は両面を見せるものです

It gives us a little bit of Justin Bieber

ジャスティン・ビーバーを少し

and a little bit of Afghanistan.

アフガニスタンを少し

It gives us some information vegetables;

ヘルシーな情報と

it gives us some information dessert.

デザート的情報も提供するわけです

And the challenge with these kinds of algorithmic filters,

アルゴリズムでカスタマイズされた

these personalized filters,

フィルターの問題点は

is that, because they're mainly looking

利用者が何を最初に

at what you click on first,

クリックしたかを主に参考にしているため

it can throw off that balance.

そのようなバランスを崩してしまうことです

And instead of a balanced information diet,

バランスのとれた情報摂取の代わりに

you can end up surrounded

ジャンク情報ばかりに

by information junk food.

囲まれてしまうこともあり得ます

What this suggests

つまりインターネットに対する

is actually that we may have the story about the Internet wrong.

我々の見解は実は間違っているのかもということです

In a broadcast society --

放送社会の

this is how the founding mythology goes --

創設神話はこんな感じです

in a broadcast society,

「放送社会では

there were these gatekeepers, the editors,

門番である編集者によって

and they controlled the flows of information.

情報の流れがコントロールされていました

And along came the Internet and it swept them out of the way,

でもインターネットが現れ 門番を追い払ったので

and it allowed all of us to connect together,

素晴らしいことに 私たちは

and it was awesome.

繋がり合えるようになりました」

But that's not actually what's happening right now.

でも今 実際にはそうなっていません

What we're seeing is more of a passing of the torch

私たちが目にしているのは どちらかと言うと

from human gatekeepers

人間の門番からアルゴリズムの門番に

to algorithmic ones.

バトンが渡されている状況です

And the thing is that the algorithms

そして問題なのはアルゴリズムは

don't yet have the kind of embedded ethics

編集者が持ち合わせていた倫理観念を

that the editors did.

まだ持っていないということです

So if algorithms are going to curate the world for us,

ですから世界の情報をアルゴリズムが監修して

if they're going to decide what we get to see and what we don't get to see,

私たちが何を見て 何を見ないか決めるのなら

then we need to make sure

アルゴリズムが関連性以外の要素も

that they're not just keyed to relevance.

使用するようにしなくてはなりません

We need to make sure that they also show us things

見たくないものや難しいもの

that are uncomfortable or challenging or important --

重要なものなども提示するようにしなくてはだめです

this is what TED does --

TEDが異なる視点を

other points of view.

見せていることと同じです

And the thing is, we've actually been here before

過去我々は同じ問題に

as a society.

直面しています

In 1915, it's not like newspapers were sweating a lot

1915年当時 新聞は市民としての義務について

about their civic responsibilities.

あまり考えていませんでした

Then people noticed

でも人々は新聞が

that they were doing something really important.

重要な役割を果たしていることに気付きました

That, in fact, you couldn't have

つまり 市民が

a functioning democracy

適切な情報を得ていないと

if citizens didn't get a good flow of information,

民主主義は機能しないということです　よって

that the newspapers were critical because they were acting as the filter,

情報のフィルターを行う新聞は重要なのです

and then journalistic ethics developed.

そしてジャーナリズムの倫理ができました

It wasn't perfect,

完璧ではありませんでしたが

but it got us through the last century.

１世紀の間このやり方をしてきました

And so now,

ですから現在私たちは

we're kind of back in 1915 on the Web.

ウェブ上での1915年に直面しているようなものです

And we need the new gatekeepers

プログラムを書く上で このような責任を

to encode that kind of responsibility

組み込んでくれる

into the code that they're writing.

新しい門番が必要なのです

I know that there are a lot of people here from Facebook and from Google --

会場にはFacebookとGoogleからの出席者も大勢います

Larry and Sergey --

ラリーやサーゲイのように

people who have helped build the Web as it is,

今あるウェブの構築に

and I'm grateful for that.

貢献した人々には感謝しています

But we really need you to make sure

でも私たちは彼らに これらのアルゴリズムに

that these algorithms have encoded in them

生活や市民の義務が組み込まれているように

a sense of the public life, a sense of civic responsibility.

しっかり確認してもらいたいのです

We need you to make sure that they're transparent enough

アルゴリズムが明白で何が入ってくるかを決める

that we can see what the rules are

フィルターのルールが

that determine what gets through our filters.

理解できるようにして欲しいのです

And we need you to give us some control

さらに自分で何が削除されて

so that we can decide

何がされないか決められるように

what gets through and what doesn't.

管理できるオプションを提供してもらいたいです

Because I think

これも インターネットが私たちの

we really need the Internet to be that thing

思い描いていたようなものに

that we all dreamed of it being.

なってもらう必要があると思うからです

We need it to connect us all together.

みんなを繋ぐものであり

We need it to introduce us to new ideas

新しいアイデアや人々 そして

and new people and different perspectives.

異なる視点を提示するものであるべきです

And it's not going to do that

これを達成するには

if it leaves us all isolated in a Web of one.

ウェブ上で私たちが孤立しないようにするべきです

Thank you.

ありがとう

(Applause)

(拍手)