Beware online "filter bubbles" | Eli Pariser

ایلای پاریسر: مواظب " حباب‌‌های فیلتر " آنلاین باشید

Translator: Sepideh Sekehchi Reviewer: soheila Jafari

Mark Zuckerberg,

یک روزنامه‌نگار

a journalist was asking him a question about the news feed.

از "مارک زاکربرگ " (مؤسس فیس‌بوک)

And the journalist was asking him,

دربارۀ خوراک خبری پرسید.

"Why is this so important?"

« چرا این اینقدر مهم است؟ »

And Zuckerberg said,

و "مارک زاکربرگ " گفت:

"A squirrel dying in your front yard

« یک سنجاب در حال مرگ در حیاط خانۀ شما

may be more relevant to your interests right now

ممکن است در حال حاضر بیشتر مورد علاقه و توجه شما

than people dying in Africa."

تا مردم در حال مرگ در آفریقا »

And I want to talk about

و من می‌خواهم بگویم اینترنت بر اساس

what a Web based on that idea of relevance might look like.

ایدۀ مرتبط بودن با علاقه، چه شکلی خواهد بود.

So when I was growing up

وقتی در یک ناحیه روستایی در " مین "

in a really rural area in Maine,

بزرگ می‌شدم،

the Internet meant something very different to me.

اینترنت برای من معنای خیلی متفاوتی داشت.

It meant a connection to the world.

به معنی اتصال با دنیا بود.

It meant something that would connect us all together.

به معنی چیزی بود که همۀ ما را به هم متصل می‌کند.

And I was sure that it was going to be great for democracy

و مطمئن بودم که برای دموکراسی و برای جامعۀ ما

and for our society.

فوق‌العاده خواهد بود.

But there's this shift

اما تغییری در

in how information is flowing online,

نحوۀ جریان اطلاعات آنلاین

and it's invisible.

به وجود آمده که نامرئی است.

And if we don't pay attention to it,

و اگر به آن توجه نکنیم

it could be a real problem.

می‌تواند یک مشکل اساسی شود.

So I first noticed this in a place I spend a lot of time --

من اولین بار در جایی که زمان خیلی زیادی را در صفحه فیس بوک صرف کردم

my Facebook page.

این را متوجه شدم.

I'm progressive, politically -- big surprise --

من از لحاظ سیاسی ترقی‌خواه هستم -- شگفتی بزرگ--

but I've always gone out of my way to meet conservatives.

ولی همیشه برای ملاقات با محافظه‌کاران مسیرم را کج کرده‌ام.

I like hearing what they're thinking about;

دوست دارم بشنوم به چی فکر می‌کنند.

I like seeing what they link to;

دوست دارم ببینم به چی لینک می‌دهند.

I like learning a thing or two.

دوست دارم یکی دوتا چیز یاد بگیرم.

And so I was surprised when I noticed one day

پس سوپرایز شدم وقتی یک روز متوجه شدم

that the conservatives had disappeared from my Facebook feed.

که محافظه‌کارها از خوراک فیس بوک من حذف شده‌اند.

And what it turned out was going on

و معلوم شد که جریان این بوده که

was that Facebook was looking at which links I clicked on,

فیس بوک به لینک‌‌هایی که روی آنها کلیک می‌کردم

and it was noticing that, actually,

نگاه می‌کرده و متوجه شده که ، در واقع

I was clicking more on my liberal friends' links

من بیشتر روی لینک‌‌های دوستان لیبرالم کلیک می‌کردم

than on my conservative friends' links.

تا روی لینک‌‌های دوستان محافظه‌کارم.

And without consulting me about it,

و بدون مشورت با من

it had edited them out.

آنان را حذف کرده بود.

They disappeared.

آنان ناپدید شدند.

So Facebook isn't the only place

خب فیس بوک تنها جایی نیست که

that's doing this kind of invisible, algorithmic

این ویرایش نامرئی و الگوریتمی

editing of the Web.

را انجام می‌دهد.

Google's doing it too.

گوگل هم این کار را می‌کند.

If I search for something, and you search for something,

اگر من چیزی را جستجو کنم و شما هم جستجو کنید

even right now at the very same time,

حتی اگر هم زمان باشد

we may get very different search results.

احتمالا" نتایج خیلی متفاوتی را می گیریم.

Even if you're logged out, one engineer told me,

یک مهندس به من گفت

there are 57 signals

حتی اگر خارج از حساب کاربریتان باشید،

that Google looks at --

گوگل به 57 نشانه نگاه می‌کند.

everything from what kind of computer you're on

همه چیز از نوع کامپیوتری که با آن به شبکه وصل شده‌اید

to what kind of browser you're using

تا مرورگری که از آن استفاده می‌کنید

to where you're located --

و تا موقعیت مکانی شما.

that it uses to personally tailor your query results.

که گوگل از آنها برای انجام اصلاحات بر روی نتایج جستجو استفاده می‌کند.

Think about it for a second:

یک ثانیه به این فکر کنید

there is no standard Google anymore.

دیگر هیچ گوگل استانداردی وجود ندارد.

And you know, the funny thing about this is that it's hard to see.

و مسخره‌ترین چیز این است که این سخت قابل تشخیص است.

You can't see how different your search results are

شما نمی‌توانید ببینید نتایج جستجوی شما

from anyone else's.

چقدر با بقیه تفاوت دارد.

But a couple of weeks ago,

ولی چند هفته پیش

I asked a bunch of friends to Google "Egypt"

من از چندتا دوست خواستم " مصر " را در گوگل جستچو کنند

and to send me screen shots of what they got.

و تصویر صفحۀ نتایج را برای من بفرستند.

So here's my friend Scott's screen shot.

خب این تصویر صفحه نمایش دوستم " اسکات " است.

And here's my friend Daniel's screen shot.

و این تصویر صفحه دوستم " دانیل " است.

When you put them side-by-side,

اگر آنها را کنار هم بگذارید

you don't even have to read the links

حتی لازم نیست لینک‌‌ها را بخوانید تا

to see how different these two pages are.

متوجه بشوید چقدر این دو صفحه با هم فرق دارند.

But when you do read the links,

ولی وقتی که لینک‌‌ها را بخوانید

it's really quite remarkable.

این تفاوت واقعا چشمگیر است.

Daniel didn't get anything about the protests in Egypt at all

" دانیل " در صفحۀ اول نتایج گوگل

in his first page of Google results.

هیچ اطلاعاتی از تظاهرات در " مصر" نگرفت.

Scott's results were full of them.

نتایج جستجوی " اسکات " پر از آنها بود.

And this was the big story of the day at that time.

و این تظاهرات خبر اصلی روز در آن زمان بود.

That's how different these results are becoming.

این نتایج تا این اندازه در حال متفاوت شدن هستند.

So it's not just Google and Facebook either.

خوب فقط گوگل و فیس بوک نیستند.

This is something that's sweeping the Web.

این چیزی است که در سراسر اینترنت پخش شده است.

There are a whole host of companies that are doing this kind of personalization.

انبوهی از شرکت‌‌ها هستند که این نوع شخصی سازی را انجام می‌دهند.

Yahoo News, the biggest news site on the Internet,

" یاهو نیوز " بزرگترین سایت خبری اینترنت

is now personalized -- different people get different things.

دیگر الان شخصی سازی شده -- افراد مختلف، اخبار مختلف می‌گیرند.

Huffington Post, the Washington Post, the New York Times --

" هافینگتون پست "، " واشنگتن پست "، " نیویورک تایمز "

all flirting with personalization in various ways.

همه از راه‌های متنوع با شخصی سازی سر و کار دارند.

And this moves us very quickly

و این ما را به سرعت به طرف

toward a world in which

جهانی سوق می‌دهد که در آن

the Internet is showing us what it thinks we want to see,

اینترنت چیزی را به ما نشان می‌دهد که فکر می‌کند می‌خواهیم ببینیم

but not necessarily what we need to see.

ولی نه لزوما چیزی را که نیاز داریم ببینیم.

As Eric Schmidt said,

همانطور که " اریک اشمیت " گفت:

"It will be very hard for people to watch or consume something

« برای مردم خیلی سخت خواهد بود که چیزی را تماشا کنند یا مصرف کنند

that has not in some sense

که احساس نمی کنند

been tailored for them."

برای آنان تهیه شده است »

So I do think this is a problem.

من واقعا فکر می‌کنم این یک مشکل است.

And I think, if you take all of these filters together,

و فکر می‌کنم اگر همۀ این فیلترها،

you take all these algorithms,

همۀ این الگوریتم‌ها را در نظر بگیرید

you get what I call a filter bubble.

به همان حباب‌‌ فیلتری که می‌گویم می‌رسید.

And your filter bubble is your own personal,

و حباب فیلتر شما، همان دنیای شخصی و خاص شما

unique universe of information

از اطلاعات است که

that you live in online.

در فضای مجازی در آن زندگی می‌کنید.

And what's in your filter bubble

و چیزی که در حباب فیلتر شما وجود دارد

depends on who you are, and it depends on what you do.

بستگی به این دارد که شما چه کسی هستید و چکارمی کننید.

But the thing is that you don't decide what gets in.

ولی مسئله این است که شما دربارۀ محتوای آن تصمیم نمی‌گیرید.

And more importantly,

و مهمتر اینکه

you don't actually see what gets edited out.

شما در واقع نمی‌بینید چه چیزی حذف شده.

So one of the problems with the filter bubble

خب یک مشکل ناشی از این حباب‌‌های فیلتر

was discovered by some researchers at Netflix.

توسط چند محقق در " نتفلیکس" ( شرکت اجارۀ فیلم) کشف شد.

And they were looking at the Netflix queues, and they noticed something kind of funny

وقتی به لیست‌‌های نتفلیکس نگاه می‌کردند متوجه چیز جالبی شدند

that a lot of us probably have noticed,

که بیشتر ما احتمالا متوجه شده‌ایم.

which is there are some movies

اینکه بعضی فیلم‌ها

that just sort of zip right up and out to our houses.

به سرعت به خانه‌های ما وارد و به سرعت خارج می‌شوند.

They enter the queue, they just zip right out.

وارد لیست می‌شوند و سریع می‌پرند بیرون.

So "Iron Man" zips right out,

" مرد آهنی " می‌پره بیرون

and "Waiting for Superman"

ولی " انتظار برای سوپرمن "

can wait for a really long time.

مدت‌‌ها در لیست می‌ماند.

What they discovered

چیزی که آنان کشف کردند

was that in our Netflix queues

این بود که در لیست‌‌های نتفلیکس ما،

there's this epic struggle going on

کشمکش عظیمی میان

between our future aspirational selves

خودِ هدفدار و آرزومند ما در آینده

and our more impulsive present selves.

و خودِ بلهوس ما در زمان حال، وجود دارد.

You know we all want to be someone

ما همه می‌خواهیم کسی باشیم که

who has watched "Rashomon,"

" راشمون " (فیلم جنایی ژاپنی) را دیده است

but right now

ولی الان

we want to watch "Ace Ventura" for the fourth time.

می‌خواهیم " آیس ونتورا " ( کمدی) را برای چهارمین بار تماشا کنیم.

(Laughter)

( خنده )

So the best editing gives us a bit of both.

پس بهترین ویرایش ، به ما کمی از هر دو نوع را می‌دهد.

It gives us a little bit of Justin Bieber

کمی به ما " جاستین بیبر " ( خواننده- بازیگر نوجوان) را می‌دهد

and a little bit of Afghanistan.

و کمی هم از افغانستان در اختیار ما می‌گذارد.

It gives us some information vegetables;

مقداری اطلاعاتِ سبزیجات مانند،

it gives us some information dessert.

و مقداری اطلاعاتِ دسر مانند، را می دهد.

And the challenge with these kinds of algorithmic filters,

و چالش موجود در این نوع فیلترهای الگوریتمی

these personalized filters,

این فیلترهای شخصی شده ،

is that, because they're mainly looking

که عموما" آنها به دنبال آنند،

at what you click on first,

آنهایی هستند که شما اول بر روی آنها کلیک می کنید.

it can throw off that balance.

این می تواند تعادل را بر هم زند.

And instead of a balanced information diet,

و به جای یک رژیم اطلاعاتی متعادل،

you can end up surrounded

شما ممکن است در میان

by information junk food.

اطلاعاتِ هله هوله مانند، قرار بگیرید.

What this suggests

این نشان می‌دهد که در واقع

is actually that we may have the story about the Internet wrong.

داستانی که ما از اینترنت داریم اشتباه است.

In a broadcast society --

در یک جامعۀ رادیو تلویزیونی

this is how the founding mythology goes --

آنطور که در اساطیر آمده است،

in a broadcast society,

دربان‌هایی وجود داشتند،

there were these gatekeepers, the editors,

یعنی تدوین‌کننده‌ها یا سانسورچی‌ ها،

and they controlled the flows of information.

و آنان جریان اطلاعات را کنترل می‌کردند

And along came the Internet and it swept them out of the way,

تا اینکه اینترنت از راه رسید و آنان را از سر راه برداشت

and it allowed all of us to connect together,

و این به ما اجازه داد به هم وصل شویم

and it was awesome.

و همه چیز عالی بود.

But that's not actually what's happening right now.

ولی این آن چیزی نیست که الان در جریان است.

What we're seeing is more of a passing of the torch

آنچه ما شاهدش هستیم دست به دست شدن مشعل

from human gatekeepers

از دربان‌های انسان

to algorithmic ones.

به دربان‌های الگوریتمی است.

And the thing is that the algorithms

و نکته این است که این الگوریتم‌ها

don't yet have the kind of embedded ethics

آن اصول اخلاقی نهادینه شده را

that the editors did.

که تصحیح کننده‌ها داشتند، ندارند.

So if algorithms are going to curate the world for us,

پس اگر قرار است الگوریتم‌ها، دنیا را برای ما سازماندهی کنند،

if they're going to decide what we get to see and what we don't get to see,

اگر قرار است آنها تصمیم بگیرند چه چیزی را ببینیم و چه چیز را نبینیم،

then we need to make sure

ما باید مطمئن شویم

that they're not just keyed to relevance.

که آنها تنها برای ربطِ علایق، تنظیم نشده باشند.

We need to make sure that they also show us things

باید مطمئن شویم آنها به ما چیزهایی را که

that are uncomfortable or challenging or important --

ناراحت کننده، چالش برانگیز و مهم هستند، نشان می‌دهند.

this is what TED does --

این کاری است که TED انجام می‌دهد

other points of view.

-- یعنی نشان دادن نقطه نظرهای دیگر --

And the thing is, we've actually been here before

و موضوع این است که ما قبلا به عنوان یک جامعه

as a society.

این را تجربه کرده‌ایم.

In 1915, it's not like newspapers were sweating a lot

در سال 1915، روزنامه‌ها خیلی هم برای

about their civic responsibilities.

مسئولیت‌‌های شهروندی خود عرق نمی‌ریختند.

Then people noticed

بعد مردم متوجه شدند که

that they were doing something really important.

کار روزنامه‌ها بسیار مهم است.

That, in fact, you couldn't have

شما در واقع نمی‌توانید

a functioning democracy

یک دموکراسی کارآمد داشته باشید

if citizens didn't get a good flow of information,

اگر مردم یک جریان خوب اطلاعاتی نداشته باشند.

that the newspapers were critical because they were acting as the filter,

وضعیت روزنامه‌ها وخیم بود چون آنها مانند فیلتر عمل می‌کردند.

and then journalistic ethics developed.

آن وقت بود که اخلاق روزنامه نگاری پرورانده شد.

It wasn't perfect,

بی‌نقص نبود

but it got us through the last century.

ولی ما را از قرن گذشته به سلامت عبور داد.

And so now,

و بنابراین حالا

we're kind of back in 1915 on the Web.

تا حدی در اینترنت به شرایط 1915 برگشته‌ایم

And we need the new gatekeepers

و به دربان‌های جدید نیاز داریم

to encode that kind of responsibility

که همان نوع تعهد را در کدها و اصولی که مشغول نوشتنشان هستند، وارد کنند.

into the code that they're writing.

که همان نوع تعهد را در کدها و اصولی که مشغول نوشتنشان هستند، وارد کنند.

I know that there are a lot of people here from Facebook and from Google --

می‌دانم که در گوگل و فیس بوک افراد زیادی مثل

Larry and Sergey --

" لری " و " سرگی " هستند که

people who have helped build the Web as it is,

برای ساختن اینترنت به صورتی که امروز هست، کمک کرده‌اند

and I'm grateful for that.

و من بسیار بابت آن سپاسگزار هستم

But we really need you to make sure

ولی ما نیاز داریم که مطمئن شویم

that these algorithms have encoded in them

درک و فهم زندگی اجتماعی و حس مسئولیت شهروندی

a sense of the public life, a sense of civic responsibility.

در این الگوریتم‌ها کد و وارد شده است.

We need you to make sure that they're transparent enough

ما باید مطمئن شویم که آنها به اندازۀ کافی شفاف هستند

that we can see what the rules are

که ما بتوانیم قوانینی که مشخص می‌کنند

that determine what gets through our filters.

چه چیزی از فیلترها عبور کنند، ببینیم.

And we need you to give us some control

و نیاز است که به ما این امکان داده شود

so that we can decide

تا بتوانیم تصمیم بگیریم

what gets through and what doesn't.

چه چیزی از فیلتر عبور کند و چه چیزی عبور نکند.

Because I think

چون فکر می‌کنم

we really need the Internet to be that thing

ما واقعا نیاز داریم اینترنت همان چیزی باشد که

that we all dreamed of it being.

همۀ ما رویای آن را در سر داریم.

We need it to connect us all together.

احتیاج داریم همۀ ما را به هم وصل کند

We need it to introduce us to new ideas

و ایده‌های نو، افراد جدید

and new people and different perspectives.

و چشم‌اندازهای جدید به ما نشان دهد.

And it's not going to do that

و این کار انجام نخواهد شد

if it leaves us all isolated in a Web of one.

اگر اینترنت ما را در فضای مجازی یک نفره ، از بقیه جدا کند.

Thank you.

ممنون.

(Applause)

( تشویق )