Beware online "filter bubbles" | Eli Pariser

Translator: Anton Hikov Reviewer: Darina Stoyanova

Mark Zuckerberg,

Марк Зукерберг,

a journalist was asking him a question about the news feed.

журналист го питал въпрос за емисиите с новини.

And the journalist was asking him,

И журналиста го попитал:

"Why is this so important?"

"Защо е толкова важно това?"

And Zuckerberg said,

И Зукерберг отговорил:

"A squirrel dying in your front yard

"Катерица умираща във вашия двор

may be more relevant to your interests right now

може да бъде по-важна за вашите интереси в момента,

than people dying in Africa."

отколкото хората, които умират в Африка."

And I want to talk about

И аз искам да говоря за това,

what a Web based on that idea of relevance might look like.

как може да изглежда Уеб базиран на тази идея за значимост.

So when I was growing up

И така, когато израствах

in a really rural area in Maine,

в един наистина селски район в щата Мейн,

the Internet meant something very different to me.

Интернет означаваше нещо много различно за мен.

It meant a connection to the world.

Означаваше връзка към света.

It meant something that would connect us all together.

Означаваше нещо, което можеше да ни свърже всички заедно.

And I was sure that it was going to be great for democracy

И бях сигурен, че щеше да бъде страхотен за демокрацията

and for our society.

и за нашето общество.

But there's this shift

Но има промяна

in how information is flowing online,

в това как информацията тече онлайн,

and it's invisible.

и тя е невидима.

And if we don't pay attention to it,

И ако не обърнем внимание на това,

it could be a real problem.

то може да бъде реален проблем.

So I first noticed this in a place I spend a lot of time --

За първи път забелязах това на място, където прекарвам много време --

my Facebook page.

моята Фейсбук страница.

I'm progressive, politically -- big surprise --

Аз съм прогресивен, политически -- голяма изненада --

but I've always gone out of my way to meet conservatives.

но винаги съм се стремял да изслушвам консерваторите.

I like hearing what they're thinking about;

Обичам да изслушвам това, за което мислят,

I like seeing what they link to;

обичам да гледам линковете, които изпращат,

I like learning a thing or two.

обичам да научавам нещо или друго.

And so I was surprised when I noticed one day

И така, аз бях изненадан, когато забелязах един ден,

that the conservatives had disappeared from my Facebook feed.

че консерваторите изчезнаха от моя Фейсбук фийд.

And what it turned out was going on

И това, което се оказа че става бе,

was that Facebook was looking at which links I clicked on,

че Фейсбук следеше линковете, върху които съм щракал,

and it was noticing that, actually,

и беше забелязал, че всъщност,

I was clicking more on my liberal friends' links

съм щракал повече върху линковете на моите либерални приятели,

than on my conservative friends' links.

отколкото върху линковете на моите консервативни приятели.

And without consulting me about it,

И без да се консултират с мен за това,

it had edited them out.

ги бяха редактирали.

They disappeared.

Те изчезнаха.

So Facebook isn't the only place

И така, Фейсбук не е единственото място,

that's doing this kind of invisible, algorithmic

което прави това невидимо, алгоритмично

editing of the Web.

редактиране на Уеба.

Google's doing it too.

Гугъл го правят също.

If I search for something, and you search for something,

Ако аз търся нещо, и вие търсите нещо,

even right now at the very same time,

дори в този момент, по едно и също време,

we may get very different search results.

ние можем да получим много различни резултати от търсенето.

Even if you're logged out, one engineer told me,

Дори и когато не сте се разписали, един инженер ми каза,

there are 57 signals

има 57 сигнали,

that Google looks at --

които Гугъл следи --

everything from what kind of computer you're on

всичко от какъв компютър имате,

to what kind of browser you're using

до какъв браузър използвате,

to where you're located --

до мястото, където се намирате --

that it uses to personally tailor your query results.

които използва за персонализиране на вашите резултатите от търсенето.

Think about it for a second:

Помислете си за това за секунда:

there is no standard Google anymore.

повече няма стандартен Гугъл.

And you know, the funny thing about this is that it's hard to see.

И знаете ли, странното нещо за това е, че е трудно да се види.

You can't see how different your search results are

Не можете да видите колко различни са резултатите от търсенето ви,

from anyone else's.

от тези на някой друг.

But a couple of weeks ago,

Но преди няколко седмици,

I asked a bunch of friends to Google "Egypt"

помолих няколко приятели да търсят за "Египет" в Гугъл,

and to send me screen shots of what they got.

и да ми изпратят скрийншоти от това, което виждат.

So here's my friend Scott's screen shot.

Така че тук е скрийншота на моя приятел Скот.

And here's my friend Daniel's screen shot.

А тук е скрийншота на моя приятел Даниел.

When you put them side-by-side,

Когато ги поставите една до друга,

you don't even have to read the links

дори не трябва да четете линковете,

to see how different these two pages are.

за да забележите колко различни са тези две страници.

But when you do read the links,

Но когато зачетете линковете,

it's really quite remarkable.

е наистина доста забележително.

Daniel didn't get anything about the protests in Egypt at all

Даниел не получил никаква информация за протестите в Египет, въобще,

in his first page of Google results.

в първата страница с резултати от търсенето в Гугъл.

Scott's results were full of them.

Резултатите на Скот бяха пълни с тях.

And this was the big story of the day at that time.

И това беше голямата история на деня по това време.

That's how different these results are becoming.

Ето колко различни стават тези резултати.

So it's not just Google and Facebook either.

Но това не е само Гугъл и Фейсбук.

This is something that's sweeping the Web.

Това е нещо, което се простира в мрежата.

There are a whole host of companies that are doing this kind of personalization.

Има цял куп от компании, които правят този вид персонализация.

Yahoo News, the biggest news site on the Internet,

Yahoo News, най-големият новинарски сайт в интернет,

is now personalized -- different people get different things.

сега е персонализиран -- различни хора получават различни неща.

Huffington Post, the Washington Post, the New York Times --

Хъфингтън Пост, Вашингтон пост, Ню Йорк Таймс --

all flirting with personalization in various ways.

всички флиртуват с персонализацията по различни начини.

And this moves us very quickly

И това ни пренася много бързо

toward a world in which

към един свят, в който

the Internet is showing us what it thinks we want to see,

Интернет ни показва това, което той смята, че искаме да видим,

but not necessarily what we need to see.

но не непременно това, което ние искаме да видим.

As Eric Schmidt said,

Както Ерик Шмид казва:

"It will be very hard for people to watch or consume something

"Ще бъде много трудно за хората да гледат или консумират нещо,

that has not in some sense

което не е по някакъв начин

been tailored for them."

пригодено за тях."

So I do think this is a problem.

И аз мисля, че това е проблем.

And I think, if you take all of these filters together,

Мисля, че ако вземем всички тези филтри заедно,

you take all these algorithms,

ако вземем всички тези алгоритми,

you get what I call a filter bubble.

ще получим това, което наричам балонен филтър.

And your filter bubble is your own personal,

И вашия балонен филтър е вашата лична

unique universe of information

уникална вселена от информация,

that you live in online.

с която живеете онлайн.

And what's in your filter bubble

И какво има във вашия балонен филтър

depends on who you are, and it depends on what you do.

зависи от това кой сте, и зависи от това какво правите.

But the thing is that you don't decide what gets in.

Но важното е, че вие не решавате какво влиза вътре.

And more importantly,

И по-важното е, че

you don't actually see what gets edited out.

вие всъщност не виждате това, което е редактирано.

So one of the problems with the filter bubble

Така че един от проблемите с балонния филтър

was discovered by some researchers at Netflix.

беше открит от някои изследователи от Нетфликс.

And they were looking at the Netflix queues, and they noticed something kind of funny

Гледайки времената за чакане в Нетфликс, те забелязали нещо странно,

that a lot of us probably have noticed,

което много от нас вероятно са забелязали,

which is there are some movies

което е, че някои филми

that just sort of zip right up and out to our houses.

преминават мигновено през нашите домове.

They enter the queue, they just zip right out.

Те влизат в опашката и се свалят веднага.

So "Iron Man" zips right out,

Например "Железния човек" се сваля веднага,

and "Waiting for Superman"

а "В очакване на Супермен"

can wait for a really long time.

може да чака доста дълго време.

What they discovered

Това, което открили

was that in our Netflix queues

било, че в нашите Нетфликс опашки

there's this epic struggle going on

се води тази епична борба

between our future aspirational selves

между нашите бъдещи пожелателни личности,

and our more impulsive present selves.

и нашите по-импулсивни настоящи личности.

You know we all want to be someone

Знаете ли, ние всички искаме да бъдем някой,

who has watched "Rashomon,"

който е гледал "Рашомон,"

but right now

но точно сега

we want to watch "Ace Ventura" for the fourth time.

искаме да гледаме "Ейс Вентура" за четвърти път.

(Laughter)

(Смях)

So the best editing gives us a bit of both.

Затова най-доброто редактиране ни дава малко и от двете.

It gives us a little bit of Justin Bieber

Дава ни малко от Джъстин Бийбър

and a little bit of Afghanistan.

и малко от Афганистан.

It gives us some information vegetables;

Дава ни информационни зеленчуци,

it gives us some information dessert.

дава ни информационни десерти.

And the challenge with these kinds of algorithmic filters,

И предизвикателството с тези алгоритмични филтри,

these personalized filters,

с тези персонализирани филтри

is that, because they're mainly looking

е, че понеже те основно гледат

at what you click on first,

това, върху което щракате първо,

it can throw off that balance.

това може да наруши баланса.

And instead of a balanced information diet,

И вместо една балансирана информационна диета,

you can end up surrounded

може да се окажете заобиколени

by information junk food.

от информационни хранителни боклуци.

What this suggests

Това намеква,

is actually that we may have the story about the Internet wrong.

че всъщност може да не сме разбрали правилно историята на Интернет.

In a broadcast society --

В информационно общество --

this is how the founding mythology goes --

така е поне в основополагащата митология --

in a broadcast society,

в информационното общество,

there were these gatekeepers, the editors,

имаше пазители, редактори,

and they controlled the flows of information.

и те контролираха потока на информация.

And along came the Internet and it swept them out of the way,

И тогава се появи Интернет и ги помете настрани,

and it allowed all of us to connect together,

и ни позволи да се свържем заедно,

and it was awesome.

и беше страхотно.

But that's not actually what's happening right now.

Но това не е нещото, което се случва в момента.

What we're seeing is more of a passing of the torch

Това, което виждаме е по-скоро предаване на факлата

from human gatekeepers

от човешки контрольори

to algorithmic ones.

на алгоритмични такива.

And the thing is that the algorithms

И проблемът е, че алгоритмите

don't yet have the kind of embedded ethics

все още не разполагат с вградената етика,

that the editors did.

която имаха редакторите.

So if algorithms are going to curate the world for us,

Така че, ако алгоритмите ще ни превеждат през света,

if they're going to decide what we get to see and what we don't get to see,

ако те ще решават какво можем да видим и какво не можем да видим,

then we need to make sure

тогава трябва да се уверим,

that they're not just keyed to relevance.

че те не са настроени само за уместност.

We need to make sure that they also show us things

Трябва да се уверим, че те също ще ни показват неща,

that are uncomfortable or challenging or important --

които са неудобни, или предизвикателни, или важни --

this is what TED does --

това, което прави TED --

other points of view.

други гледни точки.

And the thing is, we've actually been here before

И въпросът е, че ние всъщност сме били тук преди

as a society.

като общество.

In 1915, it's not like newspapers were sweating a lot

През 1915 година, не че вестниците не са се потили много

about their civic responsibilities.

за гражданските си задължения.

Then people noticed

Тогава хората забелязали,

that they were doing something really important.

че те правели нещо наистина важно.

That, in fact, you couldn't have

Че всъщност не може да има

a functioning democracy

функционираща демокрация,

if citizens didn't get a good flow of information,

ако гражданите не получават добър приток от информация.

that the newspapers were critical because they were acting as the filter,

Че вестниците били жизнено важни, защото те действали като филтър,

and then journalistic ethics developed.

и после журналистическата етика се развила.

It wasn't perfect,

Това не беше съвършено,

but it got us through the last century.

но ни свърши работа през миналия век.

And so now,

И така, сега,

we're kind of back in 1915 on the Web.

ние сме един вид обратно в 1915 година с Уеба.

And we need the new gatekeepers

И ние се нуждаем от нови пазители,

to encode that kind of responsibility

които да кодират този вид отговорност

into the code that they're writing.

в кода, който пишат.

I know that there are a lot of people here from Facebook and from Google --

Знам, че има много хора тук от Фейсбук и от Гугъл --

Larry and Sergey --

Лари и Сергей --

people who have helped build the Web as it is,

хора, които са помогнали да построят Уеба в сегашната му форма,

and I'm grateful for that.

и аз съм им благодарен за това.

But we really need you to make sure

Но ние наистина трябва да се уверим,

that these algorithms have encoded in them

че тези алгоритми имат закодирано в тях

a sense of the public life, a sense of civic responsibility.

чувство за обществения живот, чувството за гражданска отговорност.

We need you to make sure that they're transparent enough

Трябва да се уверите, че те са достатъчно прозрачни,

that we can see what the rules are

че можем да видим какви са правилата,

that determine what gets through our filters.

които определят какво преминава през нашите филтри.

And we need you to give us some control

И вие трябва да ни дадете някакъв контрол,

so that we can decide

така че да можем да решим

what gets through and what doesn't.

какво преминава и какво не.

Because I think

Защото мисля,

we really need the Internet to be that thing

че наистина имаме нужда Интернет да бъде това нещо,

that we all dreamed of it being.

което всички ние мечтаем да бъде.

We need it to connect us all together.

Необходимо е той да ни свързва всички заедно.

We need it to introduce us to new ideas

Необходимо е той да ни запознава с нови идеи

and new people and different perspectives.

и нови хора, с различни гледни точки.

And it's not going to do that

И той няма да постигне това,

if it leaves us all isolated in a Web of one.

ако ни остави всички нас изолирани в Уеб от един.

Thank you.

Благодаря ви.

(Applause)

(Ръкопляскане)