Beware online "filter bubbles" | Eli Pariser

Эли Парайзер: Остерегайтесь онлайн "фильтров-пузырей"

Переводчик: Galina Vyday Редактор: Andriy Prischenko

Mark Zuckerberg,

Марк Цукерберг,

a journalist was asking him a question about the news feed.

журналист задал ему вопрос о ленте новостей.

And the journalist was asking him,

И журналист спросил его,

"Why is this so important?"

"Почему это так важно?"

And Zuckerberg said,

На что Цукерберг ответил,

"A squirrel dying in your front yard

"Белка, сдохшая у вас во дворе,

may be more relevant to your interests right now

может быть куда более релевантной для вас на данный момент,

than people dying in Africa."

чем люди, умирающие в Африке."

And I want to talk about

А я хочу поговорить о том,

what a Web based on that idea of relevance might look like.

как может выглядеть Сеть, основанная на идее релевантности.

So when I was growing up

Когда я рос

in a really rural area in Maine,

в глубокой сельской местности в штате Мэн,

the Internet meant something very different to me.

Интернет значил для меня совершенно другое.

It meant a connection to the world.

Он означал связь с миром.

It meant something that would connect us all together.

Он представлял что-то, что может соединить нас всех вместе.

And I was sure that it was going to be great for democracy

И я был уверен, что это будет очень важно для демократии

and for our society.

и для нашего общества.

But there's this shift

Но происходят изменения

in how information is flowing online,

в том, как информация передаётся в Интернете,

and it's invisible.

и они незаметны.

And if we don't pay attention to it,

И если мы не придадим этому значения,

it could be a real problem.

это может стать реальной проблемой.

So I first noticed this in a place I spend a lot of time --

Впервые я заметил это там, где провожу много времени –

my Facebook page.

на моей странице в Facebook.

I'm progressive, politically -- big surprise --

У меня прогрессивные политические взгляды – на удивление –

but I've always gone out of my way to meet conservatives.

но я всегда старался общаться с консерваторами.

I like hearing what they're thinking about;

Мне хочется услышать то, о чем они думают;

I like seeing what they link to;

хочется увидеть то, что их притягивает;

I like learning a thing or two.

хочется узнать пару новых вещей.

And so I was surprised when I noticed one day

И однажды я очень удивился, заметив,

that the conservatives had disappeared from my Facebook feed.

что консерваторы исчезли из моей ленты новостей на Facebook.

And what it turned out was going on

И на самом деле оказалось,

was that Facebook was looking at which links I clicked on,

что Facebook отслеживал ссылки, на которые я нажимал,

and it was noticing that, actually,

и замечал, что фактически

I was clicking more on my liberal friends' links

я чаще нажимал на ссылки моих друзей-либералов,

than on my conservative friends' links.

чем на ссылки моих друзей-консерваторов.

And without consulting me about it,

И не посовещавшись со мной,

it had edited them out.

он их исключил.

They disappeared.

Они исчезли.

So Facebook isn't the only place

Но Facebook – не единственное место,

that's doing this kind of invisible, algorithmic

где практикуется такое невидимое, алгоритмическое

editing of the Web.

редактирование Сети.

Google's doing it too.

Google делает тоже самое.

If I search for something, and you search for something,

Если вы и я используем поиск, чтобы найти что-то

even right now at the very same time,

даже совершенно одновременно,

we may get very different search results.

мы можем получить очень разные результаты.

Even if you're logged out, one engineer told me,

Даже если вы выйдете из системы, как пояснил мне один инженер,

there are 57 signals

останутся 57 сигналов,

that Google looks at --

которые обработает Google –

everything from what kind of computer you're on

всё, начиная с разновидности вашего компьютера

to what kind of browser you're using

до вида вашего веб-обозревателя

to where you're located --

и вашего месторасположения –

that it uses to personally tailor your query results.

которые он использует для индивидуализации результатов.

Think about it for a second:

Задумайтесь на секунду:

there is no standard Google anymore.

стандартный Google больше не существует.

And you know, the funny thing about this is that it's hard to see.

И знаете, смешнее всего, что это практически не заметно.

You can't see how different your search results are

Вы не видите, насколько ваши поисковые результаты отличаются

from anyone else's.

от результатов других людей.

But a couple of weeks ago,

Но пару недель назад

I asked a bunch of friends to Google "Egypt"

я попросил своих друзей погуглить "Египет"

and to send me screen shots of what they got.

и прислать мне снимки экрана того, что у них получилось.

So here's my friend Scott's screen shot.

Итак, вот снимок экрана моего друга Скотта.

And here's my friend Daniel's screen shot.

А вот снимок экрана моего друга Даниэля.

When you put them side-by-side,

Когда их сопоставляешь,

you don't even have to read the links

не надо даже читать ссылки,

to see how different these two pages are.

чтобы понять, насколько эти страницы различаются.

But when you do read the links,

Но если начать читать ссылки,

it's really quite remarkable.

то это просто поразительно.

Daniel didn't get anything about the protests in Egypt at all

Даниель на своей первой странице поисковых результатов

in his first page of Google results.

вообще ничего не нашёл о протестах в Египте

Scott's results were full of them.

А у Скотта, наоборот, всё было ими переполнено.

And this was the big story of the day at that time.

А это было тогда ключевым событием в мире.

That's how different these results are becoming.

Вот на сколько разными становятся результаты нашего поиска.

So it's not just Google and Facebook either.

Но тут дело даже не в Google и Facebook.

This is something that's sweeping the Web.

Это стремительно охватываеь всю Сеть.

There are a whole host of companies that are doing this kind of personalization.

Множество компаний применяют персонализацию такого рода.

Yahoo News, the biggest news site on the Internet,

Новости Yahoo, одной из самых крупных страниц новостей в Интернете,

is now personalized -- different people get different things.

теперь персонализированы: у разных людей разные новости.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, the Washington Post, the New York Times –

all flirting with personalization in various ways.

все так или иначе балуются персонализацией.

And this moves us very quickly

И всё это стремительно развивается

toward a world in which

в направлении мира, в котором

the Internet is showing us what it thinks we want to see,

Интернет будет показывать нам то, что он думает нам интересно,

but not necessarily what we need to see.

но не обязательно то, что нам необходимо.

As Eric Schmidt said,

Как сказал Эрик Шмидт,

"It will be very hard for people to watch or consume something

"Людям будет очень сложно увидеть или приобрести что-то,

that has not in some sense

что так или иначе не было

been tailored for them."

под них подобрано."

So I do think this is a problem.

И я считаю это проблемой.

And I think, if you take all of these filters together,

И я считаю, что если соединить вместе все эти фильтры,

you take all these algorithms,

взять все эти алгоритмы,

you get what I call a filter bubble.

получится то, что я называю фильтром-пузырём.

And your filter bubble is your own personal,

И ваш фильтр-пузырь будет вашей личной

unique universe of information

уникальной информационной вселенной,

that you live in online.

в который вы будете жить в сети.

And what's in your filter bubble

А что будет включать ваш фильтр-пузырь,

depends on who you are, and it depends on what you do.

будет зависеть от того, кто вы и чем вы занимаетесь.

But the thing is that you don't decide what gets in.

Но загвоздка вот в чём: не вы решаете, что в него входит.

And more importantly,

И важней всего то,

you don't actually see what gets edited out.

что вы даже и не увидите, что будет вырезано.

So one of the problems with the filter bubble

Итак, одна из проблем с фильтрами-пузырями

was discovered by some researchers at Netflix.

была обнаружена исследователями в Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

Они изучали очереди в Netflix и заметили такую забавную закономерность,

that a lot of us probably have noticed,

что, наверное, многие из нас замечают,

which is there are some movies

что есть некоторые фильмы,

that just sort of zip right up and out to our houses.

которые со свистом залетают и вылетают из домов.

They enter the queue, they just zip right out.

Они попадают в очередь и сразу вылетают.

So "Iron Man" zips right out,

Итак "Железный Человек" молниеносно вылетает,

and "Waiting for Superman"

а "В ожидании Супермена"

can wait for a really long time.

может ждать очень долгое время.

What they discovered

Они обнаружили,

was that in our Netflix queues

что в очередях Netfix

there's this epic struggle going on

происходит грандиозная борьба

between our future aspirational selves

между теми, кем мы стремимся быть,

and our more impulsive present selves.

и более импульсивными сегодняшними нами.

You know we all want to be someone

Вы знаете, мы все хотим быть теми,

who has watched "Rashomon,"

кто посмотрел "Расёмон,"

but right now

но на данный момент

we want to watch "Ace Ventura" for the fourth time.

нам хочется в четвертый раз пересмотреть "Эйс Вентура."

(Laughter)

(Смех в зале)

So the best editing gives us a bit of both.

Наилучшее редактирование даёт нам и то и другое.

It gives us a little bit of Justin Bieber

Оно даёт нам немного Джастина Бибера

and a little bit of Afghanistan.

и немного Афганистана.

It gives us some information vegetables;

Оно даёт нам немного информационных овощей

it gives us some information dessert.

и немного информационного десерта.

And the challenge with these kinds of algorithmic filters,

И проблема этих алгоритмических фильтров,

these personalized filters,

этих персонализированных фильтров,

is that, because they're mainly looking

в том, что они в основном следят за тем,

at what you click on first,

куда мы нажимаем первым делом,

it can throw off that balance.

поэтому они нарушают баланс.

And instead of a balanced information diet,

И вместо сбалансированного информационного питания

you can end up surrounded

можно оказаться окружённым

by information junk food.

нездоровой информационной пищей.

What this suggests

Все это наводит на мысль,

is actually that we may have the story about the Internet wrong.

что фактически у нас может быть недостоверное представление об Интернете.

In a broadcast society --

В обществе телерадиовещания –

this is how the founding mythology goes --

так гласит первоначальная мифология –

in a broadcast society,

в обществе телерадиовещания

there were these gatekeepers, the editors,

были привратники – редакторы,

and they controlled the flows of information.

которые контролировали потоки информации.

And along came the Internet and it swept them out of the way,

Но тут пришёл Интернет и убрал их со своего пути,

and it allowed all of us to connect together,

что позволило нам всем соединиться,

and it was awesome.

и все было потрясающе.

But that's not actually what's happening right now.

Но это не то, что в действительности происходит сейчас.

What we're seeing is more of a passing of the torch

То, что мы видим, больше похоже на передачу факела

from human gatekeepers

из рук человеческих привратников

to algorithmic ones.

в руки алгоритмических.

And the thing is that the algorithms

И дело в том, что алгоритмы

don't yet have the kind of embedded ethics

пока ещё не наделены встроенной этикой,

that the editors did.

какой обладали редакторы.

So if algorithms are going to curate the world for us,

И если алгоритмы будут курировать наш мир,

if they're going to decide what we get to see and what we don't get to see,

если они будут решать, на что нам стоит или не стоит смотреть,

then we need to make sure

тогда надо сделать так,

that they're not just keyed to relevance.

чтобы они не опирались на одну лишь релевантность.

We need to make sure that they also show us things

Мы должны убедиться, что они будут нам также показывать вещи,

that are uncomfortable or challenging or important --

которые неприятны, бросают нам вызов или являются значимыми –

this is what TED does --

именно это делает TED –

other points of view.

другие точки зрения.

And the thing is, we've actually been here before

И интересно то, что мы уже это проходили

as a society.

как общество.

In 1915, it's not like newspapers were sweating a lot

В 1915 г. газеты не особенно утруждали себя

about their civic responsibilities.

мыслями о гражданской ответственности.

Then people noticed

А потом люди стали замечать,

that they were doing something really important.

что они делают что-то действительно важное.

That, in fact, you couldn't have

Что, по сути, демократия

a functioning democracy

не сможет работать,

if citizens didn't get a good flow of information,

если у граждан нет доступа к хорошему потоку информации.

that the newspapers were critical because they were acting as the filter,

Что газеты имеют решающую роль, потому что они работают как фильтры,

and then journalistic ethics developed.

и из этого выросла практика журналистской этики.

It wasn't perfect,

Она не была идеальной,

but it got us through the last century.

но она позволила нам пережить весь прошлый век.

And so now,

А сейчас

we're kind of back in 1915 on the Web.

мы как бы вернулись в 1915 год в Сети.

And we need the new gatekeepers

И нам нужны новые привратники,

to encode that kind of responsibility

которые впишут такую ответственность

into the code that they're writing.

в код своих разработок.

I know that there are a lot of people here from Facebook and from Google --

Я знаю, здесь присутствует много людей и из Facebook и из Google –

Larry and Sergey --

Ларри и Сергей –

people who have helped build the Web as it is,

люди, которые помогали строить существующую Сеть,

and I'm grateful for that.

и я очень благодарен за это.

But we really need you to make sure

Но нам очень нужно, чтобы вы позаботились о том,

that these algorithms have encoded in them

чтобы эти алгоритмы включали в себя

a sense of the public life, a sense of civic responsibility.

ощущение общественной жизни, чувства гражданской ответственности.

We need you to make sure that they're transparent enough

Нам нужно, чтобы вы обеспечили достаточную прозрачность,

that we can see what the rules are

чтобы нам были понятны правила,

that determine what gets through our filters.

определяющие то, что проходит через наши фильтры.

And we need you to give us some control

И нам нужно, чтобы вы дали нам некоторую свободу

so that we can decide

самим решать,

what gets through and what doesn't.

что проходит, а что остается.

Because I think

Потому что, мне кажется,

we really need the Internet to be that thing

для нас очень важно, чтобы Интернет был той вещью,

that we all dreamed of it being.

о которой мы всегда мечтали.

We need it to connect us all together.

Нам нужно, чтобы он нас объединял.

We need it to introduce us to new ideas

Чтобы он приносил нам новые идеи,

and new people and different perspectives.

новых людей, новые перспективы.

And it's not going to do that

Но он не сможет этого делать,

if it leaves us all isolated in a Web of one.

если он будет изолировать нас в Сети.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)