Beware online "filter bubbles" | Eli Pariser

Перекладач: Dmitriy Baykov Утверджено: Kato Despati

Mark Zuckerberg,

Марк Цукерберг,

a journalist was asking him a question about the news feed.

журналіст ставив йому питання про стрічку новин.

And the journalist was asking him,

Журналіст запитував його:

"Why is this so important?"

"Чому це так важливо?"

And Zuckerberg said,

Цукерберг відповів:

"A squirrel dying in your front yard

"Білка, що помирає у вашому дворі

may be more relevant to your interests right now

може бути більш релевантною до ваших інтересів просто зараз

than people dying in Africa."

ніж люди, що гинуть в Африці".

And I want to talk about

Я хочу поговорити про те,

what a Web based on that idea of relevance might look like.

як Інтернет, що базується на цій ідеї релевантності може виглядати.

So when I was growing up

В той час коли я підростав

in a really rural area in Maine,

в насправді сільській місцевості штату Мен,

the Internet meant something very different to me.

Інтернет означав для мене щось зовсім інше.

It meant a connection to the world.

Він означав зв'язок з усім світом.

It meant something that would connect us all together.

Він означав дещо таке, що мало поєднати нас всіх разом.

And I was sure that it was going to be great for democracy

І я був упевнений, що це буде чудово для демокрітії

and for our society.

і для нашого суспільства.

But there's this shift

Але існує цей зсув

in how information is flowing online,

в тому, як інформація тече онлайн,

and it's invisible.

і він невидимий.

And if we don't pay attention to it,

І якщо ми не звернемо увагу на нього,

it could be a real problem.

він може стати реальною проблемою.

So I first noticed this in a place I spend a lot of time --

Я вперше помітив це в місці, де я проводжу доволі багато часу -

my Facebook page.

моя сторінка у Facebook.

I'm progressive, politically -- big surprise --

Я прогресивний, політично -- великий сюрприз --

but I've always gone out of my way to meet conservatives.

але я завжди відходив від моїх переконань, щоб зустрітися з консерваторами.

I like hearing what they're thinking about;

Мені подобається чути про що вони думають;

I like seeing what they link to;

Мені подобається бачити посилання, якими вони діляться;

I like learning a thing or two.

Мені подобається дізнаватись певні речі.

And so I was surprised when I noticed one day

Я був здивований коли одного дня помітив,

that the conservatives had disappeared from my Facebook feed.

що консерватори зникли з моєї стрічки новин на Facebook.

And what it turned out was going on

Виявилося, що відбувалося те,

was that Facebook was looking at which links I clicked on,

що Facebook вивчав, на які посилання я натискав,

and it was noticing that, actually,

і він помітив, що власне,

I was clicking more on my liberal friends' links

я натискав частіше на посилання від моїх друзів лібералів

than on my conservative friends' links.

ніж на посилання моїх друзів консерваторів.

And without consulting me about it,

І не радячись зі мною,

it had edited them out.

він відсіяв їх.

They disappeared.

Вони зникли.

So Facebook isn't the only place

Але Facebook не єдине місце

that's doing this kind of invisible, algorithmic

де провадять такого роду невидиме, алгоритмічне

editing of the Web.

редагування Інтернету.

Google's doing it too.

Google також це робить.

If I search for something, and you search for something,

Якщо я шукаю дещо, і ви шукаєте те саме,

even right now at the very same time,

навіть просто зараз, в той самиий час,

we may get very different search results.

ми можемо отримати дуже різні результати нашого пошуку.

Even if you're logged out, one engineer told me,

Навіть якщо ви вилогувались, один інженер сказав мені,

there are 57 signals

- існує 57 сигналів

that Google looks at --

які зчитує Google --

everything from what kind of computer you're on

все, починаючи з того який комп'ютер ви використовуєте,

to what kind of browser you're using

який браузер ви використовуєте

to where you're located --

закінчуючи тим де ви знаходитеся --

that it uses to personally tailor your query results.

Все це він використовує, щоб персоналізувати результати вашого пошуку.

Think about it for a second:

Замисліться про це на мить:

there is no standard Google anymore.

більше не існує стандартного Google.

And you know, the funny thing about this is that it's hard to see.

І ви знаєте, найсмішніше в цьому те, що це важко побачити.

You can't see how different your search results are

Ви не можете побачити, наскільки відрізняються ваші результати пошуку

from anyone else's.

від результатів когось іншого.

But a couple of weeks ago,

Але пару тижнів тому,

I asked a bunch of friends to Google "Egypt"

Я попросив декількох свої друзів загуглити "Єгипет"

and to send me screen shots of what they got.

і надіслати мені скріншоти того, що вони отримали.

So here's my friend Scott's screen shot.

Ось скріншот мого друга Скотта.

And here's my friend Daniel's screen shot.

А ось скріншот мого друга Денієла.

When you put them side-by-side,

Коли ви поставите їх поруч,

you don't even have to read the links

вам навіть не потрібно читати посилання

to see how different these two pages are.

щоб, побачити які відмінні ці дві сторінки.

But when you do read the links,

Але коли ви прочитаєте посилання,

it's really quite remarkable.

це просто дивовижно.

Daniel didn't get anything about the protests in Egypt at all

Данієль зовсім не отримав результатів стосовно протестів у Єгипті

in his first page of Google results.

на першій сторінці результатів пошуку в Google.

Scott's results were full of them.

Результати Скотта були переповнені ними.

And this was the big story of the day at that time.

І це була велика новина на той час.

That's how different these results are becoming.

Ось наскільки різними стають результати пошуку.

So it's not just Google and Facebook either.

Але це стосується не тільки Google та Facebook.

This is something that's sweeping the Web.

Це щось таке, що пронизує Інтернет.

There are a whole host of companies that are doing this kind of personalization.

Існує ціла низка компаній, які роблять такого роду персоналізацію.

Yahoo News, the biggest news site on the Internet,

Yahoo News, найбільший сайт новин в Інтернеті,

is now personalized -- different people get different things.

тепер персоналізовано -- різні люди отримують різні новини.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, Washington Post, New York Times --

all flirting with personalization in various ways.

всі вони "фліртують" з персоналізацією по-різному.

And this moves us very quickly

І це дуже швидко скеровує нас

toward a world in which

до світу, в якому

the Internet is showing us what it thinks we want to see,

Інтернет показує нам те, що, на його думку, ми хочемо бачити,

but not necessarily what we need to see.

але не обов'язково те, що нам потрібно бачити.

As Eric Schmidt said,

Як Ерік Шмідт сказав:

"It will be very hard for people to watch or consume something

"Це стане дуже складним для людей, подивитися або спожити щось

that has not in some sense

що не було, певною мірою,

been tailored for them."

підігнане під них."

So I do think this is a problem.

Отже я вважаю, що це проблема.

And I think, if you take all of these filters together,

І я вважаю, що якщо взяти всі ці фільтри разом,

you take all these algorithms,

взяти всі ці алгоритми,

you get what I call a filter bubble.

ви отримаєте те що я називаю "фільтрова бульбашка".

And your filter bubble is your own personal,

І ваша фільтрова бульбашка є вашою власною, персональною,

unique universe of information

унікальною підмножиною інформації

that you live in online.

в якій ви живете онлайн.

And what's in your filter bubble

І те, що в середини вашої бульбашки

depends on who you are, and it depends on what you do.

залежить від того, хто ви і що ви робите.

But the thing is that you don't decide what gets in.

Але справа в тому, що ви не вирішуєте, що потрапить всередину.

And more importantly,

І набагато важливіше,

you don't actually see what gets edited out.

- ви навіть не бачити ту інформацію яка відфільтровується.

So one of the problems with the filter bubble

Отже одна з проблем з "фільтровою бульбашкою"

was discovered by some researchers at Netflix.

була виявлена дослідниками Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

А вони спостерігали черги відтворення в Netflix і помітили щось цікаве.

that a lot of us probably have noticed,

те, що, вірогідно, помічали багато з нас,

which is there are some movies

існують деякі фільми

that just sort of zip right up and out to our houses.

вони просто прослизають в наші будинки.

They enter the queue, they just zip right out.

Вони стають у чергу, і просто вистрілюють.

So "Iron Man" zips right out,

Отже "Iron Man" вистрілює,

and "Waiting for Superman"

а "Waiting for Superman"

can wait for a really long time.

може дійсно довго чекати.

What they discovered

Що вони виявили,

was that in our Netflix queues

це те, що в наший чергах Netfix

there's this epic struggle going on

відбувається ця епічна боротьба

between our future aspirational selves

між бажаними нами в майбутньому

and our more impulsive present selves.

і між більш імпульсивними нами теперішніми.

You know we all want to be someone

Ви знаєте, ми всі хочемо бути кимось

who has watched "Rashomon,"

хто дивився "Rashomon" (японський художній чорно-білий фільм 1950 року)

but right now

але саме зараз

we want to watch "Ace Ventura" for the fourth time.

ми хочемо, переглянути "Ейс Вентура" вчетверте.

(Laughter)

(Сміх)

So the best editing gives us a bit of both.

Тому ліпша редакція дає нам те, і інше.

It gives us a little bit of Justin Bieber

Воно дає нам трохи Джастіна Бібера

and a little bit of Afghanistan.

і трохи Афганістану.

It gives us some information vegetables;

Воно дає нам трохи "інформаційних овочів";

it gives us some information dessert.

воно дає нам трішки "інформаційного десерту".

And the challenge with these kinds of algorithmic filters,

І проблема з цими видами алгоритмічних фільтрів,

these personalized filters,

цих персоналізованих фільтрів,

is that, because they're mainly looking

в тім, що вони, переважно, беруть до уваги

at what you click on first,

те, на що ви натисли першим,

it can throw off that balance.

що може порушувати той баланс.

And instead of a balanced information diet,

І замість збалансованої "інформаційної дієти",

you can end up surrounded

ви можете опинитися в оточенні

by information junk food.

інформаційного фаст-фуду.

What this suggests

Це свідчить про те,

is actually that we may have the story about the Internet wrong.

що ми, направду, хибно зрозуміли цю історію про Інтернет.

In a broadcast society --

У "трансляційному" суспільстві --

this is how the founding mythology goes --

ось якою є його міфологія --

in a broadcast society,

у "трансляційному" суспільстві,

there were these gatekeepers, the editors,

були ті вартові, редактори,

and they controlled the flows of information.

і вони контролювали потоки інформації.

And along came the Internet and it swept them out of the way,

Та з'явився Інтернет, і змів їх зі свого шляху,

and it allowed all of us to connect together,

й це дозволило всім нам об'єднатися,

and it was awesome.

і це було дивовижно.

But that's not actually what's happening right now.

Але насправді це не зовсім те, що відбувається зараз.

What we're seeing is more of a passing of the torch

Що ми бачимо, більшою мірою - передача факелу

from human gatekeepers

від людей-брамарів

to algorithmic ones.

до алгоритмічних вартових.

And the thing is that the algorithms

І справа в тому, що алгоритми

don't yet have the kind of embedded ethics

ще не мають, чогось на зразок вбудованої етики

that the editors did.

яку мали редактори.

So if algorithms are going to curate the world for us,

Отже, якщо алгоритми будуть коригувати світ для нас,

if they're going to decide what we get to see and what we don't get to see,

якщо вони будуть вирішувати, що ми зможемо побачити, а що ні

then we need to make sure

тоді ми повинні упевнитися,

that they're not just keyed to relevance.

що вони не просто прив'язані до релевантності.

We need to make sure that they also show us things

Ми повинні пересвідчитись, що вони також покажуть нам речі

that are uncomfortable or challenging or important --

які є незручними, кидають виклик або просто важливі --

this is what TED does --

це те що робить TED --

other points of view.

інші точки зору.

And the thing is, we've actually been here before

А справа в тому, що ми насправді були тут раніше

as a society.

як суспільство.

In 1915, it's not like newspapers were sweating a lot

У 1915 році, не те щоб газети багато писали про

about their civic responsibilities.

громадські обов'язки.

Then people noticed

Тоді люди помітили

that they were doing something really important.

що вони роблять щось насправді дуже важливе.

That, in fact, you couldn't have

Насправді неможливо отримати

a functioning democracy

функціюючу демократію

if citizens didn't get a good flow of information,

якщо громадяни не отримають гарний потік інформації,

that the newspapers were critical because they were acting as the filter,

газети були критичними, тому що вони виступали в якості фільтру,

and then journalistic ethics developed.

а тоді розвинулася журналістська етика.

It wasn't perfect,

Вона не була досконалою,

but it got us through the last century.

але вона провела нас крізь минуле сторіччя.

And so now,

Тож тепер,

we're kind of back in 1915 on the Web.

ми, в якомусь сенсі, в Інтернеті ми знов опинилися в 1915 році.

And we need the new gatekeepers

І нам потрібні нові вартові,

to encode that kind of responsibility

котрі закодують той різновид відповідальність

into the code that they're writing.

в код який вони пишуть.

I know that there are a lot of people here from Facebook and from Google --

Я знаю, що тут є багато людей з Facebook і Google --

Larry and Sergey --

Ларрі і Сергій -

people who have helped build the Web as it is,

люди, які допомогли побудувати Інтернет в тому вигляді, який існує зараз,

and I'm grateful for that.

і я вдячний за це.

But we really need you to make sure

Але ми дійсно повинні переконатися,

that these algorithms have encoded in them

що в цих алгоритмах закодовано

a sense of the public life, a sense of civic responsibility.

відчуття публічного життя, відчуття громадської відповідальності.

We need you to make sure that they're transparent enough

Ми хочемо, щоб ви впевнились, що вони достатньо прозорі,

that we can see what the rules are

і ми можемо побачити які правила вони використовують,

that determine what gets through our filters.

обумовлюючи те, що проривається крізь наші фільтри.

And we need you to give us some control

І нам потрібно, щоб ви дали нам певний контроль,

so that we can decide

так, щоб ми могли вирішувати

what gets through and what doesn't.

що проходить крізь фільтри, а що ні.

Because I think

Бо я вважаю

we really need the Internet to be that thing

нам дійсно потрібно, щоб Інтернет був тим,

that we all dreamed of it being.

про що ми всі мріяли.

We need it to connect us all together.

Нам потрібно, щоб він всіх нас поєднав.

We need it to introduce us to new ideas

Нам потрібно, щоб він представляв нам нові ідеї,

and new people and different perspectives.

нових людей і відмінні перспективи.

And it's not going to do that

Але він не зможе цьог о зробити,

if it leaves us all isolated in a Web of one.

якщо залишить нас в ізоляції "Мережі на одну особу".

Thank you.

Дякую за увагу.

(Applause)

(Оплески)