Beware online "filter bubbles" | Eli Pariser

Translator: Amir Sudjono Reviewer: Irma Amelia

Mark Zuckerberg,

Mark Zuckerberg,

a journalist was asking him a question about the news feed.

seorang wartawan menanyakan padanya pertanyaan tentang feed berita.

And the journalist was asking him,

Dan wartawan itu menanyakan kepadanya,

"Why is this so important?"

"Mengapa ini sangat penting?"

And Zuckerberg said,

Dan Zuckerberg menjawab,

"A squirrel dying in your front yard

"Seekor tupai yang sekarat di halaman depan Anda

may be more relevant to your interests right now

mungkin lebih relevan dengan minat Anda sekarang

than people dying in Africa."

dibandingkan orang-orang sekarat di Afrika."

And I want to talk about

Dan saya ingin berbicara tentang

what a Web based on that idea of relevance might look like.

bagaimana sebuah Web yang didasari pemikiran relevansi itu akan terlihat.

So when I was growing up

Ketika saya tumbuh dewasa

in a really rural area in Maine,

di daerah yang sangat pedesaan di Maine,

the Internet meant something very different to me.

Internet berarti sangat berbeda bagi saya.

It meant a connection to the world.

Ia berarti koneksi ke dunia.

It meant something that would connect us all together.

Ia berarti sesuatu yang dapat menghubungkan kita semua.

And I was sure that it was going to be great for democracy

Dan saya yakin Internet akan sangat bagus untuk demokrasi

and for our society.

dan untuk masyarakat kita.

But there's this shift

Tetapi ada perubahan

in how information is flowing online,

dalam bagaimana informasi mengalir online,

and it's invisible.

dan ini tidak terlihat.

And if we don't pay attention to it,

Dan jika kita tidak memperhatikannya,

it could be a real problem.

ini dapat menjadi masalah nyata.

So I first noticed this in a place I spend a lot of time --

Jadi pertama kali saya memperhatikan ini di tempat saya menghabiskan banyak waktu --

my Facebook page.

halaman Facebook saya.

I'm progressive, politically -- big surprise --

Saya progresif secara politik -- kejutan besar --

but I've always gone out of my way to meet conservatives.

tetapi saya selalu berusaha untuk bertemu dengan para konservatif

I like hearing what they're thinking about;

Saya suka mendengar apa yang mereka pikirkan;

I like seeing what they link to;

Saya suka melihat yang mereka tautkan;

I like learning a thing or two.

Saya suka belajar satu dua hal.

And so I was surprised when I noticed one day

Dan saya terkejut waktu satu hari saya perhatikan

that the conservatives had disappeared from my Facebook feed.

bahwa para konservatif telah menghilang dari Facebook feed saya.

And what it turned out was going on

Dan ternyata yang terjadi

was that Facebook was looking at which links I clicked on,

adalah bahwa Facebook melihat tautan mana yang saya klik,

and it was noticing that, actually,

dan FB mengetahui bahwa, sebenarnya,

I was clicking more on my liberal friends' links

Saya mengklik lebih banyak tautan dari teman-teman liberal saya

than on my conservative friends' links.

dibanding tautan dari teman-teman konservatif saya.

And without consulting me about it,

Dan tanpa menanyakan saya tentang itu,

it had edited them out.

mereka telah diedit.

They disappeared.

Tautan ini menghilang.

So Facebook isn't the only place

Jadi Facebook bukanlah tempat satu-satunya

that's doing this kind of invisible, algorithmic

yang melakukan pengeditan secara tidak terlihat, secara algoritmik

editing of the Web.

terhadap Web.

Google's doing it too.

Google juga melakukannya.

If I search for something, and you search for something,

Jika saya mencari sesuatu, dan Anda mencari sesuatu,

even right now at the very same time,

bahkan sekarang pada saat yang bersamaan,

we may get very different search results.

kita akan mendapatkan hasil pencarian yang sangat berbeda.

Even if you're logged out, one engineer told me,

Bahkan jika Anda telah keluar, seorang insinyur mengatakan kepada saya,

there are 57 signals

ada 57 sinyal

that Google looks at --

yang Google lihat --

everything from what kind of computer you're on

semua dari komputer apa yang Anda dipakai,

to what kind of browser you're using

dari browser apa yang dipakai Anda,

to where you're located --

dimana Anda berada --

that it uses to personally tailor your query results.

yang dipakai untuk menyesuaikan hasil pertanyaan Anda.

Think about it for a second:

Pikirkanlah sebentar:

there is no standard Google anymore.

sudah tidak ada Google standar lagi.

And you know, the funny thing about this is that it's hard to see.

Dan tahukah Anda, yang lucu dari hal ini adalah ini sulit untuk dilihat.

You can't see how different your search results are

Anda tidak dapat melihat bagaimana hasil pencarian Anda berbeda

from anyone else's.

dari orang lain.

But a couple of weeks ago,

Tetapi dua minggu lalu,

I asked a bunch of friends to Google "Egypt"

Saya tanya beberapa orang untuk mencari "Mesir" di Google

and to send me screen shots of what they got.

dan mengirimkan saya gambar layar yang mereka dapatkan.

So here's my friend Scott's screen shot.

Jadi ini gambar layar milik Scott teman saya.

And here's my friend Daniel's screen shot.

Dan ini gambar layar milik teman saya Daniel.

When you put them side-by-side,

Jika Anda letakan mereka berdekatan,

you don't even have to read the links

Anda tidak harus melihat tautannya

to see how different these two pages are.

untuk melihat bagaimana dua halaman ini berbeda.

But when you do read the links,

Tapi jika Anda membaca tautannya,

it's really quite remarkable.

ini sangat luar biasa.

Daniel didn't get anything about the protests in Egypt at all

Daniel tidak mendapatkan apapun tentang protes di Mesir

in his first page of Google results.

di halaman pertama hasil pencarian Googlenya.

Scott's results were full of them.

Di hasil Scott ada banyak sekali.

And this was the big story of the day at that time.

Dan inilah cerita besar di hari itu.

That's how different these results are becoming.

Itulah bagaimana hasil pencarian ini menjadi berbeda.

So it's not just Google and Facebook either.

Jadi ini bukan hanya Google dan Facebook saja.

This is something that's sweeping the Web.

Ini adalah sesuatu yang melanda seluruh Web.

There are a whole host of companies that are doing this kind of personalization.

Ada banyak perusahaan yang melakukan personalisasi semacam ini.

Yahoo News, the biggest news site on the Internet,

Yahoo News, portal berita terbesar di Internet,

is now personalized -- different people get different things.

sekarang sudah dipersonalisasi -- orang berbeda mendapat hasil berbeda.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, Washington Post, New York Times --

all flirting with personalization in various ways.

semuanya melakukan personalisasi dengan bermacam cara.

And this moves us very quickly

Dan ini mengantarkan kita dengan sangat cepat

toward a world in which

ke dunia dimana

the Internet is showing us what it thinks we want to see,

Internet memperlihatkan ke kita apa yang ia pikir kita mau lihat,

but not necessarily what we need to see.

tetapi bukan berarti yang kita perlu lihat.

As Eric Schmidt said,

Seperti yang Eric Schmidt katakan,

"It will be very hard for people to watch or consume something

"Akan sangat sulit bagi orang-orang untuk melihat atau mengkonsumsi sesuatu

that has not in some sense

yang dalam arti tertentu belum

been tailored for them."

disesuaikan untuk mereka."

So I do think this is a problem.

Jadi saya pikir ini adalah suatu masalah.

And I think, if you take all of these filters together,

Dan saya pikir, jika Anda ambil semua filter ini,

you take all these algorithms,

Anda ambil semua algoritma ini,

you get what I call a filter bubble.

Anda mendapatkan yang saya sebut gelembung filter.

And your filter bubble is your own personal,

Dan gelembung filter Anda adalah dunia informasi milik Anda sendiri

unique universe of information

yang unik

that you live in online.

yang anda tinggali waktu online.

And what's in your filter bubble

Dan apa yang ada di gelembung filter Anda

depends on who you are, and it depends on what you do.

tergantung dari siapa Anda, dan tergantung pada apa yang Anda lakukan.

But the thing is that you don't decide what gets in.

Tetapi masalahnya Anda tidak memutuskan apa yang masuk.

And more importantly,

Dan lebih penting lagi,

you don't actually see what gets edited out.

Anda tidak melihat apa yang disunting keluar.

So one of the problems with the filter bubble

Jadi salah satu masalah dari gelembung filter

was discovered by some researchers at Netflix.

ditemukan oleh beberapa peneliti di Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

Mereka melihat antrian Netflix, dan mereka menemukan sesuatu yang lucu

that a lot of us probably have noticed,

yang banyak dari kita mungkin perhatikan,

which is there are some movies

yaitu ada beberapa film

that just sort of zip right up and out to our houses.

yang sepertinya langsung terkirim ke rumah kita.

They enter the queue, they just zip right out.

Mereka masuk ke antrian, dan mereka langsung terkirim.

So "Iron Man" zips right out,

Jadi "Iron Man" langsung terkirim,

and "Waiting for Superman"

dan "Waiting for Superman"

can wait for a really long time.

dapat menunggu untuk waktu yang sangat lama.

What they discovered

Yang mereka temukan

was that in our Netflix queues

adalah di antrian Netflix kami

there's this epic struggle going on

ada perjuangan hebat yang terjadi

between our future aspirational selves

antara diri kita yang aspiratif di masa mendatang

and our more impulsive present selves.

dan diri kita yang impulsif di masa sekarang.

You know we all want to be someone

Anda tahu kita semua mau untuk menjadi seseorang

who has watched "Rashomon,"

yang telah menonton "Rashomon,"

but right now

tetapi sekarang

we want to watch "Ace Ventura" for the fourth time.

kita ingin menonton "Ace Ventura" untuk keempat kalinya.

(Laughter)

(Tawa)

So the best editing gives us a bit of both.

Jadi pengeditan yang terbaik memberi kita keduanya.

It gives us a little bit of Justin Bieber

Ia memberi kita sedikit Justin Beiber

and a little bit of Afghanistan.

dan sedikit Afghanistan.

It gives us some information vegetables;

Ia memberi kita beberapa sayuran informasi,

it gives us some information dessert.

Ia memberi kita beberapa makanan penutup informasi.

And the challenge with these kinds of algorithmic filters,

Dan tantangannya dengan sejenis filter algoritmik ini,

these personalized filters,

filter yang telah disesuaikan seperti ini,

is that, because they're mainly looking

adalah, karena mereka pada dasarnya mencari

at what you click on first,

apa yang Anda klik pertama kali,

it can throw off that balance.

itu akan menjadikannya tidak seimbang.

And instead of a balanced information diet,

Dan bukannya informasi diet seimbang,

you can end up surrounded

Anda akhirnya dapat terkepung

by information junk food.

oleh informasi junk food.

What this suggests

Apa yang ini tunjukkan

is actually that we may have the story about the Internet wrong.

adalah nyatanya kita mungkin telah mendapatkan cerita tentang Internet dengan salah.

In a broadcast society --

Di masyarakat penyiaran --

this is how the founding mythology goes --

ini adalah bagaimana mitologi pendiri mengatakan --

in a broadcast society,

di masyarakat siaran,

there were these gatekeepers, the editors,

ada penjaga gerbang, sang editor,

and they controlled the flows of information.

dan mereka mengkontrol aliran informasi.

And along came the Internet and it swept them out of the way,

Dan akhirnya datang Internet dan ia menyapu mereka keluar,

and it allowed all of us to connect together,

dan ia memungkinkan kita untuk terhubung satu sama lain,

and it was awesome.

dan ini sangat luar biasa.

But that's not actually what's happening right now.

Tetapi ini bukanlah apa yang nyatanya terjadi sekarang.

What we're seeing is more of a passing of the torch

Apa yang kita lihat adalah pemindahan obor

from human gatekeepers

dari penjaga gerbang manusia

to algorithmic ones.

ke penjaga gawang algoritmik.

And the thing is that the algorithms

Dan masalahnya adalah algoritma

don't yet have the kind of embedded ethics

belum memiliki etika yang tersirat

that the editors did.

yang para editor punya.

So if algorithms are going to curate the world for us,

Jadi jika algoritma akan menyediakan dunia untuk kita,

if they're going to decide what we get to see and what we don't get to see,

jika mereka akan memutuskan apa yang dapat kita lihat dan apa yang tidak bisa kita lihat,

then we need to make sure

jadi kita perlu untuk memastikan

that they're not just keyed to relevance.

bahwa mereka bukan saja diprogram untuk relevansi.

We need to make sure that they also show us things

Kita perlu pastikan bahwa mereka juga menunjukan kita hal-hal

that are uncomfortable or challenging or important --

yang tidak nyaman atau menantang atau penting --

this is what TED does --

inilah yang TED lakukan --

other points of view.

sudut pandang orang lain.

And the thing is, we've actually been here before

Dan sebenarnya kita pernah berada disini sebelumnya

as a society.

sebagai sebuah masyarakat.

In 1915, it's not like newspapers were sweating a lot

Di 1915, tidaklah seperti koran memikirkan banyak

about their civic responsibilities.

tentang tanggung jawab mereka sebagai warna negara.

Then people noticed

Lalu orang-orang memperhatikan

that they were doing something really important.

Bahwa mereka melakukan sesuatu yang sangat penting.

That, in fact, you couldn't have

Bahwa, sesungguhnya, Anda tidak bisa mendapatkan

a functioning democracy

demokrasi yang berfungsi

if citizens didn't get a good flow of information,

jika warga negaranya tidak mendapatkan aliran informasi yang baik.

that the newspapers were critical because they were acting as the filter,

Koran sangat penting, karena mereka bertindak sebagai filter,

and then journalistic ethics developed.

dan akhirnya etika wartawan terbentuk.

It wasn't perfect,

Itu tidak sempurna,

but it got us through the last century.

tetap berhasil membawa kita melewati seabad terakhir.

And so now,

Dan sekarang,

we're kind of back in 1915 on the Web.

kita seperti kembali di tahun 1915 di Web.

And we need the new gatekeepers

Dan kita perlu penjaga gerbang baru

to encode that kind of responsibility

untuk mengkode tanggung jawab seperti ini

into the code that they're writing.

menjadi kode yang mereka tulis.

I know that there are a lot of people here from Facebook and from Google --

Saya tahu banyak orang di sini dari Facebook atau Google --

Larry and Sergey --

Larry dan Sergey --

people who have helped build the Web as it is,

orang-orang yang telah membantu kita membangun Web seperti sekarang,

and I'm grateful for that.

dan saya berterima kasih untuk itu.

But we really need you to make sure

Tetapi kami sangat memerlukan Anda untuk memastikan

that these algorithms have encoded in them

bahwa algoritma-algoritma ini memiliki kode

a sense of the public life, a sense of civic responsibility.

rasa dari kehidupan publik, rasa tanggung jawab kewarganegaraan.

We need you to make sure that they're transparent enough

Kita perlu Anda untuk memastikan bahwa mereka cukup transparan

that we can see what the rules are

sehingga kita dapat melihat aturan-aturan

that determine what gets through our filters.

yang menentukan apa yang bisa melewati filter kita.

And we need you to give us some control

Dan kita butuh Anda untuk memberi kita kontrol,

so that we can decide

sehingga kita bisa memutuskan

what gets through and what doesn't.

apa yang bisa lewat dan apa yang tidak.

Because I think

Karena saya pikir

we really need the Internet to be that thing

kita sangat membutuhkan Internet untuk menjadi sesuatu

that we all dreamed of it being.

yang kita impikan.

We need it to connect us all together.

Kita membutuhkannya untuk menghubungkan kita semua.

We need it to introduce us to new ideas

Kita membutuhkannya untuk memperkenalkan kita kepada pemikiran baru

and new people and different perspectives.

dan orang-orang baru dan perspektif berbeda.

And it's not going to do that

Dan itu tidak akan terjadi

if it leaves us all isolated in a Web of one.

jika kita menjadi terisolasi di satu Web.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)