Beware online "filter bubbles" | Eli Pariser

Eli Pariser: Thận trọng với những "bong bóng lọc"

Translator: Minh Dung Tran Reviewer: Minh Trang Lai

Mark Zuckerberg,

Mark Zuckerberg,

a journalist was asking him a question about the news feed.

một phóng viên đã hỏi ông một câu hỏi liên quan đến các thông tin cập nhật trên Facebook (news feed)

And the journalist was asking him,

người phóng viên đó hỏi,

"Why is this so important?"

"Tại sao chúng lại quan trọng đến vậy?"

And Zuckerberg said,

Và Zuckerberg đã trả lời,

"A squirrel dying in your front yard

"1 con sóc chết ở sân trước nhà bạn

may be more relevant to your interests right now

có thể liên quan đến những mối quan tâm của bạn lúc này

than people dying in Africa."

hơn là những người chết ở châu Phi."

And I want to talk about

Và tôi muốn đề cập tới

what a Web based on that idea of relevance might look like.

một trang web dựa trên ý tưởng về sự liên quan ấy sẽ như thế nào.

So when I was growing up

Khi tôi lớn lên

in a really rural area in Maine,

ở 1 vùng nông thôn thuộc Maine,

the Internet meant something very different to me.

Internet là là một điều gì đó thực sự khác biệt.

It meant a connection to the world.

Đó là sự liên kết với thế giới,

It meant something that would connect us all together.

Đó là điều gì đó có thể kết nối tất cả chúng ta với nhau.

And I was sure that it was going to be great for democracy

Và tôi chắc rằng nó sẽ thật tuyệt đối với nền dân chủ

and for our society.

và cho xã hội của chúng ta.

But there's this shift

Nhưng rồi có 1 sự thay đổi

in how information is flowing online,

trong việc luân chuyển các thông tin trên mạng,

and it's invisible.

và nó diễn ra một cách thầm lặng.

And if we don't pay attention to it,

Và nếu chúng ta ko để ý tới nó,

it could be a real problem.

nó có thể trở thành 1 vấn đề thực sự.

So I first noticed this in a place I spend a lot of time --

Tôi chú ý tới điều này lần đầu tiên ở 1 nơi mà tôi đã dành rất nhiều thời gian --

my Facebook page.

Facebook của tôi.

I'm progressive, politically -- big surprise --

Tôi là người tiến bộ, về mặt chính trị -- bất ngờ lớn phải không --

but I've always gone out of my way to meet conservatives.

nhưng tôi luôn luôn tìm gặp những người bảo thủ.

I like hearing what they're thinking about;

Tôi thích nghe những điều họ đang nghĩ tới;

I like seeing what they link to;

tôi muốn thấy họ liên kết với cái gì;

I like learning a thing or two.

tôi muốn học được 1 điều gì đó.

And so I was surprised when I noticed one day

Và tôi thực sự ngạc nhiên khi tới 1 ngày, tôi nhận ra

that the conservatives had disappeared from my Facebook feed.

rằng những người bảo thủ dần biến mất trong phần cập nhật Facebook của tôi.

And what it turned out was going on

Hóa ra là

was that Facebook was looking at which links I clicked on,

Facebook đã quan sát những đường link mà tôi đã truy cập,

and it was noticing that, actually,

và nhận ra rằng

I was clicking more on my liberal friends' links

tôi đã truy cập vào các đường link của những người theo chủ nghĩa tự do nhiều hơn

than on my conservative friends' links.

là của những người bảo thủ.

And without consulting me about it,

Không hề hỏi ý kiến tôi về điều này,

it had edited them out.

Facebook đã tự loại bỏ họ.

They disappeared.

Và rồi họ biến mất.

So Facebook isn't the only place

Facebook không phải là nơi duy nhất

that's doing this kind of invisible, algorithmic

làm những công việc biên tập vô hình, dựa trên những thuật toán,

editing of the Web.

cho trang web của họ.

Google's doing it too.

Google cũng đang làm điều tương tự.

If I search for something, and you search for something,

Nếu tôi tìm kiếm điều gì đó, và bạn cũng tìm kiếm 1 điều tương tự,

even right now at the very same time,

thậm chí là ngay bây giờ, tại cùng 1 thời điểm,

we may get very different search results.

chúng ta có thể sẽ nhận được những kết quả rất khác nhau.

Even if you're logged out, one engineer told me,

Thậm chí nếu bạn đã đăng xuất, 1 kĩ sư đã nói với tôi,

there are 57 signals

có tới 57 dấu hiệu

that Google looks at --

để Google quan sát --

everything from what kind of computer you're on

từ loại máy tính mà bạn đang dùng,

to what kind of browser you're using

trình duyệt bạn sử dụng

to where you're located --

cho tới vị trí của bạn --

that it uses to personally tailor your query results.

họ đã sử dụng chúng để điều chỉnh các kết quả tìm kiếm cho phù hợp với cá nhân bạn.

Think about it for a second:

Hãy nghĩ về điều này 1 chút --

there is no standard Google anymore.

không còn 1 Google chuẩn nữa đâu.

And you know, the funny thing about this is that it's hard to see.

Và bạn biết đấy, điều khôi hài là thực sự rất khó để nhận ra nó.

You can't see how different your search results are

Bạn không thể biết các kết quả của bạn khác biệt thế nào

from anyone else's.

so với của 1 người khác.

But a couple of weeks ago,

Nhưng khoảng hai tuần trước,

I asked a bunch of friends to Google "Egypt"

tôi đã đề nghị 1 nhóm bạn cùng tìm kiếm trên Google với từ khóa "Egypt" (Ai Cập)

and to send me screen shots of what they got.

rồi gửi tôi bản chụp màn hình mà họ có.

So here's my friend Scott's screen shot.

Và đây là bản chụp từ anh bạn Scott của tôi.

And here's my friend Daniel's screen shot.

Còn đây là của Daniel.

When you put them side-by-side,

Khi tôi đặt chúng cạnh nhau,

you don't even have to read the links

thậm chí bạn không cần đọc những đường link

to see how different these two pages are.

để thấy chúng khác nhau đến thế nào.

But when you do read the links,

Nhưng khi bạn đọc những đường link này,

it's really quite remarkable.

chúng khá là khác thường đấy.

Daniel didn't get anything about the protests in Egypt at all

Daniel không hề nhận được bất kỳ thứ gì về cuộc biểu tình ở Ai Cập

in his first page of Google results.

ở trang đầu tiên của kết quả tìm kiếm.

Scott's results were full of them.

Còn của Scott thì đầy những thứ như vậy.

And this was the big story of the day at that time.

Và đây thực sự là 1 vấn đề lớn ở thời điểm này,

That's how different these results are becoming.

về việc các kết quả tìm kiếm đang trở nên khác nhau như thế nào.

So it's not just Google and Facebook either.

Không chỉ là Google hay Facebook đâu.

This is something that's sweeping the Web.

Đó là 1 thứ đang lan tràn trong các trang web.

There are a whole host of companies that are doing this kind of personalization.

Có rất nhiều công ty đang thực hiện việc cá nhân hóa như vậy.

Yahoo News, the biggest news site on the Internet,

Yahoo News, trang tin tức lớn nhất trên mạng,

is now personalized -- different people get different things.

đang được cá nhân hóa -- những người khác nhau sẽ nhận được những thứ khác nhau.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, the Washington Post, the New York Times --

all flirting with personalization in various ways.

tất cả đều đang thực hiện việc cá nhân hóa theo nhiều cách khác nhau.

And this moves us very quickly

Và nó hướng chúng ta, 1 cách rất nhanh chóng,

toward a world in which

tới 1 thế giới mà ở đó

the Internet is showing us what it thinks we want to see,

Internet sẽ cho chúng ta thấy cái mà nó nghĩ chúng ta muốn thấy,

but not necessarily what we need to see.

nhưng không phải luôn là những gì chúng ta cần.

As Eric Schmidt said,

Như Eric Schimidt đã nói,

"It will be very hard for people to watch or consume something

"Se rất khó khăn cho mọi người để xem hay sử dụng một thứ

that has not in some sense

mà chưa hề

been tailored for them."

được điều chỉnh để phù hợp với họ."

So I do think this is a problem.

Và tôi cho rằng đây chính là vấn đề.

And I think, if you take all of these filters together,

Tôi cho rằng, nếu chúng ta để tất cả những hệ thống "lọc" này lại với nhau,

you take all these algorithms,

cùng với tất cả những thuật toán,

you get what I call a filter bubble.

chúng ta sẽ nhận được cái mà tôi gọi là "bong bóng lọc." (filter bubble)

And your filter bubble is your own personal,

Và cái bong bóng lọc của bạn là một thế giới thông tin

unique universe of information

duy nhất của riêng bạn

that you live in online.

mà bạn sống trong đó trên thế giới mạng.

And what's in your filter bubble

Và những thứ có trong đó

depends on who you are, and it depends on what you do.

phụ thuộc vào việc bạn là ai, và bạn làm gì.

But the thing is that you don't decide what gets in.

Nhưng vấn đề là bạn không thể quyết định điều gì sẽ được đưa vào.

And more importantly,

Và quan trọng hơn,

you don't actually see what gets edited out.

bạn thực sự không thể thấy điều gì đã được bỏ đi.

So one of the problems with the filter bubble

Và một trong những vấn đề đối với bong bóng lọc

was discovered by some researchers at Netflix.

đã được phát hiện bởi 1 nhóm các nhà nghiên cứu ở Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

Khi họ quan sát các hàng đợi tại Netflix, họ nhận ra 1 điều rất khôi hài

that a lot of us probably have noticed,

như phần lớn chúng ta đã nhận thấy,

which is there are some movies

đó là có 1 số bộ phim

that just sort of zip right up and out to our houses.

bằng cách nào đó đã được sắp xếp để đưa đến cho chúng ta

They enter the queue, they just zip right out.

Những bộ phim này được đưa vào hàng đợi, và sẽ được đưa ra một cách nhanh chóng.

So "Iron Man" zips right out,

Và "Người sắt" (Iron Man) được đưa ra,

and "Waiting for Superman"

và "Waiting for Superman"

can wait for a really long time.

cũng ko phải đợi lâu.

What they discovered

Cái mà họ khám phá ra

was that in our Netflix queues

là trong những hàng đợi Netflix của chúng ta

there's this epic struggle going on

có 1 cuộc đấu tranh lớn đang diễn ra

between our future aspirational selves

giữa những điều mong muốn lâu dài

and our more impulsive present selves.

và những ý muốn nhất thời.

You know we all want to be someone

Bạn biết tất cả chúng ta đều muốn là người

who has watched "Rashomon,"

đã xem "Rashomon,"

but right now

nhưng ngay lúc này

we want to watch "Ace Ventura" for the fourth time.

chúng ta lại muốn xem "Ace Ventura" lần thứ tư.

(Laughter)

(Tiếng cười)

So the best editing gives us a bit of both.

Vậy nên sự biên tập tốt nhất cần đưa đến cho chúng ta 1 phần từ cả 2.

It gives us a little bit of Justin Bieber

Nó đưa đến cho chúng 1 chút về Justin Bieber

and a little bit of Afghanistan.

và 1 chút về Afghanistan.

It gives us some information vegetables;

Nó mang đến 1 vài thông tin về rau quả,

it gives us some information dessert.

và 1 vài thông tin về bữa tráng miệng.

And the challenge with these kinds of algorithmic filters,

Và sự thách thức đối với những bộ lọc dựa trên thuật toán,

these personalized filters,

những bộ lọc hướng tới cá nhân này,

is that, because they're mainly looking

chính là, bởi vì chúng hầu như chỉ quan sát

at what you click on first,

những thứ chúng ta truy cập đầu tiên,

it can throw off that balance.

nó có thể loại bỏ sự cân bằng đó.

And instead of a balanced information diet,

Thay vì nhận được thông tin về một bữa ăn cân bằng,

you can end up surrounded

bạn có thể bị bao vây

by information junk food.

bởi thông tin về đủ thứ thức ăn tạp nham.

What this suggests

Qua đó chúng ta có thể thấy

is actually that we may have the story about the Internet wrong.

rằng thực tế chúng ta có vấn đề với những sai lầm của Internet.

In a broadcast society --

Trong thế giới truyền hình --

this is how the founding mythology goes --

đó là cách mà những điều không thể tưởng tượng được đang diễn ra --

in a broadcast society,

trong thế giới truyền hình,

there were these gatekeepers, the editors,

có những người gác cửa, những biên tập viên,

and they controlled the flows of information.

họ kiểm soát các luồng thông tin.

And along came the Internet and it swept them out of the way,

Rồi internet ra đời, nó thổi bay họ đi

and it allowed all of us to connect together,

và nó cho phép chúng ta liên kết với nhau,

and it was awesome.

điều đó thật tuyệt vời.

But that's not actually what's happening right now.

Nhưng đó không hẳn là những gì đang diễn ra lúc này.

What we're seeing is more of a passing of the torch

Những gì chúng ta thấy dường như là sự truyền đi ngọn đuốc

from human gatekeepers

từ những người gác cửa

to algorithmic ones.

tới những cơ chế dựa trên thuật toán.

And the thing is that the algorithms

Và vấn đề là những thuật toán này

don't yet have the kind of embedded ethics

chưa được cài đặt trong nó những quy tắc xử thế

that the editors did.

như là những nhà biên tập đã làm.

So if algorithms are going to curate the world for us,

Vậy nếu những thuật toán tổ chức thế giới cho chúng ta,

if they're going to decide what we get to see and what we don't get to see,

nếu chúng quyết định cái chúng ta được thấy và không được thấy,

then we need to make sure

thì chúng ta cần chắc chắn rằng

that they're not just keyed to relevance.

chúng không chỉ hướng tới với sự liên quan.

We need to make sure that they also show us things

Chúng ta cần chắc chắn rằng chúng đồng thời chỉ ra

that are uncomfortable or challenging or important --

những thứ không dễ chịu hay đầy thử thách hay quan trọng --

this is what TED does --

đó là điều mà TED đang làm --

other points of view.

những quan điểm khác biệt.

And the thing is, we've actually been here before

Và chúng ta thực sự đã ở đây từ trước đó

as a society.

như là 1 xã hội.

In 1915, it's not like newspapers were sweating a lot

Vào năm 1915, không nhiều tờ báo đổ mồ hôi công sức

about their civic responsibilities.

cho những trách nhiệm công dân của họ.

Then people noticed

Rồi họ nhận ra rằng

that they were doing something really important.

mình đang làm 1 việc thực sự quan trọng.

That, in fact, you couldn't have

Rằng, trong thực tế, bạn không thể có được

a functioning democracy

một nền dân chủ thực sự

if citizens didn't get a good flow of information,

nếu công dân không nhận được những luồng thông tin tốt.

that the newspapers were critical because they were acting as the filter,

Rằng những tờ báo là quan trọng, bởi vì chúng đóng vai trò như 1 bộ lọc,

and then journalistic ethics developed.

rồi đạo đức nhà báo được nâng lên.

It wasn't perfect,

Nó đã chưa thực sự hoàn hảo,

but it got us through the last century.

nhưng nó đã đi cùng chúng ta trong suốt thế kỷ trước.

And so now,

Và tới giờ,

we're kind of back in 1915 on the Web.

chúng ta dường như quay trở lại năm 1915 với các trang web.

And we need the new gatekeepers

Và chúng ta cần những người gác cửa mới

to encode that kind of responsibility

để mã hóa trách nhiệm đó

into the code that they're writing.

thành những dòng mã nguồn mà họ đang viết.

I know that there are a lot of people here from Facebook and from Google --

Tôi biết rằng có rất nhiều người ở đây đang làm việc cho Facebook và Google --

Larry and Sergey --

như Larry và Sergey --

people who have helped build the Web as it is,

những người đã góp phần xây dựng nên nền tảng web như bây giờ,

and I'm grateful for that.

và tôi thực sự biết ơn về điều đó.

But we really need you to make sure

Nhưng chúng tôi cần các bạn chắc chắn rằng

that these algorithms have encoded in them

những thuật toán này sẽ được mã hóa trong chúng

a sense of the public life, a sense of civic responsibility.

một ý thức về cuộc sống cộng đồng, một ý thức về trách nhiệm công dân.

We need you to make sure that they're transparent enough

Chúng tôi cần các bạn chắc chắn rằng, chúng đủ rõ ràng

that we can see what the rules are

để chúng tôi có thể nhìn thấy những quy tắc

that determine what gets through our filters.

quyết định những gì sẽ đi qua hệ thống lọc của các bạn.

And we need you to give us some control

Và chúng tôi cần các bạn cung cấp cho chúng tôi sự kiểm soát,

so that we can decide

để chúng tôi có thể quyết định

what gets through and what doesn't.

điều gì sẽ bị lọc hay không.

Because I think

Bởi vì tôi cho rằng

we really need the Internet to be that thing

chúng ta thực sự cần Internet như là 1 thứ

that we all dreamed of it being.

mà chúng ta từng mơ tới.

We need it to connect us all together.

Chúng ta cần nó để liên kết tất cả mọi người lại.

We need it to introduce us to new ideas

Chúng ta cần nó để giới thiệu với chúng ta những ý tưởng mới,

and new people and different perspectives.

những con người mới và những triển vọng mới.

And it's not going to do that

Và nó sẽ không như vậy

if it leaves us all isolated in a Web of one.

nếu nó khiến chúng ta bị cách ly trong 1 hệ thống web của cá nhân.

Thank you.

Cảm ơn các bạn.

(Applause)

(Vỗ tay)