The moral bias behind your search results | Andreas Ekström

Translator: Huong Do Thu Reviewer: Thùy Linh

Mỗi khi đến thăm một ngôi trường nào đó và nói chuyện với sinh viên

So whenever I visit a school and talk to students,

I always ask them the same thing:

Tôi luôn hỏi họ cùng một câu hỏi

Why do you Google?

Tại sao bạn sử dụng Google?

Why is Google the search engine of choice for you?

Tại sao bạn chọn Google là công cụ tìm kiếm cho mình?

Strangely enough, I always get the same three answers.

Điều kì lạ là, tôi luôn nhận được cùng ba câu trả lời

One, "Because it works,"

Thứ nhất, "Vì nó mang lại kết quả"

which is a great answer; that's why I Google, too.

Một câu trả lời rất thú vị, và đó chính là lý do vì sao tôi cũng chọn Google

Two, somebody will say,

Thứ hai, một vài người sẽ nói

"I really don't know of any alternatives."

"Tôi thật sự không tìm thấy công cụ thay thế nào khác

It's not an equally great answer and my reply to that is usually,

Theo tôi câu trả lời này không thỏa đáng, và thường đáp lại rằng

"Try to Google the word 'search engine,'

"Thế thì bạn hãy thử Google từ 'công cụ tìm kiếm' xem"

you may find a couple of interesting alternatives."

bạn chắc chắn sẽ tìm thấy rất nhiều công cụ tìm kiếm thú vị khác đấy

And last but not least, thirdly,

Thứ ba, cuối cùng nhưng không kém phần quan trọng

inevitably, one student will raise her or his hand and say,

hiển nhiên là một học sinh giơ tay lên và nói

"With Google, I'm certain to always get the best, unbiased search result."

"Tìm kiếm bằng Google, tôi luôn chắc chắn rằng mình sẽ nhận được những kết quả khách quan nhất"

Certain to always get the best, unbiased search result.

Chắc chắn sẽ luôn nhận được kết quả tốt và khách quan nhất

Now, as a man of the humanities,

Ngay lúc này, với tư cách là một con người trong nhân loại,

albeit a digital humanities man,

dù là một người trong thời đại kỹ thuật số

that just makes my skin curl,

thì điều đó cũng làm tôi thấy sởn gai ốc

even if I, too, realize that that trust, that idea of the unbiased search result

Kể cả khi tôi cũng nhận ra rằng sự thật đó, ý tưởng về các kết quả tìm kiếm không thiên vị

is a cornerstone in our collective love for and appreciation of Google.

là nền tảng của tình yêu chung của chúng ta đối với, và trân trọng Google.

I will show you why that, philosophically, is almost an impossibility.

Tôi sẽ cho các bạn thấy lý do tại sao, theo triết học, đây gần như là điều không thể

But let me first elaborate, just a little bit, on a basic principle

Nhưng trước hết hãy để tôi giải thích một chút, dựa trên một nguyên tắc cơ bản

behind each search query that we sometimes seem to forget.

đằng sau mỗi truy vấn tìm kiếm mà đôi khi chúng ta dường như quên mất...

So whenever you set out to Google something,

Bất cứ khi nào bạn yêu cầu Google tìm kiếm một điều gì đó

start by asking yourself this: "Am I looking for an isolated fact?"

Hãy bắt đầu bằng cách tự hỏi mình "Tôi có đang tìm kiếm một sự thật độc lập?"

What is the capital of France?

Thủ đô của Pháp là gì?

What are the building blocks of a water molecule?

Các nhân tố nào trong một phân tử nước?

Great -- Google away.

Tuyệt - Tra Google ngay lập tức

There's not a group of scientists who are this close to proving

Không một nhà khoa học nào có thể chứng minh

that it's actually London and H30.

rằng đó là London và H3O

You don't see a big conspiracy among those things.

Bạn không hề thấy có sự thông đồng nào trong những câu trả lời đó

We agree, on a global scale,

Chúng tôi đều thừa nhận, trên quy mô toàn cầu,

what the answers are to these isolated facts.

câu trả lời là những thực tế độc lập này

But if you complicate your question just a little bit and ask something like,

Nhưng nếu bạn phức tạp hóa những câu hỏi của mình một chút, và hỏi những câu như,

"Why is there an Israeli-Palestine conflict?"

Tại sao lại xảy ra xung đột giữa Israel và Palestine?

You're not exactly looking for a singular fact anymore,

Lúc đó, bạn sẽ không đơn giản là tìm kiếm một sự thật cá nhân nữa,

you're looking for knowledge,

bạn đang tìm kiếm kiến thức

which is something way more complicated and delicate.

một thứ gì đó phức tạp và tinh vi hơn

And to get to knowledge,

Và để có được kiến thức,

you have to bring 10 or 20 or 100 facts to the table

bạn phải đưa 10, 20 hay thậm chí 100 sự thật vào bàn tròn,

and acknowledge them and say, "Yes, these are all true."

và thừa nhận chúng, và nói rằng : "Vâng, những điều này hoàn toàn đúng"

But because of who I am,

Nhưng dù tôi là ai,

young or old, black or white, gay or straight,

dù trẻ hay già, đen hay trắng, đồng tính hay "trai thẳng"

I will value them differently.

tôi đều sẽ đánh giá chúng khác nhau.

And I will say, "Yes, this is true,

Và tôi sẽ nói rằng: "Vâng, điều này đúng,

but this is more important to me than that."

nhưng điều này đối với tôi còn quan trọng hơn thế nữa."

And this is where it becomes interesting,

Và đây là thứ khiến mọi chuyện thú vị hơn,

because this is where we become human.

bởi vì đây là thứ khiến chúng ta là những con người,

This is when we start to argue, to form society.

Đây là khi chúng ta bắt đầu tranh luận, hình thành nên xã hội,

And to really get somewhere, we need to filter all our facts here,

và để thật sự biết được một nơi nào đó, chúng ta phải chắt lọc những sự kiện ở đây

through friends and neighbors and parents and children

thông qua bạn bè, hàng xóm, cha mẹ và con cái

and coworkers and newspapers and magazines,

đồng nghiệp, báo và tạp chí,

to finally be grounded in real knowledge,

để cuối cùng, đặt nền cho kiến thức thực tế,

which is something that a search engine is a poor help to achieve.

mà một công cụ tìm kiếm khó có thể làm được

So, I promised you an example just to show you why it's so hard

Vì vậy, tôi đã đưa ra cho các bạn một ví dụ chỉ để cho các bạn thấy lí do tại sao

to get to the point of true, clean, objective knowledge --

để có được kiến thức đúng, "sạch" và khách quan laị khó khăn đến vậy

as food for thought.

- một đề tài đáng suy ngẫm.

I will conduct a couple of simple queries, search queries.

Tôi sẽ thực hiện một vài truy vấn tìm kiếm đơn giản

We'll start with "Michelle Obama,"

Chúng ta sẽ bắt đầu với "Michelle Obama",

the First Lady of the United States.

Đệ Nhất Phu Nhân Hoa Kì.

And we'll click for pictures.

Và chúng ta nhấp chuột vào phần tìm kiếm hình ảnh

It works really well, as you can see.

Nó hoạt động thực sự tốt, bạn có thể nhìn thấy.

It's a perfect search result, more or less.

Ít nhiều, đó là một kết quả tìm kiếm hoàn hảo.

It's just her in the picture, not even the President.

chỉ có hình Bà ấy, thậm chí còn không hề có sự xuất hiện của Ngài Tổng Thống trong những bức hình.

How does this work?

Công cụ này hoạt động như thế nào?

Quite simple.

Đơn giản thôi,

Google uses a lot of smartness to achieve this, but quite simply,

Google sử dụng khá nhiều" trí thông minh" để đạt được các kết quả này, tuy nhiên, một cách đơn giản,

they look at two things more than anything.

Google sẽ chú ý đến hai thứ này nhiều hơn bất cứ thứ gì khác

First, what does it say in the caption under the picture on each website?

Thứ nhất, nội dung của dòng chú thích bên dưới bức ảnh trên mỗi trang web là gì

Does it say "Michelle Obama" under the picture?

Liệu có phải là "Michelle Obama" không?

Pretty good indication it's actually her on there.

Quả nhiên, đúng là bà ấy ở đó.

Second, Google looks at the picture file,

Thứ hai, Google nhìn vào các tập tin hình ảnh,

the name of the file as such uploaded to the website.

tên của các tập tin được đăng tải lên trang web

Again, is it called "MichelleObama.jpeg"?

Một lần nữa, có phải tên là " Michelle Obama.jpeg" không

Pretty good indication it's not Clint Eastwood in the picture.

Rất tốt, tên file không phải là Clint Eastwood trong hình.

So, you've got those two and you get a search result like this -- almost.

Như vậy, bạn vừa biết được hai cách tìm kiếm và hầu như là bạn nhận được kết quả tìm kiếm thông qua quá trình như thế đấy

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Trong năm 2009, Michelle Obama từng là nạn nhân của một chiến dịch phân biệt chủng tộc,

where people set out to insult her through her search results.

mọi người gày bẫy để sỉ nhục bà ấy thông qua các kết quả tìm kiếm về bà

There was a picture distributed widely over the Internet

Có một bức ảnh được phát tán rộng rãi trên mạng

where her face was distorted to look like a monkey.

trong đó, khuôn mặt bà ấy bị bóp méo trông giống như một con khỉ

And that picture was published all over.

Và bức ảnh ấy được phát tán rộng rãi.

And people published it very, very purposefully,

và những người công bố bức ảnh ấy rất cố ý,

to get it up there in the search results.

làm cho bức ảnh ấy hiển thị trên các kết quả tìm kiếm

They made sure to write "Michelle Obama" in the caption

Họ chắc chắn đã viết "Michelle Obama" trong dòng chú thích

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

và cũng chắc chắn đăng tải bức ảnh với tập tin "Michelle Obama.jpeg" hoặc những thứ tương tự.

You get why -- to manipulate the search result.

Bạn đã biết làm sao để thao túng các kết quả tìm kiếm.

And it worked, too.

Và chúng đã thành công.

So when you picture-Googled for "Michelle Obama" in 2009,

Vì vậy, khi bạn tìm kiếm bức hình "Michelle Obama" trên Google trong năm 2009

that distorted monkey picture showed up among the first results.

bạn sẽ thấy bức hình với khuôn mặt biến dạng hình mặt khỉ ấy xuất hiện ở những kết quả đầu tiên

Now, the results are self-cleansing,

Nhưng giờ thì những kết quả ấy đã tự biến mất,

and that's sort of the beauty of it,

và đó giống như là một ưu điểm của Google

because Google measures relevance every hour, every day.

bởi vì Google đánh giá sự hợp lý mỗi giờ, mỗi ngày.

However, Google didn't settle for that this time,

Tuy nhiên, Google đã không giải quyết vấn đề đó trong khoảng thời gian này

they just thought, "That's racist and it's a bad search result

họ chỉ nghĩ rằng" đó là phân biệt chủng tộc và đó là một kết quả tìm kiếm không tốt

and we're going to go back and clean that up manually.

Chúng ta sẽ quay trở lại và tự tay dọn dẹp sạch sẽ

We are going to write some code and fix it,"

Chúng ta sẽ viết một số mã và sửa chữa nó".

which they did.

Điều mà họ đã từng làm

And I don't think anyone in this room thinks that was a bad idea.

Me neither.

Và tôi không nghĩ rằng ai đó trong phòng này nghĩ đó là một ý kiến tồi.

Và tôi cũng vậy.

But then, a couple of years go by,

Nhưng một vài năm sau,

and the world's most-Googled Anders,

người được cả thế giới tìm kiếm nhiều nhất trên Google - Anders

Anders Behring Breivik,

Anders Behring Breivik

did what he did.

làm việc hắn đã làm.

This is July 22 in 2011,

Và ngày 22 tháng 7 năm 2011

and a terrible day in Norwegian history.

một ngày tồi tệ trong lịch sử Na Uy

This man, a terrorist, blew up a couple of government buildings

Hắn ta, một kẻ khủng bố đã thổi bay khu tòa nhà Chính phủ

walking distance from where we are right now in Oslo, Norway

nơi cách chỗ chúng ta bây giờ tại Oslo, Na Uy không xa

and then he traveled to the island of Utøya

sau đó, hắn chạy đến đảo Utoya

and shot and killed a group of kids.

xả súng tấn công vào một đoàn thiếu niên

Almost 80 people died that day.

Gần 80 người đã thiệt mạng ngày hôm đó.

And a lot of people would describe this act of terror as two steps,

Rất nhiều người có thể mô tả hành động khủng bố này qua hai bước,

that he did two things: he blew up the buildings and he shot those kids.

rằng hắn đã làm 2 việc: đánh sập các tòa nhà bắn những đứa trẻ

It's not true.

Nhưng điều này không đúng.

It was three steps.

Thực tế, có tới ba bước.

He blew up those buildings, he shot those kids,

Hắn ta thổi bay các tòa nhà, hắn bắn lũ trẻ,

and he sat down and waited for the world to Google him.

và ngồi xuống, chờ thế giới Google về mình.

And he prepared all three steps equally well.

Và hắn đã chuẩn bị rất tốt cho cả ba bước này

And if there was somebody who immediately understood this,

Và nếu có ai ngay lập tức hiểu ra điều này,

it was a Swedish web developer,

thì đó là một nhà phát triển web người Thụy Sĩ,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

một chuyên gia về tối ưu hóa công cụ tìm kiếm sống tại Stockholm, có tên là Nikke Lindqvist.

He's also a very political guy

Anh ta cũng là một anh chàng rất có tư tưởng chính trị

and he was right out there in social media, on his blog and Facebook.

Và trên các phương tiện truyền thông xã hội, trên blog và facebook của mình,

And he told everybody,

anh ta nói với mọi người

"If there's something that this guy wants right now,

"Nếu có điều gì đó mà tên sát nhân muốn ngay bây giờ,

it's to control the image of himself.

thì đó là kiểm soát hình ảnh của chính hắn.

Let's see if we can distort that.

Xem xem liệu chúng ta có làm biến dạng những bức hình,

Let's see if we, in the civilized world, can protest against what he did

hay trong thế giới văn minh này, chúng ta có thể phản đối những gì hắn ta đã làm

through insulting him in his search results."

bằng cách nhục mạ hắn thông qua các kết quả tìm kiếm hay không.

And how?

Và bằng cách nào?

He told all of his readers the following,

Anh ta đã nói với độc giả của mình thế này:

"Go out there on the Internet,

"Hãy lên mạng,

find pictures of dog poop on sidewalks --

tìm kiếm những bức hình chụp phân chó trên vỉa hè,

find pictures of dog poop on sidewalks --

tìm kiếm những bức hình chụp phân chó trên vỉa hè,

publish them in your feeds, on your websites, on your blogs.

rồi công bố chúng trên các phản hồi, trên các trang web và trên blog của bạn.

Make sure to write the terrorist's name in the caption,

Và hãy chắc chắn rằng bạn sẽ viết tên của tên khủng bố trên dòng chú thích,

make sure to name the picture file "Breivik.jpeg."

và đặt tên tập tin cho bức hình đó là "Breivik.jpeg"

Let's teach Google that that's the face of the terrorist."

Hãy cho Google biết rằng đó chính là gương mặt của tên sát nhân."

And it worked.

Và hành động này đã đem lại kết quả.

Two years after that campaign against Michelle Obama,

Hai năm sau chiến dịch chống Phu Nhân Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

chiến dịch thao tác này chống Anders Behring Breivik đã hoạt động

If you picture-Googled for him weeks after the July 22 events from Sweden,

Nếu bạn Google hình ảnh của hắn 2 tuần sau sự kiện ngày 22 tháng 7 tại Thụy Điển,

you'd see that picture of dog poop high up in the search results,

bạn sẽ thấy bức hình phân chó xuất hiện ở những trang đầu tiên trong kết quả tìm kiếm,

as a little protest.

giống như là một cuộc biểu tình quy mô nhỏ.

Strangely enough, Google didn't intervene this time.

Cũng thật kì lạ là trong thời gian này, Google đã không can thiệp

They did not step in and manually clean those search results up.

Họ không hề xen vào và "dọn dẹp" các kết quả tìm kiếm trên

So the million-dollar question,

Vậy nên câu hỏi đáng giá triệu đô là,

is there anything different between these two happenings here?

Có điều gì khác biệt giữa hai sự kiện này?

Is there anything different between what happened to Michelle Obama

Liệu có sự khác biệt nào giữa những gì đã xảy ra với bà Michelle Obama

and what happened to Anders Behring Breivik?

và những việc xảy ra với Anders Behring Breivik?

Of course not.

Dĩ nhiên là không.

It's the exact same thing,

Hai sự kiện này hoàn toàn giống hệt nhau.

yet Google intervened in one case and not in the other.

Thế nhưng Google lại chỉ can thiệp vào một trường hợp của bà Michelle Obama

Why?

Tại sao lại như vậy?

Because Michelle Obama is an honorable person, that's why,

Là bởi vì Michelle Obama là một người đáng kính,

and Anders Behring Breivik is a despicable person.

còn Anders Behring Breivik là một kẻ đáng khinh.

See what happens there?

Bạn đã hiểu ra vấn đề ở đây chưa?

An evaluation of a person takes place

Việc đánh giá một con người xảy ra

and there's only one power-player in the world

và chỉ có một người chơi có quyền lực trên thế giới

with the authority to say who's who.

có thẩm quyền để nói ai là ai.

"We like you, we dislike you.

Chúng tôi ủng hộ bạn, chúng tôi căm ghét bạn.

We believe in you, we don't believe in you.

Chúng tôi tin tưởng ở bạn, chúng tôi không tin bạn.

You're right, you're wrong. You're true, you're false.

Bạn nói đúng rồi, bạn nói sai rồi Bạn làm đúng, bạn đã sai rồi.

You're Obama, and you're Breivik."

Bạn là Obama, và bạn là Breivik.

That's power if I ever saw it.

Đó chính là quyền lực mà tôi đã từng chứng kiến

So I'm asking you to remember that behind every algorithm

Vậy nên, tôi muốn các bạn nhớ rằng, đằng sau mỗi thuật toán

is always a person,

luôn luôn là một con người.

a person with a set of personal beliefs

một người với những đức tin cá nhân,

that no code can ever completely eradicate.

rằng không một mã số nào có thể bị xóa bỏ hoàn toàn.

And my message goes out not only to Google,

Và thông điệp tôi muốn gửi tới không chỉ cho Google,

but to all believers in the faith of code around the world.

mà cho tất cả những người luôn tin vào các dòng lệnh trên toàn thế giới.

You need to identify your own personal bias.

Bạn cần phải xác định được chính kiến của mình.

You need to understand that you are human

Bạn cần phải hiểu rằng bạn là con người,

và do đó bạn phải có trách nhiệm

and take responsibility accordingly.

And I say this because I believe we've reached a point in time

Tôi nói điều này bởi lẽ tôi tin chúng ta đã đạt đến một thời điểm nào đó

when it's absolutely imperative

mà chúng ta hoàn toàn bị bắt buộc

that we tie those bonds together again, tighter:

thắt chặt mối quan hệ này một lần nữa, chặt chẽ hơn:

the humanities and the technology.

giữa Nhân loại và Công nghệ

Tighter than ever.

Chặt chẽ hơn bao giờ hết.

And, if nothing else, to remind us that that wonderfully seductive idea

Và, nếu không còn thứ gì khác, nhắc chúng ta rằng cái ý tưởng vô cùng thú vị

of the unbiased, clean search result

về kết quả tìm kiếm sạch, không thiên vị

is, and is likely to remain, a myth.

đang, và hẳn sẽ vẫn là một huyền thoại

Thank you for your time.

Cảm ơn các bạn đã lắng nghe.

(Applause)

(Tiếng vỗ tay)