Damon Horowitz calls for a "moral operating system"

Damon Horowitz nói về một "hệ điều hành đạo đức"

Translator: Hai Nguyen Reviewer: Duc Nguyen

Power.

Sức mạnh.

That is the word that comes to mind.

Đó là từ đến trong tâm trí tôi

We're the new technologists.

Chúng ta là những kỹ sư công nghệ mới

We have a lot of data, so we have a lot of power.

Chúng ta có rất nhiều dữ liệu, nên chúng ta có rất nhiều sức mạnh

How much power do we have?

Chúng ta có bao nhiêu sức mạnh?

Scene from a movie: "Apocalypse Now" -- great movie.

Cảnh trong phim: "Apocalypse Now" - một bộ phim tuyệt vời

We've got to get our hero, Captain Willard, to the mouth of the Nung River

Chúng ta phải mang người hùng của chúng ta, Capt. Willard, đến miệng sông Nung

so he can go pursue Colonel Kurtz.

để anh ta có thể đuổi theo Col. Kurtz.

The way we're going to do this is fly him in and drop him off.

Cách chúng ta làm là mang anh ta bay đến và thả xuống.

So the scene:

Đến cảnh này:

the sky is filled with this fleet of helicopters carrying him in.

bầu trời dày đặc phi đội trực thăng mang anh ta đến

And there's this loud, thrilling music in the background,

Và có tiếng nhạc nền to, hồi hộp,

this wild music.

thứ âm nhạc hoang dã này.

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Dum da ta da dum ♫

♫ Da ta da da ♫

♫ Da ta da da ♫

That's a lot of power.

Nó mang rất nhiều sức mạnh.

That's the kind of power I feel in this room.

Đó là thứ sức mạnh tôi cảm nhận được trong căn phòng này

That's the kind of power we have

Đó là thứ sức mạnh chúng ta có

because of all of the data that we have.

bởi tất cả những dữ liệu mà chúng ta có

Let's take an example.

Hãy cùng xem một ví dụ

What can we do

Chúng ta có thể làm gì

with just one person's data?

Với dữ liệu của chỉ một người?

What can we do

Chúng ta có thể làm gì

with that guy's data?

với dữ liệu của người đó?

I can look at your financial records.

Tôi có thể xem những bản lưu tài chính của bạn

I can tell if you pay your bills on time.

Tôi có thể nói cho bạn biết bạn có thanh toán hóa đơn đúng hạn không

I know if you're good to give a loan to.

Tôi biết bạn có đáng để cho vay hay không

I can look at your medical records; I can see if your pump is still pumping --

Tôi có thể nhìn vào các bản lưu y tế, tôi có thể thấy tim bạn vẫn còn đang đập

see if you're good to offer insurance to.

thấy bạn có đáng để cung cấp dịch vụ bảo hiểm không.

I can look at your clicking patterns.

Tôi có thể nhìn vào kiểu bạn nhấp chuột.

When you come to my website, I actually know what you're going to do already

Khi bạn đến thăm website của tôi, tôi thực sự biết những gì bạn sắp sửa làm,

because I've seen you visit millions of websites before.

bởi vì tôi đã thấy bạn ghé thăm hàng triệu wesite trước đây.

And I'm sorry to tell you,

Và tôi xin lỗi phải nói với bạn rằng

you're like a poker player, you have a tell.

bạn giống như tay chơi bài poker, bạn có một câu chuyện

I can tell with data analysis what you're going to do

Tôi có thể kể chuyện với dữ liệu phân tích rằng bạn sắp sửa làm gì

before you even do it.

thậm chí trước khi bạn làm nó.

I know what you like. I know who you are,

Tôi biết bạn thích gì, tôi biết bạn là ai.

and that's even before I look at your mail

Và điều đó xảy ra thậm chí trước khi tôi nhìn vào thư

or your phone.

hay điện thoại của bạn.

Those are the kinds of things we can do

Đó là những thứ chúng ta có thể làm được

with the data that we have.

với dữ liệu mà chúng ta có.

But I'm not actually here to talk about what we can do.

Nhưng tôi thực sự không có mặt ở đây để nói về những gì chúng ta có thể làm.

I'm here to talk about what we should do.

Tôi ở đây để nói về những gì chúng ta nên làm.

What's the right thing to do?

Điều gì là đúng đắn để làm?

Now I see some puzzled looks

Giờ tôi thấy vài ánh mắt mù mờ

like, "Why are you asking us what's the right thing to do?

như "Tại sao bạn lại hỏi chúng tôi điều gì là đúng để làm?

We're just building this stuff. Somebody else is using it."

Chúng ta chỉ là những người xây dựng nên nó. Người khác sẽ dùng chúng."

Fair enough.

Đủ công bằng.

But it brings me back.

Nhưng nó làm tôi nghĩ lại.

I think about World War II --

Tôi nghĩ về chiến tranh thế giới thứ hai --

some of our great technologists then,

một vài kĩ nghệ gia vĩ đại,

some of our great physicists,

một vài nhà vật lĩ vĩ đại,

studying nuclear fission and fusion --

nghiên cứu về sự phân rã và kết hợp hạt nhân --

just nuclear stuff.

những khái niệm liên quan đến hạt nhân

We gather together these physicists in Los Alamos

Chúng ta tập hợp những nhà vật lí này ở Los Alamos

to see what they'll build.

để xem những gì họ sẽ xây dựng.

We want the people building the technology

Chúng ta muốn con người xây dựng công nghệ

thinking about what we should be doing with the technology.

suy nghĩ về những gì chúng ta sẽ làm với công nghệ đó

So what should we be doing with that guy's data?

Vậy nên, chúng ta sẽ nên làm gì với dữ liệu của anh ta?

Should we be collecting it, gathering it,

Chúng ta có nên thu thập nó, tập trung nó lại,

so we can make his online experience better?

để làm cho kinh nghiệm trực tuyến của anh ta tốt hơn?

So we can make money?

Để chúng ta có thể kiếm tiền?

So we can protect ourselves

Để chúng ta có thể bảo vệ chính mình

if he was up to no good?

nếu anh ta trở nên không còn tốt nữa?

Or should we respect his privacy,

Hay chúng ta nên tôn trọng riêng tư của anh ấy

protect his dignity and leave him alone?

bảo vệ lòng tự trọng của anh ta và để anh ta được yên?

Which one is it?

Điều gì nên làm?

How should we figure it out?

Nên làm thế nào để nhận ra điều đó

I know: crowdsource. Let's crowdsource this.

Tôi biết: nguồn lực đám đông. Hãy để đám đông làm việc đó.

So to get people warmed up,

Để hâm nóng không khí,

let's start with an easy question --

hãy bắt đầu với một câu hỏi đơn giản

something I'm sure everybody here has an opinion about:

mà tôi chắc rằng mọi người ở đây đều có ý kiến về nó

iPhone versus Android.

iPhone và Android.

Let's do a show of hands -- iPhone.

Hãy giơ tay -- iPhone

Uh huh.

Uh huh.

Android.

Android.

You'd think with a bunch of smart people

Bạn nghĩ rằng với một nhóm người thông minh

we wouldn't be such suckers just for the pretty phones.

chúng ta sẽ không trở thành trò hề cho những chiếc điện thoại xinh xắn.

(Laughter)

(Tiếng cười)

Next question,

Câu hỏi tiếp theo,

a little bit harder.

khó hơn một chút.

Should we be collecting all of that guy's data

Chúng ta có nên thu thập mọi dữ liệu về một người

to make his experiences better

để làm cho trải nghiệm của anh ta tốt hơn

and to protect ourselves in case he's up to no good?

và để bảo vệ chúng ta trong trường hợp anh ta không còn tốt nữa?

Or should we leave him alone?

Hay chúng ta nên mặc kệ anh ta?

Collect his data.

Thu thập dữ liệu của anh ta

Leave him alone.

Để mặc kệ anh ấy

You're safe. It's fine.

Bạn an toàn rồi. Thật tốt.

(Laughter)

(Tiếng cười)

Okay, last question --

Rồi, câu hỏi cuối cùng

harder question --

câu hỏi khó hơn

when trying to evaluate

khi cố gắng đánh giá

what we should do in this case,

chúng ta nên làm gì trong trường hợp này,

should we use a Kantian deontological moral framework,

chúng ta có nên sử dụng khuôn khổ đạo đức luận của Kant không

or should we use a Millian consequentialist one?

hay chúng ta nên sử dụng khuôn khổ nhân quả của Mill?

Kant.

Kant

Mill.

Mill

Not as many votes.

Không nhiều biểu quyết lắm

(Laughter)

(Tiếng cười)

Yeah, that's a terrifying result.

Vâng, đó là một kết quả tồi tệ.

Terrifying, because we have stronger opinions

Tồi tệ, bởi vì chúng ta có những ý kiến mạnh hơn

about our hand-held devices

về những thiết bị cầm tay của chúng ta

than about the moral framework

hơn về những khuôn khổ đạo đức

we should use to guide our decisions.

mà chúng ta nên dùng dể đưa ra những quyết định.

How do we know what to do with all the power we have

Làm sao để chúng ta biết phải làm gì với những sức mạnh chúng ta có

if we don't have a moral framework?

nếu chúng ta không có một khuôn khổ đạo đức nào?

We know more about mobile operating systems,

Chúng ta biết nhiều về hệ điều hành cho di động,

but what we really need is a moral operating system.

nhưng chúng ta thực sự cần một hệ điều hành đạo đức.

What's a moral operating system?

Hệ điều hành đạo đức là gì?

We all know right and wrong, right?

Tất cả chúng ta đều biết về đúng và sai, đúng không.

You feel good when you do something right,

Bạn cảm thấy tốt khi bạn làm điều gì đó đúng,

you feel bad when you do something wrong.

bạn cảm thấy tệ khi bạn làm điều gì sai.

Our parents teach us that: praise with the good, scold with the bad.

Bố mẹ chúng ta dạy chúng ta rằng: Khen ngợi điều tốt, khiển trách điều xấu.

But how do we figure out what's right and wrong?

Nhưng làm sao để chúng ta nhận ra cái gì đúng, cái gì sai?

And from day to day, we have the techniques that we use.

Và ngày qua ngày, chúng ta có những kĩ thuật để sử dụng.

Maybe we just follow our gut.

Có thể chúng ta chỉ cần theo cảm tính của mình.

Maybe we take a vote -- we crowdsource.

Có thể chúng ta sẽ yêu cầu biểu quyết -- chúng ta dùng sức mạnh đám đông.

Or maybe we punt --

Hoặc có thể chúng ta sẽ đẩy nó cho người khác

ask the legal department, see what they say.

hỏi nhà chức trách, xem những gì họ nói.

In other words, it's kind of random,

Nói cách khác, đó là một kiểu ngẫu nhiên

kind of ad hoc,

kiểu bột phát

how we figure out what we should do.

làm sao chúng ta có thể nhận ra chúng ta nên làm gì.

And maybe, if we want to be on surer footing,

Và có lẽ, để chắc chắn,

what we really want is a moral framework that will help guide us there,

cái chúng ta thực sực cần là một khuôn khổ đạo đức có thể hướng dẫn chúng ta,

that will tell us what kinds of things are right and wrong in the first place,

nói chúng ta điều gì là đúng và sai ngay từ đầu,

and how would we know in a given situation what to do.

và làm thế nào để chúng ta có thể biết cần làm gì trong một tình huống cụ thể.

So let's get a moral framework.

Vậy hãy lấy một khuôn khổ đạo đức.

We're numbers people, living by numbers.

Chúng ta là người của những con số, sống bằng những con số.

How can we use numbers

Làm sao để chúng ta có thể sử dụng những con số

as the basis for a moral framework?

như là nền tảng của khuôn khổ đạo đức?

I know a guy who did exactly that.

Tôi biết một người biết đích xác việc đó

A brilliant guy --

Một người thông minh --

he's been dead 2,500 years.

đã mất cách đây 2500 năm.

Plato, that's right.

Plato, đúng vậy.

Remember him -- old philosopher?

Mọi người còn nhớ ông ta không - nhà triết học già?

You were sleeping during that class.

Bạn thường ngủ suốt lớp triết học đó.

And Plato, he had a lot of the same concerns that we did.

Và Plato, ông ta có nhiều mối quan tâm như chúng ta có.

He was worried about right and wrong.

Ông ta lo nghĩ về đúng và sai.

He wanted to know what is just.

Ông ta muốn biết rằng cái gì là xác đáng.

But he was worried that all we seem to be doing

Nhưng ông ta nghĩ rằng tất cả những gì có vẻ như sắp được làm

is trading opinions about this.

chỉ là sự ý kiến cân nhắc về nó.

He says something's just. She says something else is just.

Anh ta nói một cái gì đó là chân lý. Cô ta nói một cái khác mới là chân lý.

It's kind of convincing when he talks and when she talks too.

Đó là một kiểu thuyết phục khi anh ta nói và khi cô ta nói.

I'm just going back and forth; I'm not getting anywhere.

Tôi bị tiến thoái lưỡng nan, tôi chẳng đạt được gì cả.

I don't want opinions; I want knowledge.

Tôi không muốn ý kiến, tôi muốn kiến thức.

I want to know the truth about justice --

Tôi muốn biết sự thật về công lý --

like we have truths in math.

như tôi có sự thật trong toán.

In math, we know the objective facts.

Trong toán, chúng ta biết những dữ kiện khách quan.

Take a number, any number -- two.

Hãy lấy một số, bất kì số nào -- số hai.

Favorite number. I love that number.

Số ưa thích, tôi thích số này.

There are truths about two.

Có những sự thật về số hai

If you've got two of something,

Nếu bạn có hai vật gì đó,

you add two more, you get four.

bạn thêm hai, bạn sẽ có bốn.

That's true no matter what thing you're talking about.

Điều này luôn đúng cho dù bạn đang nói về vật gì.

It's an objective truth about the form of two,

Đó là sự thật rõ ràng về dạng thức của số hai,

the abstract form.

một dạng thức trừu tượng.

When you have two of anything -- two eyes, two ears, two noses,

Khi bạn có hai thứ của bất kì thứ gì -- hai mắt, hai tai, hai mũi,

just two protrusions --

chỉ là hai thứ thấy được --

those all partake of the form of two.

tất cả những thứ đó đều là dạng thức của số hai.

They all participate in the truths that two has.

Tất cả chúng tham gia vào những sự thật mà số hai có.

They all have two-ness in them.

Tất cả chúng có đặc tính hai trong bản thân chúng.

And therefore, it's not a matter of opinion.

Và vì thế, nó không phải là vấn đề của bản thân ý kiến.

What if, Plato thought,

Điều gì xảy ra nếu, Plato nghĩ rằng,

ethics was like math?

đạo đức giống như toán học?

What if there were a pure form of justice?

Nếu có một dạng thức thuần túy của công lý?

What if there are truths about justice,

Nếu có những sự thật về công lý,

and you could just look around in this world

và bạn có thể nhìn thấy thế giới xung quanh

and see which things participated,

và thấy những điều nào tham gia,

partook of that form of justice?

tham gia một phần vào dạng thức đó của công lý?

Then you would know what was really just and what wasn't.

Từ đó bạn sẽ biết cái gì thực sự là chân lý, và cái gì không.

It wouldn't be a matter

Điều này không liên quan đến

of just opinion or just appearances.

ý kiến hoặc hình thức..

That's a stunning vision.

Đó là một tầm nhìn tuyệt vời.

I mean, think about that. How grand. How ambitious.

Ý tôi là, hãy nghĩ về nó. Thật vĩ đại. Thật là nhiều tham vọng.

That's as ambitious as we are.

Nhiều tham vọng như chính chúng ta.

He wants to solve ethics.

Ông ấy muốn giải quyết các vấn đề về đạo lý.

He wants objective truths.

Ông ấy muốn những sự thật khách quan.

If you think that way,

Nếu bạn cũng nghĩ theo cách đó,

you have a Platonist moral framework.

bạn đã có một nền tảng đạo đức Platon.

If you don't think that way,

Nếu bạn không nghĩ theo cách đó,

well, you have a lot of company in the history of Western philosophy,

ồ, bạn có rất nhiều bè bạn trong lịch sử triết học phương Tây,

because the tidy idea, you know, people criticized it.

bởi vì ý tưởng tốt -- bạn biết đấy, con người chỉ trích nó lên.

Aristotle, in particular, he was not amused.

Aristotle, thực tế, ông không hài lòng.

He thought it was impractical.

Ông ấy nghĩ nó không thực tế.

Aristotle said, "We should seek only so much precision in each subject

Aristotle nói rằng "Chúng ta chỉ nên tìm kiếm sự chính xác ở mỗi đối tượng

as that subject allows."

mà đối tượng đó cho phép."

Aristotle thought ethics wasn't a lot like math.

Aristotle nghĩ rằng đạo lý không giống lắm với toán học.

He thought ethics was a matter of making decisions in the here-and-now

Ông ấy nghĩ đạo lí là vấn đề đưa ra quyết định luôn và ngay

using our best judgment

sử dụng những nhận xét xác đáng nhất

to find the right path.

để tìm ra con đường đúng đắn.

If you think that, Plato's not your guy.

Nếu bạn cũng nghĩ như thế, Plato không phải là kiểu người dành cho bạn.

But don't give up.

Nhưng đừng đầu hàng vội,

Maybe there's another way

có thể còn những cách khác

that we can use numbers as the basis of our moral framework.

mà chúng ta có thể sử dụng những con số như là nền tảng của khuôn khổ đạo đức.

How about this:

Bạn nghĩ sao về:

What if in any situation you could just calculate,

Sẽ ra sao nếu như ở bất kì tình trạng nào bạn cũng có thể vừa tính toán,

look at the choices,

nhìn những lựa chọn,

measure out which one's better and know what to do?

chọn ra điều tốt nhất và biết phải làm gì tiếp theo?

That sound familiar?

Điều này nghe có quen không?

That's a utilitarian moral framework.

Đó là khuôn khổ đạo đức vị lợi.

John Stuart Mill was a great advocate of this --

John Stuart Mill là một người ủng hộ vĩ đại của học thuyết này --

nice guy besides --

cũng là người rất tử tế

and only been dead 200 years.

và chỉ mới mất cách đây 200 năm.

So basis of utilitarianism --

Cơ bản của chủ nghĩa vị lợi --

I'm sure you're familiar at least.

Tôi chắc chắn rằng ít nhất bạn cũng đã quen với nó.

The three people who voted for Mill before are familiar with this.

Có ba người đã ủng hộ Mill trước khi quen với học thuyết đó

But here's the way it works.

Nhưng đây là cách mà nó thực hiện.

What if morals, what if what makes something moral

Sẽ ra sao, nếu đạo lí, nếu những gì tạo nên đạo lí,

is just a matter of if it maximizes pleasure

chỉ là vấn đề của nó có tối đa hóa sự hài lòng

and minimizes pain?

và tối thiểu hóa nỗi đau hay không?

It does something intrinsic to the act.

Nó mang những thứ chân thực vào trong hành động.

It's not like its relation to some abstract form.

Nó không phải là một dạng quan hệ của những hình thức trừu tượng.

It's just a matter of the consequences.

Nó là vấn đề của kết quả.

You just look at the consequences

Bạn chỉ nhìn vào kết quả

and see if, overall, it's for the good or for the worse.

và xem xét, một cách toàn cục, liệu nó có tốt hơn hay xấu hơn.

That would be simple. Then we know what to do.

Xem xét vậy sẽ trở nên đơn giản. Sau đó chúng ta biết chúng ta phải làm gì.

Let's take an example.

Hãy cùng xem một ví dụ.

Suppose I go up

Giả sử tôi đến

and I say, "I'm going to take your phone."

và nói "Tôi sắp lấy điện thoại của anh"

Not just because it rang earlier,

Không phải chỉ bởi vì nó đã đổ chuông trước đó,

but I'm going to take it because I made a little calculation.

mà tôi lấy nó bởi vì tôi đã thực hiện sự tính toán nhỏ.

I thought, that guy looks suspicious.

Tôi đã nghĩ rằng, gã này trông đáng nghi ngờ.

And what if he's been sending little messages to Bin Laden's hideout --

Và sẽ ra sao nếu gã đang gửi thông điệp đến nơi ẩn nấp của Bin Laden

or whoever took over after Bin Laden --

hoặc kẻ nào đang chăm sóc cho Bin Laden --

and he's actually like a terrorist, a sleeper cell.

và gã thực sự giống một tên khủng bố, một kẻ ung nhọt.

I'm going to find that out, and when I find that out,

Tôi sắp tìm thấy vấn đề, và khi tôi tìm thấy nó,

I'm going to prevent a huge amount of damage that he could cause.

tôi sẽ chống lại sự thiệt hại to lớn mà gã có thể gây ra

That has a very high utility to prevent that damage.

Đó là một công cụ cực kì hữu ích để chống lại sự thiệt hại như thế.

And compared to the little pain that it's going to cause --

Và so với sự đau đớn nhỏ mà nó có thể gây ra --

because it's going to be embarrassing when I'm looking on his phone

bởi vì nó gây ra sự lúng túng khi tôi nhìn vào điện thoại của anh ta

and seeing that he has a Farmville problem and that whole bit --

và nhìn thấy anh ta đang có vấn đề với FarmVille và tất cả điều đó --

that's overwhelmed

nó bị tràn ngập

by the value of looking at the phone.

bởi những giá trị khi nhìn vào chiếc điện thoại đó.

If you feel that way,

Nếu bạn cảm thấy theo cách đó

that's a utilitarian choice.

đó là một lựa chọn vị lợi.

But maybe you don't feel that way either.

Nhưng có thể bạn cũng không cảm thận theo cách đó.

Maybe you think, it's his phone.

Có thể bạn nghĩ, đó là điện thoại của anh ta.

It's wrong to take his phone

Thật là sai khi lấy điện thoại của anh ta,

because he's a person

bởi vì anh ta là một con người

and he has rights and he has dignity,

và anh ta có quyền và địa vị của mình,

and we can't just interfere with that.

và chúng ta không thể xen vào điều đó.

He has autonomy.

Anh ta có quyền tự do.

It doesn't matter what the calculations are.

Điều này không bị ảnh hưởng bởi những gì chúng ta tính toán.

There are things that are intrinsically wrong --

Có những thứ bản thân nó đã là sai --

like lying is wrong,

giống như nói dối là sai

like torturing innocent children is wrong.

giống như hành hạ trẻ em vô tội là sai.

Kant was very good on this point,

Kant thể hiện rất tốt ở điểm này,

and he said it a little better than I'll say it.

và ông ấy nói tốt hơn chúng ta nói về nó

He said we should use our reason

Ông ấy nói chúng ta nên sử dụng suy luận của mình

to figure out the rules by which we should guide our conduct,

để làm rõ những qui luật mà chúng ta nên dùng để dẫn dắt đạo đức của mình.

and then it is our duty to follow those rules.

Và khi đó nhiệm vụ của chúng ta là làm theo những qui luật đó.

It's not a matter of calculation.

Nó không liên quan gì đến sự tính toán cả.

So let's stop.

Vì thế hãy dừng lại.

We're right in the thick of it, this philosophical thicket.

Chúng ta đúng về những thứ triết học này.

And this goes on for thousands of years,

Và điều này đã diễn ra hàng ngàn năm,

because these are hard questions,

bởi vì đó là những câu hỏi khó,

and I've only got 15 minutes.

và tôi thì chỉ có 15 phút.

So let's cut to the chase.

Nên hãy rút gọn lại.

How should we be making our decisions?

Bạn nên làm như thế nào để đưa ra quyết định?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

Nên làm như Plato, như Aristotle, như Kant, như Mill?

What should we be doing? What's the answer?

Chúng ta nên làm gì? Câu trả lời là gì?

What's the formula that we can use in any situation

Đâu là công thức mà chúng ta có thể sử dụng ở bất kì tình huống nào

to determine what we should do,

để quyết định rằng chúng ta nên làm gì,

whether we should use that guy's data or not?

chúng ta có nên sử dụng dữ liệu của anh ta hay không?

What's the formula?

Công thức là gì?

There's not a formula.

Không có 1 công thức nào hết.

There's not a simple answer.

Không hề có một câu trả lời đơn giác.

Ethics is hard.

Đạo đức là vấn đề khó.

Ethics requires thinking.

Đạo đức yêu cầu sự suy nghĩ.

And that's uncomfortable.

Và rằng nó không hề thoải mái

I know; I spent a lot of my career

Tôi biết, phần lớn thời gian trong sự nghiệp của tôi

in artificial intelligence,

là cho trí tuệ nhân tạo,

trying to build machines that could do some of this thinking for us,

cố gắng xây dựng những cỗ máy có thể có một số suy nghĩ như chúng ta,

that could give us answers.

có thể cho chúng ta một số câu trả lời.

But they can't.

Nhưng những cỗ máy đó không thể.

You can't just take human thinking

Bạn không thể chỉ lấy tư duy con người

and put it into a machine.

và nhét vào một cỗ máy.

We're the ones who have to do it.

Chúng ta là những thực thể duy nhất có thể suy nghĩ.

Happily, we're not machines, and we can do it.

Thật hạnh phúc rằng chúng ta không phải là máy móc, chúng ta có thể tư duy.

Not only can we think,

Không chỉ chúng ta có khả năng tư duy,

we must.

mà chúng ta phải tư duy.

Hannah Arendt said,

Hannad Arendt nói rằng,

"The sad truth

"Sự thật đáng buồn

is that most evil done in this world

là những điều xấu xa trên thế giới này

is not done by people

không phải được làm bởi những người

who choose to be evil.

muốn trở thành kẻ xấu.

It arises from not thinking."

Những điều xấu đến từ những kẻ không biết tư duy."

That's what she called the "banality of evil."

Bà gọi điều đó là "sự tầm thường của kẻ xấu."

And the response to that

Và đáp lại cho điều đó là

is that we demand the exercise of thinking

là chúng ta cần thực hành tư duy

from every sane person.

từ mỗi cá nhân theo đúng nghĩa.

So let's do that. Let's think.

Hãy làm nó. Hãy tư duy.

In fact, let's start right now.

Thực tế, hãy bắt đầu luôn bây giờ.

Every person in this room do this:

Mọi người trong phòng hãy làm việc này:

think of the last time you had a decision to make

nghĩ về lần cuối cùng bạn ra một quyết định

where you were worried to do the right thing,

lần mà bạn đã lo lắng về điều định làm,

where you wondered, "What should I be doing?"

lần mà bạn tự hỏi "Mình nên làm gì bây giờ?"

Bring that to mind,

Hãy nhớ lại điều đó.

and now reflect on that

Và bây giờ hãy áp dụng nó

and say, "How did I come up that decision?

và nói "Mình đã đi đến quyết định đó như thế nào?

What did I do? Did I follow my gut?

Mình đã làm gì? Mình có theo những gì thực lòng mình không?

Did I have somebody vote on it? Or did I punt to legal?"

Mình có ai ủng hộ không? Hoặc mình có vướng vào vấn đề pháp lí không?"

Or now we have a few more choices.

Hoặc ngay bây giờ chúng ta có nhiều lựa chọn hơn.

"Did I evaluate what would be the highest pleasure

"Chúng ta có đánh giá được sự vừa lòng tối đa

like Mill would?

như Mill không?

Or like Kant, did I use reason to figure out what was intrinsically right?"

Hoặc như Kant, chúng ta có dùng lí trí để làm rõ cái gì là bản chất sự thật không?"

Think about it. Really bring it to mind. This is important.

Hãy nghĩ về nó, thực sự chăm chú vào nó. Điều này rất quan trọng

It is so important

Nó quan trọng đến nỗi

we are going to spend 30 seconds of valuable TEDTalk time

chúng ta dùng đến 30 giây quí giá của thời gian TEDtalk

doing nothing but thinking about this.

chỉ để nghĩ về nó

Are you ready? Go.

Bạn sẵn sàng chưa. Bắt đầu.

Stop. Good work.

Dừng lại. Tốt lắm.

What you just did,

Những gì bạn vừa làm,

that's the first step towards taking responsibility

là bước đầu tiên hướng tới chịu trách nhiệm

for what we should do with all of our power.

về những gì chúng ta nên làm với sức mạnh của mình.

Now the next step -- try this.

Giờ bước tiếp theo -- hãy thử nó.

Go find a friend and explain to them

Tìm một người bạn và giải thích với họ

how you made that decision.

làm thế nào để đưa ra quyết định đó.

Not right now. Wait till I finish talking.

Không phải lúc này. Hãy đợi đến khi tôi hoàn thành bài nói.

Do it over lunch.

Hãy làm nó sau bữa trưa.

And don't just find another technologist friend;

Và đừng tìm một người bạn kĩ nghệ gia nào;

find somebody different than you.

hãy tìm người nào đó khác biệt với bạn.

Find an artist or a writer --

Tìm một nghệ sĩ, một nhà văn --

or, heaven forbid, find a philosopher and talk to them.

hoặc, tìm một nhà triết học và nói với họ.

In fact, find somebody from the humanities.

Thực tế, tìm một người nào đó từ cộng đồng.

Why? Because they think about problems

Tại sao? Bởi vì họ nghĩ về những vấn đề

differently than we do as technologists.

một cách khác biệt hơn là chúng ta nghĩ như một kĩ sư công nghệ.

Just a few days ago, right across the street from here,

Một vài ngày trước đây, ngay ngã tư bên đường từ đây,

there was hundreds of people gathered together.

có hàng trăm người tụ tập cùng nhau.

It was technologists and humanists

Họ là những kĩ sư công nghệ và nhà nhân chủng học

at that big BiblioTech Conference.

ở hội thảo lớn BiblioTech.

And they gathered together

Và họ tụ tập cùng nhau

because the technologists wanted to learn

bởi vì những kĩ sư công nghệ muốn biết

what it would be like to think from a humanities perspective.

suy nghĩ từ góc nhìn của nhà nhân chủng học là như thế nào.

You have someone from Google

Bạn tìm thấy một số người từ Google

talking to someone who does comparative literature.

nói chuyện với người nào đó có cùng văn hóa.

You're thinking about the relevance of 17th century French theater --

Bạn đang nghĩ về sự tương đồng từ các nhà hát Pháp thế kỉ 17 --

how does that bear upon venture capital?

chúng sẽ chịu đựng ra sao trước quĩ đầu tư tư bản?

Well that's interesting. That's a different way of thinking.

Nó thật thú vị. Đó là một một cách tư duy hoàn toàn khác.

And when you think in that way,

Và khi bạn tư duy theo cách đó,

you become more sensitive to the human considerations,

bạn trở nên nhạy cảm hơn với những mối lo của nhân loại,

which are crucial to making ethical decisions.

điều này là quan trọng để đưa ra những quyết định mang tính đạo lí.

So imagine that right now

Ngay lúc này đây, hãy tưởng tượng rằng

you went and you found your musician friend.

bạn đến và tím thấy một người bạn nhạc công.

And you're telling him what we're talking about,

Và bạn đang nói cho anh ta về những gì chúng ta đang nói đến,

about our whole data revolution and all this --

về những dữ liệu cách mạng và tất cả những thứ này --

maybe even hum a few bars of our theme music.

thậm chí có thể thêm một ít thanh âm nhiễu của nhạc nền này.

♫ Dum ta da da dum dum ta da da dum ♫

♫ Dum ta da da dum dum ta da da dum ♫

Well, your musician friend will stop you and say,

Ồ, người bạn nhạc sĩ của bạn sẽ dừng bạn lại và nói rằng,

"You know, the theme music

"Bạn biết không, nhạc nền

for your data revolution,

cho cuộc cách mạng dữ liệu của bạn

that's an opera, that's Wagner.

là opera, là Wagner.

It's based on Norse legend.

Nó dựa trên huyền thoại Norse.

It's Gods and mythical creatures

Đó là Chúa trời, và là đấng sáng tạo

fighting over magical jewelry."

đã vượt quá những nhung lụa kì ảo."

That's interesting.

Điều này thật thú vị.

Now it's also a beautiful opera,

Giờ nó còn là một bản nhạc kịch đẹp tuyệt vời.

and we're moved by that opera.

Và chúng ta tiến bộ nhờ vở nhạc kịch đó.

We're moved because it's about the battle

Chúng ta tiến bộ bởi đó là cuộc chiến

between good and evil,

giữa cái tốt và cái xấu,

about right and wrong.

giữa đúng và sai.

And we care about right and wrong.

Và chúng ta quan tâm về đúng và sai.

We care what happens in that opera.

Chúng ta quan tâm cái gì diễn ra trong vở nhạc kịch đó.

We care what happens in "Apocalypse Now."

Chúng ta quan tâm về những gì diễn ra trong phim "Apocalypse Now"

And we certainly care

Và chúng ta tất nhiên quan tâm

what happens with our technologies.

về những gì diễn ra với công nghệ.

We have so much power today,

Chúng ta có rất nhiều sức mạnh ngày nay,

it is up to us to figure out what to do,

và nó phụ thuộc vào chúng ta để đánh giá xem nên làm cái gì.

and that's the good news.

Và đó một tin tốt lành.

We're the ones writing this opera.

Chúng ta là những người viết nên vở nhạc kịch này.

This is our movie.

Đây là bộ phim của chúng ta.

We figure out what will happen with this technology.

Chúng ta xem xét cái gì sẽ diễn ra với công nghệ.

We determine how this will all end.

Chúng ta quyết định mọi thứ sẽ kết thúc như thế nào.

Thank you.

Xin cảm ơn.

(Applause)

(Vỗ tay)