Damon Horowitz calls for a "moral operating system"

Translator: Kelwalin Dhanasarnsombut Reviewer: Bank Light

Power.

พลัง

That is the word that comes to mind.

คำนี้เข้ามาในความคิดผม

We're the new technologists.

พวกเราเป็นนักเทคโนโลยียุคใหม่

We have a lot of data, so we have a lot of power.

พวกเรา มีข้อมูลมากมาย ดังนั้น พวกเรามีจึงมีพลังอำนาจสูง

How much power do we have?

เรามีพลังอำนาจมากแค่ไหนกัน?

Scene from a movie: "Apocalypse Now" -- great movie.

ฉากนึงจากภาพยนต์เรื่อง "กองทัพอำมหิต" -- เรื่องนี้ดีนะครับ

We've got to get our hero, Captain Willard, to the mouth of the Nung River

ในฉากนี้ พระเอกของเรา กัปตัน วิลยาร์ต จะต้องไปให้ถึงปากแม่น้ำนุง

so he can go pursue Colonel Kurtz.

เพื่อตามล่า ผู้พัน เคอร์ซ

The way we're going to do this is fly him in and drop him off.

และวิธีเดินทางก็คือ บินไปแล้วหย่อนเขาลง

So the scene:

ในฉากนั้น :

the sky is filled with this fleet of helicopters carrying him in.

ท้องฟ้าก็เต็มไปด้วยฝูงบินเฮลิคอปเตอร์นำเขาเข้าไป

And there's this loud, thrilling music in the background,

และขณะนั้น ก็มีเสียงดนตรี เสียงดัง และ ตื่นเต้น บรรเลงเป็นประกอบ

this wild music.

ให้อารมณ์ดุดัน

♫ Dum da ta da dum ♫

♫ ปัม ปั่ม ปัม ปั๊ม ปาม ♫

♫ Dum da ta da dum ♫

♫ปัม ปั่ม ปัม ป้าม ป่าม♫

♫ Da ta da da ♫

♫ปัม ปั่ม ปาม ป้าม♫

That's a lot of power.

ทรงพลังมาก

That's the kind of power I feel in this room.

นั่นเป็นรูปแบบพลังที่ผมรู้สึกได้ภายในห้องนี้

That's the kind of power we have

เป็นรูปแบบพลังที่เรามี

because of all of the data that we have.

เพราะว่าข้อมูลทั้งหมดที่เรามี

Let's take an example.

ลองมาดูตัวอย่าง

What can we do

เราทำอะไรได้บ้าง

with just one person's data?

ถ้ามีข้อมูลจากคนๆนึง?

What can we do

เราทำอะไรได้บ้าง

with that guy's data?

กับข้อมูลของคนๆนั้น?

I can look at your financial records.

ผมดูข้อมูลทางการเงินคุณได้

I can tell if you pay your bills on time.

บอกได้ว่าคุณจ่ายเงินตรงเวลาไหม

I know if you're good to give a loan to.

รู้ว่าควรให้คุณกู้เงินหรือเปล่า

I can look at your medical records; I can see if your pump is still pumping --

ผมสามารถดูประวัติทางการแพทย์ของคุณ ดูว่าปั๊มยังทำงานดีอยู่หรือเปล่า

see if you're good to offer insurance to.

จะได้รู้ว่าควรออกประกันสุขภาพให้คุณไหม

I can look at your clicking patterns.

ผมสามารถดูว่าคุณมักคลิ๊กดูอะไร

When you come to my website, I actually know what you're going to do already

เมื่อคุณเข้ามาที่เว็บไซต์ผม จริงๆผมก็รู้แล้วว่าคุณกำลังจะทำอะไร

because I've seen you visit millions of websites before.

เพราะผมเห็นว่า คุณไปดูเว็บอะไรมาก่อนเป็นล้านๆเว็บ

And I'm sorry to tell you,

และขอโทษด้วยที่ต้องบอกคุณว่า

you're like a poker player, you have a tell.

คุณก็เหมือนคนเล่นโป๊กเกอร์ คุณล่วงรู้ก่อนได้

I can tell with data analysis what you're going to do

ผมบอกได้จากการวิเคราะห์ข้อมูล ว่าคุณกำลังจะทำอะไร

before you even do it.

ก่อนที่คุณจะทำเสียอีก

I know what you like. I know who you are,

ผมรู้ว่าคุณชอบอะไร รู้ว่าคุณเป็นใคร

and that's even before I look at your mail

ก่อนจะเห็นจดหมาย หรือโทรศัพท์ ของคุณ

or your phone.

ด้วยซ้ำไป

Those are the kinds of things we can do

นั่นเป็นสิ่งที่เราสามารถทำได้

with the data that we have.

ด้วยข้อมูลที่เรามี

But I'm not actually here to talk about what we can do.

แต่ผมไม่ได้มาที่นี่ เพื่อจะบอกว่า เราทำอะไรได้

I'm here to talk about what we should do.

ผมมาที่นี่เพื่อจะพูดเกี่ยวกับสิ่งที่เราควรทำ

What's the right thing to do?

อะไรเป็นการกระทำที่ถูกต้อง?

Now I see some puzzled looks

ตอนนี้ผมเห็นหลายคนส่งสายตาสงสัย

like, "Why are you asking us what's the right thing to do?

แบบว่า "มาถามเราทำไมเนี่ย ว่าการกระทำอะไรเป็นสิ่งที่ถูกต้อง

We're just building this stuff. Somebody else is using it."

เราก็แค่สร้างสิ่งนี้ขึ้นมา คนอื่นต่างหากที่ใช้มัน"

Fair enough.

ก็จริงอยู่ครับ

But it brings me back.

แต่มันทำให้ผม

I think about World War II --

กลับมานึกถึงสงครามโลกครั้งที่ 2

some of our great technologists then,

ผู้สร้างนวัตกรรมผู้ยิ่งใหญ่บางท่าน

some of our great physicists,

นักฟิสิกส์ผู้ยิ่งใหญ่บางท่าน

studying nuclear fission and fusion --

ศึกษานิวเคลียร์ฟิชชั่นและฟิวส์ชั่น

just nuclear stuff.

ก็แค่เรื่องเกี่ยวกับนิวเคลียร์

We gather together these physicists in Los Alamos

เรานำนักฟิสิกส์เหล่านี้มารวมตัวกันที่ ลอส อลามอส

to see what they'll build.

ดูว่าพวกเขาจะสร้างอะไรออกมา

We want the people building the technology

เราต้องการเห็นคนสร้างสรรค์นวัตกรรม

thinking about what we should be doing with the technology.

เราคิดถึงว่า เราเป็นอย่างไร เมื่อมีนวัตกรรมเหล่านี้

So what should we be doing with that guy's data?

แล้ว เราควรทำอย่างไรกับข้อมูลของคนพวกนี้หล่ะ

Should we be collecting it, gathering it,

เราควรเก็บ และทำการรวบรวมมันไหม

so we can make his online experience better?

เพื่อที่เราจะได้ทำให้ประสบการณ์ท่องโลกไซเบอร์ดีขึ้น

So we can make money?

เพื่อที่เราจะได้ทำเงินหรือเปล่า?

So we can protect ourselves

เพื่อที่เราจะได้ป้องกันพวกเราเอง

if he was up to no good?

ถ้าคนๆนี้กำลังจะก่อเหตุร้าย

Or should we respect his privacy,

หรือ เราควรให้ความเคารพกับสิทธิส่วนตัวเขา

protect his dignity and leave him alone?

ปกป้องเกียรติของเขา แล้วอย่างไปยุ่งกับเขา?

Which one is it?

อย่างไหนดีหล่ะ?

How should we figure it out?

แล้วเราจะรู้ได้อย่างไร?

I know: crowdsource. Let's crowdsource this.

ผมรู้: ข้อมูลจากมหาชน ครับมาสำรวจกัน

So to get people warmed up,

เพื่อเป็นการอุ่นเครื่อง

let's start with an easy question --

เรามาเริ่มกันที่คำถามง่ายๆ

something I'm sure everybody here has an opinion about:

อะไรที่ผมมั่นใจว่าทุกคนที่นี่จะต้องมีความเห็นหล่ะ :

iPhone versus Android.

ไอโฟน ปะทะ แอนดรอยด์

Let's do a show of hands -- iPhone.

ไหนยกมือครับ -- ไอโฟน

Uh huh.

อ่าฮ่า

Android.

แอนดรอยด์

You'd think with a bunch of smart people

คุณคิดใช่ไหม คนฉลาดพวกนี้

we wouldn't be such suckers just for the pretty phones.

เราไม่น่าเป็นพวกไม่ได้เรื่องเพียงแค่มีมือถือสวยๆใช้หรอกเนอะ

(Laughter)

(เสียงหัวเราะ)

Next question,

คำถามถัดไป

a little bit harder.

ยากขึ้นอีกนิด

Should we be collecting all of that guy's data

เราควรเก็บข้อมูลของชายคนนั้น

to make his experiences better

เพื่อทำให้เขาได้รับประสบการณ์ที่ดีขึ้น

and to protect ourselves in case he's up to no good?

และเพื่อปกป้องพวกเรา ในกรณีที่คนๆนี้กำลังคิดแผนร้าย?

Or should we leave him alone?

หรือว่า เราไม่ควรไปจุ้นจ้านกับเขา?

Collect his data.

เก็บข้อมูลของเขาไป

Leave him alone.

อย่าไปยุ่งกะเขา

You're safe. It's fine.

คุณปลอดภัยครับ ดีครับ

(Laughter)

(เสียงหัวเราะ)

Okay, last question --

โอเค คำถามสุดท้าย

harder question --

ยากขึ้นไปอีก

when trying to evaluate

เมื่อทำการประเมินผล

what we should do in this case,

ในกรณีนี้เราควรทำอย่างไร

should we use a Kantian deontological moral framework,

เราควรใช้ กรอบความคิด หลักศีลธรรม หน้าที่นิยมที่ตายตัว แบบ คานท์

or should we use a Millian consequentialist one?

หรือว่า เราควรใช้ แนวผลลัพธ์นิยม แบบ มิลล์?

Kant.

(อิมมานูเอล) คานท์

Mill.

(จอห์น สจ๊วต) มิลล์

Not as many votes.

คนโหวตไม่เยอะแฮะ

(Laughter)

(เสียงหัวเราะ)

Yeah, that's a terrifying result.

อืม ผลลัพธ์น่าสะพรึงกลัวครับ

Terrifying, because we have stronger opinions

มันน่ากลัว เพราะว่าเรามีแนวคิดที่ชัดเจน

about our hand-held devices

ที่มีต่อเครื่องมือเครื่องใช้

than about the moral framework

มากกว่าที่มีต่อ กรอบความคิดทางจริยธรรม

we should use to guide our decisions.

ที่เราควรใช้มันเป็นแนวทางการตัดสินใจ

How do we know what to do with all the power we have

เราจะรู้ได้อย่างไร ว่าเราต้องทำอย่างไรกับอำนาจที่เรามี

if we don't have a moral framework?

ถ้าเราไม่มี กรอบความคิดทางจริยธรรม

We know more about mobile operating systems,

เรารู้มากขึ้นเกี่ยวกับระบบปฏิบัติการของโทรศัพท์มือถือ

but what we really need is a moral operating system.

แต่ที่เราต้องการจริงๆคือ ระบบปฏิบัติการทางจริยธรรม

What's a moral operating system?

แล้ว ระบบปฏิบัติการทางจริยธรรม มันคืออะไรกัน?

We all know right and wrong, right?

พวกเรารู้ว่าอะไร ถูก และ ผิด ใช่ไหมครับ ?

You feel good when you do something right,

คุณรู้สึกดี เมื่อเราทำสิ่งที่ถูก

you feel bad when you do something wrong.

คุณรู้สึกแย่ เมื่อทำอะไรที่มันผิด

Our parents teach us that: praise with the good, scold with the bad.

พ่อแม่เราสอนว่า จงสรรเสริญการกระทำดี ตำหนิการกระทำชั่ว

But how do we figure out what's right and wrong?

แต่ เรารู้ได้อย่างไร ว่าอะไรผิด และ ถูก?

And from day to day, we have the techniques that we use.

และทุกวันนี้ เรามีเทคนิคต่างๆที่เราใช้

Maybe we just follow our gut.

บางทีเราเชื่อกึ๋นเรา

Maybe we take a vote -- we crowdsource.

บางทีเราใช้วิธีโหวต -- เราทำประชานิยม

Or maybe we punt --

หรือบางที เราก็เสี่ยงเอา

ask the legal department, see what they say.

ลองถามแผนกกฎหมาย ดูซิว่าพวกเขาจะว่าอย่างไร

In other words, it's kind of random,

หรือพูดอีกอย่างคือ มันก็เหมือนจะสุ่มๆ

kind of ad hoc,

ทำแบบเฉพาะกิจ

how we figure out what we should do.

เราจะรู้ได้อย่างไร ว่าเราควรทำอย่างไร

And maybe, if we want to be on surer footing,

และบางที ถ้าเราต้องการหลักยืนที่มันคงกว่านี้

what we really want is a moral framework that will help guide us there,

สิ่งที่เราต้องการจริงๆก็คือ กรอบความคิดทางจริยธรรมที่จะช่วยแนะแนวเรา

that will tell us what kinds of things are right and wrong in the first place,

ซึ่งมันจะบอกเราแต่แรกว่า สิ่งแบบไหนที่ถูก และผิด

and how would we know in a given situation what to do.

แล้ว รู้ว่าในสถานการณ์ที่ถูกมอบหมายให้นั้น เราต้องทำอย่างไร

So let's get a moral framework.

ฉะนั้น เรามาสร้างกรอบจริยธรรมกันเถอะ

We're numbers people, living by numbers.

พวกเราเป็นมนุษย์ตัวเลข อยู่กันด้วยตัวเลข

How can we use numbers

เราจะสามารถใช้ตัวเลขได้อย่างไร

as the basis for a moral framework?

เพื่อเป็นรากฐานสำหรับกรอบจริยธรรม?

I know a guy who did exactly that.

ผมรู้จักคนที่ทำแบบนั้นเป๊ะๆ

A brilliant guy --

เป็นคนที่ยอดเยี่ยม

he's been dead 2,500 years.

เขาเพิ่งเสียชีวิตไป 2,500 ปีเอง

Plato, that's right.

พลาโต้ ใช่แล้ว

Remember him -- old philosopher?

จำเขาได้ไหมครับ? นักปรัชญาแก่ๆท่านนี้

You were sleeping during that class.

คุณคงหลับปุ๋ยในชั่วโมงเรียนนั้น

And Plato, he had a lot of the same concerns that we did.

และพลาโต้ เขาก็ตระหนักถึงอะไรหลายๆอย่างเหมือนกันเรา

He was worried about right and wrong.

เขาเป็นห่วงเรื่องสิ่งที่ถูก และ ผิด

He wanted to know what is just.

เขาต้องการรู้ว่ามันคืออะไรแน่

But he was worried that all we seem to be doing

แต่เขาเป็นห่วงว่า ที่พวกเราทุกคนทำๆกันอยู่

is trading opinions about this.

ก็เป็นแค่การแลกเปลี่ยนความคิดกันไปมา

He says something's just. She says something else is just.

เขาบอกว่าอันนี้ถูก หล่อนบอกว่าอีกอย่างนึงถูก

It's kind of convincing when he talks and when she talks too.

มันฟังดูน่าเชื่อถือเมื่อเขาพูด และเมื่อหล่อนพูด ก็ด้วยเหมือนกัน

I'm just going back and forth; I'm not getting anywhere.

ผมแค่เดินหน้าแล้วก็ถอยกลับมา ผมไม่ได้ไปไหนเลย

I don't want opinions; I want knowledge.

ผมไม่ต้องการความเห็นครับ ผมต้องการความรู้

I want to know the truth about justice --

ต้องการรู้ความจริงเกี่ยวกับความเป็นธรรม

like we have truths in math.

เหมือนกับที่เรารู้ความจริงทางคณิตศาสตร์

In math, we know the objective facts.

ในวิชาคณิตศาสตร์ เรารู้ในเชิงวัตถุวิสัย

Take a number, any number -- two.

เลือกมาสักค่าหนึ่ง เลขอะไรก็ได้ สอง ละกัน

Favorite number. I love that number.

เลขโปรดผมเลย ผมชอบเลขนี้

There are truths about two.

มันมีความจริงเกี่ยวกับค่าที่เท่ากับสองครับ

If you've got two of something,

ถ้าคุณมีอะไรสองอย่าง

you add two more, you get four.

เพิ่มมันเข้าไปอีกสอง คุณจะได้สี่

That's true no matter what thing you're talking about.

มันเป็นจริงเสมอ ไม่ว่าสิ่งที่คุณพูดถึงคืออะไร

It's an objective truth about the form of two,

มันเป็นความจริงเชิงวัตถุวิสัยของเลขสอง

the abstract form.

ในทางทฤษฎี (ที่มองไม่เห็น)

When you have two of anything -- two eyes, two ears, two noses,

เมื่อคุณมีของสองสิ่ง -- สองตา สองหู สองจมูก

just two protrusions --

อะไรสักอย่างสองหน่วย --

those all partake of the form of two.

ทั้งหมดนั่นเป็นส่วนที่เข้าร่วมเป็นคุณสมบัติของ สอง

They all participate in the truths that two has.

มันทั้งหมด เข้าร่วมเป็นส่วนของความจริงที่สองเป็น

They all have two-ness in them.

ความเป็น สอง อยู่ในพวกมันทั้งหมด

And therefore, it's not a matter of opinion.

ดังนั้น มันไม่ใช่เรื่องของความเห็น

What if, Plato thought,

พลาโต้คิด ถ้าหากว่า

ethics was like math?

จริยศาสตร์เป็นเหมือนคณิตศาสตร์หล่ะ

What if there were a pure form of justice?

ถ้ามันมีรูปแบบความเป็นธรรมที่บริสุทธิ์

What if there are truths about justice,

ถ้ามันมีความจริงเกี่ยวกับความเป็นธรรม

and you could just look around in this world

และคุณก็แค่มองไปรอบๆ ในโลกนี้

and see which things participated,

ดูซิ ว่าสิ่งไหนที่เข้าร่วมด้วย

partook of that form of justice?

เป็นส่วนร่วมของความเป็นธรรม

Then you would know what was really just and what wasn't.

แล้วคุณก็จะทราบว่า อะไรที่เป็นสิ่งที่ใช่ และอะไรที่ไม่ใช่

It wouldn't be a matter

มันจะไม่ได้เป็นเพียงแค่

of just opinion or just appearances.

ความเห็น หรือ แค่รูปลักษณ์ที่ปรากฎ

That's a stunning vision.

นั่นช่างเป็นความเห็นที่น่าทึ่ง

I mean, think about that. How grand. How ambitious.

ผมหมายถึง ลองคิดดูสิ มันช่างยิ่งใหญ่ ช่างทะเยอทะยาน

That's as ambitious as we are.

แสนจะทะเยอทะยาน ไม่ต่างจากพวกเรา

He wants to solve ethics.

เขาต้องการที่จะไขปัญหาทางจริยศาสตร์

He wants objective truths.

เขาต้องการ ความจริงเชิงวัตถุวิสัย

If you think that way,

ถ้าคุณคิดในแนวนั้น

you have a Platonist moral framework.

คุณมีกรอบความคิดทางศีลธรรมแบบพลาโต้

If you don't think that way,

ถ้าคุณไม่ได้คิดแบบนั้น

well, you have a lot of company in the history of Western philosophy,

เอาหล่ะ คุณก็มีพรรคพวกมากมายเลยในประวัติศาสตร์ปรัชญาตะวันตก

because the tidy idea, you know, people criticized it.

เพราะว่าความคิดที่เป็นระเบียบแบบแผน -- คุณก็รู้ คนมันจะวิจารณ์มัน

Aristotle, in particular, he was not amused.

โดยเฉพาะ อริสโตเติล เขาไม่ขำด้วยครับ

He thought it was impractical.

เขาคิดว่า มันเป็นไปไม่ได้ในทางปฏิบัติ

Aristotle said, "We should seek only so much precision in each subject

อริสโตเติลกล่าวว่า "เราควรค้นหาความแม่นตรงในแต่ละวิชา

as that subject allows."

ตราบแต่ที่วิชานั้นจะเอื้ออำนวย"

Aristotle thought ethics wasn't a lot like math.

อริสโตเติลคิดว่า จริยศาสตร์ ไม่ได้เหมือนคณิตศาสตร์มากนัก

He thought ethics was a matter of making decisions in the here-and-now

เขาคิดว่า จริยศาสตร์ เป็นเรื่องของการตัดสินใจ ในสถาณการณ์ต่างๆ

using our best judgment

โดยใช้การวินิจฉัยที่ดีที่สุดของเรา

to find the right path.

เพื่อที่จะหาหนทางที่ถูกต้อง

If you think that, Plato's not your guy.

ถ้าคุณคิดว่า อืม ไม่ปลื้มพลาโต้แฮะ

But don't give up.

อย่าเพิ่งถอดใจครับ

Maybe there's another way

บางที เรายังมีอีกหนทาง

that we can use numbers as the basis of our moral framework.

ที่เราจะใช้ตัวเลขเป็นรากฐานของกรอบความคิดทางศีลธรรมของเรา

How about this:

เอาอย่างนี้ไหมครับ

What if in any situation you could just calculate,

ถ้าหากว่าในสถานการณ์ได้ๆ คุณสามารถแค่ทำการคำนวณ

look at the choices,

ดูตัวเลือก

measure out which one's better and know what to do?

ทำการวัดค่าว่าอันไหนดีที่สุด แล้วรู้ว่าต้องทำอย่างไร?

That sound familiar?

คุ้นๆไหมครับ?

That's a utilitarian moral framework.

นั่นคือกรอบความคิดทางศีลธรรมแบบประโยชน์นิยม (อรรถประโยชน์นิยม)

John Stuart Mill was a great advocate of this --

จอห์น สจ๊วต มิลล์ เป็นนักสนับสนุนตัวยง สำหรับทฤษฎีนี้ --

nice guy besides --

เป็นคนน่ารักนะครับ จะว่าไป --

and only been dead 200 years.

แล้วก็ เพิ่งตายไป 200 ปีเอง

So basis of utilitarianism --

พื้นฐานแนวคิดแบบอรรถประโยชน์นิยม --

I'm sure you're familiar at least.

อย่างน้อยผมมั่นใจว่าคุณคงคุ้นเคย

The three people who voted for Mill before are familiar with this.

สามท่านที่โหวตให้ แนวคิดของ มิลล์ ก่อนหน้านี้ คงคุ้นเคยกับมันนะครับ

But here's the way it works.

แต่ มันเป็นแบบนี้ครับ

What if morals, what if what makes something moral

จะเป็นอย่างไรถ้าหากว่า ศีลธรรม หรืออะไรสักอย่างที่ทำสักสิ่งคือศีลธรรม

is just a matter of if it maximizes pleasure

เป็นเพียงแค่ เรื่องที่ว่า มันให้ความพอใจสูงสุด

and minimizes pain?

และ ให้ความเจ็บปวดน้อยที่สุด?

It does something intrinsic to the act.

มันส่งผลถึงแก่นแท้ถึงการกระทำ

It's not like its relation to some abstract form.

มันไม่เหมือนกับความสัมพันธ์ของมันกับรูปแบบทางทฤษฎี

It's just a matter of the consequences.

มันเป็นแค่เรื่องของผลลัพธ์

You just look at the consequences

คุณเพียงแค่ดูที่ผลลัพธ์

and see if, overall, it's for the good or for the worse.

แล้วพิจารณาว่า โดยรวมแล้ว มันดี หรือว่า มันแย่กว่า

That would be simple. Then we know what to do.

นั่นมันก็น่าจะง่ายดี ง่ายกว่าที่เราต้องรู้ว่าต้องทำอะไร

Let's take an example.

ลองมาดูตัวอย่างกันครับ

Suppose I go up

สมมติว่า ผมเดินเข้ามา

and I say, "I'm going to take your phone."

แล้วบอกว่า "ผมจะเอาโทรศัพท์คุณไปหล่ะนะ"

Not just because it rang earlier,

ไม่ใช่เพราะว่าตะกี้มันดังหรอกนะครับ

but I'm going to take it because I made a little calculation.

แต่เพราะว่าผมกำลังจะเอามันไป เพื่อจะเอาไปใช้ทำการคำนวณนิดหน่อย

I thought, that guy looks suspicious.

ผมคิดว่า คุณคนนั้นดูกังขาน่าสงสัย

And what if he's been sending little messages to Bin Laden's hideout --

และ ถ้าเคยใช้โทรศัพท์ส่งข้อความไปยังที่ซ่อนตัวของ บิน ลาเดน หล่ะ

or whoever took over after Bin Laden --

หรือส่งหาใครก็ตามที่ดูแล บิน ลาเดน อยู่

and he's actually like a terrorist, a sleeper cell.

แล้ว จริงๆแล้วเขาเป็นเหมือนพวกผู้ก่อการร้าย ร่วมขบวนการกันเลย

I'm going to find that out, and when I find that out,

ผมกำลังจะสืบดู และเมื่อผมทราบแล้ว

I'm going to prevent a huge amount of damage that he could cause.

ผมจะป้องกันความเสียหายอันยิ่งใหญ่ที่เขาจะก่อ

That has a very high utility to prevent that damage.

นั่นก็จะเป็นประโยชน์อย่างมากมายที่จะป้องกันการเกิดความเสียหาย

And compared to the little pain that it's going to cause --

และเมื่อเปรียบเทียบกับความเจ็บปวดเพียงเล็กน้อยที่จะเกิดขึ้น --

because it's going to be embarrassing when I'm looking on his phone

เพราะว่า มันคงจะน่าอับอายเหมือนกัน ที่ผมจะไปดูโทรศัพท์ของเขา

and seeing that he has a Farmville problem and that whole bit --

และเห็นว่าเขามีปัญหาอยู่ในเกมส์ฟาร์มวิลล์ อะไรก็แนวนั้น--

that's overwhelmed

แต่มันแพ้คว่ำเลยครับ

by the value of looking at the phone.

ถ้าเราเปรีบเทียบกับสิ่งที่เราจะได้ จากการดูโทรศัพท์เขา

If you feel that way,

ถ้าคุณรู้สึกเช่นนี้

that's a utilitarian choice.

นี่คือทางเลือกแบบ อรรถประโยชน์นิยม

But maybe you don't feel that way either.

แต่ บางทีคุณก็ไม่ได้คิดแบบนี้อีกเช่นกัน

Maybe you think, it's his phone.

บางที คุณคิดว่า นี่มันโทรศัพท์เขา

It's wrong to take his phone

มันผิด ที่จะไปเอาของเขามา

because he's a person

เขาเป็นคนเหมือนกันนะ

and he has rights and he has dignity,

และเขาก็มีสิทธิ เขามีศักดิ์ศรี

and we can't just interfere with that.

และไม่ใช่ว่าเราอยู่ๆเราจะไปแทรกแซงอย่างนั้นได้

He has autonomy.

เขามีอัตตานัติ (ความเป็นอิสระในการปกครองตนเอง)

It doesn't matter what the calculations are.

มันไม่สำคัญว่าการคำนวณพวกนั้นคืออะไร

There are things that are intrinsically wrong --

มันมีสิ่งที่โดยเนื้อแท้แล้ว มันผิด --

like lying is wrong,

เหมือนกับ การโกหก เป็นสิ่งที่ผิด

like torturing innocent children is wrong.

เหมือนกับการ ทรมานเด็กๆที่ไร้เดียงสา เป็นสิ่งที่ผิด

Kant was very good on this point,

คาร์ท เป็นคนที่เก่งมากในเรื่องนี้

and he said it a little better than I'll say it.

และเขากล่าวไว้ได้ดีกว่าที่ผมจะพูดนิดหน่อย

He said we should use our reason

เขากล่าวไว้ว่า เราควรใช้เหตุผลของเรา

to figure out the rules by which we should guide our conduct,

เพื่อที่จะคิดกฎระเบียบที่เราสมควรจะใช้ชี้นำพฤติกรรมของเรา

and then it is our duty to follow those rules.

และแล้วมันก็เป็นหน้าที่ของเราที่จะทำตามกฎเหล่านั้น

It's not a matter of calculation.

มันไม่ใช่เรื่องของการคำนวณ

So let's stop.

เอาหล่ะ หยุดกันก่อน

We're right in the thick of it, this philosophical thicket.

เราอยู่่ท่ามกลางจุดที่ไม่ชัดเจน เป็นความไม่ชัดเจนทางปรัชญา

And this goes on for thousands of years,

และมันเป็นมาเช่นนี้นานนับพันๆปีแล้ว

because these are hard questions,

ก็เพราะว่ามันเป็นคำถามที่ยาก

and I've only got 15 minutes.

และผมก็มีเวลาแค่15นาที

So let's cut to the chase.

ฉะนั้นผมผ่าประเด็นเลยก็แล้วกัน

How should we be making our decisions?

เราควรทำตัวอย่างไรในการตัดสินใจ?

Is it Plato, is it Aristotle, is it Kant, is it Mill?

แบบพลาโต้ อริสโตเติล แบบคาร์ท หรือว่า มิลล์?

What should we be doing? What's the answer?

เราควรจะประพฤติอย่างไร อะไรคือคำตอบ?

What's the formula that we can use in any situation

สูตรอะไรกันที่เราจะมาสามารถใช้ได้ไม่ว่าในสถาณการณ์ใด

to determine what we should do,

เพื่อที่จะตัดสินใจว่าเราควรทำเช่นไร

whether we should use that guy's data or not?

ว่าเราควรใช้ข้อมูลของคนๆนี้หรือไม่?

What's the formula?

สูตรนั้นคืออะไร?

There's not a formula.

มันไม่มีสูตรหรอกครับ

There's not a simple answer.

มันไม่มีคำตอบที่เรียบง่าย

Ethics is hard.

จริยศาสตร์เป็นเรื่องที่ยาก

Ethics requires thinking.

จริยศาสตร์ต้องการความคิด

And that's uncomfortable.

แล้วนั่นมันก็น่าลำบากใจ

I know; I spent a lot of my career

ผมทราบครับ ผมใช้เวลาส่วนมากในการทำงาน

in artificial intelligence,

ไปกับ จักรกลอัฉริยะ

trying to build machines that could do some of this thinking for us,

พยายามที่จะสร้างเครื่องยนต์ที่มีความสามารถบางส่วนเหมือนกับการคิดของเรา

that could give us answers.

นั่นมันอาจให้คำตอบเราได้

But they can't.

แต่มันทำไม่ได้ครับ

You can't just take human thinking

คุณไม่สามารถแค่เอาความคิดจากมนุษย์

and put it into a machine.

ไปใส่ให้กับเครื่องยนต์

We're the ones who have to do it.

พวกเราเป็นคนที่ต้องทำมัน

Happily, we're not machines, and we can do it.

ช่างน่ายินดี พวกเราไม่ใช่เครื่องจักร และพวกเราทำเช่นนั้นได้

Not only can we think,

ไม่ใช่เพียงแต่ว่าเราสามารถที่จะคิดได้

we must.

แต่เราต้องคิด

Hannah Arendt said,

ฮันนาห์ อเรนตท์ กล่าวว่า

"The sad truth

"เป็นเรื่องจริงที่น่าเศร้าว่า

is that most evil done in this world

การกระทำอันชั่วร้ายส่วนใหญ่ในโลกของเรา

is not done by people

ไม่ได้เกิดจากมนุษย์

who choose to be evil.

ผู้ที่เลือกที่จะเป็นคนพาล

It arises from not thinking."

แต่มันเกิดขึ้นมาจากการไม่ได้คิด"

That's what she called the "banality of evil."

นั่นเป็นสิ่งที่เธอเรียกว่า "ความไม่สร้างสรรค์ของสิ่งชั่วร้าย"

And the response to that

และการโต้ตอบต่อสิ่งนั้น

is that we demand the exercise of thinking

คือพวกเราต้องการแบบฝึกหัดสำหรับการคิด

from every sane person.

จากทุกคนที่มีสติ

So let's do that. Let's think.

เอาหล่ะลองทำดูครับ ลองคิด

In fact, let's start right now.

ที่จริงแล้ว ลองทำดูตอนนี้เลยดีกว่า

Every person in this room do this:

ทุกคนในห้องนี้ ทำอย่างนี้ครับ

think of the last time you had a decision to make

คิดถึงครั้งสุดท้ายที่คุณต้องตัดสินใจ

where you were worried to do the right thing,

ซึ่งคุณนั้นเป็นกังวลว่ามันจะเป็นสิ่งที่ถูกต้องไหม

where you wondered, "What should I be doing?"

ซึ่งคุณสงสัยว่า "แล้วอย่างนั้นฉันไปทำอะไรหล่ะเนี่ย?"

Bring that to mind,

ดึงความจำนั้นออกมาครับ

and now reflect on that

แล้วทีนี้ ไตร่ตรองดู

and say, "How did I come up that decision?

แล้วบอกว่า "การตัดสินใจนั้นเราได้มาอย่างไร"

What did I do? Did I follow my gut?

แล้วฉันทำอะไร ฉันทำตามกี๋นหรือเปล่านะ

Did I have somebody vote on it? Or did I punt to legal?"

ฉันให้คนช่วยออกความเห็น หรือว่า วิ่งรี่ไปพึ่งกฎหมาย

Or now we have a few more choices.

หรือว่า ตอนนี้ เรามีตัวเลือกมากขึ้นอีกหน่อย

"Did I evaluate what would be the highest pleasure

"ฉันประเมินหรือเปล่า ว่าอะไรจะให้ผลที่น่าพึงพอใจที่สุด

like Mill would?

เหมือนกับที่มิลล์จะทำ?

Or like Kant, did I use reason to figure out what was intrinsically right?"

หรือว่า แบบคาร์ท ฉันใช้เหตุผลในเพื่อให้ได้มาซึ่งแก่นของความถูกต้องหรือเปล่า"

Think about it. Really bring it to mind. This is important.

ลองคิดดูครับ เอาจริงๆนะครับ ดึงความคิดออกมา มันสำคัญครับ

It is so important

มันสำคัญมากๆ

we are going to spend 30 seconds of valuable TEDTalk time

เรากำลังจะใช้เวลา 30 วินาทีอันมีค่ายิ่งสำหรับการบรรยาย ณ TED

doing nothing but thinking about this.

ไม่ทำอะไรอื่น นอกจากคิดพิจารณาเกี่ยวกับสิ่งนี้

Are you ready? Go.

พร้อมหรือยังครับ เริ่ม

Stop. Good work.

หยุด เยี่ยมครับ

What you just did,

สิ่งที่คุณได้คิด

that's the first step towards taking responsibility

นั่นเป็นก้าวแรกไปสู่การมีหน้าที่รับผิดชอบ

for what we should do with all of our power.

ต่อสิ่งที่เราควรทำ ด้วยอำนาจทั้งหมดของเรา

Now the next step -- try this.

ทีนี้ ขั้นต่อไป -- ลองนี่ดู

Go find a friend and explain to them

ไปหาเพื่อน และอธิบายให้พวกเขาฟัง

how you made that decision.

ว่าคุณทำการตัดสินใจอย่างไร

Not right now. Wait till I finish talking.

ไม่ใช่ตอนนี้ครับ รอผมบรรยายจบก่อน

Do it over lunch.

ทำดูตอนพักเที่ยงก็ได้ครับ

And don't just find another technologist friend;

และอย่าไปหาแค่เพื่อนชาวเทคโนโลยีนะครับ

find somebody different than you.

หาใครสักคนที่แตกต่างจากคุณ

Find an artist or a writer --

หาศิลปิน หรือนักเขียน

or, heaven forbid, find a philosopher and talk to them.

หรือ หากสวรรค์ไม่เป็นใจ ลองคุยกับนักปรัชญาดูครับ

In fact, find somebody from the humanities.

ความจริงแล้ว หาใครสักคนที่มาจากด้านมนุษย์ศาสตร์

Why? Because they think about problems

ทำไมหรอครับ เพราะว่าคนพวกนี้คิดเกี่ยวกับปัญหา

differently than we do as technologists.

แตกต่างจากพวกเราชาวเทคโนโลยี

Just a few days ago, right across the street from here,

เมื่อไม่กี่วันก่อน อีกฝั่งหนึ่งของถนนจากตรงนี้

there was hundreds of people gathered together.

มีผู้คนเป็นร้อยๆมาชุมนุมรวมกัน

It was technologists and humanists

มีทั้งนักเทคโนโลยีและนักมนุษย์ศาสตร์

at that big BiblioTech Conference.

ที่งานประชุมวิชาการ บิบิโล เทค

And they gathered together

และพวกเขามารวมตัวกัน

because the technologists wanted to learn

เพราะว่า ชาวเทคโนโลยีต้องการที่จะเรียนรู้

what it would be like to think from a humanities perspective.

ว่ามันจะเป็นอย่างไรที่จะคิดด้วยทัศนคติแบบชาวมนุษย์ศาสตร์

You have someone from Google

เรามีคนๆหนึ่งมาจาก กูเกิล

talking to someone who does comparative literature.

พูดคุยกับคนๆหนึ่งที่ทำงานด้านวรรณกรรมเปรียบเทียบ

You're thinking about the relevance of 17th century French theater --

คุณกำลังคิดเกี่ยวกับความสัมพันธ์รของโรงละครฝรั่งเศสยุคศตวรรษที่17

how does that bear upon venture capital?

ว่ามันยืนหยัดอยู่ท่ามกลางเมืองหลวงอันตรายนี่ได้อย่างไร?

Well that's interesting. That's a different way of thinking.

อืม นั่นก็น่าสนใจครับ เป็นแนวทางความคิดที่แตกต่าง

And when you think in that way,

และเมื่อคุณคิดในแนวทางนั้น

you become more sensitive to the human considerations,

ก็จะกลายเป็นว่าคุณมีความละเอียดอ่อนต่อเข้าอกเข้าใจเพื่อนมนุษย์

which are crucial to making ethical decisions.

ซึ่งมันเป็นสิ่งสำคัญมากต่อการตัดสินใจทางจริยธรรม

So imagine that right now

ฉะนั้น ตอนนี้ จินตนาการ สิครับ

you went and you found your musician friend.

คุณออกไปและพบเพื่อนนักดนตรีของคุณ

And you're telling him what we're talking about,

คุณบอกเล่าให้เขาฟังเกี่ยวกับสิ่งที่เราพูดคุยกัน

about our whole data revolution and all this --

เกี่ยวกับเรื่อง การปฏิวัติข้อมูลทั้งหมด และทั้งหมดนี้

maybe even hum a few bars of our theme music.

บางที คุณอาจฮัมเพลงเอกของเราสักท่อนสองท่อน

♫ Dum ta da da dum dum ta da da dum ♫

♫ปัม ป่าม ปัม ปัม ป้าม ปัม ป่าม ปัม ปัม ป้าม♫

Well, your musician friend will stop you and say,

อ้า เพื่อนนักดนตรีก็จะหยุดคุณแล้วบอกว่า

"You know, the theme music

"เธอรู้ไหม เพลงเอก

for your data revolution,

ของการปฏิวัติข้องมูลของเธอหน่ะ

that's an opera, that's Wagner.

มันเป็นอุปรากร นั่นมัน(แต่งโดย)วาร์กเนอร์ หนิ

It's based on Norse legend.

มันมีเค้าโครงเรื่องจากตำนานยุโรปเหนือ (นอร์ส)

It's Gods and mythical creatures

มันเกี่ยวกับเทพเจ้าและสรรพสัตว์ในตำนาน

fighting over magical jewelry."

ต่อสู้แย่งชิงอัญมณีวิเศษ"

That's interesting.

อืม น่าสนใจนะครับ

Now it's also a beautiful opera,

แล้วทีนี้ อุปรากรอันงดงามนี่ก็ด้วย

and we're moved by that opera.

พวกเราได้รับการดลใจจากอุปรากร

We're moved because it's about the battle

พวกเรามีความรู้สึกร่วม เพราะว่ามันเกี่ยวกับการรบ

between good and evil,

ระหว่างธรรมะและอธรรม

about right and wrong.

เกี่ยวกับสิ่งที่ถูก และ ผิด

And we care about right and wrong.

และเรา ก็ใส่ใจในสิ่งที่ถูกและผิด

We care what happens in that opera.

เรา สนใจสิ่งที่เกิดขึ้นในอุปรากร

We care what happens in "Apocalypse Now."

เรา สนใจสิ่งที่เกิดขึ้นในหนังเรื่อง "กองทัพอำมหิต"

And we certainly care

และ แน่นอนว่า เราสนใจ

what happens with our technologies.

สิ่งที่เกิดขึ้นกับนวัตกรรมของเรา

We have so much power today,

ทุกวันนี้เรามีอำนาจมากมายเหลือเกิน

it is up to us to figure out what to do,

มันขึ้นอยู่กับเราที่จะตระหนักว่าต้องทำอย่างไร

and that's the good news.

และนั่นก็เป็นข่าวดีครับ

We're the ones writing this opera.

เราเป็นผู้ซึ่งเขียนบทอุปรากรนี้

This is our movie.

นี่คือภาพยนต์ของเรา

We figure out what will happen with this technology.

เราตระหนักว่า อะไรจะเกิดขึ้นกับนวัตกรรมเหล่านี้

We determine how this will all end.

เรามีเป้าหมายแน่วแน่ ว่าทั้งหมดนี้ จะลงเอยเช่นไร

Thank you.

ขอบคุณมากครับ

(Applause)

(เสียงปรบมือ)