Can we build AI without losing control over it? | Sam Harris

Translator: yamela areesamarn Reviewer: Kelwalin Dhanasarnsombut

I'm going to talk about a failure of intuition

ผมจะพูดถึงความล้มเหลว ของการหยั่งรู้โดยสัญชาตญาณ

that many of us suffer from.

ซึ่งพวกเราหลายคนประสบอยู่

It's really a failure to detect a certain kind of danger.

แท้จริงแล้ว มันเป็นความล้มเหลว ของการสัมผัสได้ถึงอันตรายบางอย่าง

I'm going to describe a scenario

ผมกำลังจะอธิบายสถานการณ์หนึ่ง

that I think is both terrifying

ที่ผมคิดว่ามันทั้งน่าสะพรึงกลัว

and likely to occur,

และก็น่าจะเกิดขึ้นได้

and that's not a good combination,

และนั่นไม่ใช่ส่วนผสมที่ดีเลย

as it turns out.

ดังที่ปรากฎออกมา

And yet rather than be scared, most of you will feel

แต่แทนที่จะกลัว ท่านทั้งหลายส่วนใหญ่จะรู้สึกว่า

that what I'm talking about is kind of cool.

สิ่งที่ผมกำลังจะพูดถึงนั้น เป็นอะไรที่ดูเจ๋ง

I'm going to describe how the gains we make

ผมกำลังจะอธิบายให้ฟังว่า ผลประโยชน์ที่เราได้รับ

in artificial intelligence

จากปัญญาประดิษฐ์

could ultimately destroy us.

ในที่สุดแล้วอาจทำลายเราได้อย่างไร

And in fact, I think it's very difficult to see how they won't destroy us

และที่จริง ผมว่ามันยากมาก ที่จะเข้าใจว่าพวกมันจะไม่ทำลายเรา

หรือไม่ดลใจให้เรา ทำลายตัวเองได้อย่างไร

or inspire us to destroy ourselves.

And yet if you're anything like me,

ถ้าหากว่าคุณเป็นอย่างผม

you'll find that it's fun to think about these things.

คุณจะพบว่ามันสนุกดี ที่จะคิดถึงเรื่องเหล่านี้

And that response is part of the problem.

และการตอบสนองนั้น ก็เป็นส่วนหนึ่งของปัญหา

OK? That response should worry you.

ใช่ไหมครับ การตอบรับนั้น น่าจะทำให้คุณกังวลใจ

And if I were to convince you in this talk

ถ้าในการบรรยายนี้ ผมต้องการโน้มน้าวคุณให้เชื่อว่า

that we were likely to suffer a global famine,

เราน่าจะต้องประสบกับความทุกข์ยาก จากความอดอยากไปทั่วโลก

either because of climate change or some other catastrophe,

ไม่ว่าจะเป็นเพราะการเปลี่ยนแปลง สภาวะอากาศ หรือหายนะอย่างอื่น

and that your grandchildren, or their grandchildren,

และลูกหลานของพวกคุณ หรือของลูกหลานของพวกเขา

are very likely to live like this,

อาจจะต้องมีความเป็นอยู่แบบนี้

you wouldn't think,

คุณคงจะไม่คิดหรอกว่า

"Interesting.

"น่าสนใจนะ

I like this TED Talk."

ฉันชอบ TED Talk เรื่องนี้"

Famine isn't fun.

ความอดอยากนั้นไม่น่าสนุก

Death by science fiction, on the other hand, is fun,

ในขณะที่ ความตาย ในนวนิยายวิทยาศาสตร์เป็นเรื่องสนุก

and one of the things that worries me most about the development of AI at this point

สิ่งหนึ่งที่ทำให้ผมกังวลที่สุดเกี่ยวกับ การพัฒนาปัญญาประดิษฐ์ขึ้นมา ณ ตอนนี้

ก็คือ ดูเหมือนว่าเราไม่สามารถสร้าง การตอบสนองทางอารมณ์ที่เหมาะสม

is that we seem unable to marshal an appropriate emotional response

to the dangers that lie ahead.

ต่ออันตรายที่อยู่เบื้องหน้าได้

I am unable to marshal this response, and I'm giving this talk.

ผมเองก็ไม่สามารถที่จะปลุกการตอบสนองนี้ได้ ผมจึงต้องมาพูดเรื่องนี้

It's as though we stand before two doors.

มันเหมือนกับว่า เรายืนอยู่ข้างหน้าประตูสองบาน

Behind door number one,

ด้านหลังประตูหมายเลขหนึ่ง

we stop making progress in building intelligent machines.

เราหยุดที่จะก้าวหน้าต่อไป ในการสร้างจักรกลที่ชาญฉลาด

Our computer hardware and software just stops getting better for some reason.

คอมพิวเตอร์ฮาร์ดแวร์และซอฟแวร์ ต่างหยุดพัฒนา ด้วยเหตุผลบางอย่าง

Now take a moment to consider why this might happen.

ลองใช้เวลาสักครู่เพื่อพิจารณานะครับ ว่าทำไมเรื่องแบบนี้อาจจะเกิดขึ้นได้

ผมหมายความว่า ด้วยคุณค่าของ ความฉลาดและความเป็นอัตโนมัตินั้น

I mean, given how valuable intelligence and automation are,

we will continue to improve our technology if we are at all able to.

เราจะยังคงพัฒนาเทคโนโลยีของเราต่อไป หากเรายังสามารถทำได้

What could stop us from doing this?

อะไรล่ะจะหยุดเราไม่ไห้ทำสิ่งนี้

A full-scale nuclear war?

สงครามนิวเคลียร์เต็มรูปแบบหรือ

A global pandemic?

โรคที่ระบาดไปทั่วโลกหรือ

An asteroid impact?

ดาวเคราะห์น้อยมาชนโลกหรือ

Justin Bieber becoming president of the United States?

จัสติน บีเบอร์ มาเป็นประธานาธิบดีของสหรัฐหรือ

(Laughter)

(เสียงหัวเราะ)

The point is, something would have to destroy civilization as we know it.

ประเด็นก็คือ บางสิ่งบางอย่างจะต้อง มาทำลายอารยธรรมที่เรารู้จัก

You have to imagine how bad it would have to be

คุณจะต้องจินตนาการเองว่า มันจะแย่ขนาดไหน

to prevent us from making improvements in our technology

ที่จะมากีดกันเราจากการ ปรับปรุงเทคโนโลยีของเราให้ดีขึ้น

permanently,

อย่างถาวร

generation after generation.

ที่เกิดขึ้นยุคแล้วยุคเล่า

Almost by definition, this is the worst thing

เกือบจะเรียกได้ว่า นี่คือสิ่งเลวร้ายที่สุด

that's ever happened in human history.

ที่ได้เคยเกิดขึ้น ในประวัติศาสตร์มนุษยชาติ

So the only alternative,

ฉะนั้นตัวเลือกเดียวที่เหลือ

and this is what lies behind door number two,

และนั่นคือสิ่งที่อยู่ด้านหลัง ประตูหมายเลขสอง

is that we continue to improve our intelligent machines

ก็คือ เรายังคงปรับปรุงจักรกลที่ฉลาด ของเรานี้ให้ดีขึ้นต่อไป

year after year after year.

ปีแล้วปีเล่า

At a certain point, we will build machines that are smarter than we are,

จนเมื่อถึงจุดหนึ่ง เราก็จะสร้างจักรกลที่ฉลาดกว่าเรา

and once we have machines that are smarter than we are,

และเมื่อเรามีจักรกล ที่ฉลาดกว่าเราแล้ว

they will begin to improve themselves.

มันก็จะเริ่มต้นปรับปรุงตัวมันเองให้ดีขึ้น

And then we risk what the mathematician IJ Good called

แล้วเราก็จะเสี่ยงกับ สิ่งที่นักคณิตศาสตร์ ไอเจ กูด เรียกว่า

an "intelligence explosion,"

"การระเบิดของความชาญฉลาด"

that the process could get away from us.

กระบวนการที่ซึ่งมนุษย์ ไม่สามารถควบคุมมันได้

Now, this is often caricatured, as I have here,

เรื่องนี้มักจะถูกทำเป็นการ์ตูนล้อเลียน อย่างที่แสดงให้ดูตรงนี้

as a fear that armies of malicious robots

เป็นความกลัวที่ทหารหุ่นยนต์ที่มุ่งร้าย

will attack us.

จะเข้ามาโจมตีทำร้ายเรา

But that isn't the most likely scenario.

แต่นั่นไม่ใช่สถานการณ์ ที่น่าจะเป็นไปได้มากที่สุด

It's not that our machines will become spontaneously malevolent.

ไม่ใช่ว่าจักรกลของเรา จะกลายเป็นภัยอันตรายขึ้นมาเอง

The concern is really that we will build machines

ความกังวลจริง ๆ ก็คือ เราจะสร้างจักรกล

that are so much more competent than we are

ที่มีความสามารถที่สูงกว่าเรามาก ๆ

that the slightest divergence between their goals and our own

ที่ความแตกต่างเพียงเล็กน้อยระหว่าง เป้าหมายของมันกับของเราเอง

could destroy us.

ก็อาจจะทำลายเราได้

Just think about how we relate to ants.

ลองแค่คิดดูว่า เรามีสัมพันธ์กับมดอย่างไร

We don't hate them.

เราไม่ได้เกลียดพวกมัน

We don't go out of our way to harm them.

เราไม่ได้ยอมลำบาก ใช้ความพยายามไปทำร้ายมัน

In fact, sometimes we take pains not to harm them.

อันที่จริง บางครั้งเราต้องอดกลั้น ที่จะไม่ทำร้ายมัน

We step over them on the sidewalk.

เราก้าวข้ามพวกมันไปบนทางเดิน

But whenever their presence

แต่เมื่อใดก็ตามที่การปรากฏอยู่ของมัน

seriously conflicts with one of our goals,

ขัดแย้งอย่างรุนแรง กับเป้าหมายอย่างหนึ่งของเรา

let's say when constructing a building like this one,

ยกตัวอย่าง เมื่อก่อสร้างอาคาร เช่น อาคารนี้

we annihilate them without a qualm.

เราทำลายล้างพวกมันได้อย่างสบายใจ

The concern is that we will one day build machines

ความวิตกกังวลก็คือสักวันหนึ่ง เราจะสร้างจักรกล

that, whether they're conscious or not,

ที่ไม่ว่าพวกมันจะมีความคิด อย่างมีสติหรือไม่ก็ตาม

could treat us with similar disregard.

จะทำกับเราได้อย่างเฉยเมย ในแบบเดียวกัน

Now, I suspect this seems far-fetched to many of you.

ครับ ผมเข้าใจว่า สิ่งนี้ดูจะไกลจากความจริง สำหรับหลาย ๆ ท่าน

I bet there are those of you who doubt that superintelligent AI is possible,

ผมมั่นใจว่ายังมีคนไม่เชื่อว่า ปัญญาประดิษฐ์ยอดอัจฉริยะจะเกิดขึ้นได้จริง

much less inevitable.

หรือไม่เชื่อว่ามันหลีกเลี่ยงไม่ได้

But then you must find something wrong with one of the following assumptions.

แต่คุณจะพบว่ามีบางอย่างที่ไม่ถูกต้อง ในสมมติฐานเบื้องต้นต่อไปนี้

And there are only three of them.

ซึ่งก็มีเพียงสามอย่างเท่านั้น

Intelligence is a matter of information processing in physical systems.

หนึ่งคือ ความฉลาดเป็นเรื่องของการ ประมวลข้อมูลในระบบทางกายภาพ

แต่จริง ๆ แล้ว ข้อนี้มัน มากกว่าสมมติฐานเบื้องต้นสักหน่อย

Actually, this is a little bit more than an assumption.

We have already built narrow intelligence into our machines,

เราใส่ความฉลาดในขอบเขตแคบ ๆ ไว้ในจักรกลของเราเรียบร้อยแล้ว

and many of these machines perform

และจักรกลมากมายเหล่านี้ก็ทำงาน

at a level of superhuman intelligence already.

ด้วยความฉลาดระดับเหนือมนุษย์อยู่แล้ว

And we know that mere matter

และเราก็รู้ว่า แค่มีความฉลาดระดับนั้น

can give rise to what is called "general intelligence,"

ก็ทำให้เกิดสิ่งที่เรียกว่า "ความฉลาดทั่วไป"

an ability to think flexibly across multiple domains,

ซึ่งเป็นความสามารถที่จะคิด ได้อย่างยืดหยุ่นในหลาย ๆ ด้าน

because our brains have managed it. Right?

ก็เพราะว่าสมองของเรานั้น ก็สามารถทำได้ ใช่ไหมล่ะครับ

I mean, there's just atoms in here,

ผมหมายความว่า มันก็แค่อะตอมในนี้

and as long as we continue to build systems of atoms

และตราบใดที่เรายังคงสร้าง ระบบของอะตอม

that display more and more intelligent behavior,

ที่แสดงพฤติกรรมชาญฉลาด มากขึ้นและมากขึ้น

we will eventually, unless we are interrupted,

ในที่สุดถ้าเราไม่ถูกขัดขวาง

we will eventually build general intelligence

เราก็จะสร้างความฉลาดทั่วไป

into our machines.

เอาไว้ในจักรกลของเรา

It's crucial to realize that the rate of progress doesn't matter,

มันจำเป็นมากที่ต้องตระหนักว่า อัตราความก้าวหน้านั้นไม่สำคัญ

because any progress is enough to get us into the end zone.

เพราะความก้าวหน้าใด ๆ ก็ตาม ก็เพียงพอที่จะพาเราเข้าสู่ช่วงสุดท้าย

We don't need Moore's law to continue. We don't need exponential progress.

ไม่จำเป็นต้องดำเนินไปตามกฎของมอร์ ไม่จำเป็นต้องก้าวหน้าไปแบบยกกำลัง

We just need to keep going.

เราแค่ต้องก้าวหน้าต่อไปเรื่อย ๆ เท่านั้นเอง

The second assumption is that we will keep going.

สมมติฐานเบื้องต้นข้อที่สอง คือเราจะก้าวหน้าต่อไปเรื่อย ๆ

We will continue to improve our intelligent machines.

เราจะยังคงปรับปรุงจักรกล ที่ชาญฉลาดของเราต่อไป

And given the value of intelligence --

และด้วยคุณค่าของความฉลาด --

I mean, intelligence is either the source of everything we value

ผมหมายถึงว่า ไม่ว่าความฉลาด จะเป็นทุก ๆ อย่างที่เราเห็นว่ามีคุณค่า

or we need it to safeguard everything we value.

หรือเราต้องใช้มันเพื่อปกป้อง ทุก ๆ อย่างที่เราเห็นว่ามีคุณค่า

It is our most valuable resource.

มันก็เป็นสิ่งที่มีคุณค่าที่สุดของเรา

So we want to do this.

ฉะนั้น เราจึงต้องการทำสิ่งนี้

We have problems that we desperately need to solve.

เรามีปัญหา ที่เราจำเป็นต้องแก้ไขอย่างเร่งด่วน

We want to cure diseases like Alzheimer's and cancer.

เราต้องการรักษาโรค อย่างเช่น อัลไซเมอร์และมะเร็ง

We want to understand economic systems. We want to improve our climate science.

เราต้องการเข้าใจระบบเศรษฐกิจ เราต้องการปรับปรุงศาสตร์ภูมิอากาศวิทยา

So we will do this, if we can.

เราจึงต้องทำสิ่งนี้ หากเราสามารถทำได้

The train is already out of the station, and there's no brake to pull.

รถไฟได้ออกจากสถานีไปแล้ว และไม่มีเบรคที่จะดึงมันไว้ได้

Finally, we don't stand on a peak of intelligence,

ข้อสุดท้าย เราไม่ได้ยืนอยู่ บนจุดสูงสุดของความฉลาด

or anywhere near it, likely.

ไม่แม้แต่จะใกล้เคียง

And this really is the crucial insight.

นี่เป็นความเข้าใจที่สำคัญยิ่ง

This is what makes our situation so precarious,

นี่แหละที่ทำให้สถานการณ์ของเรา ล่อแหลมต่ออันตรายยิ่ง

and this is what makes our intuitions about risk so unreliable.

และนี่แหละที่ทำให้สัญชาตญาณของเรา ที่มีต่อความเสี่ยงนั้นเชื่อถือไม่ได้

Now, just consider the smartest person who has ever lived.

ครับ แค่ลองพิจารณา ถึงคนฉลาดที่สุดที่เคยมีชีวิตอยู่

On almost everyone's shortlist here is John von Neumann.

สำหรับทุกคนแล้ว หนึ่งในรายชื่อนั้น ก็คืออ จอห์น วอน นอยแมน

I mean, the impression that von Neumann made on the people around him,

ผมหมายถึง ความประทับใจของผู้คน ที่มีต่อ วอน นอยแมน

and this included the greatest mathematicians and physicists of his time,

และนั่นก็รวมถึงนักคณิตศาสตร์ และนักฟิสิกส์ที่ยิ่งใหญ่ในยุคนั้น

is fairly well-documented.

ได้ถูกบันทีกไว้เป็นอย่างดี

If only half the stories about him are half true,

ถ้าเรื่องราวของเขาสักครึ่งหนึ่งนั้น จะมีมูลความจริงอยู่ถึงสักครึ่ง

there's no question

ก็ไม่ต้องกังขาเลยว่า

he's one of the smartest people who has ever lived.

เขาเป็นคนฉลาดที่สุดในโลกคนหนึ่ง

So consider the spectrum of intelligence.

เมื่อพิจารณาระดับช่วงของความฉลาด

Here we have John von Neumann.

ตรงนี้เรามี จอห์น วอน นอยแมน

And then we have you and me.

แล้วเราก็มี คุณและผม

And then we have a chicken.

แล้วต่อมาก็มีไก่

(Laughter)

(เสียงหัวเราะ)

Sorry, a chicken.

ขอโทษครับ ไก่

(Laughter)

(เสียงหัวเราะ)

There's no reason for me to make this talk more depressing than it needs to be.

ไม่มีเหตุผลอะไร ที่ผมจะทำให้ การบรรยายนี้หดหู่ใจมากเกินจำเป็น

(Laughter)

(เสียงหัวเราะ)

It seems overwhelmingly likely, however, that the spectrum of intelligence

อย่างไรก็ตาม ดูจะเป็นไปได้มาก ที่ระดับช่วงของความฉลาดนั้น

extends much further than we currently conceive,

ขยายออกไปได้ไกล มากกว่าที่เราตระหนักในปัจจุบัน

and if we build machines that are more intelligent than we are,

และถ้าเราสร้างจักรกลที่ฉลาดกว่าเรา

they will very likely explore this spectrum

พวกมันก็น่าจะสำรวจตรวจค้น ความชาญฉลาดเหล่านี้

in ways that we can't imagine,

ในแบบที่เราคิดไม่ถึง

and exceed us in ways that we can't imagine.

และเหนือกว่าเราในแบบที่เราคิดไม่ถึง

And it's important to recognize that this is true by virtue of speed alone.

มันจำเป็นที่เราต้องยอมรับว่า สิ่งนี้เป็นจริงไปแล้ว ในเรื่องความเร็ว

Right? So imagine if we just built a superintelligent AI

ใช่ไหมครับ ลองคิดดูว่า ถ้าเราแค่สร้าง ปัญญาประดิษฐ์อัจฉริยะขึ้นมาสักเครื่อง

that was no smarter than your average team of researchers

ที่ไม่ได้ฉลาดกว่ากลุ่มนักวิจัยทั่ว ๆ ไป

at Stanford or MIT.

ที่แสตนฟอร์ดหรือเอ็มไอที

Well, electronic circuits function about a million times faster

วงจรไฟฟ้านั้นทำงานได้เร็วกว่าวงจรชีวเคมี

than biochemical ones,

ประมาณหนึ่งล้านเท่า

so this machine should think about a million times faster

ดังนั้น จักรกลนี้ควรจะคิดได้เร็วกว่า ปัญญาของมนุษย์ผู้สร้างมันขึ้นมา

than the minds that built it.

ประมาณหนึ่งล้านเท่า

So you set it running for a week,

เมื่อคุณเดินเครื่องนานหนึ่งสัปดาห์

and it will perform 20,000 years of human-level intellectual work,

มันจะทำงานได้เท่ากับการทำงานโดยใช้ สติปัญญาในระดับของมนุษย์นาน 20,000 ปี

week after week after week.

นานสัปดาห์แล้วสัปดาห์เล่า

How could we even understand, much less constrain,

เราจะไปเข้าใจ หรือแม้แต่จำกัดขอบเขต ของปัญญาประดิษฐ์

a mind making this sort of progress?

ที่สร้างความก้าวหน้าแบบนี้ได้อย่างไร

The other thing that's worrying, frankly,

อีกเรื่องหนึ่งที่น่าวิตกกังวล

is that, imagine the best case scenario.

คือ ลองจินตนาการถึงสถานการณ์ที่ดีที่สุด

So imagine we hit upon a design of superintelligent AI

จินตนาการว่า เราค้นพบการออกแบบ ปัญญาประดิษฐ์อันชาญฉลาด

that has no safety concerns.

ที่ไม่มีปัญหาเรื่องความปลอดภัย

We have the perfect design the first time around.

เรามีแบบที่สมบูรณ์เป็นครั้งแรก

It's as though we've been handed an oracle

ราวกับว่าเราได้รับคำพยากรณ์

that behaves exactly as intended.

ที่เป็นไปดังใจคิดเป๊ะ

Well, this machine would be the perfect labor-saving device.

ครับ จักรกลนี้ก็น่าจะเป็นเครื่องมือ ที่ประหยัดแรงงานได้อย่างสมบูรณ์แบบ

It can design the machine that can build the machine

มันสามารถออกแบบจักรกล ที่สามารถสร้างจักรกล

that can do any physical work,

ซึ่งสามารถทำงานเชิงกายภาพอะไรก็ได้

powered by sunlight,

ใช้พลังจากแสงอาทิตย์

more or less for the cost of raw materials.

โดยมีต้นทุนแค่ค่าวัตถุดิบ

So we're talking about the end of human drudgery.

ดังนั้น เรากำลังพูดกันถึงการสิ้นสุด ของงานหนักที่น่าเบื่อของมนุษย์

We're also talking about the end of most intellectual work.

เรากำลังพูดถึงการจบสิ้นของงาน ที่ใช้สติปัญญามากที่สุดด้วยเช่นกัน

So what would apes like ourselves do in this circumstance?

แล้วลิงจ๋ออย่างพวกเรานั้น จะทำอย่างไรในสถานการณ์แบบนี้

Well, we'd be free to play Frisbee and give each other massages.

ครับ เราก็ว่างที่จะไปเล่นจานร่อน แล้วก็ทำการนวดเฟ้นให้กันและกัน

Add some LSD and some questionable wardrobe choices,

เพิ่มการเสพสารแอลเอสดี และเสื้อผ้าที่ดูไม่ออกว่าเป็นแนวไหน

and the whole world could be like Burning Man.

และโลกทั้งใบก็คงกลายเป็น งานเทศกาล Burning Man

(Laughter)

(เสียงหัวเราะ)

Now, that might sound pretty good,

ครับ นั่นอาจจะฟังดูค่อนข้างจะดี

but ask yourself what would happen

แต่ลองถามตัวเองดูว่าจะเกิดอะไรขึ้น

under our current economic and political order?

ภายใต้ระเบียบการเมืองและเศรษฐกิจ ในปัจจุบันของเรานี้

It seems likely that we would witness

ดูเหมือนว่าเราน่าจะได้เห็น

a level of wealth inequality and unemployment

ความไม่เท่าเทียมของความมั่งคั่ง และอัตราการว่างงานที่สูง

อย่างที่เราไม่เคยได้เห็นมาก่อน

that we have never seen before.

Absent a willingness to immediately put this new wealth

การขาดความเต็มใจ ที่จะรีบนำความมั่งคั่งที่เกิดขึ้นใหม่นี้

to the service of all humanity,

มารับใช้มนุษยชาติทั้งมวลในทันที

a few trillionaires could grace the covers of our business magazines

ทำให้เศรษฐีระดับพันล้านบางราย อาจเฉิดฉายบนปกนิตยสารธุรกิจ

while the rest of the world would be free to starve.

ในขณะที่ส่วนอื่น ๆ ของโลก กำลังอดอยากปากแห้งกัน

And what would the Russians or the Chinese do

แล้วคนรัสเซียหรือคนจีนจะทำอย่างไร

if they heard that some company in Silicon Valley

หากพวกเขารู้ว่าบางบริษัทในซิลิคอนแวลลีย์

was about to deploy a superintelligent AI?

กำลังจะนำปัญญาประดิษฐ์ที่ชาญฉลาดมาใช้

This machine would be capable of waging war,

จักรกลที่ว่านี้อาจสามารถนำไปใช้ ในการศึกสงครามได้

whether terrestrial or cyber,

ไม่ว่าจะเป็นทางภาคพื้นโลก หรือทางอินเทอร์เน็ต

with unprecedented power.

ด้วยพละกำลังที่ไม่อาจประเมินได้

This is a winner-take-all scenario.

นี่คือสถานการณ์แบบผู้ชนะได้ทุกอย่าง

To be six months ahead of the competition here

เพื่อที่จะนำหน้าไปหกเดือน ในการแข่งขันนี้

is to be 500,000 years ahead,

คือการที่เราต้องนำหน้าอยู่ 500,000 ปี

at a minimum.

เป็นอย่างน้อย

So it seems that even mere rumors of this kind of breakthrough

ฉะนั้น จึงเหมือนกับว่า แม้เพียงข่าวลือ ในเรื่องการค้นพบที่ยิ่งใหญ่แบบนี้

could cause our species to go berserk.

ก็อาจเป็นเหตุให้ชาติพันธุ์ของเรา บ้าระห่ำกันขึ้นมาได้

Now, one of the most frightening things,

ครับ สิ่งหนึ่งที่น่าหวาดกลัวที่สุด

in my view, at this moment,

ในความเห็นของผม ในขณะนี้

are the kinds of things that AI researchers say

คือ สิ่งที่พวกนักวิจัยปัญญาประดิษฐ์พูดกัน

when they want to be reassuring.

เมื่อพวกเขาต้องการจะปลอบใจเรา

And the most common reason we're told not to worry is time.

และเหตุผลที่ธรรมดาที่สุดที่เขาบอกพวกเรา ให้ไม่ต้องกังวลก็คือเรื่องเวลา

This is all a long way off, don't you know.

เรื่องนี้มันอีกนานนัก ไม่รู้หรอกหรือ

This is probably 50 or 100 years away.

มันน่าจะเป็นอีก 50 หรือ 100 ปี ข้างหน้า

One researcher has said,

นักวิจัยคนหนึ่งเคยพูดว่า

"Worrying about AI safety

"กังวลเรื่องความปลอดภัยของปัญญาประดิษฐ์

is like worrying about overpopulation on Mars."

ก็จะเหมือนกับกังวล เรื่องประชากรจะล้นดาวอังคาร"

นี่เป็นเรื่องราวในรูปแบบของซิลิคอนแวลลีย์

This is the Silicon Valley version

of "don't worry your pretty little head about it."

ในการบอกว่า "ไม่ต้องเอาสมองน้อยๆ มากังวลเรื่องนี้หรอก"

(Laughter)

(เสียงหัวเราะ)

No one seems to notice

ดูเหมือนจะไม่มีใครสังเกตเห็นว่า

that referencing the time horizon

การอ้างถึงขอบเขตของเวลา

is a total non sequitur.

เป็นคำพูดที่ไม่มีเหตุผลอย่างสิ้นเชิง

If intelligence is just a matter of information processing,

ถ้าหากว่าความชาญฉลาดเป็นเพียง เรื่องของการประมวลผลข้อมูล

and we continue to improve our machines,

และเรายังคงปรับปรุงจักรกลของเรา ให้ดียิ่งขึ้นต่อไป

we will produce some form of superintelligence.

เราก็จะผลิตอะไรบางอย่างในรูปแบบ สุดยอดความชาญฉลาดออกมา

And we have no idea how long it will take us

และเราก็ไม่รู้เลยว่า เราจะใช้เวลานานแค่ไหน

to create the conditions to do that safely.

เพื่อสร้างสภาวะที่จะทำสิ่งนั้น ได้อย่างปลอดภัย

Let me say that again.

ขอผมยํ้าอีกครั้ง

We have no idea how long it will take us

เราไม่รู้เลยว่าเราจะใช้เวลานานแค่ไหน

to create the conditions to do that safely.

เพื่อสร้างสภาวะที่จะทำสิ่งนั้น ได้อย่างปลอดภัย

And if you haven't noticed, 50 years is not what it used to be.

และถ้าคุณยังไม่ทันสังเกตอีกล่ะก็ 50 ปีนั้นไม่เป็นอย่างที่มันเคยเป็น

This is 50 years in months.

นี่คือ 50 ปีในอีกไม่กี่เดือน

This is how long we've had the iPhone.

เรามีไอโฟนมานานเท่านี้

This is how long "The Simpsons" has been on television.

"เดอะ ซิมพ์สันส์" ออกอากาศทางทีวี มานานแค่นี้

Fifty years is not that much time

ห้าสิบปีไม่ใช่เวลาที่นานมาก

to meet one of the greatest challenges our species will ever face.

ที่จะพบกับสิ่งท้าทายที่ยิ่งใหญ่ที่สุด ที่ชาติพันธ์ุของเราจะเผชิญ

Once again, we seem to be failing to have an appropriate emotional response

ยํ้าอีกครั้งนะครับ ดูเหมือนเรากำลังล้มเหลว ที่จะมีการตอบสนองทางอารมณ์ที่เหมาะสม

to what we have every reason to believe is coming.

ต่อสิ่งที่เราเชื่อได้ด้วยเหตุผล ในทุก ๆ ด้าน ว่ามันกำลังมาถึง

The computer scientist Stuart Russell has a nice analogy here.

นักวิทยาศาสตร์คอมพิวเตอร์ สจวร์ต รัสเซลล์ เปรียบเทียบไว้เป็นอย่างดีในเรื่องนี้

He said, imagine that we received a message from an alien civilization,

เขาพูดว่า ลองจินตนาการดูว่า เราได้รับข้อความจากอารยธรรมต่างดาว

which read:

ความว่า

"People of Earth,

"มนุษย์โลก

we will arrive on your planet in 50 years.

เราจะไปถึงดาวเคราะห์ของท่านในอีก 50 ปี

Get ready."

เตรียมตัวให้พร้อมนะ"

And now we're just counting down the months until the mothership lands?

แล้วตอนนี้เราจะแค่นับเดือนถอยหลัง จนยานแม่มาลงจอดบนพื้นโลกอย่างนั้นหรือ

We would feel a little more urgency than we do.

เราน่าจะรู้สึกต้องรีบเร่งขึ้น กว่าที่เราเป็นอยู่บ้าง

Another reason we're told not to worry

อีกเหตุผลหนึ่ง ที่เขาบอกเราไม่ให้กังวล

is that these machines can't help but share our values

คือจักรกลพวกนี้ ยังไงก็จะมีค่านิยมเหมือนกับเรา

because they will be literally extensions of ourselves.

เพราะแท้จริงแล้วมันจะเป็น ส่วนต่อขยายออกไปของตัวเราเอง

They'll be grafted onto our brains,

พวกมันจะถูกเชื่อมต่อกับสมองของเรา

and we'll essentially become their limbic systems.

หรือที่จริงคือ เรากลายเป็นสมองระบบลิมบิก (ทำหน้าที่รับรู้อารมณ์) ของพวกมัน

Now take a moment to consider

ครับ มาพิจารณาสักครู่

that the safest and only prudent path forward,

ว่าวิถีทางเดียวที่ปลอดภัยและรอบคอบ ที่จะใช้ต่อไปข้างหน้า

recommended,

ที่ได้รับการเสนอแนะมานั้น

is to implant this technology directly into our brains.

คือการปลูกถ่ายเทคโนโลยีนี้ เข้าสู่สมองของเราโดยตรง

Now, this may in fact be the safest and only prudent path forward,

ครับ จริง ๆ แล้วนี่อาจเป็นวิถีทางเดียว ที่ปลอดภัยและรอบคอบที่จะใช้ต่อไป

but usually one's safety concerns about a technology

แต่โดยปกติ ความกังวลเรื่อง ความปลอดภัยของเทคโนโลยี

have to be pretty much worked out before you stick it inside your head.

จะต้องได้รับการคลี่คลายให้ได้ไม่มากก็น้อย ก่อนที่จะเอามันไปติดเข้าไปในหัวของเรา

(Laughter)

(เสียงหัวเราะ)

The deeper problem is that building superintelligent AI on its own

ปัญหาที่ลึกลํ้ากว่าก็คือการสร้าง ปัญญาประดิษฐ์อัจฉริยะขึ้นมา โดยตัวมันเอง

seems likely to be easier

ดูน่าจะง่ายกว่า

than building superintelligent AI

การสร้างปัญญาประดิษฐ์อัจฉริยะ

and having the completed neuroscience

โดยมีประสาทวิทยาศาสตร์ที่สมบูรณ์แบบ

that allows us to seamlessly integrate our minds with it.

ที่ทำให้เราหลอมรวมปัญญาความคิดของเรา เข้ากับมันได้อย่างแนบเนียน

And given that the companies and governments doing this work

และถ้าคิดถึงว่า บริษัทและรัฐบาลทั้งหลาย ที่กำลังทำงานนี้อยู่

are likely to perceive themselves as being in a race against all others,

น่าจะรู้ดีว่าพวกเขานั้นกำลังแข่งขันกันอยู่

given that to win this race is to win the world,

เพราะว่าการเอาชนะการแข่งขันนี้ได้ คือการที่จะได้ครองโลก

provided you don't destroy it in the next moment,

ถ้าคุณไม่ทำลายมันในวินาทีต่อมาไปซะก่อน

then it seems likely that whatever is easier to do

มันก็ดูน่าจะเป็นไปได้ว่า อะไรก็ตามที่ทำได้ง่ายกว่า

will get done first.

ก็จะถูกทำเป็นอันดับแรก

Now, unfortunately, I don't have a solution to this problem,

ครับ โชคไม่ดี ผมไม่มีวิธีแก้ปัญหานี้

apart from recommending that more of us think about it.

นอกเหนือจากการแนะนำ ให้พวกเรานี้คิดถึงมันมากขึ้นกว่านี้

I think we need something like a Manhattan Project

ผมว่าเราต้องการอะไร คล้ายๆ โครงการแมนฮัตตัน

on the topic of artificial intelligence.

ในหัวเรื่องปัญญาประดิษฐ์นี้

Not to build it, because I think we'll inevitably do that,

ไม่ใช่เพื่อจะสร้างมัน เพราะผมว่า มันต้องเกิดแน่ เลี่ยงไม่ได้อยู่แล้ว

but to understand how to avoid an arms race

แต่เพื่อให้เข้าใจถึงวิธีที่จะหลีกเลี่ยง การแข่งขันกันสะสมอาวุธ

and to build it in a way that is aligned with our interests.

และสร้างมันขึ้นมา ในแบบที่ สอดคล้องกับผลประโยชน์ของเรา

When you're talking about superintelligent AI

เมื่อเราพูดกันถึงปัญญาประดิษฐ์อัจฉริยะ

that can make changes to itself,

ที่สามารถเปลี่ยนแปลงตัวมันได้เอง

it seems that we only have one chance to get the initial conditions right,

ก็ดูเหมือนว่า เรามีเพียงโอกาสเดียว ที่จะทำให้สภาพการณ์เริ่มแรกนั้นถูกต้อง

and even then we will need to absorb

และถึงกระนั้น เราก็จำเป็นจะต้องซึมซับ

the economic and political consequences of getting them right.

ผลสืบเนื่องทางการเมืองและเศรษฐกิจ ของการที่ต้องทำให้มันถูกต้อง

But the moment we admit

แต่ ณ วินาทีที่เรายอมรับ

that information processing is the source of intelligence,

ว่าการประมวลข้อมูล เป็นแหล่งที่มาของความชาญฉลาด

that some appropriate computational system is what the basis of intelligence is,

ว่าระบบคอมพิวเตอร์ที่เหมาะสมบางอย่างนั้น คือสิ่งที่เป็นพื้นฐานของความชาญฉลาด

and we admit that we will improve these systems continuously,

และเราก็ยอมรับว่า เราจะปรับปรุง ระบบเหล่านี้อย่างต่อเนื่อง

and we admit that the horizon of cognition very likely far exceeds

และเรายอมรับว่า มันเป็นไปได้มากว่า ขอบเขตของปัญญารู้คิดจะไกลเกินกว่า

what we currently know,

สิ่งที่เรารู้ในปัจจุบัน

then we have to admit

แล้วเราก็ต้องยอมรับ

that we are in the process of building some sort of god.

ว่าเราอยู่ในกระบวนการ ของการสร้างเทพเจ้าบางอย่างขึ้นมา

Now would be a good time

ขณะนี้ จึงน่าจะเป็นช่วงเวลาที่ดี

to make sure it's a god we can live with.

ที่เราจะทำให้แน่ใจว่าเทพเจ้าองค์นั้น จะเป็นเทพที่อยู่ร่วมกับเราได้

Thank you very much.

ขอบคุณมากครับ

(Applause)

(เสียงปรบมือ)