How to get empowered, not overpowered, by AI | Max Tegmark

Translator: Kelwalin Dhanasarnsombut Reviewer: Rawee Ma

After 13.8 billion years of cosmic history,

หลังจาก 13.8 พันล้านปี ของประวัติศาสตร์อวกาศ

our universe has woken up

จักรวาลของเราก็ตื่นจากหลับ

and become aware of itself.

และรับรู้ถึงการคงอยู่ของตนเอง

From a small blue planet,

จากดาวเคราะห์สีฟ้าเล็ก ๆ

tiny, conscious parts of our universe have begun gazing out into the cosmos

ส่วนน้อยนิดที่มีความนึกคิดนี้ มองออกไปยังอวกาศ

with telescopes,

ด้วยกล้องโทรทรรศน์

discovering something humbling.

ค้นพบบางสิ่งที่ทำให้เรารู้สึกถ่อมตน

We've discovered that our universe is vastly grander

เราได้ค้นพบว่าจักรวาลของเรา

than our ancestors imagined

ใหญ่กว่าที่บรรพบุรุษเราคาดเอาไว้

and that life seems to be an almost imperceptibly small perturbation

และชีวิตก็ดูเหมือนจะมีค่าเพียงน้อยนิด

on an otherwise dead universe.

เมื่อเทียบกับจักรวาลไร้ชีวิตแสนเวิ้งว้าง

But we've also discovered something inspiring,

แต่เรายังได้ค้นพบบางอย่าง ที่สร้างแรงบันดาลใจ

which is that the technology we're developing has the potential

นั่นก็คือเทคโนโลยีที่เราพัฒนา

to help life flourish like never before,

มีศักยภาพในการช่วยให้ชีวิตเรา เฟื่องฟูกันในแบบที่ไม่เคยเป็นมาก่อน

not just for centuries but for billions of years,

ไม่ใช่แค่ในช่วงหลายศตวรรษ แต่เป็นเวลาหลายพันล้านปีแล้ว

and not just on earth but throughout much of this amazing cosmos.

และไม่ใช่แค่บนโลก แต่ทั่วทั้งจักรวาลเลยทีเดียว

I think of the earliest life as "Life 1.0"

ผมคิดว่าปฐมชีวิตเป็น "ชีวิน 1.0"

because it was really dumb,

ที่โง่ ๆ บื้อ ๆ

like bacteria, unable to learn anything during its lifetime.

เช่น แบคทีเรีย ที่ทั้งชีวิต มันไม่สามารถเรียนรู้อะไรได้เลย

I think of us humans as "Life 2.0" because we can learn,

ผมคิดว่ามนุษย์เราเป็น "ชีวิน 2.0" เพราะว่าเรามีการเรียนรู้

which we in nerdy, geek speak,

ซึ่งถ้าพูดให้ดูคงแก่เรียนสักหน่อย

might think of as installing new software into our brains,

ก็คงมองได้ว่ามันเป็นการลงซอร์ฟแวร์ใหม่ เข้าสู่สมองของเรา

like languages and job skills.

เช่น ภาษา หรือทักษะในการประกอบอาชีพ

"Life 3.0," which can design not only its software but also its hardware

"ชีวิน 3.0" ซึ่งสามารถออกแบบได้ ทั้งซอร์ฟแวร์และฮาร์ดแวร์ของมันเอง

of course doesn't exist yet.

ยังไม่ปรากฏอยู่จริง

But perhaps our technology has already made us "Life 2.1,"

แต่บางที เทคโนโลยีของเรา อาจทำให้เรากลายเป็น "ชีวิน 2.1" ไปแล้ว

with our artificial knees, pacemakers and cochlear implants.

มันทำให้เรามีเข่าเทียม เครื่องคุมจังหวะหัวใจ และหูเทียม

So let's take a closer look at our relationship with technology, OK?

ลองมาพิจารณาความสัมพันธ์ระหว่างเรา กับเทคโลยีดูนะครับ

As an example,

ยกตัวอย่างเช่น

the Apollo 11 moon mission was both successful and inspiring,

ปฏิบัติการอะพอลโล่ 11 ประสบความสำเร็จและสร้างแรงบันดาลใจ

showing that when we humans use technology wisely,

มันแสดงให้เราเห็นว่า มนุษย์ใช้เทคโนโลยีได้อย่างชาญฉลาด

we can accomplish things that our ancestors could only dream of.

เราสามารถพิชิต สิ่งที่บรรพบุรุษของเราได้แค่ฝัน

But there's an even more inspiring journey

มันยังมีการเดินทางที่น่าทึ่งยิ่งกว่านั้น

propelled by something more powerful than rocket engines,

การเดินทางที่ถูกขับเคลื่อน โดยสิ่งที่ทรงพลังกว่าจรวด

where the passengers aren't just three astronauts

การเดินทางที่ผู้โดยสาร ไม่ได้เป็นแค่นักบินอวกาศสามคน

but all of humanity.

แต่เป็นมวลมนุษยชาติ

Let's talk about our collective journey into the future

ลองมาพูดถึงการเดินทางไปสู่อนาคต

with artificial intelligence.

ด้วยปัญญาประดิษฐ์กันนะครับ

My friend Jaan Tallinn likes to point out that just as with rocketry,

เพื่อนของผม ยาน ทัลลิน มักจะบอกว่า

it's not enough to make our technology powerful.

การทำจรวดเพียงอย่างเดียว ไม่อาจทำให้เทคโนโลยีของเราทรงพลังได้

We also have to figure out, if we're going to be really ambitious,

ถ้าเราตั้งความหวังที่ทะเยอทะยานเอาไว้ เราต้องค้นหาให้ได้ว่า

how to steer it

เราจะกำกับทิศทางมันได้อย่างไร

and where we want to go with it.

และเราอยากจะไปที่ไหน

So let's talk about all three for artificial intelligence:

ลองพูดถึงสามประเด็นนี้ เกี่ยวกับปัญญาประดิษฐ์กันดู

the power, the steering and the destination.

อิทธิพล การกำหนดทิศทาง และเป้าหมาย

Let's start with the power.

เรามาเริ่มกันที่อิทธิพลของมันก่อน

I define intelligence very inclusively --

ผมจะใช้คำว่าปัญญาในความหมายเชิงกว้าง

simply as our ability to accomplish complex goals,

เพื่อสื่อถึงความสามารถของเรา ในการพิชิตเป้าหมายอันซับซ้อน

because I want to include both biological and artificial intelligence.

เพราะว่าผมอยากที่จะพูดให้ครอบคลุม ทั้งปัญญาในทางชีวภาพและปัญญาประดิษฐ์

And I want to avoid the silly carbon-chauvinism idea

ผมอยากที่จะหลีกเลี่ยง แนวคิดสุดอติที่อวยความมีเนื้อหนังมังสา

that you can only be smart if you're made of meat.

ว่ามีปัญญาเหนือยิ่งกว่าสิ่งอื่น

It's really amazing how the power of AI has grown recently.

การเติบโตของอิทธิพลของ AI เมื่อไม่นานมานี้ มันน่าทึ่งจริง ๆ ครับ

Just think about it.

ลองคิดดูสิครับว่า

Not long ago, robots couldn't walk.

ไม่นานมานี้เอง หุ่นยนต์ไม่สามารถพูดได้

Now, they can do backflips.

ตอนนี้ มันตีลังกาหลังได้แล้ว

Not long ago,

ไม่นานมานี้เอง

we didn't have self-driving cars.

เราไม่มีรถที่ขับเคลื่อนอัตโนมัติ

Now, we have self-flying rockets.

ตอนนี้ เรามีจรวดขับเคลื่อนอัตโนมัติ

Not long ago,

ไม่นานมานี้เอง

AI couldn't do face recognition.

AI ไม่สามารถจดจำใบหน้าได้

Now, AI can generate fake faces

ตอนนี้ AI สามารถสร้างหน้าปลอมได้

and simulate your face saying stuff that you never said.

และสร้างภาพหน้าของคุณ ที่พูดในสิ่งที่คุณไม่ได้พูด

Not long ago,

ไม่นานมานี้เอง

AI couldn't beat us at the game of Go.

AI ไม่สามารถเอาชนะเราในเกมโกะได้

Then, Google DeepMind's AlphaZero AI took 3,000 years of human Go games

แล้ว AI อัลฟาซีโร่ ของกูเกิล ดีพมายด์ ก็ดับยุคทองอายุ 3,000 ปี

and Go wisdom,

ของเกมโกะและของมนุษย์ผู้เล่นโกะ

ignored it all and became the world's best player by just playing against itself.

โดยการเอาชนะผู้เล่นที่เก่งกาจที่สุด โดยการเล่นแข่งกับตัวมันเอง

And the most impressive feat here wasn't that it crushed human gamers,

และความสามารถของมันที่น่าประทับใจที่สุด ไม่ใช่การที่มันเอาชนะมนุษย์ได้

but that it crushed human AI researchers

แต่เป็นการเอาชนะนักวิจัย AI ที่เป็นมนุษย์

who had spent decades handcrafting game-playing software.

ที่ใช้เวลาหลายทศวรรษ ประดิษฐ์ซอร์ฟแวร์ที่เล่นเกมนี้

And AlphaZero crushed human AI researchers not just in Go but even at chess,

และอัลฟาซีโร่ก็เอาชนะนักวิจัย AI ไม่ใช่แค่ในเกมโกะหรือหมากรุก

which we have been working on since 1950.

ซึ่งพวกเราทำการศึกษา มาตั้งแต่ช่วงยุคปี 1950

So all this amazing recent progress in AI really begs the question:

การพัฒนาอันน่าทึ่งเหล่านี้ของ AI ก่อให้เกิดคำถามคาใจว่า

How far will it go?

มันจะไปได้ไกลแค่ไหน

I like to think about this question

ผมมักพิจารณาคำถามนี้

in terms of this abstract landscape of tasks,

ในลักษณะของพื้นที่สมมติของการทำงาน

where the elevation represents how hard it is for AI to do each task

บริเวณที่ยกตัวสูงขึ้นมา แทนความยากของงานสำหรับ AI

at human level,

เมื่อ AI ต้องทำให้ได้ดีเท่ามนุษย์

and the sea level represents what AI can do today.

และระดับน้ำทะเลแสดงว่า ณ ปัจจุบันนี้ AI ทำได้ดีแค่ไหน

The sea level is rising as AI improves,

ระดับน้ำทะเลจะสูงขึ้นเรื่อย ๆ เมื่อ AI ได้รับการปรับปรุง

so there's a kind of global warming going on here in the task landscape.

เรากำลังเผชิญกับปัญหาโลกร้อน ในพื้นที่ของการทำงานสมมตินี้

And the obvious takeaway is to avoid careers at the waterfront --

และประเด็นสำคัญเลยก็คือ พยายามหลีกเลี่ยงงานที่อยู่ติดริมน้ำ

(Laughter)

(เสียงหัวเราะ)

which will soon be automated and disrupted.

ซึ่งไม่นานก็จะถูกเปลี่ยนแปลงแทนที่ ด้วยระบบอัตโนมัติ

But there's a much bigger question as well.

แต่เราก็มีคำถามที่ใหญ่กว่านั้น

How high will the water end up rising?

น้ำทะเลจะขึ้นสูงไปถึงไหน

Will it eventually rise to flood everything,

มันจะสูงขึ้นไปเรื่อย ๆ จนท่วมทุกที่เลยหรือเปล่า

matching human intelligence at all tasks.

ปัญญาประดิษฐ์จะเก่งทัดเทียมมนุษย์ ในทุกเรื่องเลยใช่ไหม

This is the definition of artificial general intelligence --

นี่คือนิยามของปัญญาประดิษฐ์ทั่วไป

AGI,

หรือ AGI

which has been the holy grail of AI research since its inception.

ซึ่งเป็นเหมือนจอกศักดิ์สิทธิ์ สำหรับการวิจัย AI ตั้งแต่อ้อนแต่ออก

By this definition, people who say,

โดยนิยามแล้ว คนที่บอกว่า

"Ah, there will always be jobs that humans can do better than machines,"

"โอ้ย เดี๋ยวก็มีงาน ที่คนจะทำได้ดีกว่าจักรกลอยู่ดีแหละ"

are simply saying that we'll never get AGI.

ก็คือคนที่บอกว่า เราไม่มีวันได้ AGI

Sure, we might still choose to have some human jobs

แน่ล่ะว่า เราอาจจะยังเลือก ให้มีงานสำหรับมนุษย์

or to give humans income and purpose with our jobs,

หรือให้เงินเดือนกับคน และให้คุณค่ากับงานของเรา

but AGI will in any case transform life as we know it

แต่ไม่ว่าจะอย่างไร AGI ก็จะเปลี่ยนชีวิตที่เราเคยรู้จัก

with humans no longer being the most intelligent.

มนุษย์จะไม่ใช่สิ่งที่มีปัญญามากที่สุดอีกต่อไป

Now, if the water level does reach AGI,

ทีนี้ ถ้าระดับน้ำไปไม่ถึง AGI แล้ว

then further AI progress will be driven mainly not by humans but by AI,

การพัฒนา AI ต่อไปจะไม่ได้ถูกขับเคลื่อน โดยมนุษย์เป็นหลัก แต่จะเป็น AI

which means that there's a possibility

ซึ่งนั่นหมายความว่า

that further AI progress could be way faster

มันเป็นไปได้ที่การพัฒนา AI ต่อไป อาจรวดเร็วกว่า

than the typical human research and development timescale of years,

งานวิจัยโดยมนุษย์ และระยะเวลาการพัฒนาในหน่วยปี

raising the controversial possibility of an intelligence explosion

ซึ่งอาจเป็นไปได้ว่า จะเกิดการปะทุของปัญญา

where recursively self-improving AI

เมื่อ AI ที่พัฒนาตัวเองแบบซ้ำ ๆ

rapidly leaves human intelligence far behind,

จะมีปัญญาเฉลียวฉลาด ชนิดทิ้งมนุษย์อย่างไม่เห็นฝุ่น

creating what's known as superintelligence.

และสร้างสิ่งที่เรารู้จักกันว่า ปัญญาประดิษฐ์ขั้นสูงสุด

Alright, reality check:

เอาล่ะ กลับมาสู่โลกแห่งความจริงก่อน

Are we going to get AGI any time soon?

เราจะมี AGI เร็ว ๆ นี้ไหม

Some famous AI researchers, like Rodney Brooks,

นักวิจัย AI ผู้โด่งดังบางท่าน เช่น ร็อดนีย์ บรูคส์

think it won't happen for hundreds of years.

คิดว่ามันจะไม่เกิดขึ้น ในอีกหลายร้อยปีนี้

But others, like Google DeepMind founder Demis Hassabis,

แต่คนอื่น ๆ เช่น ดีมิส ฮัซซาบิส ผู้ก่อตั้ง กูเกิล ดีพมายด์

are more optimistic

มองโลกในแง่ดีกว่ามาก

and are working to try to make it happen much sooner.

และพยายามที่จะทำให้มันเกิดขึ้นเร็วขึ้น

And recent surveys have shown that most AI researchers

และการสำรวจเมื่อไม่นานมานี้ แสดงว่า นักวิจัย AI ส่วนใหญ่

actually share Demis's optimism,

มีแนวคิดไปในทางเดียวกับ ดีมิส

expecting that we will get AGI within decades,

พวกเขาหวังว่าเราจะมี AGI กันภายในไม่กี่ทศวรรษนี้

so within the lifetime of many of us,

ในช่วงชีวิตของเราหลาย ๆ คน

which begs the question -- and then what?

ซึ่งมันทำให้เกิดปัญหาคาใจที่ว่า แล้วจากนั้นล่ะ

What do we want the role of humans to be

เราอยากจะให้มนุษย์มีบทบาทอย่างไร

if machines can do everything better and cheaper than us?

ถ้าจักรกลสามารถทำทุกอย่าง ได้ดีกว่าและถูกกว่าเรา

The way I see it, we face a choice.

ผมมองว่าเรากำลังเผชิญกับตัวเลือก

One option is to be complacent.

ตัวเลือกหนึ่งก็คือ เราควรจะยินดี

We can say, "Oh, let's just build machines that can do everything we can do

เราจะพูดได้ว่า "ก็สร้างจักรกล ที่ทำทุกอย่างที่เราทำได้สิ

and not worry about the consequences.

และไม่ต้องไปกังวลถึงผลที่ตามมาหรอก

Come on, if we build technology that makes all humans obsolete,

ไม่เอาหน่า ถ้าเราสร้างเทคโนโลยี ที่ทำให้มนุษย์ตกยุคไปเลยเนี่ย

what could possibly go wrong?"

มันจะแย่แค่ไหนกันเชียว"

(Laughter)

(เสียงหัวเราะ)

But I think that would be embarrassingly lame.

ผมคิดว่ามันฟังดูง่อยเปลี้ยเสียแขนทีเดียว

I think we should be more ambitious -- in the spirit of TED.

เราควรที่จะมีความทะเยอทะยานกันกว่านี้ ด้วยความมุ่งมั่นแบบ TED

Let's envision a truly inspiring high-tech future

เรามาลองมองอนาคตล้ำสมัย ที่ให้แรงบันดาลใจกันดีกว่า

and try to steer towards it.

แล้วลองพามันไปให้ถึงเป้าหมายนั้น

This brings us to the second part of our rocket metaphor: the steering.

ซึ่งมันก็นำเราไปสู่ส่วนที่สอง ของการเปรียบเปรยกับจรวด

We're making AI more powerful,

เรากำลังทำให้ AI มีอิทธิพลมากขึ้น

but how can we steer towards a future

แต่เราจะควบคุมทิศทาง ไปสู่อนาคตได้อย่างไร

where AI helps humanity flourish rather than flounder?

โดยที่ AI จะช่วยให้มนุษยชาติเบ่งบาน แต่ไม่เบียดเบียนพวกเรา

To help with this,

เพื่อสนับสนุนแนวคิดนี้

I cofounded the Future of Life Institute.

ผมร่วมก่อตั้งสถาบันฟิวเจอร์ออฟไลฟ์

It's a small nonprofit promoting beneficial technology use,

องค์กรไม่แสวงหาผลกำไรเล็ก ๆ ที่ส่งเสริมการใช้เทคโนโลยีอย่างมีคุณค่า

and our goal is simply for the future of life to exist

และเป้าหมายของเราก็คือ เพื่อให้ชีวิตในอนาคตยังคงอยู่

and to be as inspiring as possible.

และได้รับแรงบันดาลใจ มากที่สุดเท่าที่จะเป็นไปได้

You know, I love technology.

ผมรักเทคโนโลยีนะครับ

Technology is why today is better than the Stone Age.

เทคโนโลยีทำให้ทุกวันนี้ดีกว่าในยุคหิน

And I'm optimistic that we can create a really inspiring high-tech future ...

และผมก็เชื่อว่า เราสามารถที่จะสร้าง อนาคตที่ทันสมัยและเปี่ยมแรงบันดาลใจได้

if -- and this is a big if --

ถ้าหากว่า

if we win the wisdom race --

เราชนะการแข่งขันทางแนวคิด

the race between the growing power of our technology

ระหว่างอิทธิพลที่กำลังแผ่ขยาย ของเทคโนโลยี

and the growing wisdom with which we manage it.

กับแนวคิดที่เราใช้ควบคุมมัน ที่กำลังแผ่ขยายเช่นกัน

But this is going to require a change of strategy

แต่สิ่งนี้ต้องการการปรับเปลี่ยนแผนการ

because our old strategy has been learning from mistakes.

เพราะว่าแผนการเก่าของเรา คือการเรียนรู้จากข้อผิดพลาด

We invented fire,

เราประดิษฐ์ไฟ

screwed up a bunch of times --

ทำผิดพลาดนับครั้งไม่ถ้วน

invented the fire extinguisher.

แล้วเราก็ประดิษฐ์อุปกรณ์ดับเพลิงขึ้นมา

(Laughter)

(เสียงหัวเราะ)

We invented the car, screwed up a bunch of times --

เราประดิษฐ์รถยนต์ ทำผิดพลาดหลายครั้งหลายหน

invented the traffic light, the seat belt and the airbag,

แล้วเราก็ประดิษฐ์ไฟจราจร เข็มขัดนิรภัย และถุงลมนิรภัยขึ้นมา

but with more powerful technology like nuclear weapons and AGI,

แต่ด้วยเทคโนโลยีที่ทรงพลังกว่านั้น อย่างเช่นอาวุธนิวเคลียร์ และ AGI

learning from mistakes is a lousy strategy,

การเรียนรู้จากข้อผิดพลาด เป็นแผนการไม่เข้าท่าเลย

don't you think?

ว่าไหมครับ

(Laughter)

(เสียงหัวเราะ)

It's much better to be proactive rather than reactive;

การป้องกันดีกว่าการแก้ไขมาก

plan ahead and get things right the first time

วางแผนล่วงหน้า และทำให้มันเหมาะสมตั้งแต่แรก

because that might be the only time we'll get.

เพราะว่าเราอาจมีโอกาสเพียงแค่ครั้งเดียว

But it is funny because sometimes people tell me,

ตลกดีครับ ที่บางทีคนก็บอกผมว่า

"Max, shhh, don't talk like that.

"เฮ้ย แม็กซ์ อย่าไปพูดแบบนั้นสิ

That's Luddite scaremongering."

จะพูดปลุกระดมให้คนแตกตื่นทำไม"

But it's not scaremongering.

แต่มันไม่ใช่แบบนั้นเลย

It's what we at MIT call safety engineering.

พวกเราที่ MIT เรียกว่า วิศวกรรมความปลอดภัย

Think about it:

ลองคิดดูนะครับว่า

before NASA launched the Apollo 11 mission,

ก่อนที่นาซ่าจะเปิดตัว ปฏิบัติการณ์อะพอลโล่ 11

they systematically thought through everything that could go wrong

พวกเขารวบรวมความคิดอย่างเป็นระบบ เกี่ยวกับเรื่องร้ายทุกอย่างที่อาจเกิดขึ้น

when you put people on top of explosive fuel tanks

เมื่อคุณเอาคนขึ้นไปนั่ง อยู่บนถังเชื้อเพลิงระเบิดได้

and launch them somewhere where no one could help them.

ยิงพวกเขาขึ้นไปยังที่ที่ไม่มีใครช่วยได้

And there was a lot that could go wrong.

และอาจมีเรื่องผิดพลาดเกิดขึ้นได้มากมาย

Was that scaremongering?

นั่นเป็นการสร้างความแตกตื่นหรือ

No.

ไม่เลย

That's was precisely the safety engineering

นั่นแหละ คือวิศวกรรมความปลอดภัย

that ensured the success of the mission,

ที่จะทำให้เรามั่นใจได้ว่า ปฏิบัติการจะประสบความสำเร็จ

and that is precisely the strategy I think we should take with AGI.

และนี่แหละคือแนวทาง ที่ผมคิดว่าเราควรที่จะใช้กับ AGI

Think through what can go wrong to make sure it goes right.

ลองคิดดูว่าอะไรที่จะผิดพลาดได้บ้าง เพื่อที่จะยื่นยันว่าเรามาถูกทางแล้ว

So in this spirit, we've organized conferences,

ด้วยความมุ่งมั่นดังกล่าว เราจัดให้มีการสัมมนา

bringing together leading AI researchers and other thinkers

นำผู้นำด้านการวิจัย AI และผู้นำทางความคิดต่าง ๆ มาพบกัน

to discuss how to grow this wisdom we need to keep AI beneficial.

เพื่ออภิปรายว่าเราจะทำให้แนวคิดที่เรา ต้องการนี้เป็นประโยชน์ต่อ AI ได้อย่างไร

Our last conference was in Asilomar, California last year

ปีที่แล้ว สัมมนาครั้งก่อนของเรา จัดที่อะซิโลมาร์ แคลิฟอร์เนีย

and produced this list of 23 principles

และเราได้ตั้งหลักการ 23 ข้อ

which have since been signed by over 1,000 AI researchers

ซึ่งได้รับการลงนามโดยนักวิจัย AI และผู้นำทางอุตสาหกรรม

and key industry leaders,

กว่า 1,000 คน

and I want to tell you about three of these principles.

และผมอยากจะเล่า หลักการสามข้อจากรายการดังกล่าว

One is that we should avoid an arms race and lethal autonomous weapons.

หลักการแรกคือเราควรที่จะหยุดแข่งขั้นกัน เรื่องอาวุธยุทธภัณฑ์อันตราย

The idea here is that any science can be used for new ways of helping people

ประเด็นก็คือ วิทยาศาสตร์ไม่ว่าสาขาใด ๆ สามารถถูกใช้เพื่อช่วยเหลือคนได้

or new ways of harming people.

และทำร้ายคนได้

For example, biology and chemistry are much more likely to be used

ยกตัวอย่างเช่น ชีววิทยาและเคมี มักจะถูกใช้

for new medicines or new cures than for new ways of killing people,

เพื่อผลิตยาใหม่และเพื่อการรักษาแบบใหม่ มากกว่าที่จะใช้ฆ่าคน

because biologists and chemists pushed hard --

เพราะว่านักชีววิทยา และนักเคมีพยายามอย่างมาก

and successfully --

และสำเร็จเสียด้วย

for bans on biological and chemical weapons.

ในการคว่ำบาตรอาวุธชีวภาพและเคมี

And in the same spirit,

และด้วยความมุมานะนี้

most AI researchers want to stigmatize and ban lethal autonomous weapons.

นักวิจัย AI ส่วนใหญ่อยากที่จะ ประณามและคว่ำบาตรอาวุธอัตโนมัติ

Another Asilomar AI principle

หลักการ AI อะซิโลมาร์ อีกอย่างก็คือ

is that we should mitigate AI-fueled income inequality.

เราควรที่จะทำให้ลดความเหลื่อมล้ำ ของรายได้ที่ได้จาก AI

I think that if we can grow the economic pie dramatically with AI

ผมคิดว่า ถ้าเราสามารถสร้าง แผนผังทางเศรษฐศาสตร์ด้วย AI

and we still can't figure out how to divide this pie

แต่ยังไม่รู้ว่าจะจัดสรรได้อย่างไร

so that everyone is better off,

ให้ทุกคนอยู่ดีกินดีกว่าเดิม

then shame on us.

มันก็คงขายหน้าพิลึก

(Applause)

(เสียงปรบมือ)

Alright, now raise your hand if your computer has ever crashed.

เอาล่ะครับ ไหนลองยกมือขึ้นหน่อย ถ้าคอมพิวเตอร์ของคุณไม่เคยค้างเลย

(Laughter)

(เสียงหัวเราะ)

Wow, that's a lot of hands.

โห คนยกมือเยอะเลย

Well, then you'll appreciate this principle

คุณคงชอบหลักการนี้

that we should invest much more in AI safety research,

ที่ว่าเราควรลงทุน กับการวิจัยความปลอดภัย AI มากกว่านี้

because as we put AI in charge of even more decisions and infrastructure,

เพราะเมื่อเราให้ AI ทำหน้าที่ที่เกี่ยวกับ การตัดสินใจและโครงสร้างพื้นฐานมากขึ้น

we need to figure out how to transform today's buggy and hackable computers

เราต้องรู้ให้ได้ว่าจะเปลี่ยนคอมพิวเตอร์ ที่มีทั้งปัญหาและถูกลักข้อมูลได้

into robust AI systems that we can really trust,

ไปเป็นระบบ AI ที่สมบูรณ์ ที่เราจะไว้ใจได้จริง ๆ ได้อย่างไร

because otherwise,

มิฉะนั้น

all this awesome new technology can malfunction and harm us,

เทคโนโลยีใหม่สุดเจ๋งนี้ อาจทำงานผิดพลาดและทำร้ายเรา

or get hacked and be turned against us.

หรือถูกลักข้อมูลและนำมันมาทำร้ายเราได้

And this AI safety work has to include work on AI value alignment,

และงานด้านความปลอดภัย AI นี้ จะต้องรวมถึงงานที่เกี่ยวกับวางคุณค่าให้ AI

because the real threat from AGI isn't malice,

เพราะอันที่จริงภัยจาก AGI ไม่ใช่การมุ่งร้ายอย่างจงใจ

like in silly Hollywood movies,

อย่างหนังไร้สาระในฮอลลีวูด

but competence --

แต่คือความเป็นไปได้

AGI accomplishing goals that just aren't aligned with ours.

ที่ AGI จะบรรลุเป้าหมาย ที่ไม่ได้อยู่ในแนวทางเดียวกับเรา

For example, when we humans drove the West African black rhino extinct,

ยกตัวอย่างเช่น เมื่อมนุษย์เรา ทำให้แรดดำจากแอฟริกาตะวันตกสูญพันธุ์

we didn't do it because we were a bunch of evil rhinoceros haters, did we?

เราไม่ได้จงใจทำอย่างนั้นเพราะว่า เราเป็นพวกปิศาจเกลียดแรดใช่ไหมครับ

We did it because we were smarter than them

เราทำเช่นนั้น เพราะว่าเราฉลาดกว่าพวกมัน

and our goals weren't aligned with theirs.

และเป้าหมายของเรา ไม่ได้อยู่ในแนวทางเดียวกับพวกมัน

But AGI is by definition smarter than us,

แต่โดยนิยามแล้ว AGI ฉลาดกว่าเรา

so to make sure that we don't put ourselves in the position of those rhinos

ฉะนั้น เพื่อที่จะให้มั่นใจว่าเรา จะไม่ตกอยู่ในสถานการณ์เดียวกับแรด

if we create AGI,

ถ้าเราสร้าง AGI ขึ้นมา

we need to figure out how to make machines understand our goals,

เราต้องรู้ว่าจะทำให้จักรกล เข้าใจเป้าหมายเราได้อย่างไร

adopt our goals and retain our goals.

ยอมรับเป้าหมายของเรา และรักษาเป้าหมายของเราไว้

And whose goals should these be, anyway?

และเป้าหมายที่ว่านี้คือเป้าหมายของใคร

Which goals should they be?

เป้าหมายควรจะเป็นอะไร

This brings us to the third part of our rocket metaphor: the destination.

ซึ่งมันก็นำเราไปสู่ส่วนที่สาม ของการเปรียบเปรยกับจรวด เป้าหมาย

We're making AI more powerful,

เราสร้าง AI ให้มีอิทธิพลมากกว่าเดิม

trying to figure out how to steer it,

พยายามที่จะหาทางว่า จะกำหนดทิศทางมันอย่างไร

but where do we want to go with it?

แต่เราอยากไปไหนด้วยกันกับมันล่ะ

This is the elephant in the room that almost nobody talks about --

นี่คือช้างในห้อง ที่แทบจะไม่มีใครพูดถึง

not even here at TED --

แม้แต่ที่ TED

because we're so fixated on short-term AI challenges.

เพราะว่าเรามัวแต่หลงระเริง อยู่กับปัญหาในระยะสั้น ๆ เกี่ยวกับ AI

Look, our species is trying to build AGI,

ฟังนะครับ พวกเรากำลังพยายามสร้าง AGI

motivated by curiosity and economics,

โดยได้รับแรงกระตุ้นจากความสงสัยใคร่รู้ และเศรษฐกิจ

but what sort of future society are we hoping for if we succeed?

แต่สังคมแห่งอนาคตแบบไหนกัน ที่เราคาดหวังจะเห็นถ้าเราทำสำเร็จ

We did an opinion poll on this recently,

เราทำแบบสอบถามเมื่อไม่นานมานี้

and I was struck to see

และผมก็ตกใจที่ได้เห็นว่า

that most people actually want us to build superintelligence:

คนส่วนใหญ่ต้องการให้เรา สร้างปัญญาประดิษฐ์ขั้นสูงสุด

AI that's vastly smarter than us in all ways.

AI ที่ฉลาดกว่าเรามาก ๆ ในทุก ๆ เรื่อง

What there was the greatest agreement on was that we should be ambitious

สิ่งที่เราคิดเหมือนกันก็คือ เราควรที่จะทะเยอทะยานมุ่งมั่น

and help life spread into the cosmos,

และให้เผ่าพันธุ์ต่าง ๆ กระจายสู่อวกาศ

but there was much less agreement about who or what should be in charge.

แต่เรามีความคิดไม่ค่อยลงรอยกัน ว่าใครหรืออะไรที่ควรทำหน้าที่ควบคุม

And I was actually quite amused

ผมขำหน่อย ๆ

to see that there's some some people who want it to be just machines.

ที่เห็นว่าบางคน อยากให้พวกมันเป็นแค่เครื่องจักร

(Laughter)

(เสียงหัวเราะ)

And there was total disagreement about what the role of humans should be,

และเราก็มีความเห็นแตกแยกกัน ในเรื่องบทบาทของมนุษย์

even at the most basic level,

แม้แต่ในระดับพื้นฐาน

so let's take a closer look at possible futures

เอาล่ะครับ ลองมาพิจารณา อนาคตที่อาจเป็นไปได้

that we might choose to steer toward, alright?

ที่อาจเป็นเป้าหมายที่เรากำลังจะมุ่งไป

So don't get me wrong here.

อย่าเพิ่งเข้าใจผิดนะครับ

I'm not talking about space travel,

ผมไม่ได้พูดถึงการเดินทางท่องอวกาศ

merely about humanity's metaphorical journey into the future.

แต่เป็นการเปรียบเปรยถึง การเดินทางสู่อนาคตของมนุษยชาติ

So one option that some of my AI colleagues like

ทางเลือกหนึ่งที่เพื่อน ๆ ชาว AI ของผมชอบก็คือ

is to build superintelligence and keep it under human control,

การสร้างปัญญาประดิษฐ์ขั้นสูงสุด และให้มันอยู่ใต้การควบคุมของมนุษย์

like an enslaved god,

เหมือนกับพระเจ้าผู้เป็นทาส

disconnected from the internet

ไม่เชื่อมต่อมันกับอินเทอร์เน็ต

and used to create unimaginable technology and wealth

และใช้มันเพื่อสร้างเทคโนโลยี และความมั่งคั่งเหนือจินตนาการ

for whoever controls it.

เพื่อใครก็ตามที่เป็นผู้ควบคุม

But Lord Acton warned us

แต่ลอร์ดแอคตันเตือนเราว่า

that power corrupts, and absolute power corrupts absolutely,

ความบ้าอำนาจและอำนาจแบบเบ็ดเสร็จ จะนำไปสู่ความเสื่อมถอย

so you might worry that maybe we humans just aren't smart enough,

คุณอาจกังวลว่า บางทีมนุษย์อาจไม่ฉลาดพอ

or wise enough rather,

หรือมีสติปัญญาเพียงพอ

to handle this much power.

ที่จะจัดการควบคุม อิทธิพลที่มากมายขนาดนี้

Also, aside from any moral qualms you might have

นอกจากความหวั่นวิตกทางศีลธรรม

about enslaving superior minds,

ต่อความคิดของผู้ที่มีอำนาจ ที่เป็นผู้ควบคุมแล้ว

you might worry that maybe the superintelligence could outsmart us,

คุณอาจกังวลว่าปัญญาประดิษฐ์ขั้นสูงสุด อาจฉลาดล้ำกว่าเรา

break out and take over.

ก่อกบฎ และยึดอำนาจ

But I also have colleagues who are fine with AI taking over

แต่เพื่อนของผมบางคนก็ไม่รู้สึกวิตกอะไร ถ้า AI จะเข้ามาครอบครอง

and even causing human extinction,

หรือแม้กระทั่งทำให้มนุษย์สูญพันธุ์

as long as we feel the the AIs are our worthy descendants,

ตราบใดที่เรารู้สึกว่า AI เป็นผู้สืบทอดที่คู่ควรแล้ว

like our children.

เหมือนกับลูกหลานของเรา

But how would we know that the AIs have adopted our best values

แต่เราจะรู้ได้อย่างไรว่า AI จะได้รับคุณค่าที่ดีที่สุดจากเราไป

and aren't just unconscious zombies tricking us into anthropomorphizing them?

และไม่ได้เป็นแค่ผีดิบไร้สติสำนึก ที่จะทำให้เราลุ่มหลงไปบูชาพวกมัน

Also, shouldn't those people who don't want human extinction

แล้วคนที่ไม่ต้องการให้มนุษย์สูญพันธุ์

have a say in the matter, too?

มีสิทธิเสนออะไรเกี่ยวกับประเด็นนี้บ้างไหม

Now, if you didn't like either of those two high-tech options,

ถ้าคุณไม่ชอบแนวคิดล้ำยุคทั้งสองอย่างที่ว่า

it's important to remember that low-tech is suicide

คุณควรที่จะรู้ไว้ว่าการใช้เทคโนโลยีเก่า ๆ ก็เป็นการฆ่าตัวตาย

from a cosmic perspective,

ในมุมมองเชิงกว้าง

because if we don't go far beyond today's technology,

เพราะว่า ถ้าเราไม่พัฒนาให้ไกล ไปกว่าเทคโนโลยีในปัจจุบัน

the question isn't whether humanity is going to go extinct,

คำถามไม่ใช่ว่ามนุษยชาติจะสูญพันธุ์หรือไม่

merely whether we're going to get taken out

แต่จะกลายเป็นว่าเรากำลังจะถูกกำจัด

by the next killer asteroid, supervolcano

โดยดาวตกพิฆาต ภูเขาไฟยักษ์

or some other problem that better technology could have solved.

หรือปัญหาอื่น ๆ ที่เทคโนโลยีที่ดีกว่า จะสามารถจัดการกับมันได้

So, how about having our cake and eating it ...

แล้ว จะเป็นอย่างไร ถ้าเรามีเค้กแล้วก็ได้กินมัน

with AGI that's not enslaved

ด้วย AGI ที่ไม่ได้ถูกคุมเป็นทาส

but treats us well because its values are aligned with ours?

แต่ปฏิบัติกับเราดี เพราะว่าเป้าหมายของมัน สอดคล้องกับของเรา

This is the gist of what Eliezer Yudkowsky has called "friendly AI,"

นี่คือแก่นสำคัญของ "AI ที่เป็นมิตร" ตามแนวคิดของ อีลิเซอร์ ยอดคอฟสกี

and if we can do this, it could be awesome.

และถ้าเราสามารถทำได้ มันก็คงจะเจ๋งมาก

It could not only eliminate negative experiences like disease, poverty,

ไม่เพียงแต่มันจะกำจัดเรื่องแย่ ๆ อย่างเช่น โรคภัย ความอดอยาก

crime and other suffering,

อาชญากรรม และเรื่องร้ายอื่น ๆ

but it could also give us the freedom to choose

แต่ยังจะทำให้เราได้รับอิสระภาพในการเลือก

from a fantastic new diversity of positive experiences --

ประสบการณ์ดี ๆ ใหม่ ๆ ที่น่าทึ่ง

basically making us the masters of our own destiny.

ที่จะทำให้เรา เป็นนายของชะตากรรมของตัวเอง

So in summary,

โดยสรุปแล้ว

our situation with technology is complicated,

สถานการณ์ของเรา ที่มีต่อเทคโนโลยีนั้นซับซ้อน

but the big picture is rather simple.

แต่ภาพรวมนั้นค่อนข้างเรียบง่าย

Most AI researchers expect AGI within decades,

นักวิจัย AI ส่วนใหญ่ คาดเราจะมีว่า AGI ภายในทศวรรษนี้

and if we just bumble into this unprepared,

และถ้าเราซี้ซั้วไม่ยอมเตรียมตัวกัน

it will probably be the biggest mistake in human history --

มันอาจเป็นความผิดพลาด ที่ยิ่งใหญ่ที่สุดในมนุษยชาติ

let's face it.

เผชิญหน้ากับมันเถอะครับ

It could enable brutal, global dictatorship

มันอาจนำมาซึ่งเผด็จการโหดระดับโลก

with unprecedented inequality, surveillance and suffering,

และความเหลื่อมล้ำ การระแวดระวัง และความทุกข์เข็ญแบบที่ไม่เคยมีมาก่อน

and maybe even human extinction.

หรือแม้แต่ทำให้เราสูญพันธุ์

But if we steer carefully,

แต่ถ้าเราควบคุมกำกับมันอย่างระมัดระวัง

we could end up in a fantastic future where everybody's better off:

เราอาจลงเอยที่อนาคตที่น่าทึ่ง ที่ที่ทุกคนมีโอกาสที่ดีกว่า

the poor are richer, the rich are richer,

ยาจกก็มีเงินมีทอง คนรวยก็มั่งคั่งกว่าเดิม

everybody is healthy and free to live out their dreams.

ทุก ๆ คนมีสุขภาพที่ดี และมีอิสระในการใช้ชีวิตที่วาดฝันไว้

Now, hang on.

แต่เดี๋ยวก่อน

Do you folks want the future that's politically right or left?

พวกคุณต้องการอนาคต ที่เข้ากับการเมืองฝ่ายขวาหรือซ้าย

Do you want the pious society with strict moral rules,

คุณต้องการสังคมที่เคร่งศาสนา ที่ให้เข้มงวดกับกฎศีลธรรม

or do you an hedonistic free-for-all,

หรือจะเอาแบบสำราญสบาย ๆ อะไรก็ได้หมด

more like Burning Man 24/7?

แบบงานเบอร์นนิงแมน ตลอดยี่สิบสี่ชั่วโมง

Do you want beautiful beaches, forests and lakes,

คุณอยากได้หาด ป่าเขา ลำธารแสนงาม

or would you prefer to rearrange some of those atoms with the computers,

หรืออยากที่จะปรับเปลี่ยนบางอะตอม ด้วยคอมพิวเตอร์

enabling virtual experiences?

เพื่อให้เกิดประสบการณ์แบบเสมือนจริง

With friendly AI, we could simply build all of these societies

ด้วย AI ที่เป็นมิตร เราอาจสร้างสังคมเหล่านั้น

and give people the freedom to choose which one they want to live in

มอบอิสระภาพให้กับผู้คน ที่จะเลือกว่าพวกเขาต้องการใช้ชีวิตแบบไหน

because we would no longer be limited by our intelligence,

เพราะว่าเราจะไม่ได้ถูกจำกัด ด้วยความเฉลียวฉลาดอีกต่อไป

merely by the laws of physics.

แต่ด้วยกฎทางฟิสิกส์

So the resources and space for this would be astronomical --

ฉะนั้น ทรัพยากรและพื้นที่สำหรับสิ่งนี้ ก็น่าจะอยู่ในระดับจักรวาล

literally.

อย่างแท้จริง

So here's our choice.

ตัวเลือกของเราก็คือ

We can either be complacent about our future,

เราจะยินดีกับอนาคตของเรา

taking as an article of blind faith

ยอมรับว่ามันเป็นชะตากรรมที่กำหนดไม่ได้

that any new technology is guaranteed to be beneficial,

ในการยืนยันว่าเทคโนโลยีใหม่ จะเป็นประโยชน์

and just repeat that to ourselves as a mantra over and over and over again

แล้วบอกกับตัวเราเองซ้ำ ๆ เหมือนสวด

as we drift like a rudderless ship towards our own obsolescence.

ในขณะที่เราล่องลอยไปราวกับเรือไร้เรดาร์ สู่ความล้าสมัยของตัวเราเอง

Or we can be ambitious --

หรือเราจะมุมานะ

thinking hard about how to steer our technology

คิดให้หนักว่าเราจะควบคุมกำกับ เทคโนโลยีของเราอย่างไร

and where we want to go with it

และเราอยากจะไปที่ไหน

to create the age of amazement.

เพื่อที่จะสร้างยุคแห่งความน่าทึ่ง

We're all here to celebrate the age of amazement,

พวกเราทุกคนมาที่นี่เพื่อเฉลิมฉลอง ยุคแห่งความน่าทึ่ง

and I feel that its essence should lie in becoming not overpowered

และรับรู้ว่าแก่นสารของมัน ไม่ควรที่จะมีอำนาจมากเกินไป

but empowered by our technology.

แต่ถูกส่งเสริมด้วยเทคโนโลยีของเรา

Thank you.

ขอบคุณครับ

(Applause)

(เสียงปรบมือ)