How will AI change the world?

Translator: Phichayapha (Monika) Phuengmak Reviewer: Sakunphat Jirawuthitanant

ในอนาคตที่กำลังจะมาถึง

In the coming years, artificial intelligence

ปัญญาประดิษฐ์หรือ AI จะเปลี่ยนชีวิตคุณ และโลกใบนี้

is probably going to change your life, and likely the entire world.

แต่ความเปลี่ยนแปลงจะเป็นไปในทิศทางไหน ยังไม่มีใครหาข้อตกลงได้

But people have a hard time agreeing on exactly how.

นี่คือข้อความส่วนหนึ่งของบทสัมภาษณ์ จาก World Economic Forum

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

สจวร์ต รัสเซลล์ นักวิทยาศาสตร์คอมพิวเตอร์ และผู้เชี่ยวชาญด้าน AI ที่มีชื่อเสียง

helps separate the sense from the nonsense.

อธิบายแยกแยะระหว่างเรื่องจริง และเรื่องแต่งเกี่ยวกับ AI

There’s a big difference between asking a human to do something

การบอกมนุษย์ให้ทำอะไรสักอย่าง

and giving that as the objective to an AI system.

แตกต่างจากการกำหนดเป้าหมายให้ AI มาก

When you ask a human to get you a cup of coffee,

ถ้าคุณขอมนุษย์ให้ไปหากาแฟให้คุณสักแก้ว

you don’t mean this should be their life’s mission,

คุณไม่ได้หมายความว่ากาแฟ เป็นภารกิจทั้งหมดของชีวิต

and nothing else in the universe matters.

และไม่มีอะไรในจักรวาลสำคัญไปกว่านั้น

Even if they have to kill everybody else in Starbucks

ถ้าต้องฆ่าทุกคนเพื่อให้ได้กาแฟมาหนึ่งแก้ว ก่อนร้านสตาร์บัคส์ปิด

to get you the coffee before it closes— they should do that.

ก็เอาเลย

No, that’s not what you mean.

นั่นไม่ใช่สิ่งที่คุณต้องการจะสื่อ

All the other things that we mutually care about,

สิ่งอื่นที่พวกเราให้ความสำคัญร่วมกัน

they should factor into your behavior as well.

ก็ต้องมีผลต่อการตัดสินใจเรื่องพฤติกรรมด้วย

And the problem with the way we build AI systems now

ปัญหาของวิธีที่ เราใช้สร้างระบบ AI ในปัจจุบันก็คือ

is we give them a fixed objective.

เราตั้งเป้าหมายที่ตายตัวให้มัน

The algorithms require us to specify everything in the objective.

อัลกอรึทึมของ AI บังคับให้เราระบุทุกอย่าง เข้าไปในเป้าหมาย

And if you say, can we fix the acidification of the oceans?

ถ้าคุณถาม AI ว่าจะแก้ปัญหา ความเป็นกรดของทะเลยังไง

Yeah, you could have a catalytic reaction that does that extremely efficiently,

จริงอยู่ที่ว่าแค่ใช้ตัวเร่งปฏิกิริยา ก็แก้ปัญหาได้อย่างมีประสิทธิภาพ

but it consumes a quarter of the oxygen in the atmosphere,

แต่มันใช้หนึ่งในสี่ของ ปริมาณออกซิเจนในบรรยากาศ

which would apparently cause us to die fairly slowly and unpleasantly

ซึ่งแน่นอนว่าจะทำให้เราตายอย่างช้าๆ และทรมานในเวลาไม่กี่ชั่วโมง

over the course of several hours.

So, how do we avoid this problem?

เราจะหลีกเลี่ยงปัญหานี้ยังไง

You might say, okay, well, just be more careful about specifying the objective—

คุณคงพูดว่า “โอเค งั้นเราก็ระบุเป้าหมายให้รอบคอบสิ”

don’t forget the atmospheric oxygen.

“อย่าลืมเรื่องออกซิเจนในบรรยากาศ”

And then, of course, some side effect of the reaction in the ocean

หลังจากนั้น แน่นอนว่ามีผลข้างเคียง จากปฏิกิริยาในน้ำที่กระทบมหาสมุทร

poisons all the fish.

ปลาได้รับสารพิษ

Okay, well I meant don’t kill the fish either.

“โอเค ห้ามฆ่าปลาด้วย”

And then, well, what about the seaweed?

ได้ ถ้าอย่างนั้น แล้วสาหร่ายล่ะ

Don’t do anything that’s going to cause all the seaweed to die.

“อย่าทำอะไรก็ตามที่ทำให้สาหร่ายตาย”

And on and on and on.

ระบุอย่างนี้ไปเรื่อยๆ

And the reason that we don’t have to do that with humans is that

สาเหตุที่เราไม่ต้องบอกมนุษย์แบบนี้ ก็เพราะว่า

humans often know that they don’t know all the things that we care about.

มนุษย์มักเข้าใจว่าตัวเองไม่ได้รู้ทุกอย่าง เกี่ยวกับสิ่งที่เราให้ความสำคัญ

If you ask a human to get you a cup of coffee,

ถ้าคุณขอมนุษย์คนหนึ่งให้ไปหากาแฟมาให้คุณ

and you happen to be in the Hotel George Sand in Paris,

แล้วบังเอิญว่าคุณอยู่ที่ โรงแรม George V ในปารีส

where the coffee is 13 euros a cup,

กาแฟที่นั่นแก้วละ 13 ยูโร (480 บาท)

it’s entirely reasonable to come back and say, well, it’s 13 euros,

เขาก็คงกลับมาบอกคุณว่า “กาแฟแล้วละ 13 ยูโรเลยนะ”

are you sure you want it, or I could go next door and get one?

“แน่ในนะว่าอยากซื้อ หรือฉันไปซื้อจากร้านข้างนอกใกล้ๆ ให้ก็ได้”

And it’s a perfectly normal thing for a person to do.

มันเป็นสิ่งที่สมเหตุสมผลมากสำหรับมนุษย์

To ask, I’m going to repaint your house—

การถามว่า “ฉันจะทาสีบ้านคุณใหม่”

is it okay if I take off the drainpipes and then put them back?

“จะต้องเอารางน้ำฝนออกนะ ผมจะติดเข้าที่เดิมให้ คุณโอเคไหม”

We don't think of this as a terribly sophisticated capability,

พวกเรารู้สึกว่ามันก็ไม่ได้เป็นความสามารถ ที่ซับซ้อนอะไร

but AI systems don’t have it because the way we build them now,

แต่ AI ทำเรื่องพวกนี้ไม่เป็น เพราะตามวิธีที่เราสร้างมันในปัจจุบัน

they have to know the full objective.

มันต้องรู้เป้าหมายทุกอย่างครบถ้วน

If we build systems that know that they don’t know what the objective is,

ถ้าเราสร้างระบบที่รู้ตัวเอง ว่าไม่รู้เป้าหมายที่แน่นอน

then they start to exhibit these behaviors,

มันก็จะเริ่มแสดงพฤติกรรมเหล่านี้

like asking permission before getting rid of all the oxygen in the atmosphere.

เช่น ขออนุญาตก่อนที่จะสูบออกซิเจน ทั้งหมดจากชั้นบรรยากาศ

In all these senses, control over the AI system

เมื่อคำนึงถึงเรื่องเหล่านี้ การควบคุมระบบ AI

comes from the machine’s uncertainty about what the true objective is.

มาจากการที่ระบบ ไม่มั่นใจว่าอะไรคือเป้าหมายที่แท้จริง

And it’s when you build machines that believe with certainty

เมื่อคุณสร้างระบบที่มั่นใจแน่นอน

that they have the objective,

ว่าตัวเองเข้าใจเป้าหมาย

that’s when you get this sort of psychopathic behavior.

มันก็จะมีพฤติกรรมไร้สติและศีลธรรม

And I think we see the same thing in humans.

เราเห็นเรื่องพวกนี้ในมนุษย์เหมือนกัน

What happens when general purpose AI hits the real economy?

จะเกิดอะไรขึ้นเมื่อ AI อเนกประสงค์ ถูกปล่อยสู่ตลาดเศรษฐกิจ

How do things change? Can we adapt?

มีอะไรเปลี่ยนไปบ้าง เราจะปรับตัวได้ไหม

This is a very old point.

คำถามพวกนี้มีมานานแล้ว

Amazingly, Aristotle actually has a passage where he says,

อริสโตเติลมีงานเขียนที่พูดถึงเรื่องนี้อยู่ เขาเขียนว่า

look, if we had fully automated weaving machines

ถ้าเรามีเครื่องจักรที่ทอผ้าได้เอง

and plectrums that could pluck the lyre and produce music without any humans,

และปิ๊กที่ดีดพิณไลร์เพื่อเล่นดนตรีได้เอง โดยไม่ต้องมีมนุษย์มาเกี่ยวข้อง

then we wouldn’t need any workers.

งั้นเราก็ไม่จำเป็นต้องมีคนงาน

That idea, which I think it was Keynes

ความคิดนี้ ซึ่งเคนส์เป็นคนตั้งชื่อให้ว่า การตกงานเพราะเทคโนโลยี ในปี 1930

who called it technological unemployment in 1930,

is very obvious to people.

เป็นสิ่งที่คนเห็นได้ชัดเจน

They think, yeah, of course, if the machine does the work,

คนคิดว่า “ในเมื่อมีเครื่องจักรทำงานแล้ว”

then I'm going to be unemployed.

“ฉันตกงานแน่ๆ”

You can think about the warehouses that companies are currently operating

ลองคิดถึงโกดังสินค้าของบริษัท e-commere ในปัจจุบัน

for e-commerce, they are half automated.

ระบบงานก็อัตโนมัติไปครึ่งหนึ่งแล้ว

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

แทนที่จะทำแบบในโกดังเก่า แบบที่สินต้าต่างๆ อยู่ในที่ของมัน

all over the place and humans go and rummage around

มนุษย์ต้องเดินไปหาของเองตามมุมต่างๆ

and then bring it back and send it off—

เอาของออกมา แล้วส่งสินค้าไปตามที่อยู่

there’s a robot who goes and gets the shelving unit

โกดังในปัจจุบันมีหุ่นยนต์ที่ทำหน้าที่ หาชั้นวางสินค้าที่เราต้องการ

that contains the thing that you need,

but the human has to pick the object out of the bin or off the shelf,

มนุษย์แค่หยิบของชิ้นนั้นออกมาจากชั้น

because that’s still too difficult.

เพราะการแยกแยะของยังยากสำหรับ AI

But, at the same time,

ในขณะเดียวกัน

would you make a robot that is accurate enough to be able to pick

คุณจะอยากสร้างหุ่นยนต์ที่มีความแม่นยำ ถึงขนาดสามารถเลือกหยิบ

pretty much any object within a very wide variety of objects that you can buy?

ของที่ถูกต้องจากสิ่งของอื่นๆ ที่คุณซื้อไหม

That would, at a stroke, eliminate 3 or 4 million jobs?

เพราะมันหมายความว่างานในตลาดแรงงาน จะหายไปถึง 3 หรือ 4 ล้านตำแหน่ง

There's an interesting story that E.M. Forster wrote,

อี.เอ็ม. ฟอร์สเตอร์ เขียนเรื่องเล่า ที่น่าสนใจไว้

where everyone is entirely machine dependent.

ในเรื่อง มนุษย์ทุกคนพึ่งพาหุ่นยนต์ ให้ทำทุกอย่าง

The story is really about the fact that if you hand over

ใจความหลักของเรื่องคือ ถ้าคุณยกการบริหารอารยธรรมให้จักรกล

the management of your civilization to machines,

you then lose the incentive to understand it yourself

คุณก็จะสูญเสียแรงจูงใจ ในการทำความเข้าใจมันด้วยตัวเอง

or to teach the next generation how to understand it.

รวมถึงความต้องการสอน ให้คนรุ่นต่อไปเข้าใจด้วย

You can see “WALL-E” actually as a modern version,

“WALL-E” พูดถึงเรื่องเดียวกันในแบบที่ ทันสมัยขึ้น

where everyone is enfeebled and infantilized by the machine,

ในเรื่อง มนุษย์ร่างกายอ่อนแอเพราะไม่ต้อง ทำอะไรเองเมื่อมีหุ่นยนต์ช่วย

and that hasn’t been possible up to now.

เรื่องแบบนั้นยังไม่มาถึงในปัจจุบัน

We put a lot of our civilization into books,

พวกเราใส่อารยธรรมของตัวเองเข้าไปในหนังสือ

but the books can’t run it for us.

แต่หนังสือไม่สามารถควบคุมมันได้

And so we always have to teach the next generation.

เราจึงต้องสอนคนรุ่นหลังเองเสมอ

If you work it out, it’s about a trillion person years of teaching and learning

ถ้าคุณคำนวณ อารยธรรมที่ผ่านมาทั้งหมดใช้ เวลาเป็นล้านล้านอายุคนในการสอนและเรียนรู้

and an unbroken chain that goes back tens of thousands of generations.

และห่วงโซ่ที่ไม่เคยขาดนี้ก็ย้อนกลับไป กว่าหมื่นรุ่นคน

What happens if that chain breaks?

จะเกิดอะไรขึ้นถ้าห่วงโซ่นั้นขาดลง

I think that’s something we have to understand as AI moves forward.

ผมคิดว่านี่คือสิ่งที่เราต้องทำความเข้าใจ ในขณะที่ AI ก้าวหน้าไปเรื่อยๆ

The actual date of arrival of general purpose AI—

วันที่ AI อเนกประสงค์จะเกิดขึ้นจริง

you’re not going to be able to pinpoint, it isn’t a single day.

คุณไม่มีทางชี้ได้หรอกว่าคือวันไหน มันไม่ใช่แค่วันเดียว

It’s also not the case that it’s all or nothing.

AI ไม่ใช่มีแค่ต้องสำเร็จ หรือล้มเหลวเท่านั้น

The impact is going to be increasing.

เพราะผลกระทบจาก AI จะเพิ่มขึ้นตลอด

So with every advance in AI,

ทุกครั้งที่ AI พัฒนา

it significantly expands the range of tasks.

ขอบเขตของสิ่งที่มันทำได้ ก็เพิ่มมากขึ้นแบบก้าวกระโดด

So in that sense, I think most experts say by the end of the century,

ผมคิดว่าผู้เชี่ยวชาญส่วนมาก คงพูดว่าเมื่อปลายศตวรรษมาถึง

we’re very, very likely to have general purpose AI.

มีความเป็นไปได้สูงมากว่า AI อเนกประสงค์ จะกลายเป็นความจริง

The median is something around 2045.

ส่วนมากบอกว่าประมาณปี 2045

I'm a little more on the conservative side.

ผมค่อนไปทางระมัดระวังหน่อย

I think the problem is harder than we think.

ผมคิดว่าปัญหาเรื่องนี้แก้ยากกว่าที่เราคิด

I like what John McAfee, he was one of the founders of AI,

ผมชอบคำตอบของ จอห์น แมคอาฟี หนึ่งในผู้บุกเบิก AI

when he was asked this question, he said, somewhere between five and 500 years.

เมื่อเขาถูกถามคำถามนี้ เขาตอบว่า “ใช้เวลาระหว่าง 5 ถึง 500 ปี”

And we're going to need, I think, several Einsteins to make it happen.

“แล้วผมก็คิดว่าเราคงต้องมี ไอน์สไตน์อีกหลายคนเลยถึงจะทำมันสำเร็จ”