The danger of AI is weirder than you think | Janelle Shane

Translator: Patipon Tantisirivattana Reviewer: Varut Wiseschinda

So, artificial intelligence

ปัญญาประดิษฐ์

is known for disrupting all kinds of industries.

สิ่งประดิษฐ์ที่เข้ามาแทรกแซง อุตสาหกรรมทุกชนิด

What about ice cream?

แล้วกับไอศครีมล่ะ

What kind of mind-blowing new flavors could we generate

รสชาติสุดตะลึงแบบไหนกัน ที่เราสามารถสร้างได้

with the power of an advanced artificial intelligence?

ด้วยพลังของปัญญาประดิษฐ์ขั้นสูง

So I teamed up with a group of coders from Kealing Middle School

ฉันจึงจับกลุ่มกับนักเขียนโค้ด จากโรงเรียนมัธยมต้น Kealing

to find out the answer to this question.

เพื่อค้นหาคำตอบของคำถามนี้

They collected over 1,600 existing ice cream flavors,

พวกเขารวบรวมไอศครีมทั้งหมด 1,600 รสชาติ ที่มีอยู่

and together, we fed them to an algorithm to see what it would generate.

และเราก็ป้อนเข้าอัลกอริทึม เพื่อดูว่ามันจะสร้างอะไร

And here are some of the flavors that the AI came up with.

และนี่คือบางรสที่ AI คิดขึ้นมา

[ขยะฟักทอง]

[Pumpkin Trash Break]

(Laughter)

(เสียงหัวเราะ)

[Peanut Butter Slime]

[แยมเนยถั่วเหนียวเหนอะหนะ]

[Strawberry Cream Disease]

[โรคครีมสตรอเบอรี่]

(Laughter)

(เสียงหัวเราะ)

These flavors are not delicious, as we might have hoped they would be.

รสชาติพวกนี้ไม่อร่อยเอาซะเลย ในขณะที่เราหวังว่าพวกเขาจะ

So the question is: What happened?

งั้นคำถามก็คือ มันเกิดอะไรขึ้น

What went wrong?

มันผิดพลาดตรงไหน

Is the AI trying to kill us?

นี่ AI พยายามจะฆ่าเราหรอ

Or is it trying to do what we asked, and there was a problem?

หรือมันพยายามทำตามที่เราสั่ง และมันเป็นปัญหาหรอ

In movies, when something goes wrong with AI,

ในภาพยนต์ เมื่อมีบางอย่างผิดปกติกับ AI

it's usually because the AI has decided

มันเป็นเพราะ AI เป็นคนตัดสินใจว่า

that it doesn't want to obey the humans anymore,

มันไม่จำเป็นที่จะต้องทำตามคำสั่ง มนุษย์อีกต่อไป

and it's got its own goals, thank you very much.

และมันมีเป้าหมายของมันเอง ขอบคุณมากๆเลย

In real life, though, the AI that we actually have

ในความเป็นจริง ถึงแม้ AI ที่เรามี

is not nearly smart enough for that.

ยังไม่ฉลาดพอที่จะทำเช่นนั้น

It has the approximate computing power

มันมีพลังในการคำนวณโดยประมาณ

of an earthworm,

พอๆกับไส้เดือนดิน

or maybe at most a single honeybee,

หรืออาจจะพอๆกับผึ้งแค่ตัวเดียว

and actually, probably maybe less.

อันที่จริง อาจจะน้อยกว่าด้วยซ้ำ

Like, we're constantly learning new things about brains

เนื่องเพราะเราเรียนรู้สิ่งใหม่เกี่ยวกับสมอง

that make it clear how much our AIs don't measure up to real brains.

นี่ทำให้รู้ชัดว่า AI ยังเทียบไม่ได้กับสมองคนมนุษย์

So today's AI can do a task like identify a pedestrian in a picture,

ดังนั้นทุกวันนี้ AI สามารถทำงาน อย่างระบุคนเดินเท้าในภาพ

but it doesn't have a concept of what the pedestrian is

แต่มันไม่ได้มีความคิดที่ว่า อะไรคือคนเดินเท้า

beyond that it's a collection of lines and textures and things.

มากไปกว่าว่ามันคือชุด ของเส้น พื้นผิวและสิ่งของ

It doesn't know what a human actually is.

มันไม่รู้เลยว่าจริงๆแล้วมนุษย์คืออะไร

So will today's AI do what we ask it to do?

ดังนั้นทุกวันนี้ AI จะทำในสิ่งที่เราสั่งให้ทำ

It will if it can,

มันจะทำถ้ามันทำได้

but it might not do what we actually want.

แต่มันอาจไม่ทำในสิ่งที่เราต้องการ

So let's say that you were trying to get an AI

งั้นลองคิดว่าคุณ พยายามใช้ AI

to take this collection of robot parts

เพื่อรวบรวมชิ้นส่วนหุ่นยนต์นี้

and assemble them into some kind of robot to get from Point A to Point B.

และประกอบมันกลายเป็นหุ่นยนต์ เพื่อไปจากจุด A ไปจุด B

Now, if you were going to try and solve this problem

ตอนนี้ ถ้าคุณกำลังพยายาม และแก้โจทย์นี้อยู่

by writing a traditional-style computer program,

โดยการเขียนโค้ดแบบเดิม

you would give the program step-by-step instructions

คุณจะให้โปรแกรม ทำตามคำแนะนำทีละขั้นตอน

on how to take these parts,

วิธีการใช้ชิ้นส่วนเหล่านี้

how to assemble them into a robot with legs

วิธีประกอบมันให้กลายเป็นหุ่นยนต์ที่มีขา

and then how to use those legs to walk to Point B.

และจากนั้นคือวิธีใช้ขาพวกนั้นไปให้ถึงจุด B

But when you're using AI to solve the problem,

แต่เมื่อคุณใช้ AI เพื่อแก้โจทย์นี้

it goes differently.

มันต่างกันเลย

คุณไม่ได้บอกมันว่า ต้องแก้โจทย์นี้อย่างไง

You don't tell it how to solve the problem,

you just give it the goal,

คุณแค่ให้เป้าหมายกับมัน

and it has to figure out for itself via trial and error

และมันก็คิดออกด้วยตัวมันเอง ผ่านการลองผิดลองถูก

how to reach that goal.

เพื่อให้ถึงเป้าหมาย

And it turns out that the way AI tends to solve this particular problem

และกลับพบว่าวิธีที่ AI มีแนวโน้ม เพื่อแก้ปัญหานี้

is by doing this:

โดยการทำสิ่งนี้

it assembles itself into a tower and then falls over

มันประกอบตัวเองเป็นหอคอย และหล่นลงมา

and lands at Point B.

ลงที่จุด B

And technically, this solves the problem.

และในทางเทคนิค สิ่งนี้ช่วยแก้ปัญหา

Technically, it got to Point B.

ทางเทคนิค มันไปยังจุด B

The danger of AI is not that it's going to rebel against us,

อันตรายของ AI ไม่ใช่ว่า มันกำลังจะกบฏต่อเรา

it's that it's going to do exactly what we ask it to do.

แต่มันกำลังจะทำในสิ่งที่เรา ขอให้ทำแบบเฉพาะเจาะจงเลย

So then the trick of working with AI becomes:

ดังนั้นแล้วเคล็ดลับ การทำงานร่วมกับ AI ควรจะเป็น:

How do we set up the problem so that it actually does what we want?

เราจะตั้งค่าปัญหาอย่างไร เพื่อที่มันทำสิ่งที่เราต้องการจริงๆ

So this little robot here is being controlled by an AI.

เจ้าหุ่นตัวจิ๋วนี้ กำลังถูกควบคุมโดย AI

The AI came up with a design for the robot legs

AI มาพร้อมกับการออกแบบ สำหรับขาหุ่นยนต์

and then figured out how to use them to get past all these obstacles.

จากนั้นหาวิธีใช้มัน เพื่อผ่านอุปสรรคเหล่านี้ทั้งหมด

But when David Ha set up this experiment,

แต่เมื่อ David Ha ตั้งค่าการทดลองนี้

he had to set it up with very, very strict limits

เขาตั้งค่ามันขึ้นมา ด้วยข้อจำกัดที่เข้มงวดมาก

on how big the AI was allowed to make the legs,

ว่า AI นั้นได้รับอนุญาต ที่จะทำให้ขาใหญ่แค่ไหน

because otherwise ...

เพราะมิฉะนั้น...

(Laughter)

(เสียงหัวเราะ)

And technically, it got to the end of that obstacle course.

และถ้าพูดในทางเทคนิคแล้ว มันก็ไปถึงจุดหมายแหละค่ะ

So you see how hard it is to get AI to do something as simple as just walk.

ดังนั้นคุณจะเห็นว่ามันยากแค่ไหนที่จะให้ AI ทำสิ่งที่ง่ายเพียงแค่เดิน

So seeing the AI do this, you may say, OK, no fair,

ดังนั้นเมื่อเห็น AI ทำเช่นนี้ คุณอาจพูดว่า มันไม่ยุติธรรม

you can't just be a tall tower and fall over,

คุณไม่สามารถเป็น หอคอยสูงและล้มตัวลงมา

you have to actually, like, use legs to walk.

สิ่งที่คุณต้องทำจริงๆ คือการใช้ขาเพื่อเดิน

And it turns out, that doesn't always work, either.

ผลปรากฎว่า มันก็ไม่ได้ผลเช่นกัน

This AI's job was to move fast.

งานของ AI ตัวนี้คือเคลื่อนที่ให้เร็ว

They didn't tell it that it had to run facing forward

พวกมันไม่ได้ถูกบอกว่า มันต้องวิ่งเพื่อไปข้างหน้า

or that it couldn't use its arms.

หรือว่ามันห้ามใช้แขนช่วย

So this is what you get when you train AI to move fast,

นี่คือสิ่งที่คุณได้รับ เมื่อคุณฝึก AI ให้เคลื่อนที่เร็ว

you get things like somersaulting and silly walks.

สิ่งที่คุณจะได้ คือการตีลังกา และท่าเดินโง่ ๆ

It's really common.

จนเป็นเรื่องธรรมดาไปเลย

So is twitching along the floor in a heap.

ดังนั้นการกระตุกไปมา

(Laughter)

(เสียงหัวเราะ)

So in my opinion, you know what should have been a whole lot weirder

ในความคิดของฉัน คุณรู้มั้ย อะไรที่จะประหลาดกว่านี้มาก

is the "Terminator" robots.

อย่างหุ่นยนต์ "Terminator"

Hacking "The Matrix" is another thing that AI will do if you give it a chance.

การแฮ็ก "The Matrix" เป็นอีกสิ่งหนึ่ง AI นั้นจะทำถ้าคุณให้โอกาสมัน

So if you train an AI in a simulation,

ดังนั้นถ้าคุณฝึก AI ในแบบจำลอง

it will learn how to do things like hack into the simulation's math errors

มันจะเรียนรู้วิธีทำสิ่งต่าง ๆ เช่นแฮ็คเข้าไปใน ความผิดพลาดของคณิตศาสตร์ที่ใช้ในการจำลอง

and harvest them for energy.

และเก็บเกี่ยวพวกมันเป็นพลังงาน

Or it will figure out how to move faster by glitching repeatedly into the floor.

หรือมันจะคิดว่าทำอย่างไรที่จะ กระตุกตัวซ้ำๆ ลงกับพื้นเพื่อเคลื่อนที่เร็วๆ

When you're working with AI,

เมื่อคุณทำงานร่วมกับ AI

it's less like working with another human

มันไม่เหมือนกับ การทำงานกับมนุษย์คนอื่น

and a lot more like working with some kind of weird force of nature.

และยังเหมือนทำงานกับ พลังธรรมชาติประหลาดๆสักอย่าง

And it's really easy to accidentally give AI the wrong problem to solve,

และเป็นเรื่องง่ายโดยไม่ได้ตั้งใจ ที่ให้ AI แก้ปัญหาที่ผิด

and often we don't realize that until something has actually gone wrong.

และบ่อยครั้งเราไม่ได้ตระหนักถึงมัน จนกว่าจะมีบางอย่างผิดพลาดขึ้นมาจริงๆ

So here's an experiment I did,

นี่คือการทดลองที่ฉันทำ

where I wanted the AI to copy paint colors,

ฉันให้ปัญญาประดิษฐ์ลอกแถบสีเหล่านี้

to invent new paint colors,

เพื่อคิดค้นสีใหม่ขึ้นมา

given the list like the ones here on the left.

โดยให้รายการสีเหมือนกับ อันที่อยู่ทางซ้ายมือนี้

And here's what the AI actually came up with.

และนี่คือสิ่งที่ปัญญาประดิษฐ์ ให้ผลลัพท์ออกมา

[Sindis Poop, Turdly, Suffer, Gray Pubic]

[อึของซินดิส, เสมือนอึ, ความเจ็บปวด, ขนลับหงอก]

(Laughter)

(เสียงหัวเราะ)

So technically,

ดังนั้นทางเทคนิคแล้ว

it did what I asked it to.

มันทำอย่างที่ฉันสั่งให้ทำ

I thought I was asking it for, like, nice paint color names,

ฉันคิดว่าฉันขอให้มัน ตั้งชื่อสีที่ดูดี

but what I was actually asking it to do

แต่สิ่งที่ฉันสั่งให้ทำจริงๆ

was just imitate the kinds of letter combinations

แค่ลอกรูปแบบของกลุ่มอักษร

that it had seen in the original.

อย่างที่มันเห็นในตัวต้นฉบับ

And I didn't tell it anything about what words mean,

และฉันไม่ได้บอกอะไรเลย เกี่ยวกับความหมายของคำ

or that there are maybe some words

หรือว่าอาจจะมีบางคำ

that it should avoid using in these paint colors.

ที่มันควรเลี่ยงที่จะใช้ ในแทบสีเหล่านี้

So its entire world is the data that I gave it.

ดังนั้นโลกทั้งโลกของมัน คือข้อมูลที่ฉันให้มัน

Like with the ice cream flavors, it doesn't know about anything else.

เช่นเดียวกับ รสของไอศครีม มันไม่รู้อะไรอื่นเลย

So it is through the data

ดังนั้น จากข้อมูลที่ให้มันนี่เอง

that we often accidentally tell AI to do the wrong thing.

บ่อยครั้งที่เราบอกให้ AI ทำสิ่งที่ผิดโดยไม่เราตั้งใจ

This is a fish called a tench.

นี่คือปลาที่เรียกว่าเทนช์

And there was a group of researchers

และมีกลุ่มนักวิจัย

who trained an AI to identify this tench in pictures.

ที่เป็นคนฝึกให้ AI ระบุ ปลาเทนช์ในรูปนี้

But then when they asked it

แต่เมื่อพวกเขาถามมัน

what part of the picture it was actually using to identify the fish,

ส่วนไหนของภาพที่ใช้ เพื่อระบุปลาจริงๆล่ะ

here's what it highlighted.

นี่คือสิ่งที่ AI บอกมาค่ะ

Yes, those are human fingers.

ใช่ พวกนั้นคือนิ้วมือมนุษย์

Why would it be looking for human fingers

ทำไมถึงต้องมองหานิ้วมือมนุษย์ล่ะ

if it's trying to identify a fish?

ถ้ามันพยายามที่จะระบุตัวปลา

Well, it turns out that the tench is a trophy fish,

คือปรากฎว่าปลาเทนช์ ตัวนั้นคือถ้วยรางวัล

and so in a lot of pictures that the AI had seen of this fish

และในภาพจำนวนมาก ที่ AI ได้เห็นปลาตัวนี้

during training,

ในระหว่างการฝึก

the fish looked like this.

ปลามีลักษณะเช่นนี้

(Laughter)

(เสียงหัวเราะ)

And it didn't know that the fingers aren't part of the fish.

และมันก็ไม่รู้ว่านิ้ว ไม่ใช่ส่วนหนึ่งของปลา

So you see why it is so hard to design an AI

ฉะนั้นคุณจะเห็นว่ามันยากเหลือเกิน ที่จะออกแบบ AI

that actually can understand what it's looking at.

ที่สามารถเข้าใจจริงๆว่า มันกำลังดูอะไรอยู่

And this is why designing the image recognition

และนั้นคือเหตุผลที่การออกแบบ กระบวนการจดจำรูปภาพ

in self-driving cars is so hard,

ในพาหนะไร้คนขับถึงได้ยากนัก

and why so many self-driving car failures

และนั้นคือเหตุผลที่ยานไร้คนขับ ทั้งหลายล้มเหลว

are because the AI got confused.

นั้นก็เพราะ AI เกิดความสับสน

I want to talk about an example from 2016.

ฉันอยากจะพูดเกี่ยวกับตัวอย่างจากปี 2016

There was a fatal accident when somebody was using Tesla's autopilot AI,

ครั้งนั้นได้เกิดอุบัติเหตุเมื่อมีคน ใช้ระบบคนขับโดยใช้ AI ของ Tesla

but instead of using it on the highway like it was designed for,

แต่แทนที่จะใช้บนทางด่วน อย่างที่มันถูกออกแบบมา

they used it on city streets.

พวกเขากลับใช้มันบนถนน

And what happened was,

และสิ่งที่เกิดขึ้นคือ

a truck drove out in front of the car and the car failed to brake.

มีรถบรรทุกขับอยู่ข้างหน้ารถ และรถไม่สามารถเบรกได้

Now, the AI definitely was trained to recognize trucks in pictures.

ตอนนี้ AI ถูกสอนให้ จดจำรถบรรทุกในรูป

But what it looks like happened is

แต่สิ่งที่ดูเหมือนว่าจะเกิดขึ้นคือ

the AI was trained to recognize trucks on highway driving,

AI ถูกสอนให้จดจำ รถบรรทุกที่ขับบนทางด่วน

where you would expect to see trucks from behind.

ที่ที่คุณน่าจะเดาได้ ว่าจะเห็นรถบรรทุกจากข้างหลัง

Trucks on the side is not supposed to happen on a highway,

ภาพรถบรรทุกด้านข้างไม่ควร เกิดขึ้นบนทางด่วน

and so when the AI saw this truck,

และเมื่อ AI เห็นรถบรรทุกเช่นนั้น

it looks like the AI recognized it as most likely to be a road sign

มันกลับคิดว่าสิ่งนั้น คล้ายกับป้ายจราจร

and therefore, safe to drive underneath.

และดังนั้นมันจึงปลอดภัยที่จะขับต่อ

Here's an AI misstep from a different field.

นี่คือความผิดพลาดของ AI จากสายงานต่างๆ

Amazon recently had to give up on a résumé-sorting algorithm

Amazon ต้องยอมล้มเลิก อัลกอริธิมจัดเรียงเรซูเม่

that they were working on

ที่พวกเขากำลังทำกันอยู่

when they discovered that the algorithm had learned to discriminate against women.

เมื่อพวกเขาค้นพบว่าอัลกอริทึม เรียนรู้ที่จะเลือกปฏิบัติต่อผู้หญิง

What happened is they had trained it on example résumés

สิ่งที่เกิดขึ้นคือพวกเขาฝึกมัน ในตัวอย่างเรซูเม่

of people who they had hired in the past.

ของคนที่เคยถูกจ้างมาแล้วในอดีต

And from these examples, the AI learned to avoid the résumés of people

และจากตัวอย่างนี้ AI เรียนรู้ เพื่อหลีกเลี่ยงเรซูเม่ของ

who had gone to women's colleges

คนที่มาจากวิทยาลัยสตรี

or who had the word "women" somewhere in their resume,

หรือใครก็ตามที่มีคำว่า "ผู้หญิง" สักแห่งในเร่ซูเม่พวกเขา

as in, "women's soccer team" or "Society of Women Engineers."

ไม่ว่าจะ "นักฟุตบอลหญิง" หรือ "สมาคมวิศวะกรหญิง"

The AI didn't know that it wasn't supposed to copy this particular thing

AI ไม่รู้ว่ามันไม่จำเป็นจะต้อง สำเนาข้อความ

that it had seen the humans do.

ที่มันได้เคยเห็นมนุษย์ทำไปเหล่านี้

And technically, it did what they asked it to do.

และในทางเทคนิค มันทำอย่างที่มันถูกร้องขอให้ทำ

They just accidentally asked it to do the wrong thing.

พวกมันถูกร้องขอโดยไม่ตั้งใจ ให้ทำสิ่งผิด

And this happens all the time with AI.

และมันเกิดขึ้นตลอดเวลากับ AI

AI can be really destructive and not know it.

AI สามารถทำตัวไม่เป็นประโยชน์ โดยที่มันไม่รู้ตัว

So the AIs that recommend new content in Facebook, in YouTube,

ฉะนั้น AI ที่แนะนำ เนื่อหาใหม่ๆใน Facebook ใน Youtube

they're optimized to increase the number of clicks and views.

พวกมันถูกปรับแต่ง เพื่อเพี่มยอดคลิกและยอดรับชม

And unfortunately, one way that they have found of doing this

และโชคร้าย วิธีที่พวกมันทำ

is to recommend the content of conspiracy theories or bigotry.

คือการแนะนำเนื้อหา เกี่ยวกับทฤษฎีสมคบคิดหรือการคลั่งศาสนา

The AIs themselves don't have any concept of what this content actually is,

ตัว AI เองไม่มีแนวคิดใดๆ ว่าเนื้อหาพวกนี้คืออะไรกันแน่

and they don't have any concept of what the consequences might be

และพวกมันก็ไม่มีแนวคิด ว่าผลกระทบที่ตามมาอาจเป็นอะไร

of recommending this content.

ของการแนะนำเนื้อหานี้

So, when we're working with AI,

ฉะนั้น เมื่อเราทำงานร่วมกับ AI

it's up to us to avoid problems.

มันขึ้นอยู่กับพวกเราเพื่อหลีกเลี่ยงปัญหา

And avoiding things going wrong,

และหลีกเลี่ยงความผิดพลาดต่างๆ

that may come down to the age-old problem of communication,

ที่จะนำไปสู่ปัญหาเดิมๆนั้นคือการสื่อสาร

where we as humans have to learn how to communicate with AI.

มนุษย์ต้องเรียนรู้ วิธีสื่อสารกับ AI

We have to learn what AI is capable of doing and what it's not,

เราต้องเรียนรู้ว่าอะไรที่ AI ทำได้หรือไม่ได้

and to understand that, with its tiny little worm brain,

และเพื่อให้เข้าใจว่า ด้วยสมองหนอนจิ๋วๆของมัน

AI doesn't really understand what we're trying to ask it to do.

มันไม่เข้าใจจริงๆ ว่าอะไรคือสิ่งที่เราต้องการให้มันทำ

So in other words, we have to be prepared to work with AI

ในอีกแง่หนึ่งก็คือ เราต้องเตรียมพร้อม ที่จะทำงานร่วมกับ AI

that's not the super-competent, all-knowing AI of science fiction.

นั่นไม่ใช่ความสามารถระดับสูงของ AI ที่ทุกคนรู้จักในนิยายวิทยาศาสตร์

We have to be prepared to work with an AI

เราต้องเตรียมพร้อมทำงาน ร่วมกับ AI

that's the one that we actually have in the present day.

ที่เรามีในปัจจุบัน

And present-day AI is plenty weird enough.

และในปัจจุบัน AI ก็ดูจะแปลกมากขึ้นทุกที

Thank you.

ขอบคุณค่ะ

(Applause)

(เสียงปรบมือ)