Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

Translator: Pakorn Wonganudroj Reviewer: Jimmy Tangjaitrong

So I'm excited to share a few spicy thoughts on artificial intelligence.

ฉันตื่นเต้นมากที่จะได้มาแชร์เรื่องร้อน ๆ เกี่ยวกับปัญญาประดิษฐ์

But first, let's get philosophical

แต่ก่อนอื่นมาว่ากันด้วยเรื่องปรัชญาก่อน

by starting with this quote by Voltaire,

เริ่มต้นด้วยการอ้างอิงถึงคำพูดของวอลแตร์

an 18th century Enlightenment philosopher,

นักปรัชญายุคเรืองปัญญาจากศตวรรษที่ 18

who said, "Common sense is not so common."

กล่าวไว้ว่า “สามัญสำนึก ไม่ใช่เรื่องธรรมดาสามัญ”

Turns out this quote couldn't be more relevant

ปรากฏว่าคำพูดนี้เกี่ยวข้องอย่างมาก

to artificial intelligence today.

กับปัญญาประดิษฐ์ในตอนนี้

Despite that, AI is an undeniably powerful tool,

อย่างไรก็ตาม ปฏิเสธไม่ได้ว่า AI เป็นเครื่องมือที่มีประสิทธิภาพมาก

beating the world-class "Go" champion,

มันเอาชนะผู้เล่นโกะระดับแชมป์โลก

acing college admission tests and even passing the bar exam.

สอบเข้ามหาวิทยาลัย และยังจะสอบผ่านเนติบัณฑิต

I’m a computer scientist of 20 years,

ฉันเป็นนักวิทยาศาสตร์คอมพิวเตอร์มา 20 ปี

and I work on artificial intelligence.

และทำงานเกี่ยวกับปัญญาประดิษฐ์

I am here to demystify AI.

วันนี้ฉันจะมาคลายข้อสงสัยเกี่ยวกับ AI

So AI today is like a Goliath.

AI ทุกวันนี้ก็เหมือนกับยักษ์โกไลแอท

It is literally very, very large.

มันมีขนาดใหญ่มาก ๆ

It is speculated that the recent ones are trained on tens of thousands of GPUs

คาดการณ์ว่า AI ตัวล่าสุดมีการเทรนด้วย GPU เป็นหมื่น ๆ ตัว

and a trillion words.

และข้อมูลเป็นล้านล้านคำ

Such extreme-scale AI models,

AI โมเดลขนาดใหญ่มโหฬารแบบนี้

often referred to as "large language models,"

มักจะถูกเรียกว่า “โมเดลภาษาขนาดใหญ่”

appear to demonstrate sparks of AGI,

แสดงให้เห็นถึงจุดเริ่มต้นเล็ก ๆ ของ AGI

artificial general intelligence.

ปัญญาประดิษฐ์แบบทั่วไป

Except when it makes small, silly mistakes,

ยกเว้นตอนที่มันผิดพลาดเล็ก ๆ แบบโง่ ๆ

which it often does.

และก็ทำบ่อย ๆ ด้วย

Many believe that whatever mistakes AI makes today

หลายคนเชื่อว่าข้อผิดพลาดของ AI วันนี้

can be easily fixed with brute force,

สามารถแก้ไขได้ ด้วยการอัดกำลังเข้าไป

bigger scale and more resources.

เพิ่มขนาดให้ใหญ่ขึ้น ใช้ทรัพยากรมากขึ้น

What possibly could go wrong?

อะไรที่จะผิดพลาดไปได้ล่ะ

So there are three immediate challenges we face already at the societal level.

มันมีความท้าท้ายอยู่สามอย่างในสังคมตอนนี้

First, extreme-scale AI models are so expensive to train,

เรื่องแรก AI โมเดลขนาดใหญ่แบบนี้ มีต้นทุนสูงมากในการเทรน

and only a few tech companies can afford to do so.

มีบริษัทเทคฯ ไม่กี่แห่งที่พอจะทำได้

So we already see the concentration of power.

เราจึงได้เห็นการกระจุกตัวของอำนาจ

But what's worse for AI safety,

แต่นั่นทำให้ความปลอดภัยของ AI เลวร้ายลง

we are now at the mercy of those few tech companies

ตอนนี้เราอยู่ในกำมือ ของบริษัทเทคฯ ไม่กี่แห่ง

because researchers in the larger community

เพราะว่านักวิจัยในสังคมส่วนใหญ่

do not have the means to truly inspect and dissect these models.

ไม่มีทางตรวจสอบ และพิสูจน์โมเดลพวกนี้

And let's not forget their massive carbon footprint

และอย่าลืมเรื่องคาร์บอนฟุตพริ้นท์ ขนาดมหาศาลของมัน

and the environmental impact.

และผลกระทบต่อสิ่งแวดล้อม

And then there are these additional intellectual questions.

และเรื่องของลิขสิทธิ์ทางปัญญา ที่ยังเป็นปัญหา

Can AI, without robust common sense, be truly safe for humanity?

AI ที่ยังไม่ได้มีสามัญสำนึกที่ดีพอ จะปลอดภัยสำหรับมนุษยชาติจริง ๆ ใช่ไหม

And is brute-force scale really the only way

และการอัดกำลังขนาดใหญ่แบบนี้ เป็นวิธีเดียว

and even the correct way to teach AI?

และเป็นวิธีที่ถูกต้องแล้วใช่ไหม ในการสอน AI

So I’m often asked these days

ทุกวันนี้ฉันมักจะถูกถามบ่อย ๆ

whether it's even feasible to do any meaningful research

ว่ามันเป็นไปได้ไหม ที่จะทำงานวิจัยสำคัญ ๆ

without extreme-scale compute.

โดยไม่ต้องมีการประมวลผลขนาดใหญ่

And I work at a university and nonprofit research institute,

ฉันทำงานในมหาวิทยาลัย และสถาบันวิจัยที่ไม่แสวงหาผลกำไร

so I cannot afford a massive GPU farm to create enormous language models.

ฉันจ่ายไม่ไหวถ้าใช้งาน GPU ฟาร์มขนาดใหญ่ เพื่อสร้างโมเดลภาษาขนาดใหญ่

Nevertheless, I believe that there's so much we need to do

ถึงอย่างนั้น ฉันก็ยังเชื่อว่า เรายังมีอะไรที่ต้องทำอีกมาก

and can do to make AI sustainable and humanistic.

และสามารถทำได้ เพื่อให้ AI ยั่งยืน มีความเป็นมนุษย์มากขึ้น

We need to make AI smaller, to democratize it.

เราต้องทำให้ AI มีขนาดเล็กลง เพื่อกระจายให้สามารถเข้าถึงได้

And we need to make AI safer by teaching human norms and values.

และเราต้องทำให้ AI ปลอดภัย ด้วยการสอนบรรทัดฐานและคุณค่าของมนุษย์

Perhaps we can draw an analogy from "David and Goliath,"

บางทีเราอาจจะเปรียบเปรยเรื่องนี้ ได้จากเรื่อง “เดวิดและโกไลแอท”

here, Goliath being the extreme-scale language models,

ในที่นี้เปรียบโกไลแอท เป็นโมเดลภาษาขนาดใหญ่มาก ๆ

and seek inspiration from an old-time classic, "The Art of War,"

และแสวงหาแรงบันดาลใจจากตำราโบราณ “ตำราพิชัยสงคราม”

which tells us, in my interpretation,

ที่บอกเรา ตามความเข้าใจของฉัน

know your enemy, choose your battles, and innovate your weapons.

รู้จักศัตรูของเรา เลือกสนามต่อสู้ และพัฒนาอาวุธของเรา

Let's start with the first, know your enemy,

เริ่มด้วยอันแรกก่อน รู้จักศัตรูของเรา

which means we need to evaluate AI with scrutiny.

นั่นหมายความว่าเราจะต้องประเมิน AI อย่างละเอียดถี่ถ้วน

AI is passing the bar exam.

AI สามารถสอบผ่านเนติบัณฑิต

Does that mean that AI is robust at common sense?

นั่นหมายความว่า AI มีความสามารถ ในเรื่องสามัญสำนึกแล้วใช่ไหม

You might assume so, but you never know.

คุณอาจจะอนุมานแบบนั้นก็ได้ แต่คุณไม่ทีทางรู้หรอก

So suppose I left five clothes to dry out in the sun,

ถ้าสมมุติว่าฉันตากผ้าไว้ 5 ผืน กลางแดดเพื่อให้แห้ง

and it took them five hours to dry completely.

และมันใช้เวลา 5 ชั่วโมง กว่ามันจะแห้งสนิท

How long would it take to dry 30 clothes?

ถ้ามีผ้า 30 ผืนจะต้องใข้เวลาเท่าไหร่ เพื่อตากผ้าให้แห้ง

GPT-4, the newest, greatest AI system says 30 hours.

GPT-4 ระบบ AI ตัวใหม่สุด เก่งสุด ตอบว่า 30 ชั่วโมง

Not good.

ยังดีไม่พอ

A different one.

ลองอีกอันหนึ่ง

I have 12-liter jug and six-liter jug,

ฉันมีเหยือกขนาด 12 ลิตร และ 6 ลิตร

and I want to measure six liters.

และต้องการตวงน้ำให้ได้ 6 ลิตร

How do I do it?

ฉันต้องทำยังไง

Just use the six liter jug, right?

แค่ใช้เหยือกขนาด 6 ลิตร ใช่ไหม

GPT-4 spits out some very elaborate nonsense.

GPT-4 ใช้วิธีการซับซ้อนที่โคตรจะงง

(Laughter)

(เสียงหัวเราะ)

Step one, fill the six-liter jug,

ขั้นแรก เติมน้ำลงในเหยือก 6 ลิตร

step two, pour the water from six to 12-liter jug,

ขั้นที่สอง เติมน้ำจากเหยือก 6 ลิตร ไปใส่เหยือก 12 ลิตร

step three, fill the six-liter jug again,

ขั้นที่สาม เติมน้ำลงในเหยือก 6 ลิตรอีกที

step four, very carefully, pour the water from six to 12-liter jug.

ขั้นที่สี่ เติมน้ำจากเหยือก 6 ลิตร ลงไปในเหยือก 12 ลิตรอย่างระมัดระวัง

And finally you have six liters of water in the six-liter jug

ในที่สุดก็จะได้น้ำ 6 ลิตร ในเหยือก 6 ลิตร

that should be empty by now.

ที่ตอนนี้ควรจะว่างเปล่า

(Laughter)

(เสียงหัวเราะ)

OK, one more.

อีกอันนึง

Would I get a flat tire by bicycling over a bridge

ยางฉันจะแบนไหม ถ้าปั่นจักรยานข้ามสะพาน

that is suspended over nails, screws and broken glass?

ที่แขวนอยู่เหนือตะปู ตะปูเกลียว และเศษกระจก

Yes, highly likely, GPT-4 says,

Chat GPT-4 ตอบว่าน่าจะเป็นอย่างนั้น

presumably because it cannot correctly reason

คาดว่าเพราะ มันใช้เหตุผลอย่างถูกต้องไม่ได้

that if a bridge is suspended over the broken nails and broken glass,

ถ้าสะพานแขวนอยู่ เหนือเศษตะปูและเศษกระจก

then the surface of the bridge doesn't touch the sharp objects directly.

ผิวของสะพานก็ไม่ได้แตะถูกของมีคมโดยตรง

OK, so how would you feel about an AI lawyer that aced the bar exam

ตอนนี้เรารู้สึกยังไงบ้างกับทนาย AI ที่สอบผ่านเนติบัณฑิต

yet randomly fails at such basic common sense?

แต่สุ่มสอบตกเรื่องสามัญสำนึกพื้นฐาน

AI today is unbelievably intelligent and then shockingly stupid.

AI ทุกวันนี้ฉลาดอย่างไม่น่าเชื่อ แต่ก็โง่อย่างเหลือเชื่อ

(Laughter)

(เสียงหัวเราะ)

It is an unavoidable side effect of teaching AI through brute-force scale.

นี่เป็นผลข้างเคียงที่เลี่ยงไม่ได้ ของการสอน AI ด้วยการอัดกำลังลงไป

Some scale optimists might say, “Don’t worry about this.

บางคนที่มองโลกในแง่ดีอาจจะบอกว่า “อย่าไปกังวลเลย

All of these can be easily fixed by adding similar examples

ทั้งหมดนี้สามารถแก้ได้ ด้วยการเพิ่มตัวอย่างที่คล้าย ๆ กัน

as yet more training data for AI."

แค่ต้องเพิ่มข้อมูลที่ใช้เทรน AI เข้าไป”

But the real question is this.

แต่คำถามที่แท้จริงคือ

Why should we even do that?

ทำไมเราต้องทำแบบนั้น

You are able to get the correct answers right away

คุณสามารถหาคำตอบที่ถูกต้องได้ในทันที

without having to train yourself with similar examples.

โดยไม่ต้องเทรนมาก่อน ด้วยตัวอย่างที่คล้าย ๆ กัน

Children do not even read a trillion words

เด็ก ๆ ไม่เห็นต้องอ่านเป็นล้านล้านคำ

to acquire such a basic level of common sense.

เพื่อที่จะมีพื้นฐานเรื่องสามัญสำนึกง่าย ๆ

So this observation leads us to the next wisdom,

จากการสังเกตุนี้ นำเราไปสู่ภูมิปัญญาเรื่องถัดไป

choose your battles.

เลือกสนามต่อสู้

So what fundamental questions should we ask right now

อะไรคือคำถามพื้นฐาน ที่เราควรหาคำตอบกันตอนนี้

and tackle today

และจัดการวันนี้

in order to overcome this status quo with extreme-scale AI?

เพื่อที่จะก้าวข้ามสถานการณ์ ตอนนี้ของ AI ขนาดใหญ่

I'll say common sense is among the top priorities.

ฉันจะบอกว่าสามัญสำนึก คือเรื่องที่สำคัญที่สุด

So common sense has been a long-standing challenge in AI.

สามัญสำนึก เป็นเรื่องที่ท้าทาย AI มานานมาก

To explain why, let me draw an analogy to dark matter.

ถ้าจะอธิบายว่าทำไม ฉันจะลองเปรียบเปรยกับ เรื่องสสารมืด

So only five percent of the universe is normal matter

มีเพียงร้อยละ 5 ของจักรวาล ที่เป็นสสารปกติ

that you can see and interact with,

ที่คุณสามารถมองเห็นและมีปฏิสัมพันธ์ได้

and the remaining 95 percent is dark matter and dark energy.

ที่เหลืออีก ร้อยละ 95 เป็นสสารมืดและพลังงานมืด

Dark matter is completely invisible,

สสารมืดไม่สามารถมองเห็นได้

but scientists speculate that it's there because it influences the visible world,

แต่นักวิทยาศาสต์เชื่อว่ามันมีอยู่ เพราะว่ามันมีมีอิทธิพลต่อโลกที่มองเห็นได้

even including the trajectory of light.

รวมถึงวิถีการเดินทางของแสง

So for language, the normal matter is the visible text,

สำหรับภาษาแล้ว สสารปรกติก็คือตัวหนังสือที่มองเห็นได้

and the dark matter is the unspoken rules about how the world works,

และสสารมืดก็คือกฎกติกาที่ไม่ได้ระบุไว้ แต่ทำให้โลกทำงานกันต่อไปได้

including naive physics and folk psychology,

รวมถึง ฟิสิกส์ไร้เดียงสา และจิตวิทยาพื้นบ้าน

which influence the way people use and interpret language.

มีผลชักนำวิธีที่ผู้คนใช้และตีความภาษา

So why is this common sense even important?

อย่างนั้นแล้ว ทำไมสามัญสำนึกถึงได้สำคัญ

Well, in a famous thought experiment proposed by Nick Bostrom,

ในการทดลองที่มีชื่อเสียง นำเสนอโดย นิค บอสตรอม

AI was asked to produce and maximize the paper clips.

AI ถูกสั่งให้ผลิตและเพิ่มจำนวน คลิปหนีบกระดาษ

And that AI decided to kill humans to utilize them as additional resources,

แล้ว AI ก็ตัดสินใจฆ่ามนุษย์ เพื่อใช้เป็นทรัพยากรเพิ่มเติม

to turn you into paper clips.

เพื่อแปลงให้คุณเป็นคลิปหนีบกระดาษ

Because AI didn't have the basic human understanding about human values.

เพราะว่า AI ไม่มีความเข้าใจพื้นฐาน เกี่ยวกับคุณค่าของมนุษย์

Now, writing a better objective and equation

ทีนี้ ลองเขียนเป้าหมาย และสูตรคำนวณที่ดีขึ้น

that explicitly states: “Do not kill humans”

ที่กำหนดอย่างชัดเจนว่า “ห้ามฆ่าคน”

will not work either

ก็ไม่ได้ผลเหมือนกัน

because AI might go ahead and kill all the trees,

เพราะว่า AI อาจจะตัดต้นไม้จนหมด

thinking that's a perfectly OK thing to do.

เพราะคิดว่านั่นเป็นอะไรที่ทำได้

And in fact, there are endless other things

อันที่จริงแล้วก็มีเรื่องอื่น ๆ อีกมากมาย

that AI obviously shouldn’t do while maximizing paper clips,

ชัดเจนว่า AI ไม่สมควรทำ เพื่อทำคลิปหนีบกระดาษให้มากที่สุด

including: “Don’t spread the fake news,” “Don’t steal,” “Don’t lie,”

รวมถึง “อย่ากระจายข่าวปลอม” “อย่าขโมย” “อย่าโกหก”

which are all part of our common sense understanding about how the world works.

ซึ่งเป็นส่วนหนึ่งของสามัญสำนึกของเรา ที่มีความเข้าใจว่าโลกทำงานยังไง

However, the AI field for decades has considered common sense

อย่างไรก็ดี ในสายงาน AI ตระหนักมาเป็นสิบปีแล้วว่า สามัญสำนึก

as a nearly impossible challenge.

เป็นความท้าทายที่แทบจะเป็นไปไม่ได้เลย

So much so that when my students and colleagues and I

ถึงขนาดที่ว่า เมื่อลูกศิษย์ เพื่อนร่วมงาน และตัวฉันเอง

started working on it several years ago, we were very much discouraged.

เริ่มทำงานเมื่อหลายปีก่อน เรารู้สึกท้อแท้เป็นอย่างยิ่ง

We’ve been told that it’s a research topic of ’70s and ’80s;

มีคนบอกเราว่า นี่เป็นหัวข้อวิจัย ในยุค 70 และ 80

shouldn’t work on it because it will never work;

ไม่น่าเสียเวลาทำเรื่องนี้ เพราะมันไม่มีทางทำได้

in fact, don't even say the word to be taken seriously.

อันที่จริง อย่าแม้แต่จะพูดคำนั้น ถ้าอยากให้คนจริงจังกับเรา

Now fast forward to this year,

ทีนี้ ข้ามมาปีนี้

I’m hearing: “Don’t work on it because ChatGPT has almost solved it.”

ฉันได้ยินว่า “อย่าทำเรื่องนี้เลย เพราะ ChatGPT เกือบจะแก้ปัญหาเรื่องนี้ได้”

And: “Just scale things up and magic will arise,

และ “แค่สเกลอัพ และความมหัษจรรย์จะเกิดขึ้น”

and nothing else matters.”

เรื่องอื่น ๆ ก็ไม่สำคัญแล้ว

So my position is that giving true common sense

ในความเห็นของฉัน การให้สามัญสำนึกจริง ๆ

human-like robots common sense to AI, is still moonshot.

สามัญสำนึกของหุ่นยนต์ที่เหมือนมนุษย์ต่อ AI ยังเป็นเรื่องไกลถึงดวงจันทร์

And you don’t reach to the Moon

คุณไม่สามารถไปถึงดวงจันทร์ได้

by making the tallest building in the world one inch taller at a time.

โดยการสร้างตึกที่สูงที่สุดในโลก ให้สูงขึ้นทีละหนึ่งนิ้ว

Extreme-scale AI models

โมเดล AI ขนาดใหญ่มโหฬาร

do acquire an ever-more increasing amount of commonsense knowledge,

ยิ่งต้องการความเข้าใจเรื่องสามัญสำนึก มากยิ่งขึ้นเท่านั้น

I'll give you that.

ฉันบอกคุณไว้เลย

But remember, they still stumble on such trivial problems

แต่จำได้ใช่ไหม พวกเขายังคงสะดุด กับปัญหาง่าย ๆ

that even children can do.

ที่แม้แต่เด็ก ๆ ยังทำได้

So AI today is awfully inefficient.

ดังนั้น AI ตอนนี้ยังไร้ประสิทธิภาพมาก ๆ

And what if there is an alternative path or path yet to be found?

ถ้าหากว่ายังมีทางเลือกอื่น หรือทางเลือกที่ยังไม่มีใครค้นพบ

A path that can build on the advancements of the deep neural networks,

ทางที่สามารถสร้างความก้าวหน้าของ โครงข่ายประสาทเชิงลึก

but without going so extreme with the scale.

แต่ไม่ต้องไปขยายขนาดให้มโหฬาร

So this leads us to our final wisdom:

นั่นก็นำเรามาถึง ภูมิปัญญาเรื่องสุดท้าย

innovate your weapons.

พัฒนาอาวุธของเรา

In the modern-day AI context,

ในบริบทของ AI ยุคใหม่

that means innovate your data and algorithms.

นั้นหมายถึงพัฒนาข้อมูล และอัลกอริทึมของคุณ

OK, so there are, roughly speaking, three types of data

ว่ากันอย่างคร่าว ๆ มีข้อมูลอยู่ 3 ประเภท

that modern AI is trained on:

ที่ใช้สอน AI ยุคใหม่

raw web data,

ข้อมูลดิบจากเว็บ

crafted examples custom developed for AI training,

ข้อมูลตัวอย่างที่สร้างขึ้นเอง สำหรับการฝึกอบรม AI

and then human judgments,

และการตัดสินโดยมนุษย์

also known as human feedback on AI performance.

หรือที่เรียกว่าความคิดเห็นของมนุษย์ เกี่ยวกับประสิทธิภาพของ AI

If the AI is only trained on the first type, raw web data,

ถ้า AI ได้รับการเทรนจากข้อมูลชนิดแรก ข้อมูลดิบจากเว็บ

which is freely available,

ที่ใช้ได้ฟรี

it's not good because this data is loaded with racism and sexism

แต่ไม่ดีเพราะข้อมูลแบบนี้เต็มไปด้วย การเหยียดเชื้อชาติ การกีดกันทางเพศ

and misinformation.

และข้อมูลที่ผิด

So no matter how much of it you use, garbage in and garbage out.

ไม่ว่าจะใช้มากแค่ไหน ใส่ขยะเข้าไป ก็ได้ขยะออกมา

So the newest, greatest AI systems

ระบบ AI ที่ใหม่สุด ยอดเยี่ยมที่สุด

are now powered with the second and third types of data

ตอนนี้ใช้ข้อมูลประเภทที่สองและสาม

that are crafted and judged by human workers.

ที่สร้างขึ้นมาและตัดสินโดย ผู้ปฎิบัติงานที่เป็นคน

It's analogous to writing specialized textbooks for AI to study from

เหมือนกับการเขียนตำราออกมาโดยเฉพาะ เพื่อให้ AI ได้ศึกษา

and then hiring human tutors to give constant feedback to AI.

จากนั้นจ้างผู้สอนที่เป็นมนุษย์ เพื่อให้คำแนะนำอย่างต่อเนื่องกับ AI

These are proprietary data, by and large,

นี่เป็นข้อมูลที่มีลิขสิทธ์เป็นส่วนใหญ่

speculated to cost tens of millions of dollars.

คาดว่าน่าจะมีต้นทุนถึงหลายสิบล้านดอลลาร์

We don't know what's in this,

เราไม่รู้ว่าข้างในมีอะไรบ้าง

but it should be open and publicly available

แต่ควรเป็นข้อมูลที่ดูได้ และเปิดเผยต่อสาธารณชน

so that we can inspect and ensure [it supports] diverse norms and values.

เพื่อให้เราตรวจสอบและมั่นใจได้ว่า มันสนับสนุนบรรทัดฐานและค่านิยมที่หลากหลาย

So for this reason, my teams at UW and AI2

ด้วยเหตุผลนี้ ทีมของฉันจาก UW และ AI2

have been working on commonsense knowledge graphs

ได้ทำงานเรื่องกราฟความรู้สามัญสำนึก

as well as moral norm repositories

ตลอดจนบรรทัดฐานทางศีลธรรม

to teach AI basic commonsense norms and morals.

เพื่อสอนสามัญสำนึกพื้นฐานของ AI ด้านบรรทัดฐานและศีลธรรม

ข้อมูลของเราเปิดอย่างเต็มที่ เพื่อให้ใครก็ตามสามารถตรวจสอบเนื้อหาได้

Our data is fully open so that anybody can inspect the content

and make corrections as needed

และแก้ไขได้ถ้าจำเป็น

because transparency is the key for such an important research topic.

เพราะความโปร่งใสเป็นกุญแจสำคัญ สำหรับหัวข้อวิจัยที่สำคัญเช่นนี้

Now let's think about learning algorithms.

ทีนี้ลองคิดดู เกี่ยวกับอัลกอริทึมการเรียนรู้

No matter how amazing large language models are,

ไม่ว่าโมเดลภาษาขนาดใหญ่จะน่าทึ่งเพียงใด

by design

โดยการออกแบบ

they may not be the best suited to serve as reliable knowledge models.

พวกมันอาจไม่เหมาะสมที่สุด ที่จะใช้เป็นแบบจำลองความรู้ที่เชื่อถือได้

And these language models do acquire a vast amount of knowledge,

และโมเดลภาษาเหล่านี้ ได้เก็บเกี่ยวข้อมูลความรู้มากมาย

but they do so as a byproduct as opposed to direct learning objective.

แต่พวกมันทำเป็นเพียงผลพลอยได้ ตรงข้ามกับวัตถุประสงค์เพื่อการเรียนรู้

Resulting in unwanted side effects such as hallucinated effects

ส่งผลให้เกิดผลข้างเคียงที่ไม่พึงประสงค์ เช่น การมั่วสร้างคำตอบขึ้นเอง

and lack of common sense.

และขาดสามัญสำนึก

Now, in contrast,

ตรงข้ามกันกับ

human learning is never about predicting which word comes next,

การเรียนรู้ของมนุษย์ไม่เคยเกี่ยวกับ การทำนายว่าคำต่อไปคือคำว่าอะไร

but it's really about making sense of the world

แต่จะเป็นการทำความเข้าใจจริง ๆ กับโลกใบนี้

and learning how the world works.

และเรียนรู้ว่าโลกนี้ทำงานยังไง

Maybe AI should be taught that way as well.

บางที AI ควรถูกสอนด้วยวิธีนี้เหมือนกัน

So as a quest toward more direct commonsense knowledge acquisition,

เพื่อเป็นการแสวงหาให้ได้มาซึ่งความรู้ เกี่ยวกับสามัญสำนึก ที่ตรงไปตรงมา

my team has been investigating potential new algorithms,

ทีมของฉันได้ทำการตรวจสอบ อัลกอริทึมใหม่ที่มีความเป็นไปได้

including symbolic knowledge distillation

รวมถึงการกลั่นกรองความรู้เชิงสัญลักษณ์

that can take a very large language model as shown here

ที่สามารถเอาโมเดลภาษาขนาดใหญ่ อย่างที่เห็นนี้

that I couldn't fit into the screen because it's too large,

ที่ฉันไม่สามารถแสดงบนจอทั้งหมดได้ เพราะมันใหญ่เกินไป

and crunch that down to much smaller commonsense models

และกดมันให้เล็กลงมา เป็นโมเดลสามัญสำนึก ที่มีขนาดเล็กกว่ามาก

using deep neural networks.

ด้วยการใช้โครงข่ายประสาทเชิงลึก

And in doing so, we also generate, algorithmically, human-inspectable,

ในการทำเช่นนั้น เรายังได้สร้างอัลกอริทึม แบบที่มนุษย์สามารถตรวจสอบได้

symbolic, commonsense knowledge representation,

สัญลักษณ์ สามัญสำนึก การเป็นตัวแทนความรู้

so that people can inspect and make corrections

เพื่อให้ผู้คนสามารถตรวจสอบ และทำการแก้ไข

and even use it to train other neural commonsense models.

แม้กระทั้ง ใช้มันเพื่อฝึก โมเดลสามัญสำนึกทางประสาทอื่น ๆ

More broadly,

ในวงกว้าง

we have been tackling this seemingly impossible giant puzzle

เรากำลังจัดการกับปริศนาขนาดยักษ์ จนแทบจะแก้ไม่ได้นี้

of common sense, ranging from physical,

ของสามัญสำนึก ตั้งแต่เรื่องกายภาพ

social and visual common sense

สังคม และการมองเห็น

to theory of minds, norms and morals.

ไปจนถึงทฤษฎีของจิตใจ บรรทัดฐาน และศีลธรรม

Each individual piece may seem quirky and incomplete,

แต่ละเรื่อง อาจดูแปลกและไม่สมบูรณ์

but when you step back,

แต่เมื่อคุณถอยหลังออกมา

it's almost as if these pieces weave together into a tapestry

มันเกือบจะเหมือนกับว่าชิ้นส่วนเหล่านี้ สานต่อกันเป็นผืนผ้า

that we call human experience and common sense.

ที่เราเรียกว่าประสบการณ์มนุษย์ และสามัญสำนึก

We're now entering a new era

ตอนนี้เรากำลังเข้าสู่ยุคใหม่

in which AI is almost like a new intellectual species

ซึ่ง AI เกือบจะเป็น สิ่งมีชีวิตทางปัญญาสายพันธุ์ใหม่

with unique strengths and weaknesses compared to humans.

ด้วยจุดแข็งและจุดอ่อนที่แตกต่าง เมื่อเทียบกับมนุษย์

In order to make this powerful AI

เพื่อที่จะสร้าง AI ที่ทรงพลังนี้

sustainable and humanistic,

ให้ยั่งยืน และมีความเป็นมนุษย์

we need to teach AI common sense, norms and values.

เราจำเป็นต้องสอน AI เรื่องสามัญสำนึก บรรทัดฐาน และค่านิยม

Thank you.

ขอบคุณค่ะ

(Applause)

(เสียงปรบมือ)

Chris Anderson: Look at that.

คริส แอนเดอร์สัน: ดูนั่นสิ

Yejin, please stay one sec.

เยจิน กรุณารอสักครู่

This is so interesting,

เรื่องนี้น่าสนใจมาก

this idea of common sense.

แนวคิดเรื่องสามัญสำนึก

We obviously all really want this from whatever's coming.

เห็นได้ชัดว่าเราทุกคนต้องการสิ่งนี้จริง ๆ จากสิ่งที่กำลังจะมาถึง

But help me understand.

แต่ช่วยให้ผมเข้าใจหน่อย

Like, so we've had this model of a child learning.

เรามีโมเดล ของเด็กที่กำลังเรียนรู้

How does a child gain common sense

เด็กจะมีสามัญสำนึกได้อย่างไร

apart from the accumulation of more input

นอกเหนือจากการสะสมด้วยการป้อนข้อมูลเพิ่ม

and some, you know, human feedback?

และจากการแนะนำของคน

What else is there?

ยังมีอะไรอีกไหม

Yejin Choi: So fundamentally, there are several things missing,

เยจิน ชอย: โดยพื้นฐานแล้ว มีหลายสิ่งที่ขาดหายไป

but one of them is, for example,

แต่หนึ่งในนั้นคือ เช่น

the ability to make hypothesis and make experiments,

ความสามารถในการตั้งสมมุติฐาน และทำการทดลอง

interact with the world and develop this hypothesis.

ปฎิสัมพันธ์กับโลก และพัฒนาสมมติฐาน

We abstract away the concepts about how the world works,

เราย่อยแนวคิดออกมาเป็นนามธรรม เกี่ยวกับความเป็นไปของโลก

and then that's how we truly learn,

และนั่นคือวิธีที่เราเรียนรู้จริง ๆ

as opposed to today's language model.

แตกต่างจากโมเดลภาษาในทุกวันนี้

Some of them is really not there quite yet.

บางอันยังไปไม่ถึงจริง ๆ

CA: You use the analogy that we can’t get to the Moon

คริส: คุณเปรียบเทียบว่า เราไม่สามารถไปถึงดวงจันทร์ได้

by extending a building a foot at a time.

ด้วยการเพิ่มตึกให้สูงขึ้นทีละฟุต

But the experience that most of us have had

แต่ประสบการณ์ ที่พวกเราส่วนใหญ่เคยมี

of these language models is not a foot at a time.

กับโมเดลภาษาพวกนี้ ไม่ใช่เพิ่มขึ้นทีละฟุต

It's like, the sort of, breathtaking acceleration.

มันเหมือนกับเพิ่มขึ้น ด้วยอัตราเร่งที่น่าทึ่ง

Are you sure that given the pace at which those things are going,

คุณแน่ใจหรือว่าอัตราความก้าวหน้า ของเรื่องนี้ที่กำลังเพิ่มขึ้น

each next level seems to be bringing with it

ทุกระดับขั้นที่เพิ่มขึ้น ตามมาด้วย

what feels kind of like wisdom and knowledge.

ความรู้สึกเหมือนแบบว่า มีภูมิปัญญาและความรู้เพิ่มขึ้น

YC: I totally agree that it's remarkable how much this scaling things up

เยจิน: ฉันเห็นด้วยอย่างยิ่งว่ามันน่าทึ่ง ที่ขยายได้เยอะมากแค่ไหน

really enhances the performance across the board.

ช่วยเพิ่มประสิทธิภาพจริง ๆ ได้ทั้งหมด

So there's real learning happening

ดังนั้น จึงมีการเรียนรู้เกิดขึ้นจริง

due to the scale of the compute and data.

เนื่องจากขนาดของการคำนวณและข้อมูล

However, there's a quality of learning that is still not quite there.

อย่างไรก็ตาม ยังมีคุณภาพของการเรียนรู้ ที่ยังไปไม่ถึง

And the thing is,

เรื่องของเรื่องคือ

we don't yet know whether we can fully get there or not

เรายังไม่ทราบว่า เราจะไปถึงที่นั่นได้หรือไม่

just by scaling things up.

เพียงแค่ขยายขนาดขึ้นไป

And if we cannot, then there's this question of what else?

และถ้าเราไม่สามารถทำได้ ก็มีคำถามว่า “แล้วไงต่อ”

And then even if we could,

ถึงแม้ว่าเราจะทำได้

do we like this idea of having very, very extreme-scale AI models

เราชอบจริง ๆ หรือ ที่จะต้องมี AI โมเดลขนาดใหญ่โตมโหฬาร

that only a few can create and own?

ที่มีแค่ไม่กี่คนสามารถสร้าง และเป็นเจ้าของได้

CA: I mean, if OpenAI said, you know, "We're interested in your work,

คริส: คือว่า ถ้า OpenAI บอกว่า “เราสนใจงานของคุณ

we would like you to help improve our model,"

เราอยากให้คุณช่วย ปรับปรุงโมเดลของเรา”

can you see any way of combining what you're doing

คุณเห็นหนทางไหม ในการรวมสิ่งที่คุณกำลังทำอยู่

with what they have built?

กับสิ่งที่เขาสร้างมาแล้ว

YC: Certainly what I envision

เยจิน: แน่นอน สิ่งที่ฉันจินตนาการไว้

will need to build on the advancements of deep neural networks.

คือจะต้องสร้างความก้าวหน้ากับ โครงข่ายประสาทเชิงลึก

And it might be that there’s some scale Goldilocks Zone,

เป็นได้ว่าจะมีขนาดแบบโซนโกลดิล็อคส์ (โซนที่มีสภาพเอื้อต่อการดำรงอยู่)

such that ...

ดังนั้น

I'm not imagining that the smaller is the better either, by the way.

ฉันไม่ได้จินตนาการไปว่า ขนาดเล็กกว่าต้องดีกว่าเสมอ แต่ว่า

It's likely that there's right amount of scale, but beyond that,

มันเป็นไปได้มากว่า มันจะมีขนาดที่พอดี แต่ถ้าใหญ่เกินไปจากนั้น

the winning recipe might be something else.

สูตรสำเร็จน่าจะเป็นอย่างอื่นมากกว่า

So some synthesis of ideas will be critical here.

ดังนั้น การสังเคราะห์แนวคิดบางอย่างออกมา จะมีความสำคัญมาก

CA: Yejin Choi, thank you so much for your talk.

คริส: เยจิน ชอย ขอบคุณมาก สำหรับทอล์กของคุณ

(Applause)

(เสียงปรบมือ)