Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

Translator: Quỳnh Lê Thị Phương Reviewer: Gia Bảo Nguyễn

So I'm excited to share a few spicy thoughts on artificial intelligence.

Tôi đang rất phấn khích để chia sẻ một vài suy nghĩ thú vị về trí tuệ nhân tạo.

But first, let's get philosophical

Nhưng trước tiên, cùng học triết với tôi nhe

by starting with this quote by Voltaire,

bắt đầu với câu nói của Voltaire,

an 18th century Enlightenment philosopher,

một triết gia Khai sáng của thế kỷ 18,

who said, "Common sense is not so common."

ông nói, “Hiểu biết thông thường không hẳn là thứ thông dụng.”

Turns out this quote couldn't be more relevant

Để rồi giờ trích dẫn này bỗng hợp lí đến kinh ngạc

to artificial intelligence today.

khi ta nói về trí tuệ nhân tạo ngày nay.

Despite that, AI is an undeniably powerful tool,

Dù vậy, không thể phủ nhận AI quả là một thứ công cụ tối tân,

beating the world-class "Go" champion,

đã đánh bại nhà vô địch thế giới “Go” ,

acing college admission tests and even passing the bar exam.

tham gia kỳ thi tuyển sinh đại học và thậm chí vượt qua cả kì thi luật “Bar”.

I’m a computer scientist of 20 years,

Tôi đã là nhà khoa học máy tính suốt 20 năm qua,

and I work on artificial intelligence.

lĩnh vực của tôi là về trí tuệ nhân tạo.

I am here to demystify AI.

Tôi ở đây để làm sáng tỏ về AI.

So AI today is like a Goliath.

AI ngày nay giống như gã khổng lồ Goliath vậy.

It is literally very, very large.

Nó là một mảng rất, rất rộng.

It is speculated that the recent ones are trained on tens of thousands of GPUs

Người ta đồn rằng AI gần đây nhất được huấn luyện lập trình bởi chục ngàn GPU

and a trillion words.

Và hàng nghìn tỷ từ.

Such extreme-scale AI models,

Có một mô hình trí tuệ nhân tạo quy mô lớn,

often referred to as "large language models,"

thường được gọi là “Mô hình ngôn ngữ khổng lồ,”

appear to demonstrate sparks of AGI,

xuất hiện để định hình sức nóng của AGI,

artificial general intelligence.

gọi là trí tuệ tổng hợp nhân tạo.

Except when it makes small, silly mistakes,

Cho đến khi nó mắc những lỗi sai nhỏ nhặt và ngớ ngẩn

which it often does.

mà nó thường hay mắc.

Many believe that whatever mistakes AI makes today

Nhiều người tin rằng dù hiện tại AI có mắc lỗi đi chăng nữa

thì ta cũng có thể sửa nó dễ dàng bằng vũ lực

can be easily fixed with brute force,

bigger scale and more resources.

vời quy mô và nguồn tài nguyên lớn hơn.

What possibly could go wrong?

Vậy thì cái sai ở đây là gì?

So there are three immediate challenges we face already at the societal level.

Có 3 thách thức ngay lập tức mà chúng ta phải đối mặt ở quy mô xã hội.

First, extreme-scale AI models are so expensive to train,

Đầu tiên, các mô hình AI quy mô lớn có chi phí đào tạo rất đắt đỏ

and only a few tech companies can afford to do so.

và chỉ có một vài công ty công nghệ đủ khả năng làm điều đó.

So we already see the concentration of power.

Nên là ta thấy đó, quả là một sự tập trung quyền lực không hề nhẹ

But what's worse for AI safety,

Nhưng điều tệ hơn về tính an toàn của AI là,

we are now at the mercy of those few tech companies

chúng ta bây giờ đang phụ thuộc vào số ít các công ty công nghệ

because researchers in the larger community

do các nhà nghiên cứu tại các cộng đồng lớn hơn

do not have the means to truly inspect and dissect these models.

không đủ nguồn lực để quan sát và tháo lắp những mô hình này.

And let's not forget their massive carbon footprint

Và đừng quên lượng khí thải carbon khổng lồ

and the environmental impact.

và sự tác động tới môi trường.

And then there are these additional intellectual questions.

Và cũng có nhiều câu hỏi thêm khá thông minh về AI thế này.

Can AI, without robust common sense, be truly safe for humanity?

Liệu AI, kể cả khi không có trực giác, có thật sự an toàn cho nhân loại?

And is brute-force scale really the only way

Và liệu việc sử dụng vũ lực có phải là cách duy nhất

and even the correct way to teach AI?

và cũng là cách chuẩn nhất để dạy dỗ AI?

So I’m often asked these days

Mấy nay tôi hay được hỏi là

whether it's even feasible to do any meaningful research

Liệu có khả thi không khi ta cứ thế nghiên cứu

without extreme-scale compute.

mà không cần lường đến tính quy mô của nó.

And I work at a university and nonprofit research institute,

Tôi đang làm tại 1 trường Đại Học và 1 tổ chức phi lợi nhuận,

so I cannot afford a massive GPU farm to create enormous language models.

nên tôi không thể nào xây được một trại GPU đủ lớn

nhằm tạo ra những mô hình ngôn ngữ khổng lồ được.

Nevertheless, I believe that there's so much we need to do

Tuy nhiên, tôi tin vẫn còn nhiều thứ mà ta cần làm

and can do to make AI sustainable and humanistic.

và có thể làm để khiến AI trở nên ổn định và có tình người.

We need to make AI smaller, to democratize it.

Chúng ta cần làm AI nhỏ hơn, để dân chủ hóa nó.

And we need to make AI safer by teaching human norms and values.

Ta cần làm AI an toàn hơn, bằng cách dạy chúng các chuẩn mực và giá trị con người

Perhaps we can draw an analogy from "David and Goliath,"

Có lẽ ta nên lấy câu chuyện “David và gã khổng lồ Goliath” làm ví dụ,

here, Goliath being the extreme-scale language models,

ở đó, Goliath chính là những mô hình ngôn ngữ khổng lồ,

và lấy cảm hứng từ cuốn sách kinh điển “Binh pháp Tôn Tử”,

and seek inspiration from an old-time classic, "The Art of War,"

which tells us, in my interpretation,

trong đó có nói, theo tôi nhớ thôi nhé,

know your enemy, choose your battles, and innovate your weapons.

Biết mặt kẻ thù, chọn lựa trận chiến, và cải tiến vũ khí.

Let's start with the first, know your enemy,

Bắt đầu với câu đầu tiên, biết mặt kẻ thù

which means we need to evaluate AI with scrutiny.

điều đó có nghĩa là là ta cần phải đánh giá AI một cách kĩ càng

AI is passing the bar exam.

AI vừa đỗ kì thi Bar rồi đấy.

Does that mean that AI is robust at common sense?

Vậy điều đó có nghĩa là AI có trực giác đúng không?

You might assume so, but you never know.

cứ cho là vậy đi, nhưng đố ai mà biết được.

So suppose I left five clothes to dry out in the sun,

Gỉa sử tôi lấy năm cái áo ra phơi khô dưới ánh nắng mặt trời,

and it took them five hours to dry completely.

và chúng mất năm tiếng để khô hoàn toàn.

How long would it take to dry 30 clothes?

Vậy mất bao lâu để làm khô 30 bộ quần áo?

GPT-4, the newest, greatest AI system says 30 hours.

GPT-4, hệ thống AI tân tiến nhất cho kết quả là 30 giờ

Not good.

thấy chưa đủ tốt hả.

A different one.

Thử ví dụ khác nhé.

I have 12-liter jug and six-liter jug,

Tôi có bình 12 lít và bình 6 lít,

and I want to measure six liters.

và tôi muốn đo bình 6 lít

How do I do it?

Tôi làm sao giờ đây?

Just use the six liter jug, right?

Chỉ cần sử dụng bình sáu lít thôi, đúng không?

GPT-4 spits out some very elaborate nonsense.

GPT-4 sau đó cho ra vài kết quả rất vô nghĩa.

(Laughter)

(Tiếng cười)

Step one, fill the six-liter jug,

Bước một, đổ đầy bình sáu lít,

step two, pour the water from six to 12-liter jug,

bước hai, đổ nước từ bình sáu vào bình 12 lít

step three, fill the six-liter jug again,

bước ba, đổ đầy lại bình sáu lít,

step four, very carefully, pour the water from six to 12-liter jug.

bước bốn, cẩn thận đổ nước từ bình 6 vào lại bình 12 lít

And finally you have six liters of water in the six-liter jug

Và cuối cùng bạn có sáu lít nước trong bình sáu lít

that should be empty by now.

mà đáng ra giờ nó đã chả còn 1 giọt.

(Laughter)

(Tiếng cười)

OK, one more.

Được rồi, một cái nữa.

Would I get a flat tire by bicycling over a bridge

Liệu tôi có bị xì lốp khi đạp xe qua cái cầu

that is suspended over nails, screws and broken glass?

mà trên đó toàn là đinh, vít rồi cả mảnh kính vỡ không?

Yes, highly likely, GPT-4 says,

Có, rất có thể, GPT-4 cho biết,

presumably because it cannot correctly reason

đơn thuần là do nó không thể suy luận được

that if a bridge is suspended over the broken nails and broken glass,

rằng nếu trên cầu toàn những chiếc đinh gãy và kính vỡ,

then the surface of the bridge doesn't touch the sharp objects directly.

thì bề mặt cầu sẽ không tiếp xúc trực tiếp với những vật nhọn kia.

OK, so how would you feel about an AI lawyer that aced the bar exam

Ok, giờ bạn thấy sau về anh chàng luật sư AI đã đổ kì thi Bar

yet randomly fails at such basic common sense?

nhưng lại thất bại trong việc giải đáp một vấn đề quá cơ bản như thế?

AI today is unbelievably intelligent and then shockingly stupid.

AI ngày nay thông minh đến kinh ngạc,

nhưng cũng ngớ ngẩn đến bất ngờ

(Laughter)

(Tiếng cười)

It is an unavoidable side effect of teaching AI through brute-force scale.

Đó là tác dụng phụ không thể tránh khỏi của việc dạy dỗ AI bằng vũ lực.

Some scale optimists might say, “Don’t worry about this.

Người lạc quan thì cho là, “Đừng quá lo lắng về nó.

All of these can be easily fixed by adding similar examples

Tất cả điều này có thể dễ dàng khắc phục bằng cách bổ sung vài ví dụ tương tự

as yet more training data for AI."

và nhiều dữ liệu đào tạo hơn cho AI.”

But the real question is this.

Nhưng câu hỏi thực ra là thế này.

Why should we even do that?

Ta làm thế để làm gì?

You are able to get the correct answers right away

Bạn có thể có câu trả lời chính xác ngay lập tức

without having to train yourself with similar examples.

mà không cần phải rèn luyện bản thân với những ví dụ tương tự.

Children do not even read a trillion words

Lũ trẻ thậm chí không cần đọc tới một nghìn tỷ từ

to acquire such a basic level of common sense.

chỉ để đạt đến một mức độ cơ bản như vậy về trực giác.

So this observation leads us to the next wisdom,

Quan sát này cũng dẫn ta đến yếu tố tiếp theo,

choose your battles.

chọn lựa trận chiến

So what fundamental questions should we ask right now

Vậy những câu hỏi cơ bản mà ta cần hỏi bây giờ

and tackle today

và giải quyết ngay hôm nay

in order to overcome this status quo with extreme-scale AI?

nhằm giải quyết hiện trạng của AI quy mô lớn này là gì?

I'll say common sense is among the top priorities.

Tôi nói trực giác là một trong những ưu tiên hàng đầu.

So common sense has been a long-standing challenge in AI.

Trực giác là một thách thức sừng sững về AI

To explain why, let me draw an analogy to dark matter.

Để giải thích, tôi sẽ thử lấy vật chất tối làm ví dụ

So only five percent of the universe is normal matter

Chỉ có 5% của vũ trụ là vật chất thông thường

that you can see and interact with,

mà bạn có thể thấy và tương tác,

and the remaining 95 percent is dark matter and dark energy.

còn 95% còn lại là vật chất tối và năng lượng tối

Dark matter is completely invisible,

Vật chất tối hoàn toàn vô hình,

but scientists speculate that it's there because it influences the visible world,

nhưng các nhà khoa học cho rằng nó tồn tại để tạo ảnh hưởng đến thế giới hữu hình,

even including the trajectory of light.

bao gồm cả quỹ đạo ánh sáng.

So for language, the normal matter is the visible text,

Với ngôn ngữ, vật chất thông thường chính là những chữ viết,

and the dark matter is the unspoken rules about how the world works,

còn vật chất tối là những quy tắc bất thành văn về cách thế giới vận hành,

including naive physics and folk psychology,

bao gồm cả “vật lý ngây thơ” và “tâm lý học dân gian,”

which influence the way people use and interpret language.

nó ảnh hưởng đến cách mọi người sử dụng và giải thích ngôn ngữ.

So why is this common sense even important?

Vậy tại sao trực giác lại quan trọng?

Well, in a famous thought experiment proposed by Nick Bostrom,

Thì, trong một thí nghiệm tưởng tượng nổi tiếng do Nick Bostrom đề xuất,

AI was asked to produce and maximize the paper clips.

AI được yêu cầu sản xuất và tối đa hóa các kẹp giấy.

And that AI decided to kill humans to utilize them as additional resources,

Và con AI đó quyết định giết con người nhằm tối ưu hóa nguồn tài nguyên bổ sung

to turn you into paper clips.

hòng biến bạn thành kẹp giấy.

Because AI didn't have the basic human understanding about human values.

Bởi AI vốn không có chút hiểu biết cơ bản nào về cái gọi là giá trị nhân đạo.

Now, writing a better objective and equation

Giờ, kể cả bạn có viết và lập trình nó theo kiểu

that explicitly states: “Do not kill humans”

bổ sung thêm lệnh: “Đừng hủy diệt loài người”

will not work either

cũng chả có tác dụng gì

because AI might go ahead and kill all the trees,

bởi AI vẫn sẽ tiếp tục và giết hết tất cả cây cối,

thinking that's a perfectly OK thing to do.

nghĩ rằng điều đó hoàn toàn ổn.

And in fact, there are endless other things

Và trên thực tế, có vô số những thứ

that AI obviously shouldn’t do while maximizing paper clips,

AI rõ ràng là không được làm trong lúc tối đa hóa mấy cái kẹp giấy,

including: “Don’t spread the fake news,” “Don’t steal,” “Don’t lie,”

bao gồm: “Không lan truyền tin giả,” “Không ăn cắp,” “Không nói dối,”

which are all part of our common sense understanding about how the world works.

tất cả đều là 1 phần trong sự hiểu biết của chúng ta về cách thế giới vận hành.

However, the AI field for decades has considered common sense

Dẫu vậy, mảng AI trong suốt thập kỉ qua đã coi trực giác

as a nearly impossible challenge.

như một điều gần như không thể.

So much so that when my students and colleagues and I

Tuyệt vọng đến mức khi các sinh viên, đồng nghiệp và cả tôi

started working on it several years ago, we were very much discouraged.

bắt đầu làm về vấn đề này cách đây vài năm, chúng tôi đã từng rất nản.

Chúng tôi biết là chủ đề này đã từng được nghiên cứu vào những năm 70 80;

We’ve been told that it’s a research topic of ’70s and ’80s;

shouldn’t work on it because it will never work;

không nên nghiên cứu vì nó không thể thành công đâu;

in fact, don't even say the word to be taken seriously.

trên thực tế, nghiên cứu này còn chả được đầu tư nghiêm túc

Now fast forward to this year,

Rồi, đi nhanh tới năm nay,

I’m hearing: “Don’t work on it because ChatGPT has almost solved it.”

Tôi nghe là: “Đừng làm việc nữa vì ChatGPT gần như làm được hết rồi.”

And: “Just scale things up and magic will arise,

Rồi nào là “Chỉ cần mở rộng thôi và phép màu sẽ xuất hiện,

and nothing else matters.”

không còn vấn đề gì nữa.”

So my position is that giving true common sense

Vai trò của tôi đó là đưa ra những nhận định đúng

human-like robots common sense to AI, is still moonshot.

robot giống con người với AI là trực giác, vẫn còn khó lắm.

And you don’t reach to the Moon

Và đâu ai đi lên mặt trăng

by making the tallest building in the world one inch taller at a time.

bằng cách làm cho tòa nhà cao nhất thế giới cao hơn từng inch một.

Extreme-scale AI models

Các mô hình AI quy mô lớn

do acquire an ever-more increasing amount of commonsense knowledge,

đang dần tích lũy thêm lượng kiến thức tổng quát,

I'll give you that.

Tôi nói thế đấy.

But remember, they still stumble on such trivial problems

Nhưng như ta thấy, chúng vẫn có lúc trầy trật trước những vấn đề quá đổi tầm thường

that even children can do.

thậm chí trẻ con còn làm được.

So AI today is awfully inefficient.

Vậy nên, AI ngày nay cực kỳ kém hiệu quả.

And what if there is an alternative path or path yet to be found?

Và liệu có cách thay thế hay cách nào đó mà ta chưa khám phá ra không?

A path that can build on the advancements of the deep neural networks,

Một cách để xây dựng mạng lưới thần kinh sâu sắc và tối tân,

but without going so extreme with the scale.

mà không cần phải mở rộng quy mô.

So this leads us to our final wisdom:

Và điều này dẫn ta đến yếu tố cuối cùng:

innovate your weapons.

cải tiến vũ khí.

In the modern-day AI context,

Trong bối cảnh AI hiện đại,

that means innovate your data and algorithms.

thì nó có nghĩa là đổi mới dữ liệu và thuật toán của bạn.

OK, so there are, roughly speaking, three types of data

OK, đại khái là có ba loại dữ liệu

that modern AI is trained on:

nhằm huấn luyện AI:

raw web data,

dữ liệu web thô,

crafted examples custom developed for AI training,

các ví dụ thủ công được phát triển tùy chỉnh để đào tạo AI,

and then human judgments,

rồi cả sự phán xét của con người,

also known as human feedback on AI performance.

hay còn gọi là phản hồi của con người về hiệu suất AI.

If the AI is only trained on the first type, raw web data,

Nếu AI chỉ được huấn luyện với loại đầu tiên, dữ liệu web thô,

which is freely available,

thứ vốn được cung cấp miễn phí,

it's not good because this data is loaded with racism and sexism

điều đó không tốt vì nguồn dữ liệu này đầy sự phân biệt chủng tộc và giới tính

and misinformation.

cả thông tin sai lệch nữa.

So no matter how much of it you use, garbage in and garbage out.

Vậy nên vấn đề không phải là bạn dùng bao nhiêu, rác thì vẫn là rác.

So the newest, greatest AI systems

Các hệ thống AI mới và tốt nhất

are now powered with the second and third types of data

chủ yếu được chạy bởi loại dữ liệu thứ 2 và thứ 3

that are crafted and judged by human workers.

được tạo ra và đánh giá bởi chính những con người.

It's analogous to writing specialized textbooks for AI to study from

Nó giống như viết sách giáo khoa chuyên ngành cho AI nghiên cứu vậy

and then hiring human tutors to give constant feedback to AI.

và sau đó thuê người dạy kèm để phản hồi liên tục về AI.

These are proprietary data, by and large,

Đây là những dữ liệu độc quyền, lớn và đa dạng,

speculated to cost tens of millions of dollars.

được đồn đoán có giá hàng chục triệu đô la.

We don't know what's in this,

Ta không biết trong đó có gì.

but it should be open and publicly available

nhưng nó nên được để mở và công khai

so that we can inspect and ensure [it supports] diverse norms and values.

để ta có thể kiểm tra và đảm bảo các chuẩn mực cũng như giá trị ấy đủ đa dạng.

So for this reason, my teams at UW and AI2

Vì lý do này, 2 đội của tôi ở UW và AI2

have been working on commonsense knowledge graphs

đã và đang làm việc trên các biểu đồ tri giác

as well as moral norm repositories

lẫn kho chuẩn mực đạo đức

to teach AI basic commonsense norms and morals.

nhằm dạy dỗ AI về những chuẩn mực và đạo đức cơ bản.

Our data is fully open so that anybody can inspect the content

Dữ liệu hoàn toàn mở để bất kỳ ai cũng có thể kiểm tra nội dung

and make corrections as needed

và chỉnh sửa khi cần thiết

because transparency is the key for such an important research topic.

bởi vì tính minh bạch chính là chìa khóa trong chủ đề nghiên cứu quan trọng này.

Now let's think about learning algorithms.

Giờ hãy nghĩ về việc học các thuật toán.

No matter how amazing large language models are,

Không quan trọng ngôn ngữ lập trình tuyệt vời đến đâu,

by design

về thiết kế

they may not be the best suited to serve as reliable knowledge models.

chúng có thể không phù hợp để đóng vai trò là những mô hình tri thức đáng tin cậy.

And these language models do acquire a vast amount of knowledge,

Và những mô hình ngôn ngữ này thu được một lượng lớn kiến thức,

but they do so as a byproduct as opposed to direct learning objective.

nhưng chúng coi đó là 1 sản phẩm phụ hơn là học một cách trực tiếp.

Resulting in unwanted side effects such as hallucinated effects

Hậu quả là các tác dụng phụ như ảo giác

and lack of common sense.

và thiếu trực giác.

Now, in contrast,

Bây giờ, ngược lại,

human learning is never about predicting which word comes next,

việc học của con người không phải là đi dự đoán xem sẽ có từ gì,

but it's really about making sense of the world

mà là tìm hiểu về ý nghĩa thật sự của thế giới

và học về cách mà thế giới vận hành.

and learning how the world works.

Maybe AI should be taught that way as well.

Có lẽ AI cũng nên được dạy theo cách đó.

So as a quest toward more direct commonsense knowledge acquisition,

Vậy nên, như một nghĩa vụ hòng hướng tới việc tiếp thu kiến thức trực quan hơn,

my team has been investigating potential new algorithms,

nhóm của tôi đang nghiên cứu các thuật toán mới đầy tiềm năng,

including symbolic knowledge distillation

bao gồm cả chắt lọc các kiến thức tượng trưng

that can take a very large language model as shown here

có thể lấy một mô hình ngôn ngữ rất lớn như trên đây

that I couldn't fit into the screen because it's too large,

tôi không để vừa màn hình được bởi nó lớn quá,

and crunch that down to much smaller commonsense models

rồi nghiền nó lại thành 1 mô hình nhỏ hơn

using deep neural networks.

dùng mạng lưới thần kinh sâu.

And in doing so, we also generate, algorithmically, human-inspectable,

Làm như vậy, ta cũng sẽ tạo ra thuật toán, người khác có thể xem.

symbolic, commonsense knowledge representation,

đặc trưng, khả năng diễn đạt kiến thức thông thường,

so that people can inspect and make corrections

để mọi người có thể kiểm tra và sửa chữa

and even use it to train other neural commonsense models.

và thậm chí sử dụng nó để đào tạo các mô hình thần kinh tri giác khác.

More broadly,

Rộng hơn,

we have been tackling this seemingly impossible giant puzzle

chúng tôi đã giải được câu đố tưởng chừng như bất khả thi này

of common sense, ranging from physical,

của trực giác, từ thể chất,

social and visual common sense

khả năng xã hội và nhìn nhận

to theory of minds, norms and morals.

đến thuyết duy tâm, chuẩn mực và đạo đức.

Each individual piece may seem quirky and incomplete,

Từng mảnh riêng lẻ có vẻ hơi kì và không hoàn thiện,

but when you step back,

nhưng khi bạn lùi lại,

it's almost as if these pieces weave together into a tapestry

thì như thể những mảnh ghép này đan lại với nhau thành một tấm thảm

that we call human experience and common sense.

mà ta hay gọi là trải nghiệm và trực giác con người

We're now entering a new era

Chúng ta hiện đang bước vào 1 kỷ nguyên mới

in which AI is almost like a new intellectual species

tại đó AI như một chủng loài với trí tuệ riêng

with unique strengths and weaknesses compared to humans.

với những điểm mạnh và điểm yếu độc đáo so với con người.

In order to make this powerful AI

Nhằm tạo ra những AI tối tân

sustainable and humanistic,

ổn định và nhân văn,

we need to teach AI common sense, norms and values.

chúng ta cần dạy cho AI những ý thức, chuẩn mực và giá trị chung.

Thank you.

Cảm ơn mọi người.

(Applause)

(Vỗ tay)

Chris Anderson: Look at that.

Chris Anderson: Coi kìa.

Yejin, please stay one sec.

Yejin, xin hãy ở lại một xíu.

This is so interesting,

Điều này thật thú vị,

this idea of common sense.

ý tưởng về tri giác này.

We obviously all really want this from whatever's coming.

Chúng tôi rất mong chờ vào những tiến triển sắp tới.

But help me understand.

Nhưng hãy giải đáp cho tôi xíu nhé.

Like, so we've had this model of a child learning.

Kiểu, ta có mô hình của một đứa trẻ đang học

How does a child gain common sense

Vậy thì làm sao để mà đứa trẻ đó có tri giác

apart from the accumulation of more input

ngoài việc tích lũy thêm kiến thức bên ngoài

and some, you know, human feedback?

và mấy thứ, kiểu như, phản hồi của con người?

What else is there?

Còn cách nào nữa không?

Yejin Choi: So fundamentally, there are several things missing,

Yejin Choi: Về cơ bản, vẫn còn nhiều thứ bị thiếu

but one of them is, for example,

nhưng một trong số đó là, ví dụ như,

the ability to make hypothesis and make experiments,

khả năng đưa ra giả thuyết và thực hiện các thí nghiệm,

interact with the world and develop this hypothesis.

tương tác với thế giới và phát triển cái giả thuyết đó.

We abstract away the concepts about how the world works,

Chúng ta trừu tượng hóa các khái niệm về cách thế giới vận hành,

and then that's how we truly learn,

và đó là cách chúng ta thực sự học,

as opposed to today's language model.

trái ngược với các mô hình ngôn ngữ ngày nay.

Some of them is really not there quite yet.

Vài trong số chúng vẫn chưa hoàn thiện.

CA: You use the analogy that we can’t get to the Moon

Cô đã ví dụ là ta không thể đi lên Mặt Trăng

bằng cách xây thêm tầng cho toà nhà rồi đi lên từng bước một.

by extending a building a foot at a time.

But the experience that most of us have had

Nhưng theo trải nghiệm của hầu hết mọi người

of these language models is not a foot at a time.

mô hình ngôn ngữ này không phải là đi lên từng bước một.

It's like, the sort of, breathtaking acceleration.

Nó giống như là một bước đi thần tốc thì đúng hơn.

Are you sure that given the pace at which those things are going,

Cô có chắc là với tốc độ phát triển như hiện tại

each next level seems to be bringing with it

từng bước tiến nhỏ đó đang mang theo

what feels kind of like wisdom and knowledge.

những loại hình nhận thức như độ khôn và tri thức

YC: I totally agree that it's remarkable how much this scaling things up

YC: Tôi phải thừa nhận là việc mở rộng quy mô

really enhances the performance across the board.

thực sự làm tăng hiệu suất một cách đáng kể trên tất cả các lĩnh vực.

So there's real learning happening

Nên dĩ nhiên việc học hỏi là thật

due to the scale of the compute and data.

tùy vào quy mô của máy tính và dữ liệu.

However, there's a quality of learning that is still not quite there.

Tuy nhiên, chất lượng của việc học vẫn thiếu đi 1 số thứ để hoàn thiện.

And the thing is,

Và vấn đề là,

we don't yet know whether we can fully get there or not

Chúng tôi vẫn chưa biết rằng mình đã đạt tới mức đó hay chưa

just by scaling things up.

nếu chỉ bằng cách nhân rộng mọi thứ lên.

And if we cannot, then there's this question of what else?

Và nếu ta không thể, thì câu hỏi “còn cách nào” liệu còn ý nghĩa gì?

And then even if we could,

Và thậm chí nếu chúng ta có thể,

do we like this idea of having very, very extreme-scale AI models

liệu chúng ta có thích ý tưởng về 1 mô hình AI quy mô lớn

that only a few can create and own?

mà chỉ số ít trong đó có thể chế tạo và tự sở hữu hay không?

CA: I mean, if OpenAI said, you know, "We're interested in your work,

CA: Ý tôi là, OpenAI nói thế này, “Chúng tôi bị hấp dẫn bởi việc các bạn làm

bọn tôi muốn mọi người giúp cải thiện mô hình của chúng tôi,”

we would like you to help improve our model,"

can you see any way of combining what you're doing

Có cách nào kết hợp những gì bạn đang làm

with what they have built?

với những gì họ đang xây dựng không?

YC: Certainly what I envision

YC: Đó cũng là điều tôi đang hình dung

will need to build on the advancements of deep neural networks.

ta sẽ xây dựng từ việc tăng cường mạng lưới thần kinh sâu.

And it might be that there’s some scale Goldilocks Zone,

Và biết đâu lại có một vùng Goldilocks ở đâu đó

such that ...

như nãy đó...

I'm not imagining that the smaller is the better either, by the way.

Tôi cũng không dám tưởng tượng là nhỏ hơn thì sẽ tốt hơn, kiểu vậy.

It's likely that there's right amount of scale, but beyond that,

Có thể việc mở rộng quy mô cũng hợp lí nếu vừa đủ, nhưng bên cạnh đó,

the winning recipe might be something else.

nguyên liệu của thành công có thể là một thứ gì đó khác.

So some synthesis of ideas will be critical here.

Vậy nên việc tổng hợp các ý tưởng lại biết đâu có thể tạo sự đột phá thì sao.

CA: Yejin Choi, thank you so much for your talk.

CA: Yejin Choi, cảm ơn rất nhiều vi bài diễn thuyết nhé.

(Applause)

(Vỗ tay)