How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Translator: Hoàng Bảo Phạm Reviewer: Mai Tran

People are funny.

Con người thì hài hước.

We're constantly trying to understand and interpret

Chúng ta luôn cố hiểu và giải thích

the world around us.

thế giới xung quanh chúng ta.

Tôi sống cùng với hai chú mèo đen, và để tôi nói với bạn điều này,

I live in a house with two black cats, and let me tell you,

every time I see a black, bunched up sweater out of the corner of my eye,

mỗi lần tôi thấy cái áo len màu đen, chụm thành nùi qua khóe mắt,

I think it's a cat.

tôi nghĩ đó là con mèo.

It's not just the things we see.

Không chỉ là những thứ ta thấy.

Sometimes we attribute more intelligence than might actually be there.

Đôi khi chúng ta gán thêm nhiều trí thông minh hơn thực tế có thể.

Maybe you've seen the dogs on TikTok.

Có lẽ bạn đã xem những chú chó qua Tiktok.

They have these little buttons that say things like "walk" or "treat."

Chúng có những cái nút nhỏ mang nghĩa như là “đi’ hay “cư xử.”

Chúng có thể nhấn các nút đó để giao tiếp vài thứ với chủ của chúng,

They can push them to communicate some things with their owners,

and their owners think they use them

và chủ của chúng nghĩ họ dùng nó

to communicate some pretty impressive things.

để giao tiếp vài điều khá ấn tượng.

But do the dogs know what they're saying?

Nhưng các chú chó có hiểu họ nói gì không?

Or perhaps you've heard the story of Clever Hans the horse,

Hay là có lẽ bạn đã nghe về câu chuyện của chú ngựa Clever Hans,

and he could do math.

và chú có thể làm toán.

And not just like, simple math problems, really complicated ones,

Không chỉ vậy, những bài đơn giản, những bài rất khó,

like, if the eighth day of the month falls on a Tuesday,

như là, nếu ngày tám của tháng rơi vào thứ Ba,

what's the date of the following Friday?

thì thứ sáu tuần sau là ngày mấy?

It's like, pretty impressive for a horse.

Nó có vẻ, khá ấn tượng về một chú ngựa.

Unfortunately, Hans wasn't doing math,

Thật không may, Hans đã không làm toán,

but what he was doing was equally impressive.

nhưng những gì chú làm thì cũng ấn tượng không kém.

Hans had learned to watch the people in the room

Hans đã học cách quan sát những người trong phòng

to tell when he should tap his hoof.

để biết khi nào thì chú nên dậm chân.

So he communicated his answers by tapping his hoof.

Vậy nên chú phản hồi bằng cách dậm chân.

It turns out that if you know the answer

Điều này chỉ ra rằng nếu bạn biết câu trả lời

to "if the eighth day of the month falls on a Tuesday,

cho “nếu ngày tám của tháng là thứ Ba,

what's the date of the following Friday,"

thì thứ sáu tuần sau là ngày nào,”

you will subconsciously change your posture

bạn sẽ vô thức thay đổi tư thế

once the horse has given the correct 18 taps.

một khi chú ngựa gõ chính xác 18 cái.

So Hans couldn't do math,

Vậy nên Hans không thể làm toán,

but he had learned to watch the people in the room who could do math,

nhưng nó đã học để quan sát những người trong phòng biết làm toán,

which, I mean, still pretty impressive for a horse.

là cái mà, ý tôi là, vẫn rất ấn tượng về một chú ngựa.

But this is an old picture,

Nhưng đó chỉ là chuyện cũ,

and we would not fall for Clever Hans today.

và chúng ta sẽ không bàn về Clever Hans hôm nay.

Or would we?

Hoặc chúng ta sẽ có ?

Well, I work in AI,

Thật ra, tôi làm về AI,

and let me tell you, things are wild.

và để tôi kể bạn nghe, mọi thứ thật hoang dã.

There have been multiple examples of people being completely convinced

Có rất nhiều ví dụ về nhiều người hoàn toàn bị thuyết phục

that AI understands them.

rằng AI hiểu họ.

In 2022,

Vào năm 2022,

a Google engineer thought that Google’s AI was sentient.

một kĩ sư Google nghĩ rằng AI của Google có tri giác.

And you may have had a really human-like conversation

Và bạn có thể đã có những cuộc trò chuyện thực sự giống con người

with something like ChatGPT.

với những thứ như ChatGPT.

But models we're training today are so much better

Nhưng các mô hình chúng tôi đào tạo ngày nay tốt hơn nhiều

than the models we had even five years ago.

so với những mô hình mà chúng ta có từ 5 năm trước.

It really is remarkable.

Nó thật sự đáng nhắc tới.

So at this super crazy moment in time,

Và tại khoảnh khắc điên rồ này,

let’s ask the super crazy question:

hãy hỏi một câu hỏi siêu điên rồ:

Does AI understand us,

Liệu AI có thực sự hiểu ta,

or are we having our own Clever Hans moment?

hay chúng ta có đang tự vẽ ra khoảnh khắc chú ngựa Clever Hans cho mình không?

Some philosophers think that computers will never understand language.

Vài nhà triết học cho rằng máy tính sẽ không bao giờ hiểu được ngôn ngữ.

To illustrate this, they developed something they call

Để minh họa điều này, họ đã tạo ra một thứ gọi là

the Chinese room argument.

phòng tranh luận tiếng Trung.

In the Chinese room, there is a person, hypothetical person,

Trong căn phòng tiếng Trung này, có một người, người giả định,

who does not understand Chinese,

là người không hiểu tiếng Trung Quốc,

but he has along with him a set of instructions

nhưng anh ấy có trong người một tập hợp các hướng dẫn

that tell him how to respond in Chinese to any Chinese sentence.

dạy anh ấy cách phản hồi bằng tiếng Trung cho bất kì câu tiếng Trung nào.

Here's how the Chinese room works.

Đây là cách phòng tiếng Trung hoạt động.

A piece of paper comes in through a slot in the door,

Một mẫu giấy được đưa qua khe cửa,

has something written in Chinese on it.

có vài điều được viết bằng tiếng Trung.

The person uses their instructions to figure out how to respond.

Người này sẽ sử dụng các hướng dẫn của họ để tìm cách phản hồi.

They write the response down on a piece of paper

Họ sẽ viết câu phản hồi vào mảnh giấy đó

và gửi lại nó qua khe cửa.

and then send it back out through the door.

To somebody who speaks Chinese,

Tới một người nói tiếng Trung,

standing outside this room,

đứng bên ngoài phòng,

it might seem like the person inside the room speaks Chinese.

nó thể hiện như là người trong phòng biết tiếng Trung.

But we know they do not,

Nhưng ta biết rằng họ thì không,

because no knowledge of Chinese is required to follow the instructions.

bỏi vì không cần phải biết tiếng Trung để làm theo hướng dẫn.

Performance on this task does not show that you know Chinese.

Kết quả của nhiệm vụ thì không thể hiện việc bạn hiểu tiếng Trung.

So what does that tell us about AI?

Vậy điều này cho ta biết gì về AI?

Well, when you and I stand outside of the room,

Thật ra, khi tôi và bạn đứng bên ngoài,

when we speak to one of these AIs like ChatGPT,

khi chúng ta giao tiếp với một trong những AI này như ChatGPT,

we are the person standing outside the room.

thì chúng ta thực sự là người ở bên ngoài.

We're feeding in English sentences,

Chúng ta đưa vào những câu tiếng Anh,

we're getting English sentences back.

chúng ta nhận lại câu Tiếng Anh phản hồi.

It really looks like the models understand us.

Điều này có vẻ như các mô hình hiểu được chúng ta.

It really looks like they know English.

Nó có vẻ như chúng biết tiếng Anh.

But under the hood,

Nhưng xét cho cùng,

these models are just following a set of instructions, albeit complex.

những mô hình này chỉ đang làm theo một tập hợp các hướng dẫn, mặc dù phức tạp.

How do we know if AI understands us?

Làm sao để biết liệu AI có hiểu được ta?

To answer that question, let's go back to the Chinese room again.

Để trả lời vấn đề này, hãy trở lại phòng tiếng Trung lần nữa.

Let's say we have two Chinese rooms.

Như đề cập ta có hai phòng tiếng Trung.

In one Chinese room is somebody who actually speaks Chinese,

Trong một phòng là một người thực sự biết tiếng Trung,

và trong phòng còn lại là kẻ mạo danh của chúng tôi.

and in the other room is our impostor.

When the person who actually speaks Chinese gets a piece of paper

Khi người thực sự nói được tiếng Trung nhận mẫu giấy

mà có gì đó bằng tiếng Trung, họ có thể đọc được nó, không có vấn đề.

that says something in Chinese in it, they can read it, no problem.

But when our imposter gets it again,

Nhưng khi kẻ mạo danh của chúng tôi nhận lại nó,

he has to use his set of instructions to figure out how to respond.

anh ấy phải sử dụng tập hướng dẫn của mình để tìm cách hản hồi.

From the outside, it might be impossible to distinguish these two rooms,

Từ bên ngoài, có lẽ là không thể phân biệt được hai căn phòng này,

but we know inside something really different is happening.

nhưng chúng ta biết những gì bên trong đang xảy ra thực sự rất khác biệt.

To illustrate that,

Để mô phỏng việc đó,

let's say inside the minds of our two people,

hãy giả sử điều trong tâm trí của hai người,

inside of our two rooms,

bên trong hai căn phòng,

is a little scratch pad.

là một bộ nhớ đệm nhỏ.

And everything they have to remember in order to do this task

Và mọi thứ họ phải nhớ để thực hiện nhiệm vụ này

has to be written on that little scratch pad.

phải được viết trên bộ nhớ đệm nhỏ đó.

If we could see what was written on that scratch pad,

Nếu chúng ta có thể thấy thứ được viết trên bộ nhớ đệm đó,

we would be able to tell how different their approach to the task is.

ta sẽ có thể phân biệt được cách họ thực hiện nhiệm vụ khác nhau như thế nào.

So though the input and the output of these two rooms

Vì vậy mặc dù đầu vào và đầu ra của hai phòng này

might be exactly the same,

có thể giống hệt nhau,

the process of getting from input to output -- completely different.

nhưng quá trình đi từ đầu vào đến đầu ra - thì hoàn toàn khác nhau.

So again, what does that tell us about AI?

Vậy một lần nữa, điều đó cho chúng ta biết gì về AI?

Again, if AI, even if it generates completely plausible dialogue,

Một lần nữa, nếu AI, ngay cả khi nó tạo ra được cuộc đối thoại hoàn toàn hợp lý,

answers questions just like we would expect,

trả lời các câu hỏi theo cách ta mong đợi,

it may still be an imposter of sorts.

thì nó vẫn chỉ là một loại kẻ mạo danh.

Nếu ta muốn biết liệu AI có hiểu ngôn ngữ như ta hiểu không,

If we want to know if AI understands language like we do,

thì chúng ta cần phải biết nó đang làm gì.

we need to know what it's doing.

We need to get inside to see what it's doing.

Chúng ta cần vào bên trong để xem điều nó đang làm.

Is it an imposter or not?

Có phải là kẻ mạo danh hay không?

We need to see its scratch pad,

Chúng ta cần thấy được bộ đệm của nó,

and we need to be able to compare it

và ta cần có khả năng so sánh nó

to the scratch pad of somebody who actually understands language.

với bộ đệm của một người thực sự hiểu ngôn ngữ.

But like scratch pads in brains,

Nhưng giống như bộ nhớ đệm trong não,

that's not something we can actually see, right?

đó không phải là điều ta có thể thực sự thấy được, phải không?

Well, it turns out that we can kind of see scratch pads in brains.

Chà, hóa ra chúng ta có thể nhìn thấy được bộ nhớ đệm trong não.

Using something like fMRI or EEG,

Sử dụng một cái gì đó như fMRI hoặc EEG,

we can take what are like little snapshots of the brain while it’s reading.

ta có thể chụp được đại loại như ảnh chụp nhanh của não khi nó đang đọc.

So have people read words or stories and then take pictures of their brain.

Vì vậy, hãy nói mọi người đọc các từ hoặc câu chuyện và sau đó chụp ảnh não của họ.

And those brain images are like fuzzy,

Và những hình chụp não đó giống ảnh mờ,

out-of-focus pictures of the scratch pad of the brain.

ảnh mất nét của bộ nhớ đệm trong não.

They tell us a little bit about how the brain is processing

Chúng cho chúng ta biết một chút về cách bộ não đang xử lý

and representing information while you read.

và thể hiện thông tin trong khi bạn đọc.

So here are three brain images taken while a person read the word "apartment,"

Vì vậy, đây là ba hình chụp não được chụp trong khi một người đọc từ “căn hộ”

"house" and "celery."

“nhà” và “rau cần tây.”

You can see just with your naked eye

Bạn có thể nhìn thấy chỉ bằng mắt thường

that the brain image for "apartment" and "house"

rằng hình ảnh chụp não cho “căn hộ” và “nhà”

are more similar to each other

thì nhìn giống nhau nhiều hơn

than they are to the brain image for "celery."

so với hình ảnh não cho “cần tây”.

And you know, of course that apartments and houses are more similar

Và bạn biết đấy, tất nhiên là căn hộ và nhà ở thì giống nhau hơn

than they are to celery, just the words.

so với cần tây, chỉ là về mặt từ vựng.

So said another way,

Vì vậy nói một cách khác,

the brain uses its scratchpad when reading the words "apartment" and "house"

bộ não đã sử dụng bộ nhớ đệm của nó khi đọc các từ “căn hộ” và “nhà”

in a way that's more similar than when you read the word "celery."

theo cách tương tự nhau nhiều hơn so với khi bạn đọc từ “cần tây.”

The scratch pad tells us a little bit

Bộ nhớ đêm cho chúng ta biết một chút

about how the brain represents the language.

về cách bộ não đại diện cho ngôn ngữ.

It's not a perfect picture of what the brain's doing,

Đó không phải là bức tranh hoàn hảo về những gì não bộ đang làm

but it's good enough.

nhưng nó đủ tốt.

OK, so we have scratch pads for the brain.

OK, vì vậy chúng ta có bộ nhớ đệm cho não.

Now we need a scratch pad for AI.

Bây giờ chúng ta cần bộ nhớ đệm cho AI.

So inside a lot of AIs is a neural network.

Vì vậy, bên trong rất nhiều AI là một mạng lưới thần kinh.

And inside of a neural network is a bunch of these little neurons.

Và bên trong mạng lưới thần kinh là một chùm các tế bào thần kinh nhỏ.

So here the neurons are like these little gray circles.

Vì vậy, các tế bào thần kinh ở đây thì giống các vòng tròn xám này.

And we would like to know

Và chúng tôi muốn biết

what is the scratch pad of a neural network?

bộ nhớ đệm của mạng thần kinh là gì?

Well, when we feed in a word into a neural network,

Chà, khi chúng ta đưa một từ vào trong mạng lưới thần kinh,

each of the little neurons computes a number.

mỗi tế bào thần kinh nhỏ sẽ tính toán một số.

Those little numbers I'm representing here with colors.

Những con số nhỏ đang được đai diện với màu sắc ở đây.

So every neuron computes this little number,

Vì vậy mọi tế bào thần kinh đều tính toán con số nhỏ này,

and those numbers tell us something

và những con số cho ta biết một điều gì đó

about how the neural network is processing language.

về mạng lưới thần kinh đang xử lý ngôn ngữ như thế nào.

Taken together,

Kết hợp lại với nhau,

all of those little circles paint us a picture

tất cả những vòng tròn nhỏ đó vẽ cho ta một bức tranh

of how the neural network is representing language,

về việc mạng lưới thần kinh đại diện cho ngôn ngữ như thế nào,

and they give us the scratch pad of the neural network.

và chúng đưa tới bộ nhớ đệm của mạng lưới thần kinh.

OK, great.

OK, tuyệt vời.

Now we have two scratch pads, one from the brain and one from AI.

Bây giờ chúng ta có hai bộ nhớ đệm, một của não và một của AI.

And we want to know: Is AI doing something like what the brain is doing?

Và chúng ta muốn biết: AI có xử lý vấn đề giống như những gì não đang xử lý không?

How can we test that?

Vậy làm cách nào để chúng ta kiểm tra?

Here's what researchers have come up with.

Đây là điều các nhà nghiên cứu đã nghĩ ra.

We're going to train a new model.

Chúng tôi sẽ đào tạo một mô hình mới.

That new model is going to look at neural network scratch pad

Mô hình mới đó sẽ nhìn vào bộ nhớ đệm của mạng thần kinh

for a particular word

với một từ cụ thể

and try to predict the brain scratch pad for the same word.

và cố gắng đoán trước bộ nhớ đệm của não với cùng một từ.

We can do it, by the way, around two.

Ta có thể làm, nhân tiện, theo hai chiều.

So let's train a new model.

Vì vậy, hãy đào tạo một mô hình mới.

It’s going to look at the neural network scratch pad for a particular word

Nó sẽ nhìn vào bộ nhớ đệm của mạng lưới thần kinh với một từ cụ thể

and try to predict the brain scratchpad.

và cố gắng đoán trước bộ nhớ đệm của não.

If the brain and AI are doing nothing alike,

Nếu não và AI hoạt động không giống nhau,

have nothing in common,

không có điểm chung,

we won't be able to do this prediction task.

thì ta sẽ không thể thực hiện dự đoán này.

It won't be possible to predict one from the other.

Sẽ không dự đoán được cái này từ cái kia.

So we've reached a fork in the road

Vì vậy chúng tôi đã tới một ngã ba đường

and you can probably tell I'm about to tell you one of two things.

và bạn có thể biết được tôi sắp cho bạn thấy một trong hai hướng.

I’m going to tell you AI is amazing,

Tôi sẽ cho bạn biết rằng AI thật thú vị,

or I'm going to tell you AI is an imposter.

hoặc sẽ cho bạn thấy AI là kẻ mạo danh.

Các nhà nghiên cứu như tôi thích nhắc bạn

Researchers like me love to remind you

that AI is nothing like the brain.

rằng AI thì không giống như bộ não.

And that is true.

Và đó là sự thật.

But could it also be the AI and the brain share something in common?

Nhưng cũng có thể là AI và bộ não chia sẻ một cái gì đó chung?

So we’ve done this scratch pad prediction task,

Nên, chúng tôi đã tiến hành việc dự đoán bởi bộ nhớ đệm này,

and it turns out, 75 percent of the time

và hóa ra, 75% thời gian

mà bộ nhớ được dự đoán của mạng lưới thần kinh đối với một từ cụ thể

the predicted neural network scratchpad for a particular word

is more similar to the true neural network scratchpad for that word

giống với bộ nhớ thực tế của thần kinh cho đúng nghĩa của từ đó

than it is to the neural network scratch pad

so với bộ nhớ của mạng lưới thần kinh

for some other randomly chosen word --

đối với vài từ được chọn ngẫu nhiên khác--

75 percent is much better than chance.

75% thì tốt hơn nhiều so với cơ hội.

Vậy còn những thứ phức tạp hơn,

What about for more complicated things,

không chỉ các từ, mà còn các câu, hay ngay cả các câu chuyện thì sao?

not just words, but sentences, even stories?

Again, this scratch pad prediction task works.

Một lần nữa, nhiệm vụ dự đoán của bộ nhớ đệm này đã thành công.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Chúng ta có thể dự đoán bộ nhớ đệm của mạng lưới thần kinh từ não và ngược lại.

Amazing.

Tuyệt vời.

So does that mean

Vậy điều đó có nghĩa là

that neural networks and AI understand language just like we do?

mạng lưới thần kinh và AI hiểu được ngôn ngữ như chúng ta hiêu phải không?

Well, truthfully, no.

Chà, thành thật mà nói, không.

Though these scratch pad prediction tasks show above-chance accuracy,

Mặc dù các nhiệm vụ bộ nhớ đệm dự đoán này thể hiện độ chính xác trên mức cơ hội,

the underlying correlations are still pretty weak.

nhưng các mối tương quan cơ bản thì vẫn còn khá yếu.

Và mặc dù mạng lưới thần kinh được truyền cảm hứng bởi bộ não,

And though neural networks are inspired by the brain,

they don't have the same kind of structure and complexity

nhưng chúng lại không có cùng cấu trúc và độ phức tạp

that we see in the brain.

như thứ ta thấy trong não bộ.

Mạng lưới thần kinh cũng không tồn tại trên thế giới

Neural networks also don't exist in the world.

A neural network has never opened a door

Mạng lưới thần kinh chưa bao giờ mở cửa

or seen a sunset, heard a baby cry.

hay nhìn thấy hoàng hôn, nghe tiếng em bé khóc.

Can a neural network that doesn't actually exist in the world,

Có thể nào một mạng lưới thần kinh không thực sự tồn tại,

hasn't really experienced the world,

chưa thực sự trải nghiệm thế giới,

really understand language about the world?

lại thực sự hiểu ngôn ngữ trên thế giới?

Tuy nhiên, những thí nghiệm dự đoán bộ nhớ đệm này vẫn tiếp tục-

Still, these scratch pad prediction experiments have held up --

multiple brain imaging experiments,

trên nhiều thí nghiệm hình ảnh não,

multiple neural networks.

trên nhiều mạng lưới thần kinh.

We've also found that as the neural networks get more accurate,

Chúng tôi cũng thấy rằng khi mạng lưới thần kinh càng chính xác,

they also start to use their scratch pad in a way

thì chúng cũng biết sử dụng bộ nhớ đệm của chúng theo cách

that becomes more brain-like.

làm cho chúng giống với bộ não hơn.

And it's not just language.

Và không chỉ về ngôn ngữ.

We've seen similar results in navigation and vision.

Chúng tôi đã thấy được các kết quả tương tự trong chỉ dẫn và hiển thị.

So AI is not doing exactly what the brain is doing,

Vì vậy AI đang không làm đúng với những gì mà bộ não đang làm,

but it's not completely random either.

nhưng nó cũng không hoàn toàn ngẫu nhiên.

Nên từ góc độ của tôi,

So from where I sit,

if we want to know if AI really understands language like we do,

nếu chúng ta muốn biết AI có thực sự hiểu ngôn ngữ như ta hiểu không,

we need to get inside of the Chinese room.

ta cần phải vào được bên trong căn phòng tiếng Trung.

We need to know what the AI is doing,

Ta cần phải biết AI đang làm gì,

and we need to be able to compare that to what people are doing

và ta cần so sánh được những việc đó với cái con người đang làm

when they understand language.

khi chúng hiểu được ngôn ngữ.

AI is moving so fast.

AI thì đang bùng nổ.

Today, I'm asking you, does AI understand language

Hôm nay, tôi hỏi bạn, AI có hiểu được ngôn ngữ

that might seem like a silly question in ten years.

thì nó có vẻ là câu hỏi ngớ ngẩn trong 10 năm.

Or ten months.

Hoặc là 10 tháng.

(Laughter)

(Tiếng cười)

But one thing will remain true.

Nhưng có một điều sẽ luôn đúng.

We are meaning-making humans,

Chúng ta là người tạo ra ý nghĩa,

and we are going to continue to look for meaning

và chúng ta sẽ tiếp tục tìm kiếm ý nghĩa

and interpret the world around us.

và giải thích thế giới quanh ta.

And we will need to remember

Và chúng ta sẽ cần ghi nhớ

that if we only look at the input and output of AI,

rằng nếu chúng ta chỉ nhìn vào đầu vào hay đầu ra của AI,

it's very easy to be fooled.

thì chúng ta rất dễ bị lừa.

We need to get inside of the metaphorical room of AI

Chúng ta cần vào được bên trong trường ẩn dụ của AI

in order to see what's happening.

để nhìn rõ chuyện gì đang xảy ra.

It's what's inside the counts.

Nó là thứ ở bên trong các bộ đếm.

Thank you.

Cảm ơn các bạn.

(Applause)

(Vỗ tay)