The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Translator: Nguyen Hanh Quyen Reviewer: Nguyen Tran Nhat Minh

You've all experienced the progress of artificial intelligence.

Các bạn đã trải nghiệm sự tiến bộ của trí tuệ nhân tạo.

Many of you may have spoken with a computer,

Nhiều người trong số các bạn có thể đã nói chuyện với máy tính,

and a computer understood you

và một máy tính hiểu bạn

and spoke back to you.

và nói lại với bạn.

With the rate of progress being that it is,

Với tốc độ tiến bộ như vậy,

it's not difficult to imagine that at some point in the future,

không khó để tưởng tượng rằng vào một thời điểm nào đó trong tương lai

our intelligent computers will become as smart or smarter than people.

những máy tính sẽ trở nên thông minh bằng, thậm chí là hơn con người.

And it's also not difficult to imagine that when that happens,

Và cũng không khó để tưởng tượng rằng khi điều đó xảy ra, tác động

the impact of such artificial intelligence

của trí tuệ nhân tạo như vậy sẽ

is going to be truly, truly vast.

thực sự, thực sự rất lớn.

And you may wonder:

Và bạn có thể tự hỏi:

Is it going to be OK when technology is so impactful?

Liệu nó sẽ ổn khi công nghệ có tác động như vậy?

And here my goal is to point out the existence of a force

Và ở đây mục tiêu của tôi là chỉ ra sự tồn tại của một lực lượng

that many of you may have not noticed,

mà nhiều bạn có thể không nhận thấy,

that gives me hope that indeed,

điều đó cho tôi hy vọng rằng thực sự,

we will be happy with the result.

chúng tôi sẽ hài lòng với kết quả.

So artificial intelligence.

Vì vậy, trí tuệ nhân tạo.

What is it, and how does it work?

Nó là gì, và nó hoạt động như thế nào?

Well, it turns out that it's very easy to explain

Chà, hóa ra rất dễ dàng để giải thích

how artificial intelligence works.

cách trí tuệ nhân tạo hoạt động.

Just one sentence.

Chỉ một câu thôi.

Artificial intelligence is nothing but digital brains

Trí tuệ nhân tạo không gì khác ngoài bộ não kỹ thuật số

inside large computers.

bên trong các máy tính lớn.

That's what artificial intelligence is.

Đó là trí tuệ nhân tạo.

Every single interesting AI that you've seen

Mỗi AI thú vị mà bạn từng thấy

is based on this idea.

đều dựa trên ý tưởng này.

Over the decades,

Trong nhiều thập kỷ,

scientists and engineers have been figuring out

các nhà khoa học và kỹ sư đã tìm ra

how such digital brains should work

cách một bộ não số nên làm

and how to build them, how to engineer them.

và làm gì để xây dựng chúng, làm gì để thiết kế chúng.

Now, I find it interesting

Bây giờ, tôi thấy thú vị

that the seat of intelligence in human beings is our biological brain.

là trụ sở của trí thông minh trong con người là bộ não sinh học của chúng ta.

It is fitting that the seat of intelligence

Thật phù hợp khi trụ sở của trí thông minh

in artificial intelligence

trong trí tuệ nhân tạo

is an artificial brain.

là bộ não nhân tạo.

Here, I'd like to take a digression and tell you about how I got into AI.

Ở đây, tôi muốn phân đoạn và cho bạn biết về cách tôi tham gia vào AI.

There were three forces that pulled me into it.

Có ba lực đã kéo tôi vào đó.

The first one was that when I was a little child,

Điều đầu tiên là khi tôi còn là một đứa trẻ,

at around the age of five or six,

vào khoảng năm hoặc sáu tuổi,

I was very struck by my own conscious experience,

tôi rất ấn tượng bởi trải nghiệm ý thức của chính mình,

by the fact that I am me and I am experiencing things.

bởi thực tế rằng tôi là tôi và tôi đang trải nghiệm mọi thứ.

That when I look at things, I see them.

Và khi tôi nhìn vào chúng, tôi nhìn chúng.

Like, this feeling over time went away, though,

Giống như, cảm giác này theo thời gian đã biến mất,

by simply mentioning it to you right now it comes back.

mặc dù chỉ đơn giản là đề cập đến nó với bạn ngay bây giờ nó sẽ trở lại.

But this this feeling of ...

Nhưng cảm giác này của...

That I am me, that you are you,

Rằng tôi là tôi, rằng bạn là bạn,

I found it very strange and very disturbing almost.

tôi thấy điều đó rất kỳ lạ và rất đáng lo ngại.

And so when I learned about artificial intelligence,

Và vì vậy khi tôi học về trí tuệ nhân tạo,

I thought, wow, if we could build a computer

tôi nghĩ, wow, nếu chúng ta có thể xây dựng một cái máy tính

that is intelligent,

mà nó thực sự thông minh,

maybe we will learn something about ourselves,

có lẽ ta sẽ học được điều gì đó về bản thân,

about our own consciousness.

về ý thức của chính ta.

That was my first motivation that pulled me towards AI.

Đó là động lực đầu tiên của tôi đã kéo tôi đến với AI.

The second motivation was more pedestrian in a way.

Động lực thứ hai là người đi bộ nhiều hơn theo một cách nào đó.

I was simply curious about how intelligence works.

Tôi chỉ đơn giản là tò mò về cách trí thông minh hoạt động.

And when I was a teenager, an early teenager in the late '90s,

Và khi tôi còn là một thiếu niên, một thiếu niên trẻ vào cuối những năm 90,

the sense that I got is that science simply did not know

cảm giác tôi nhận được: khoa học đơn giản là không biết

how intelligence worked.

cách trí thông minh hoạt động.

There was also a third reason,

Cũng có một lý do thứ ba,

which is that it was clear to me back then

đó là khi đó tôi đã rõ ràng

that artificial intelligence,

rằng trí tuệ nhân tạo,

if it worked, it would be incredibly impactful.

nếu nó hoạt động, nó sẽ có tác động vô cùng.

Now, it wasn't at all obvious

Bây giờ, không rõ ràng

that it will be possible to make progress in artificial intelligence,

rằng sẽ có thể đạt được tiến bộ trong trí tuệ nhân tạo,

but if it were possible to make progress in artificial intelligence,

nhưng nếu có thể đạt được tiến bộ trong trí tuệ nhân tạo, điều

that would be incredibly impactful.

đó sẽ có tác động vô cùng.

So these were the three reasons that pulled me towards AI.

Vì vậy, đây là ba lý do đã kéo tôi đến với AI.

That's why I thought that's a great area to spend all my efforts on.

Và là lý do tôi nghĩ đây là lĩnh vực tốt để dành tất cả nỗ lực của mình.

So now let's come back to our artificial intelligence,

Vì vậy, bây giờ chúng ta hãy quay trở lại trí tuệ nhân tạo của chúng ta,

the digital brains.

những bộ não kỹ thuật số.

Today, these digital brains

Ngày nay, những bộ não

are far less smart than our biological brains.

kỹ thuật số này kém thông minh hơn nhiều so với bộ não sinh học của chúng ta.

When you speak to an AI chat bot,

Khi bạn nói chuyện với một con bot AI,

you very quickly see that it's not all there,

bạn rất nhanh chóng nhận ra rằng nó không có tất cả ở đó,

that it's, you know,

rằng, bạn biết đấy,

it understands mostly, sort of.

nó hiểu hầu hết, kiểu như vậy.

But you can clearly see that there are so many things it cannot do

Nhưng bạn có thể thấy rõ rằng có rất nhiều điều nó không thể làm

and that there are some strange gaps.

và có một số khoảng trống kỳ lạ.

But this situation, I claim, is temporary.

Nhưng tình huống, tôi tin , là tạm thời.

As researchers and engineers continue to work on AI,

Khi các nhà nghiên cứu và kỹ sư tiếp tục nghiên cứu về AI,

the day will come when the digital brains that live inside our computers

ngày sẽ đến khi bộ não kỹ thuật số sống bên trong máy tính của chúng ta

will become as good and even better than our own biological brains.

sẽ trở nên tốt hơn và thậm chí tốt hơn bộ não sinh học của chúng ta.

Computers will become smarter than us.

Máy tính sẽ thông minh hơn chúng ta.

We call such an AI an “AGI,” artificial general intelligence.

Chúng tôi gọi AI như vậy là “AGI”, trí tuệ nhân tạo nói chung.

When we can say that the level at which we can teach the AI to do anything

Khi chúng ta có thể nói rằng mức độ mà chúng ta có thể dạy AI làm bất cứ

that, for example, I can do, or someone else.

điều gì, ví dụ, tôi có thể làm, hoặc ai đó khác.

So although AGI does not exist today,

Vì vậy, mặc dù AGI không tồn tại ngày nay,

we can still gain a little bit of an insight

chúng ta vẫn có thể hiểu được một chút hiểu biết

into the impact of AGI once it's built.

về tác động của AGI một khi nó hình thành.

It is completely obvious

Rõ ràng là một AGI như

that such an AGI will have a dramatic impact

vậy sẽ có tác động mạnh mẽ đến mọi

on every area of life, of human activity and society.

lĩnh vực của cuộc sống, hoạt động của con người và xã hội.

And I want to go over a quick case study.

Và tôi muốn đi qua nhanh một tình huống.

This is a narrow example of a very, very broad technology.

Đây là một ví dụ hẹp về một công nghệ rất, rất rộng.

The example I want to present is health care.

Ví dụ tôi muốn trình bày là chăm sóc sức khỏe.

Many of you may have had the experience of trying to go to a doctor.

Nhiều người trong số các bạn đã từng trải nghiệm việc cố gắng đi khám bác sĩ.

You need to wait for many months sometimes,

Đôi khi bạn cần phải đợi nhiều tháng,

and then when you do get to see a doctor, you get a small,

và sau đó khi bạn đến gặp bác sĩ, bạn sẽ nhận được một ít,

very limited amount of time with the doctor

một chút thời gian hạn hẹp cùng với bác sĩ

and furthermore, the doctor, being only human,

và hơn nữa, bác sĩ, chỉ là con người, chỉ

can have only limited knowledge of all this,

có thể có kiến thức hạn chế về tất cả những điều này,

all the medical knowledge that exists.

tất cả kiến thức y tế tồn tại.

And then by the end of it, you get a very large bill.

Ở cuối liệu trình, bạn nhận một hóa đơn rất lớn.

(Laughter)

(Cười)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Chà, nếu như bạn có máy tính thông minh, AGI, được thiết lập để trở thành bác sĩ,

it will have complete and exhaustive knowledge of all medical literature.

nó sẽ có kiến thức đầy đủ và đầy đủ về tất cả các tài liệu y khoa.

It will have billions of hours of clinical experience,

Nó sẽ có hàng tỷ giờ kinh nghiệm lâm sàng,

and it will be always available and extremely cheap.

và nó sẽ luôn có sẵn và cực kỳ rẻ.

When this happens,

Khi điều này xảy ra,

we will look back at today's health care

ta sẽ nhìn vào sức khỏe ngày nay

similarly to how we look at 16th century dentistry.

tương tự như cách chúng ta nhìn vào nha khoa thế kỷ 16.

(Laughter)

(Cười)

You know, when they tied people with belts and then have this drill,

Bạn biết đấy, khi họ buộc người ta bằng thắt lưng và mũi khoan này,

that's how today's health care will look like.

việc chăm sóc sức khỏe ngày nay sẽ như thế.

And again, to emphasize, this is just one example.

Và một lần nữa, để nhấn mạnh, đây chỉ là một ví dụ.

This is just one example.

Đây chỉ là một ví dụ.

AGI will have dramatic and incredible impact

AGI sẽ có tác động mạnh mẽ và đáng kinh ngạc đến

on every single area of human activity.

mọi lĩnh vực hoạt động của con người.

But when you see impact this large, you may wonder, "Gosh,

Nhưng khi bạn thấy tác động lớn như vậy, bạn có thể tự hỏi, “Chúa ơi,

isn't this technology too impactful?"

công nghệ này có quá tác động không?”

And indeed, for every positive application of AGI,

Và thực sự, đối với mỗi ứng dụng tích cực của AGI, cũng sẽ

there will be a negative application as well.

có một ứng dụng tiêu cực.

This technology is also going to be different

Công nghệ này cũng sẽ

from technologies that we are used to,

khác với các công nghệ mà ta đã quen,

because it will have the ability to improve itself.

bởi vì nó sẽ có khả năng tự cải thiện.

It is possible to build an AGI

Có thể xây dựng một AGI sẽ

that will work on the next generation of AGI.

hoạt động trên thế hệ AGI tiếp theo.

The closest analogue we have to this kind of rapid technological improvement

Sự tương đồng mà chúng ta có với sự cải tiến công nghệ vượt bậc này

is when the Industrial Revolution has taken place, where humans,

là khi cuộc Cách mạng Công nghiệp đã diễn ra, nơi con người,

the material condition of human society, was very, very constant.

điều kiện vật chất của xã hội loài người, rất, rất không đổi.

And then it was a rapid increase, rapid growth.

Và sau đó là một sự gia tăng, tăng trưởng nhanh chóng.

With AGI,

Với AGI,

something like this could happen again, but on a shorter timescale.

điều tương tự có thể xảy ra một lần nữa, nhưng trong thời gian ngắn hơn.

And then furthermore,

Và hơn nữa,

there are concerns around

có những lo ngại xung quanh

if an AGI ever becomes very, very powerful,

việc nếu một AGI trở nên rất, rất mạnh,

which is possible,

điều này có thể xảy ra,

maybe it will want to go rogue being that it is an agent.

có thể nó sẽ muốn trở thành kẻ lừa đảo vì nó là một tác nhân.

So this is a concern that exists with this unprecedented,

Vì vậy, đây là một mối quan tâm tồn tại với công nghệ chưa từng

not yet existing technology.

có, chưa có này.

And indeed,

Và thực sự,

you look at all the positive potential of AGI

bạn nhìn vào tất cả tiềm năng tích cực của AGI

and all the concerning possibilities of AGI as well,

và tất cả các khả năng liên quan của AGI,

and you may say, "Gosh, where is this all headed?"

và bạn có thể nói, “Chúa ơi, tất cả những điều này đang hướng đến đâu?”

One of my motivations in creating OpenAI was,

Một trong những động lực của tôi trong việc tạo ra OpenAI là,

in addition to developing this technology,

ngoài việc phát triển công nghệ này, cũng

was also to address the questions

là giải quyết các câu hỏi

that are posed by AGI, the difficult questions,

được đặt ra bởi AGI, những câu hỏi khó,

the concerns that we raised.

những mối quan tâm mà chúng tôi nêu ra.

In addition to working with governments

Ngoài việc làm việc với các chính phủ

and helping them understand what is coming and prepare for it,

và giúp họ hiểu những gì sắp xảy ra và chuẩn bị cho nó,

we are also doing a lot of research

chúng tôi đang làm nhiều nghiên cứu

on addressing the technological side of things,

để giải quyết khía cạnh công nghệ của mọi thứ,

so that the AI will never want to go rogue.

để AI sẽ không bao giờ muốn trở thành kẻ lừa đảo.

And this is something which I’m working on as well.

Và đây là điều mà tôi cũng đang làm việc.

But I think, the thing to note,

Nhưng tôi nghĩ, điều cần lưu ý,

because AI and AGI is really the only area of the economy

bởi vì AI và AGI thực sự là lĩnh vực duy nhất của nền kinh tế

where there is a lot of excitement, a lot of investment,

có rất nhiều sự phấn khích, rất nhiều đầu tư,

everyone is working on it,

mọi người đang làm việc với nó,

there's a huge number of labs in the world trying to build the same thing.

có một số lượng lớn phòng thí nghiệm trên thế giới đang cố xây dựng cùng một thứ.

Even if OpenAI takes these desirable steps that I mentioned,

Ngay cả khi OpenAI thực hiện những bước mong muốn mà tôi đã đề cập,

what about the rest of the companies and the rest of the world?

vậy phần còn lại của các công ty và thế giới thì sao?

And this is where I want to make my observation

Và đây là nơi tôi muốn đưa ra quan sát của mình

about the force that exists.

về lực tồn tại.

The observation is this: consider the world one year ago,

Quan sát là thế này: hãy xem xét thế giới một năm trước,

as recently as one year ago.

gần đây nhất là một năm trước.

People weren't really talking about AI, not in the same way at all.

Mọi người không thực sự nói về AI, không theo cùng một cách nào đó.

What happened?

Chuyện gì đã xảy ra?

We all experienced what it's like to talk to a computer and to be understood.

Tất cả chúng ta đều trải nghiệm cảm giác khi nói chuyện với máy tính và được hiểu.

The idea that computers will become really intelligent

Ý tưởng rằng máy tính sẽ trở nên thực sự thông minh

and eventually more intelligent than us is becoming widespread.

và cuối cùng thông minh hơn chúng ta đang trở nên phổ biến.

It used to be a niche idea that only a few enthusiasts

Nó từng là một ý tưởng thích hợp mà chỉ một vài người đam mê

and hobbyists and people who were very into AI were thinking about.

người có sở thích và những người rất thích AI mới nghĩ đến.

But now everyone is thinking about it.

Nhưng bây giờ mọi người đang nghĩ về nó.

And as the AI continues to make progress,

Và khi AI tiếp tục tiến bộ,

as technology continues to advance,

khi công nghệ tiếp tục phát triển,

as more and more people see what AI can do

càng nhiều người sẽ thấy AI có thể làm gì

and where it is headed towards,

và hướng tới đâu,

then it will become clear just how dramatic,

thì sẽ trở nên rõ ràng mức độ ấn tượng,

incredible and ...

đáng kinh ngạc và...

almost fantastical AGI is going to be

AGI gần như tuyệt vời sẽ trở nên tuyệt vời

and how much trepidation is appropriate.

và lo lắng bao nhiêu là thích hợp.

And what I claim will happen is that people will start to act

Và những gì tôi tuyên bố sẽ xảy ra là mọi người sẽ bắt đầu hành động

in unprecedentedly collaborative way out of their own self-interest.

theo cách hợp tác chưa từng có trước đây vì lợi ích cá nhân của họ.

It's already happening right now.

Nó đã xảy ra ngay bây giờ.

You see the leading AGI companies starting to collaborate

Bạn thấy các công ty AGI hàng đầu bắt đầu hợp tác

for a specific example, through the Frontier Model Forum.

cho một ví dụ cụ thể, thông qua Diễn đàn Mô hình Frontier.

And we will expect that companies that are competitors

Và chúng tôi chờ đợi vào các công ty là đối thủ cạnh tranh

will share technical information to make their AIs safe.

sẽ trao đổi thông số công nghệ để khiến AIs bảo mật.

We may even see governments do this.

Ta có thể thấy chính phủ làm nó.

For another example,

Thêm một ví dụ,

at OpenAI, we really believed in how dramatic AGI is going to be.

tại OpenAI, chúng tôi thực sự tin rằng sự kịch tính mà AGI có thể trở thành.

So one of the ideas that we were operating by,

Vì vậy, một trong những ý tưởng mà chúng tôi đang vận hành,

and it's been written on our website for five years now,

và nó đã viết trên website của chúng tôi năm năm nay,

that when technology gets such that we are very, very close to AGI,

rằng khi công nghệ khiến chúng ta trở nên rất, rất gần với AGI,

to computers smarter than humans,

với máy tính thông minh hơn con người,

and if some other company is far ahead of us,

thì thay vì cạnh tranh với họ,

then rather than compete with them,

thì thay vì cạnh tranh với họ,

we will help them out, join them, in a sense.

chúng tôi sẽ giúp họ, tham gia với họ, theo một nghĩa nào đó.

And why do that?

Và tại sao lại làm điều đó?

Because we feel, we appreciate

Bởi vì ta cảm thấy, ta trân trọng

how incredibly dramatic AGI is going to be.

sự kịch tính khủng khiếp mà AGI sẽ trở thành.

And my claim is that with each generation of capability advancements,

Và tuyên bố của tôi là với mỗi thế hệ tiến bộ về khả năng,

as AI gets better

khi AI trở nên tốt hơn

and as all of you experience what AI can do,

và khi các bạn trải nghiệm những gì AI có thể làm,

as people who run AI efforts and AGI efforts

khi những người điều hành các nỗ lực AI và nỗ lực AGI

and people who work on them will experience it as well,

và những người làm việc trên chúng cũng sẽ trải nghiệm nó,

this will change the way we see AI and AGI,

điều này sẽ thay đổi cách chúng ta nhìn nhận AI và AGI,

and that will change collective behavior.

và điều đó sẽ thay đổi hành vi tập thể.

And this is an important reason

Và đây là một lý do quan trọng

why I'm hopeful

tại sao tôi hy vọng

that despite the great challenges that's posed by this technology,

rằng bất chấp những thách thức lớn mà công nghệ này đặt ra,

we will overcome them.

chúng ta sẽ vượt qua.

Thank you.

Cảm ơn bạn.

(Applause)

(Tiếng vỗ tay)