How to Keep AI Under Control | Max Tegmark | TED

Translator: Giao Tran Reviewer: Quan Nguyen

Five years ago,

Cách đây 5 năm,

I stood on the TED stage

tôi đứng trên sân khấu TED

and warned about the dangers of superintelligence.

và cảnh báo về những hiểm nguy của Siêu trí tuệ.

I was wrong.

Những cảnh báo của tôi đã sai.

It went even worse than I thought.

Thực tế thậm chí còn tồi tệ hơn tôi nghĩ.

(Laughter)

(Khán giả cười)

I never thought governments would let AI companies get this far

Tôi chưa bao giờ nghĩ rằng các chính phủ sẽ để các công ty AI tiến xa như hiện tại

without any meaningful regulation.

mà không có bất kỳ quy định có ý nghĩa nào.

And the progress of AI went even faster than I predicted.

Và sự tiến bộ của Trí tuệ nhân tạo (AI) thậm chí còn nhanh hơn tôi dự đoán.

Look, I showed this abstract landscape of tasks

Hãy nhìn xem, đây là bối cảnh trừu tượng tôi đã trình bày trước đây về các nhiệm vụ

where the elevation represented how hard it was for AI

trong đó cao độ đại diện độ khó để

to do each task at human level.

AI thực hiện từng nhiệm vụ ở mức độ bằng với con người.

And the sea level represented what AI could be back then.

Và mực nước biển đại diện cho những gì AI có thể làm vào thời điểm đó.

And boy or boy, has the sea been rising fast ever since.

Và hỡi ơi, nước biển đã dâng lên nhanh chóng kể từ thời điểm đó.

But a lot of these tasks have already gone blub blub blub blub blub blub.

Nhưng rất nhiều nhiệm vụ này đã biến mất (âm thanh bị chìm)

And the water is on track to submerge all land,

Và nước đang trên đà để nhấn chìm tất cả đất đai,

matching human intelligence at all cognitive tasks.

tương xứng với trí thông minh của con người ở tất cả các nhiệm vụ nhận thức.

This is a definition of artificial general intelligence, AGI,

Đây là định nghĩa của Trí tuệ Nhân tạo Tổng hợp, AGI

which is the stated goal of companies like OpenAI,

cũng là mục tiêu được đặt ra của các công ty như OpenAI,

Google DeepMind and Anthropic.

Google DeepMind và Anthropic.

And these companies are also trying to build superintelligence,

Và các công ty này cũng đang cố gắng xây dựng Siêu trí tuệ,

leaving human intelligence far behind.

bỏ xa trí thông minh của con người.

And many think it'll only be a few years, maybe, from AGI to superintelligence.

Và nhiều người nghĩ rằng sẽ chỉ mất vài năm, có thể,

từ AGI trở thành Siêu trí tuệ.

So when are we going to get AGI?

Vậy thì khi nào AGI sẽ xuất hiện?

Well, until recently, most AI researchers thought it was at least decades away.

Chà, cho đến gần đây, hầu hết các nhà nghiên cứu AI đều nghĩ rằng

phải còn ít nhất là vài thập kỷ nữa.

And now Microsoft is saying, "Oh, it's almost here."

Và bây giờ Microsoft đang nói, “Ồ, nó gần đến rồi.”

We're seeing sparks of AGI in ChatGPT-4,

Chúng ta đang thấy nhen nhóm AGI trong ChatGPT-4

and the Metaculus betting site is showing the time left to AGI

và trang cá cược Metaculus đang cho thấy thời gian còn lại

plummeting from 20 years away to three years away

đến khi AGI xuất hiện giảm mạnh từ 20 năm xuống còn 03 năm,

in the last 18 months.

trong 18 tháng qua.

And leading industry people are now predicting

Và những người hàng đầu trong ngành hiện đang dự đoán

that we have maybe two or three years left until we get outsmarted.

rằng chúng ta có thể còn hai hoặc ba năm nữa cho đến khi chúng ta bị vượt mặt.

So you better stop talking about AGI as a long-term risk,

Vì vậy, tốt hơn hết chúng ta nên ngừng nói về AGI như một rủi ro lâu dài,

or someone might call you a dinosaur stuck in the past.

bằng không ai đó có thể gọi bạn là khủng long mắc kẹt trong quá khứ.

It's really remarkable how AI has progressed recently.

Cách mà AI đã phát triển trong thời gian gần đây thực sự đáng kinh ngạc

Not long ago, robots moved like this.

Cách đây không lâu, robot di chuyển như thế này.

(Music)

(Âm nhạc)

Now they can dance.

Bây giờ chúng có thể nhảy.

(Music)

(Âm nhạc)

Just last year, Midjourney produced this image.

Mới năm ngoái, ứng dụng Midjourney đã tạo ra hình ảnh này.

This year, the exact same prompt produces this.

Năm nay, yêu cầu tương tự tạo ra hình ảnh này.

Deepfakes are getting really convincing.

Deepfake đang trở nên thực sự thuyết phục.

(Video) Deepfake Tom Cruise: I’m going to show you some magic.

(Video) Deepfake Tom Cruise: Tôi sẽ cho bạn thấy một vài phép thuật.

It's the real thing.

Nó là thật.

(Laughs)

(Cười)

I mean ...

Ý tôi là...

It's all ...

Tất cả đều là...

the real ...

thật...

thing.

Max Tegmark: Or is it?

Max Tegmark: Hay là không?

And Yoshua Bengio now argues

Và Yoshua Bengio bây giờ lập luận rằng

that large language models have mastered language

các mô hình ngôn ngữ lớn đã thành thạo ngôn ngữ

and knowledge to the point that they pass the Turing test.

và kiến thức đến mức chúng vượt qua bài kiểm tra Turing.

Tôi biết một số người hoài nghi đang nói,

I know some skeptics are saying,

"Nah, they're just overhyped stochastic parrots

“Không, chúng chỉ là những con vẹt ngẫu nhiên cường điệu quá mức

that lack a model of the world,"

mà thiếu mô hình về thế giới,”

but they clearly have a representation of the world.

nhưng rõ ràng chúng có một sự tổng hợp về thế giới.

In fact, we recently found that Llama-2 even has a literal map of the world in it.

Trên thực tế, gần đây chúng tôi phát hiện Llama-2 thậm chí còn có

một bản đồ thế giới theo nghĩa đen.

And AI also builds

Và AI cũng xây dựng các

geometric representations of more abstract concepts

biểu diễn hình học của các khái niệm trừu tượng hơn

like what it thinks is true and false.

như những gì nó nghĩ là đúng và sai.

So what's going to happen if we get AGI and superintelligence?

Vậy điều gì sẽ xảy ra nếu chúng ta có được AGI và Siêu trí tuệ?

If you only remember one thing from my talk, let it be this.

Nếu bạn chỉ nhớ một điều trong bài nói chuyện của tôi, hãy để nó là điều này.

AI godfather, Alan Turing predicted

Cha đẻ AI, Alan Turing đã từng dự đoán

that the default outcome is the machines take control.

rằng kết quả mặc định là máy móc sẽ nắm quyền kiểm soát.

The machines take control.

Các máy móc nắm quyền kiểm soát.

I know this sounds like science fiction,

Tôi biết điều này nghe giống như khoa học viễn tưởng,

but, you know, having AI as smart as GPT-4

nhưng, bạn biết đấy, có AI thông minh như GPT-4

also sounded like science fiction not long ago.

cũng nghe giống như khoa học viễn tưởng cách đây không lâu.

And if you think of AI,

Và nếu bạn nghĩ về AI,

if you think of superintelligence in particular, as just another technology,

nếu bạn nghĩ về Siêu trí tuệ nói riêng, chỉ như là một công nghệ khác,

like electricity,

như điện, có lẽ

you're probably not very worried.

bạn không lo lắng lắm.

But you see,

Nhưng bạn thấy đấy,

Turing thinks of superintelligence more like a new species.

Turing nghĩ về Siêu trí tuệ giống như một giống loài mới.

Think of it,

Hãy nghĩ về điều đó,

we are building creepy, super capable,

chúng ta đang xây dựng những “kẻ tâm thần”

amoral psychopaths

đáng sợ, siêu năng lực, vô đạo đức,

that don't sleep and think much faster than us,

không ngủ và suy nghĩ nhanh hơn chúng ta nhiều,

can make copies of themselves

có thể tạo ra bản sao của chính chúng

and have nothing human about them at all.

và không có gì là con người trong chúng cả.

So what could possibly go wrong?

Vậy điều gì có thể xảy ra sai?

(Laughter)

(Cười)

And it's not just Turing.

Và không chỉ Turing.

OpenAI CEO Sam Altman, who gave us ChatGPT,

Giám đốc điều hành OpenAI Sam Altman, người đã cho chúng ta ChatGPT,

recently warned that it could be "lights out for all of us."

gần đây đã cảnh báo rằng nó có thể là “tắt đèn cho tất cả chúng ta”.

Anthropic CEO, Dario Amodei, even put a number on this risk:

Giám đốc điều hành Anthropic, Dario Amodei,

thậm chí còn đưa ra một con số về rủi ro này: 10-25%.

10-25 percent.

And it's not just them.

Và không chỉ họ.

Human extinction from AI went mainstream in May

Sự tuyệt chủng của con người do AI đã trở nên chính thống vào tháng 5

when all the AGI CEOs and who's who of AI researchers

khi tất cả các CEO AGI và những người có tên tuổi

trong các nhà nghiên cứu AI

came on and warned about it.

đến và cảnh báo về điều đó.

And last month, even the number one of the European Union

Và tháng trước, ngay cả người đứng đầu Liên minh Châu Âu đã

warned about human extinction by AI.

cảnh báo về sự tuyệt chủng của con người bởi AI.

So let me summarize everything I've said so far

Vì vậy, hãy để tôi tóm tắt mọi thứ tôi đã nói

in just one slide of cat memes.

trong một slide meme mèo.

Three years ago,

Ba năm trước,

people were saying it's inevitable, superintelligence,

mọi người nói rằng đó là điều không thể tránh khỏi, Siêu trí tuệ,

it'll be fine,

nó sẽ ổn thôi,

it's decades away.

còn nhiều thập kỷ nữa.

Last year it was more like,

Năm ngoái thông điệp của họ giống như,

It's inevitable, it'll be fine.

điều đó không thể tránh khỏi, nó sẽ ổn thôi.

Now it's more like,

Bây giờ thì giống như,

It's inevitable.

đó là điều không thể tránh khỏi.

(Laughter)

(Cười)

But let's take a deep breath and try to raise our spirits

Nhưng chúng ta hãy hít một hơi thật sâu

và cố gắng phấn chấn lên,

and cheer ourselves up,

because the rest of my talk is going to be about the good news,

bởi vì phần còn lại của bài trình bày của tôi sẽ là các tin tốt,

that it's not inevitable, and we can absolutely do better,

rằng nó không phải là điều không thể tránh khỏi, và

alright?

chúng ta hoàn toàn có thể làm tốt hơn.

(Applause)

(Vỗ tay)

So ...

The real problem is that we lack a convincing plan for AI safety.

Vấn đề thực sự là chúng ta thiếu một kế hoạch thuyết phục về an toàn AI.

People are working hard on evals

Mọi người đang làm việc chăm chỉ để đánh giá

looking for risky AI behavior, and that's good,

để tìm kiếm hành vi AI rủi ro, và đó là điều tốt,

but clearly not good enough.

nhưng rõ ràng là chưa đủ tốt.

They're basically training AI to not say bad things

Về cơ bản, họ đang đào tạo AI để không nói những điều xấu

rather than not do bad things.

hơn là không làm những điều xấu.

Moreover, evals and debugging are really just necessary,

Hơn nữa, đánh giá và gỡ lỗi thực sự chỉ là điều cần thiết,

not sufficient, conditions for safety.

không đủ để đảm bảo an toàn.

In other words,

Nói cách khác,

they can prove the presence of risk,

chúng có thể chứng minh sự hiện diện của rủi ro,

not the absence of risk.

không phải sự vắng mặt của rủi ro.

So let's up our game, alright?

Vậy, hãy làm tốt hơn nhé?

Try to see how we can make provably safe AI that we can control.

Hãy thử xem làm thế nào chúng ta có thể tạo ra

AI an toàn có thể chứng minh được mà chúng ta có thể kiểm soát.

Guardrails try to physically limit harm.

Lan can cố gắng giảm thiểu nguy hại một cách vật lý.

But if your adversary is superintelligence

Nhưng nếu đối thủ của bạn là Siêu trí tuệ

hoặc một con người sử dụng Siêu trí thuệ chống lại bạn, chẳng hạn,

or a human using superintelligence against you, right,

trying is just not enough.

cố gắng là không đủ.

You need to succeed.

Bạn cần phải thành công.

Harm needs to be impossible.

Nguy hại cần phải là không thể.

So we need provably safe systems.

Vì vậy, chúng ta cần các hệ thống an toàn có thể chứng minh.

Provable, not in the weak sense of convincing some judge,

Có thể chứng minh được, không phải theo nghĩa nhẹ hơn

là thuyết phục một số thẩm phán,

but in the strong sense of there being something that's impossible

mà theo nghĩa mạnh hơn rằng một việc gì đó là không thể

according to the laws of physics.

theo các định luật vật lý.

Because no matter how smart an AI is,

Bởi vì cho dù AI thông minh đến đâu,

it can't violate the laws of physics and do what's provably impossible.

chúng cũng không thể vi phạm các định luật vật lý

và làm những gì có thể chứng minh là không thể.

Steve Omohundro and I wrote a paper about this,

Steve Omohundro và tôi đã viết một bài nghiên cứu về chủ đề này,

and we're optimistic that this vision can really work.

và chúng tôi lạc quan rằng tầm nhìn này thực sự có thể hiệu quả.

So let me tell you a little bit about how.

Vì vậy, hãy để tôi nói với bạn một chút về cách thực hiện.

There's a venerable field called formal verification,

Có một lĩnh vực đáng kính gọi là xác minh chính thức,

which proves stuff about code.

chứng minh những thứ về mã lập trình.

And I'm optimistic that AI will revolutionize automatic proving business

Và tôi lạc quan rằng AI sẽ cách mạng công tác chứng minh tự động

and also revolutionize program synthesis,

và cũng cách mạng sự tổng hợp chương trình,

the ability to automatically write really good code.

khả năng tự động viết mã lập trình rất tốt.

So here is how our vision works.

Vì vậy, đây là tầm nhìn của chúng tôi.

You, the human, write a specification

Bạn, con người, viết một yêu cầu kỹ thuật

that your AI tool must obey,

mà công cụ AI của bạn phải tuân theo,

that it's impossible to log in to your laptop

rằng không thể đăng nhập vào máy tính xách tay của bạn

without the correct password,

mà không có mật khẩu chính xác

or that a DNA printer cannot synthesize dangerous viruses.

hoặc máy in DNA không thể tổng hợp các vi-rút nguy hiểm.

Then a very powerful AI creates both your AI tool

Sau đó, một AI rất mạnh mẽ tạo ra cả công cụ AI của bạn

and a proof that your tool meets your spec.

và bằng chứng rằng công cụ của bạn đáp ứng các yêu cầu kỹ thuật của bạn.

Machine learning is uniquely good at learning algorithms,

Học máy đặc biệt giỏi trong việc học thuật toán,

but once the algorithm has been learned,

nhưng một khi thuật toán đã được học,

you can re-implement it in a different computational architecture

bạn có thể triển khai lại nó trong một kiến trúc tính toán khác

that's easier to verify.

dễ xác minh hơn.

Now you might worry,

Bây giờ bạn có thể lo lắng,

how on earth am I going to understand this powerful AI

làm thế nào tôi có thể hiểu được AI mạnh mẽ này

and the powerful AI tool it built

và công cụ AI và bằng chứng mạnh mẽ mà nó tạo ra

and the proof,

liệu tất cả chúng có quá phức tạp để bất kỳ con người nào có thể nắm bắt được?

if they're all too complicated for any human to grasp?

Here is the really great news.

Đây là tin tức thực sự tuyệt vời.

You don't have to understand any of that stuff,

Bạn không cần phải hiểu bất kỳ thứ gì trong số đó,

because it's much easier to verify a proof than to discover it.

bởi vì việc xác minh bằng chứng dễ hơn nhiều so với việc khám phá ra nó.

So you only have to understand or trust your proof-checking code,

Vì vậy, bạn chỉ cần hiểu hoặc tin tưởng mã kiểm tra chứng minh của mình,

which could be just a few hundred lines long.

có thể chỉ dài vài trăm dòng.

And Steve and I envision

Và Steve và tôi hình dung

that such proof checkers get built into all our compute hardware,

rằng những trình kiểm tra chứng minh như vậy sẽ được tích hợp

vào phần cứng máy tính của chúng ta

so it just becomes impossible to run very unsafe code.

để việc áp dụng mã không an toàn trở thành điều không thể.

What if the AI, though, isn't able to write that AI tool for you?

Tuy nhiên, điều gì sẽ xảy ra nếu AI không thể viết công cụ AI đó cho bạn?

Then there's another possibility.

Nếu vậy, có một khả năng khác.

You train an AI to first just learn to do what you want

Bạn đào tạo AI để trước tiên chỉ học cách làm những gì bạn muốn

and then you use a different AI

và sau đó bạn sử dụng một AI khác

to extract out the learned algorithm and knowledge for you,

để trích xuất thuật toán và kiến thức đã học cho bạn,

like an AI neuroscientist.

giống như một nhà thần kinh học AI.

This is in the spirit of the field of mechanistic interpretability,

Cách thực hiện này đồng nhất với tinh thần của lĩnh vực diễn giải cơ học,

which is making really impressive rapid progress.

lĩnh vực đang đạt được những tiến bộ thực sự ấn tượng.

Provably safe systems are clearly not impossible.

Các hệ thống an toàn có thể chứng minh rõ ràng

không phải là không thể.

Let's look at a simple example

Hãy xem xét một ví dụ đơn giản

of where we first machine-learn an algorithm from data

về nơi đầu tiên chúng ta học máy một thuật toán từ dữ liệu

and then distill it out in the form of code

và sau đó chắt lọc nó thành dạng mã đáp ứng yêu cầu kỹ thuật.

that provably meets spec, OK?

Let’s do it with an algorithm that you probably learned in first grade,

Hãy làm điều này với một thuật toán mà bạn có thể đã học ở lớp một,

addition,

phép toán cộng

khi bạn cộng các chữ số từ phải sang trái,

where you loop over the digits from right to left,

and sometimes you do a carry.

và đôi khi bạn thực hiện một thao tác mang theo.

We'll do it in binary,

Chúng ta sẽ thực hiện phép tính trong dạng nhị phân,

as if you were counting on two fingers instead of ten.

như thể bạn đang đếm với hai ngón tay thay vì mười.

And we first train a recurrent neural network,

Và trước tiên chúng ta đào tạo một Mạng lưới Thần kinh Tái phát,

never mind the details,

không quan tâm đến các chi tiết,

to nail the task.

để hoàn thành nhiệm vụ.

So now you have this algorithm that you don't understand how it works

Bây giờ bạn có một thuật toán mà bạn không hiểu nó hoạt động như thế nào

in a black box

trong một hộp đen

defined by a bunch of tables of numbers that we, in nerd speak,

được xác định bởi một loạt các bảng số mà chúng tôi,

trong ngôn ngữ của những mọt sách, gọi là tham số.

call parameters.

Then we use an AI tool we built to automatically distill out from this

Sau đó, chúng ta sử dụng một công cụ AI mà chúng ta đã xây dựng để tự động

the learned algorithm in the form of a Python program.

chắt lọc ra thuật toán đã học trong thể một chương trình Python.

And then we use the formal verification tool known as Daphne

Và sau đó chúng ta sử dụng công cụ xác minh chính thức được gọi là Daphne

to prove that this program correctly adds up any numbers,

để chứng minh rằng chương trình này cộng chính xác bất kỳ con số nào,

not just the numbers that were in your training data.

không chỉ những con số có trong dữ liệu đào tạo của bạn.

So in summary,

Như vậy, để tóm tắt lại,

provably safe AI, I'm convinced is possible,

tôi tin rằng AI an toàn có thể chứng minh là có thể,

but it's going to take time and work.

nhưng nó sẽ mất thời gian và công sức.

And in the meantime,

Và trong thời gian chờ đợi,

let's remember that all the AI benefits

hãy nhớ rằng tất cả các lợi ích của AI

that most people are excited about

mà hầu hết mọi người đều hào hứng

actually don't require superintelligence.

thực ra không yêu cầu Siêu trí tuệ.

We can have a long and amazing future with AI.

Chúng ta có thể có một tương lai lâu dài và tuyệt vời với AI.

So let's not pause AI.

Vì vậy, chúng ta đừng tạm dừng AI.

Let's just pause the reckless race to superintelligence.

Hãy tạm dừng cuộc chạy đua bất chấp đến Siêu trí tuệ.

Let's stop obsessively training ever-larger models

Hãy ngừng đào tạo một cách ám ảnh những mô hình ngày càng lớn

that we don't understand.

mà chúng ta không hiểu.

Let's heed the warning from ancient Greece

Hãy chú ý lời cảnh báo từ Hy Lạp Cổ đại

and not get hubris, like in the story of Icarus.

và đừng quá kiêu ngạo, như trong câu chuyện về Icarus.

Because artificial intelligence

Bởi vì Trí tuệ Nhân tạo

is giving us incredible intellectual wings

đang mang đến cho chúng ta những đôi cánh trí tuệ đáng kinh ngạc

with which we can do things beyond our wildest dreams

để chúng ta có thể làm những điều ngoài những giấc mơ hoang dã nhất của mình

if we stop obsessively trying to fly to the sun.

nếu chúng ta ngừng ám ảnh cố gắng bay về phía mặt trời.

Thank you.

Cảm ơn bạn.

(Applause)

(Vỗ tay)