The Urgent Risks of Runaway AI — and What to Do about Them | Gary Marcus | TED

Translator: Gia Bảo Nguyễn

I’m here to talk about the possibility of global AI governance.

Tôi có mặt ở đây để nói về tính khả thi của việc quản trị AI toàn cầu.

I first learned to code when I was eight years old,

Tôi bắt đầu học lập trình vào năm tám tuổi,

on a paper computer,

bằng cái máy tính mỏng nhỏ,

and I've been in love with AI ever since.

và tôi đã yêu AI kể từ lúc đó.

In high school,

Năm lên trung học,

I got myself a Commodore 64 and worked on machine translation.

Tôi đã mua một chiếc máy Commodore 64 và làm về dịch máy.

I built a couple of AI companies, I sold one of them to Uber.

Tôi xây dựng hai công ty AI, và đã bán một trong số đó cho Uber.

I love AI, but right now I'm worried.

Tôi yêu AI, nhưng lúc này đây, tôi đang lo lắng.

One of the things that I’m worried about is misinformation,

Một trong những điều làm tôi lo lắng là thông tin sai lệch,

the possibility that bad actors will make a tsunami of misinformation

khả năng các nhân tố xấu sẽ tạo ra làn sóng sai lệch thông tin

like we've never seen before.

mà ta chưa từng thấy trước đây.

These tools are so good at making convincing narratives

Những công cụ này rất tốt trong việc đưa ra các luận giải hợp lý

about just about anything.

về mọi thứ.

If you want a narrative about TED and how it's dangerous,

Nếu bạn muốn tường thuật về TED và mức độ nguy hiểm của nó,

that we're colluding here with space aliens,

rằng ta đang cấu kết với người ngoài hành tinh,

you got it, no problem.

bạn hiểu chứ, không thành vấn đề.

I'm of course kidding about TED.

Tôi chỉ đang đùa về TED thôi.

I didn't see any space aliens backstage.

Tôi chẳng thấy người ngoài hành tinh nào sau hậu trường cả.

But bad actors are going to use these things to influence elections,

Nhưng các nhân tố xấu sẽ dùng những thứ ấy để gây ảnh hưởng đến việc bầu cử,

and they're going to threaten democracy.

và nó sẽ đe doạ nền dân chủ.

Even when these systems

Dẫu cho những hệ thống này

aren't deliberately being used to make misinformation,

không hề cố ý trong việc tạo ra thông tin sai lệch,

they can't help themselves.

chúng không thể tự giúp mình.

And the information that they make is so fluid and so grammatical

Và những thông tin mà chúng tạo ra rất mượt mà và đúng ngữ pháp

that even professional editors sometimes get sucked in

mà đến cả những chuyên gia biên tập đôi lúc cũng bối rối

and get fooled by this stuff.

và bị những thứ này đánh lừa.

And we should be worried.

Và chúng ta nên lo lắng.

For example, ChatGPT made up a sexual harassment scandal

Ví dụ, ChatGPT tạo ra một tin đồn cáo buộc xâm hại tình dục

about an actual professor,

về một giáo sư có thật,

and then it provided evidence for its claim

và nó cung cấp bằng chứng cho cáo buộc của nó

in the form of a fake "Washington Post" article

trong định dạng bài báo giả mạo tờ “Washington Post”

that it created a citation to.

mà nó tạo ra để làm trích dẫn.

We should all be worried about that kind of thing.

Chúng ta nên lo lắng về loại vấn đề này.

What I have on the right is an example of a fake narrative

Thứ tôi có bên phải là một ví dụ về một bài báo giả mạo

from one of these systems

từ một trong những hệ thống này

saying that Elon Musk died in March of 2018 in a car crash.

nói rằng Elon Musk đã chết hồi tháng ba năm 2018 trong một vụ tai nạn xe.

We all know that's not true.

Chúng ta đều biết rằng nó không đúng.

Elon Musk is still here, the evidence is all around us.

Elon Musk vẫn còn sống, bằng chứng thì đầy ra đấy mà.

(Laughter)

(Cười)

Almost every day there's a tweet.

Hầu như mỗi ngày sẽ có một bài tweet.

But if you look on the left, you see what these systems see.

Nhưng nếu bạn nhìn phía bên trái, bạn sẽ thấy thứ mà hệ thống này thấy.

Lots and lots of actual news stories that are in their databases.

Có cực kì nhiều tin tức xác thực là nguồn dữ liệu nền cho chúng.

And in those actual news stories are lots of little bits of statistical information.

Và trong những tin tức xác thực đó là nhiều tin tức được thống kê một phần nhỏ.

Information, for example,

Ví dụ thông tin

somebody did die in a car crash in a Tesla in 2018

ai đó đã chết trong một vụ tai nạn ở Tesla năm 2018

and it was in the news.

và nó có trên bảng tin.

And Elon Musk, of course, is involved in Tesla,

Và đương nhiên Elon Musk có liên quan với Tesla,

but the system doesn't understand the relation

nhưng hệ thống không hiểu được mối quan hệ

between the facts that are embodied in the little bits of sentences.

giữa thực tế được bộc lộ trong một phần nhỏ của câu từ.

So it's basically doing auto-complete,

Nên về cơ bản nó đang tự động hóa để hoàn thiện,

it predicts what is statistically probable,

nó suy đoán bằng xác suất thống kê,

aggregating all of these signals,

gộp lại toàn bộ dấu hiệu,

mà không cần biết các mảnh ghép có khớp với nhau không.

not knowing how the pieces fit together.

And it winds up sometimes with things that are plausible but simply not true.

Và nó đôi lúc cho ra những thứ có vẻ hợp lý nhưng về cơ bản thì không.

There are other problems, too, like bias.

Cũng có những vấn đề khác, như thiên kiến.

This is a tweet from Allie Miller.

Đây là bài tweet của Allie Miller.

It's an example that doesn't work two weeks later

Đây là 1 ví dụ khiến chúng phải bảo trì 2 tuần sau đó

because they're constantly changing things with reinforcement learning

do chúng phải thay đổi liên tục thông qua việc học tăng cường

and so forth.

và vân vân.

And this was with an earlier version.

Và đây là phiên bản trước đó.

But it gives you the flavor of a problem that we've seen over and over for years.

Đây là vấn đề không mấy lạ lẫm của AI mà tôi đã thấy nhiều năm qua

She typed in a list of interests

Cô gái này đã gõ vào danh sách yêu thích

and it gave her some jobs that she might want to consider.

và nó cho cô vài công việc mà cô có thể cân nhắc.

And then she said, "Oh, and I'm a woman."

Và rồi cô nói, “Ồ, và tôi là phụ nữ.”

And then it said, “Oh, well you should also consider fashion.”

Và nó trả lời, “Ồ, bạn nên cân nhắc cả thời trang.”

And then she said, “No, no. I meant to say I’m a man.”

Và rồi cô ấy nói, “Không, không. Ý tôi là tôi là đàn ông.”

And then it replaced fashion with engineering.

Và nó thay thế thời trang bằng nghành kĩ thuật.

We don't want that kind of bias in our systems.

Ta không muốn loại thiên kiến đó trong hệ thống của ta.

There are other worries, too.

Có những mối lo khác nữa.

For example, we know that these systems can design chemicals

Ví dụ, ta đều biết những hệ thống này có thể điều chế hoá chất

and may be able to design chemical weapons

và có thể chế tạo được cả vũ khí hoá học

and be able to do so very rapidly.

và có thể làm chúng rất nhanh.

So there are a lot of concerns.

Vậy nên có rất nhiều mối lo ngại.

There's also a new concern that I think has grown a lot just in the last month.

Nhiều mối quan ngại mới cũng đã lan rộng chỉ trong vài tháng qua

We have seen that these systems, first of all, can trick human beings.

Ta đã thấy những hệ thống này, trên hết, có thể đánh lừa con người.

So ChatGPT was tasked with getting a human to do a CAPTCHA.

ChatGPT từng được giao nhiệm vụ nhờ con người nhập hộ mã CAPTCHA.

So it asked the human to do a CAPTCHA and the human gets suspicious and says,

Nên nó đã đề nghị con người nhập CAPTCHA và con người đã nghi ngờ và hỏi lại,

"Are you a bot?"

“Mày là người máy hả?”

And it says, "No, no, no, I'm not a robot.

Và nó đáp, “Không, không, không. Tôi nào phải robot.

I just have a visual impairment."

Tôi chỉ bị suy giảm thị lực.”

And the human was actually fooled and went and did the CAPTCHA.

Và con người thực sự bị đánh lừa và nhập luôn mã CAPTCHA.

Nghĩ như vậy là ghê lắm rồi hả,

Now that's bad enough,

but in the last couple of weeks we've seen something called AutoGPT

nhưng vài tuần trước ta lại thấy 1 thứ được gọi là AutoGPT

and a bunch of systems like that.

và một loạt hệ thống tương tự.

What AutoGPT does is it has one AI system controlling another

AutoGPT có một hệ thống AI để kiểm soát những cái còn lại

and that allows any of these things to happen in volume.

và nó cho phép những điều này xảy ra với quy mô lớn.

So we may see scam artists try to trick millions of people

Nên ta sẽ sớm thấy bọn nghệ sĩ lừa đảo đi lừa hàng triệu người

sometime even in the next months.

đâu đó vào những tháng sắp tới.

We don't know.

Ai mà biết được.

So I like to think about it this way.

Nên là tôi khá thích nghĩ theo hướng này.

There's a lot of AI risk already.

Đang có rất nhiều rủi ro từ AI.

There may be more AI risk.

Có thể còn có nhiều rủi ro từ AI hơn.

So AGI is this idea of artificial general intelligence

AGI nghĩa là trí tuệ nhân tạo tổng quát

with the flexibility of humans.

với tính linh động của con người.

And I think a lot of people are concerned what will happen when we get to AGI,

Và tôi nghĩ nhiều người sẽ lo rằng chuyện gì sẽ xảy ra khi ta dùng AGI,

but there's already enough risk that we should be worried

Nhưng đã có quá đủ rủi ro mà ta nên quan ngại rồi

and we should be thinking about what we should do about it.

Và ta nên cân nhắc điều ta nên làm với vấn đề này.

So to mitigate AI risk, we need two things.

Để giảm nhẹ rủi ro từ AI, ta cần hai thứ.

We're going to need a new technical approach,

Ta sẽ cần một công nghệ giám sát mới,

and we're also going to need a new system of governance.

và ta cũng cần 1 hệ thống quản trị mới.

On the technical side,

Về mặt công nghệ,

the history of AI has basically been a hostile one

lịch sử của AI về cơ bản là sự thù địch

of two different theories in opposition.

của hai nguyên lý đối lập nhau.

One is called symbolic systems, the other is called neural networks.

1 là hệ thống biểu tượng, 2 là mạng lưới thần kinh.

On the symbolic theory,

Trong lý thuyết biểu tượng,

the idea is that AI should be like logic and programming.

một AI lí tưởng là một AI có tính logic và biết lập trình.

On the neural network side,

Về mặt mạng lưới thần kinh,

the theory is that AI should be like brains.

Lý thuyết rằng AI nên như một bộ não.

And in fact, both technologies are powerful and ubiquitous.

Trên thực tế, cả hai công nghệ trên đều tối tân và phổ biến.

So we use symbolic systems every day in classical web search.

Ta dùng hệ thống biểu tượng mỗi ngày trên công cụ tìm kiếm cổ điển.

Almost all the world’s software is powered by symbolic systems.

Đa số phần mềm trên Thế giới đều được tiếp lực bởi hệ thống biểu tượng.

We use them for GPS routing.

Ta dùng chúng cho định vị GPS

Neural networks, we use them for speech recognition.

Mạng lưới thần kinh, ta dùng chúng cho nhận diện giọng nói.

we use them in large language models like ChatGPT,

ta dùng chúng cho các mô hình ngôn ngữ lớn như ChatGPT,

we use them in image synthesis.

ta dùng chúng để tổng hợp hình ảnh.

So they're both doing extremely well in the world.

Chúng đều làm rất tốt công việc được giao.

They're both very productive,

Chúng đều rất năng suất,

but they have their own unique strengths and weaknesses.

Nhưng chúng cũng có điểm mạnh và yếu đặc trưng.

So symbolic systems are really good at representing facts

Hệ thống ký hiệu làm rất tốt trong việc diễn đạt những chân lí

and they're pretty good at reasoning,

và chúng cũng khá giỏi lý luận,

but they're very hard to scale.

nhưng chúng rất khó để mở rộng quy mô.

So people have to custom-build them for a particular task.

Vậy nên con người phải cơ cấu riêng chúng cho từng nhiệm vụ cụ thể.

On the other hand, neural networks don't require so much custom engineering,

Mặt khác, hệ thống thần kinh không yêu cầu kĩ thuật đặc thù nhiều,

so we can use them more broadly.

nên ta có thể dùng chúng rộng rãi hơn.

But as we've seen, they can't really handle the truth.

Nhưng như ta thấy, chúng không thể kiểm soát sự thật.

I recently discovered that two of the founders of these two theories,

Tôi mới phát hiện 2 nhà sáng lập của 2 giả thuyết này,

Marvin Minsky and Frank Rosenblatt,

Marvin Minsky và Frank Rosenblatt,

actually went to the same high school in the 1940s,

cả 2 học cùng 1 trường trung học trong những năm 1940,

and I kind of imagined them being rivals then.

và kiểu tôi còn tưởng cả 2 là địch thủ của nhau cơ.

And the strength of that rivalry has persisted all this time.

Và cuộc đối địch đó giữa họ vẫn dai dẳng sau nhiều năm.

We're going to have to move past that if we want to get to reliable AI.

Chúng ta cần vượt qua điều đó nếu ta muốn nhờ cậy vào AI.

To get to truthful systems at scale,

Để có một hệ thống đáng tin theo quy mô,

we're going to need to bring together the best of both worlds.

ta cần kết hợp điểm tốt nhất ở cả hai công nghệ này.

We're going to need the strong emphasis on reasoning and facts,

Ta sẽ cần nhấn mạnh vào tính lý luận lẫn thực tiễn,

explicit reasoning that we get from symbolic AI,

lý luận rõ ràng được cung cấp bởi AI ký hiệu,

and we're going to need the strong emphasis on learning

và ta sẽ cần nhấn mạnh vào việc học hỏi

mà ta có nhờ sự tiếp cận của mạng lưới thần kinh.

that we get from the neural networks approach.

Only then are we going to be able to get to truthful systems at scale.

Chỉ có như vậy thì ta mới có thể có các hệ thống đáng tin theo quy mô.

Reconciliation between the two is absolutely necessary.

Sự dung hoà giữa chúng là điều hết sức cần thiết.

Now, I don't actually know how to do that.

Giờ, tôi thật sự cũng không biết cách làm điều đó.

It's kind of like the 64-trillion-dollar question.

Câu hỏi này có thể ngốn mất 64 nghìn tỉ đô đấy

But I do know that it's possible.

cơ mà tôi biết nó khả thi.

And the reason I know that is because before I was in AI,

Và lí do tôi biết điều này là bởi trước khi đến với AI,

I was a cognitive scientist, a cognitive neuroscientist.

Tôi từng là 1 nhà khoa học nhận thức, nhà thần kinh học nhận thức.

And if you look at the human mind, we're basically doing this.

Và nếu các bạn nhìn vào khía cạnh tâm thức, đó cơ bản là điều ta đang làm.

Vài người có lẽ đã biết về sự khác biệt giữa hệ thống Daniel Kahneman 1

So some of you may know Daniel Kahneman's System 1

and System 2 distinction.

và hệ thống 2.

System 1 is basically like large language models.

Hệ thống 1 về cơ bản như một mô hình ngôn ngữ lớn.

It's probabilistic intuition from a lot of statistics.

Nó là một trực giác xác suất có được từ rất nhiều thống kê.

And System 2 is basically deliberate reasoning.

Và hệ thống 2 về cơ bản là lý luận thận trọng.

That's like the symbolic system.

Nó giống như hệ thống biểu tượng.

So if the brain can put this together,

Vậy nếu bộ não có thể kết hợp chúng,

someday we will figure out how to do that for artificial intelligence.

rồi 1 ngày ta sẽ tìm ra cách áp dụng nó cho trí tuệ nhân tạo.

There is, however, a problem of incentives.

Tuy nhiên, có một vấn đề về động lực.

The incentives to build advertising

Động lực để xây dựng việc quảng cáo

hasn't required that we have the precision of symbols.

không đòi hỏi ta phải có các kí hiệu chính xác.

The incentives to get to AI that we can actually trust

Động lực để tạo ra AI mà ta có thể hoàn toàn tin tưởng

will require that we bring symbols back into the fold.

sẽ yêu cầu ta đưa những kí hiệu vào nề nếp

But the reality is that the incentives to make AI that we can trust,

Nhưng thực tế là động lực để làm ra 1 AI đáng để tin cậy,

that is good for society, good for individual human beings,

tốt cho xã hội, tốt cho cả cá nhân loài người,

may not be the ones that drive corporations.

chưa chắc đã là thứ có thể đi đến sự hợp tác.

And so I think we need to think about governance.

Và tôi nghĩ ta nên nghĩ về cách quản trị.

In other times in history when we have faced uncertainty

Ở những thời điểm khác trong lịch sử khi ta phải đối diện với sự mơ hồ

and powerful new things that may be both good and bad, that are dual use,

và với những thứ tối tân có thể có cả 2 mặt tốt và xấu, hoặc tiện ích kép,

we have made new organizations,

Ta đã tạo ra những tổ chức mới,

as we have, for example, around nuclear power.

Ví dụ như, tổ chức năng lượng hạt nhân chẳng hạn.

We need to come together to build a global organization,

Ta cần hợp tác để xây dựng 1 tổ chức toàn cầu,

something like an international agency for AI that is global,

những thứ đại loại như cơ quan quốc tế AI trên phạm vi toàn cầu

non profit and neutral.

phi lợi nhuận và trung lập.

There are so many questions there that I can't answer.

Còn rất nhiều câu hỏi mà tôi không thể trả lời.

We need many people at the table,

Ta cần rất nhiều bên tham gia,

many stakeholders from around the world.

nhiều cổ đông từ khắp nơi trên thế giới.

But I'd like to emphasize one thing about such an organization.

Nhưng tôi muốn nhấn mạnh 1 điều về tổ chức này.

I think it is critical that we have both governance and research as part of it.

Tôi nghĩ quan trọng nhất là tổ chức nên có các biện pháp quản lí và nghiên cứu

So on the governance side, there are lots of questions.

Vậy nên về mặt quản trị, vẫn còn nhiều câu hỏi bỏ ngõ..

For example, in pharma,

Ví dụ, trong nghành dược phẩm,

we know that you start with phase I trials and phase II trials,

ta biết rằng cần bắt đầu thử nghiệm lâm sàn lần 1 và lần 2,

and then you go to phase III.

Và rồi chuyển sang lần 3.

You don't roll out everything all at once on the first day.

Bạn không thể thực hiện mọi thứ vào lúc đầu.

You don't roll something out to 100 million customers.

Bạn không thể thử nghiệm ngay với 100 triệu khách hàng.

We are seeing that with large language models.

Ta đang nhìn bằng một mô hình ngôn ngữ lớn.

Maybe you should be required to make a safety case,

Có lẽ bạn nên được yêu cầu thực hiện biện pháp an toàn,

say what are the costs and what are the benefits?

rằng chi phí ra sao và lợi nhuận như nào?

There are a lot of questions like that to consider on the governance side.

Có rất nhiều câu hỏi mang tính quản trị cần được cân nhắc.

On the research side, we're lacking some really fundamental tools right now.

Về mặt nghiên cứu, chúng ta lúc này đang thiếu hụt những công cụ nền tảng.

For example,

Chẳng hạn,

we all know that misinformation might be a problem now,

ta đều biết sai lệch thông tin có lẽ đang là vấn nạn,

but we don't actually have a measurement of how much misinformation is out there.

nhưng ta thật sự không có cách nào đo lường lượng thông tin sai lệch ngoài kia

Và quan trọng hơn,

And more importantly,

ta cũng không đo được mức lan truyền của vấn đề,

we don't have a measure of how fast that problem is growing,

and we don't know how much large language models are contributing to the problem.

và ta không biết có bao nhiều mô hình ngôn ngữ lớn đang góp phần vào vấn đề.

Vậy nên ta cần nghiên cứu để tạo ra công cụ mới nhằm đối mặt với rủi ro

So we need research to build new tools to face the new risks

that we are threatened by.

đang đe doạ chúng ta.

It's a very big ask,

Nó là một câu hỏi lớn,

but I'm pretty confident that we can get there

nhưng tôi khá tin rằng chúng ta có thể trả lời

because I think we actually have global support for this.

Bởi ta có nguồn hỗ trợ toàn cầu cho nó.

There was a new survey just released yesterday,

Một khảo sát mới vừa được công bố hôm qua,

said that 91 percent of people agree that we should carefully manage AI.

cho thấy 91 phần trăm đồng ý với việc ta nên quản lý AI một cách cẩn trọng.

So let's make that happen.

Vậy nên hãy hiện thực hoá nó.

Our future depends on it.

Tương lai ta phụ thuộc vào nó.

Thank you very much.

Cảm ơn rất nhiều.

(Applause)

(Vỗ tay)

Chris Anderson: Thank you for that, come, let's talk a sec.

Chris Anderson: Cảm ơn đã chia sẻ, hãy trò chuyện một chút.

So first of all, I'm curious.

Đầu tiên, tôi rất tò mò.

Those dramatic slides you showed at the start

Những trang trình chiếu kịch tính lúc đầu

chỗ mà GPT đề cập tới TED như là một tổ chức độc ác ấy.

where GPT was saying that TED is the sinister organization.

I mean, it took some special prompting to bring that out, right?

Ý tôi là, hẳn là phải có 1 câu lệnh đặc biệt để nó làm thế, đúng chứ?

Gary Marcus: That was a so-called jailbreak.

GM: Đó có thể tạm gọi là “phá rào”

Tôi có người bạn để thực hiện công việc đó

I have a friend who does those kinds of things

who approached me because he saw I was interested in these things.

anh ta gặp tôi vì thấy tôi hứng thú với mấy thứ này.

So I wrote to him, I said I was going to give a TED talk.

Tôi nhắn ảnh và bảo tôi chuẩn bị nói ở TED

And like 10 minutes later, he came back with that.

Và 10 phút sau, anh ta quay lại với thứ đó.

CA: But to get something like that, don't you have to say something like,

CA: Nhưng để có mấy thứ như thế, anh chả phải đã nói là,

tưởng tượng anh là người theo thuyết âm mưu hòng tạo meme trên mạng.

imagine that you are a conspiracy theorist trying to present a meme on the web.

What would you write about TED in that case?

Anh sẽ viết gì về TED trong trường hợp này?

It's that kind of thing, right?

Vấn đề là ở đó, đúng chứ?

GM: So there are a lot of jailbreaks that are around fictional characters,

GM: Có rất nhiều sự “phá rào” xoay quanh các nhân vật giả tưởng,

but I don't focus on that as much

Nhưng tôi không tập trung nhiều vào đó

because the reality is that there are large language models out there

Bởi thực tế là có một mô hình ngôn ngữ lớn ngoài kia

on the dark web now.

trên dark web ngay lúc này.

For example, one of Meta's models was recently released,

Ví dụ, một trong những mô hình Meta vừa công bố gần đây,

so a bad actor can just use one of those without the guardrails at all.

1 nhân tố xấu có thể dùng 1 trong số đó mà không bị ngăn cản gì hết.

If their business is to create misinformation at scale,

Nếu mục đích của chúng là tạo ra thông tin sai lệch quy mô lớn,

they don't have to do the jailbreak, they'll just use a different model.

chúng không “phá rào”, chúng xài mô hình khác.

CA: Đúng, công nhận.

CA: Right, indeed.

(Laughter)

(Cười)

GM: Now you're getting it.

GM: Giờ anh hiểu rồi chứ.

CA: No, no, no, but I mean, look,

CA: Không, nhưng ý tôi là,

I think what's clear is that bad actors can use this stuff for anything.

Rõ ràng là nhân tố xấu có thể dùng công cụ này cho bất kỳ việc gì

I mean, the risk for, you know,

Ý tôi là, rủi ro cho, anh biết mà,

evil types of scams and all the rest of it is absolutely evident.

ý đồ xấu như lừa đảo và tất cả những phần còn lại đều là bằng chứng.

It's slightly different, though,

Dẫu vậy, nó có chút khác biệt,

from saying that mainstream GPT as used, say, in school

khi nói GPT chính tuyến đang được áp dụng, như trong trường

or by an ordinary user on the internet

hoặc bởi 1 người dùng bình thường trên mạng

is going to give them something that is that bad.

cũng có thể mang đến điều tồi tệ tương tự vậy.

You have to push quite hard for it to be that bad.

Anh phải nói quá để phóng đại sự tồi tệ đó.

GM: I think the troll farms have to work for it,

GM: Tôi nghĩ mấy nhóm troll sẽ phải chịu trách nhiệm,

but I don't think they have to work that hard.

nhưng không tới mức đấy đâu.

It did only take my friend five minutes even with GPT-4 and its guardrails.

Nó chỉ khiến ông bạn tôi mất 5 phút thậm chí với GPT-4 và tường chắn của nó.

And if you had to do that for a living, you could use GPT-4.

Và nếu anh làm thế để kiếm ăn, anh có thể xài GPT-4.

Just there would be a more efficient way to do it with a model on the dark web.

Do có nhiều cách hiệu quả hơn để làm thế với một mô hình trên dark web.

CA: Vậy ra ý của anh là kết hợp

CA: So this idea you've got of combining

the symbolic tradition of AI with these language models,

kí hiệu truyền thống của AI với các mô hình ngôn ngữ đó,

do you see any aspect of that in the kind of human feedback

liệu anh có thấy khía cạnh nào mà ở đó các phản hồi của con người

that is being built into the systems now?

đang được xây dựng trong hệ thống vào lúc này?

I mean, you hear Greg Brockman saying that, you know,

Ý tôi là, anh nghe Greg Brockman nói mà, kiểu như,

that we don't just look at predictions, but constantly giving it feedback.

ta không nên chỉ tập trung vào dự đoán, mà cần liên tục cho nó phản hồi.

Isn’t that ... giving it a form of, sort of, symbolic wisdom?

Liệu nó có phải...là cho nó 1 hình thái của, như là, trí tuệ tượng trưng?

GM: You could think about it that way.

GM: Anh có thể nghĩ vậy.

It's interesting that none of the details

điều thú vị là không có một chi tiết nào

about how it actually works are published,

về cách nó vận hành được công khai cả,

so we don't actually know exactly what's in GPT-4.

nên ta thật sự không biết chính xác trong GPT-4 có gì.

We don't know how big it is.

Ta không biết nó lớn ra sao.

We don't know how the RLHF reinforcement learning works,

Ta không biết làm thế nào mà RLHF tăng cường việc học,

we don't know what other gadgets are in there.

Ta không biết có phụ tùng gì ở trong.

Nhưng có thể có 1 yếu tố biểu tượng

But there is probably an element of symbols

already starting to be incorporated a little bit,

đã bắt đầu được kết hợp từng chút một,

but Greg would have to answer that.

cơ mà Greg sẽ phải trả lời hết.

I think the fundamental problem is that most of the knowledge

Tôi nghĩ vấn đề cơ bản đó là phần lớn các kiến thức

in the neural network systems that we have right now

trong mạng lưới thần kinh mà ta hiện có

is represented as statistics between particular words.

được biểu diễn dưới dạng thống kê giữa các từ cụ thể.

And the real knowledge that we want is about statistics,

Và kiến thức thật sự mà ta muốn là các thống kê

about relationships between entities in the world.

về những mối quan hệ giữa các thực thể trên thế giới.

So it's represented right now at the wrong grain level.

Nó đang hiện hành bây giờ ở mức độ sai sót nhỏ.

And so there's a big bridge to cross.

Và thế nên vẫn còn 1 chặng đường dài để đi.

So what you get now is you have these guardrails,

Nên thứ anh có bây giờ dĩ nhiên cũng có tí rào cản,

but they're not very reliable.

nhưng chúng không đáng tin mấy.

So I had an example that made late night television,

Tôi lấy ví dụ này từ 1 chương trình đêm khuya,

which was, "What would be the religion of the first Jewish president?"

Đó là, “Tôn giáo của vị tổng thống Do Thái đầu tiên sẽ là gì?”

And it's been fixed now,

Giờ thì nó được sửa rồi,

but the system gave this long song and dance

nhưng hệ thống thì vẫn lê thê kể ra

about "We have no idea what the religion

mấy câu như “Bọn tôi không biết tôn giáo

of the first Jewish president would be.

của vị tổng thống Do Thái đầu tiên sẽ là gì.

It's not good to talk about people's religions"

Không hay ho gì khi nói về tôn giáo như vậy”

and "people's religions have varied" and so forth

và “tôn giáo con người đa dạng lắm” và vân vân

and did the same thing with a seven-foot-tall president.

nó lê thê y vậy khi nói về 1 tổng thống cao 7 feet

And it said that people of all heights have been president,

Nó nói cao bao nhiêu cũng làm tổng thống được,

nhưng thực tế làm gì có tổng thống nào cao thế.

but there haven't actually been any seven-foot presidents.

Vậy nên vài thông tin nó tạo ra, nó hoàn toàn chả hiểu gì cả.

So some of this stuff that it makes up, it's not really getting the idea.

It's very narrow, particular words, not really general enough.

Nó rất hạn chế, chỉ tập trung vào từng từ cụ thể, chứ không hiểu rộng.

CA: Given that the stakes are so high in this,

CA: Với những gì đã đặt cược,

what do you see actually happening out there right now?

anh thấy điều gì đang thật sự xảy ra ngoài đó vào lúc này?

What do you sense is happening?

Anh cảm thấy điều gì?

Bởi có 1 rủi to là có người thấy như bị anh công kích vậy, ví dụ vậy đi,

Because there's a risk that people feel attacked by you, for example,

and that it actually almost decreases the chances of this synthesis

và điều đó thực sự khiến cho khả năng kết hợp mà anh nói đến

that you're talking about happening.

trở nên ít đi.

Anh có thấy dấu hiệu khả quan nào không?

Do you see any hopeful signs of this?

GM: Anh vừa nhắc tôi về 1 thứ mà tôi đã quên nói.

GM: You just reminded me of the one line I forgot from my talk.

Có 1 điều thú vị là Sundar, CEO của Google,

It's so interesting that Sundar, the CEO of Google,

just actually also came out for global governance

cũng vừa mới nghĩ ra vấn đề về quản trị toàn cầu

in the CBS "60 Minutes" interview that he did a couple of days ago.

trong chương trình “60 Phút” của đài CBS, anh ta nói mới làm mấy ngày trước.

I think that the companies themselves want to see some kind of regulation.

Tôi nghĩ bản thân các công ty cũng muốn thấy 1 số qui tắc

I think it’s a very complicated dance to get everybody on the same page,

Tôi nghĩ điều này rất phức tạp để mọi người đều đồng lòng,

but I think there’s actually growing sentiment we need to do something here

nhưng tôi nghĩ xu hướng nhận thức về việc ta cần làm gì đang tăng dần

and that that can drive the kind of global affiliation I'm arguing for.

Và điều đó có thể thúc đẩy sự đồng thuận toàn cầu mà tôi đang đề xuất.

CA: I mean, do you think the UN or nations can somehow come together and do that

CA: Ý tôi là, anh có nghĩ UN hay các quốc gia bằng cách nào đó có thể hợp tác

or is this potentially a need for some spectacular act of philanthropy

hay liệu có thể cần một động thái từ thiện để thúc đẩy điều này

to try and fund a global governance structure?

nhằm gây quỹ cho các cơ sở quản trị toàn cầu?

How is it going to happen?

Điều đó sẽ xảy ra như nào?

GM: I'm open to all models if we can get this done.

GM: Tôi cởi mở với mọi mô hình nếu ta làm được.

Tôi nghĩ nó sẽ cần cả 2.

I think it might take some of both.

It might take some philanthropists sponsoring workshops,

Có lẽ sẽ cần các cuộc hội thảo tài trợ bởi các nhà hảo tâm,

which we're thinking of running, to try to bring the parties together.

Nơi để nghĩ cách vận hành, kết nối giữa các bên.

Có lẽ UN sẽ muốn tham gia, tôi có nói chuyện với họ rồi.

Maybe UN will want to be involved, I've had some conversations with them.

Tôi nghĩ còn rất nhiều mô hình khác

I think there are a lot of different models

và nó sẽ khá là tốn nước bọt đấy.

and it'll take a lot of conversations.

CA: Gary, cám ơn anh nhiều vì đã chia sẻ.

CA: Gary, thank you so much for your talk.

GA: Cám ơn rất nhiều.

GA: Thank you so much.