The Transformative Potential of AGI — and When It Might Arrive | Shane Legg and Chris Anderson | TED

Translator: Nhi Tran Reviewer: Thái Hưng Trần

Chris Anderson: Shane, hãy cho chúng tôi một cái nhìn tổng quan về con người anh

Chris Anderson: Shane, give us a snapshot of you growing up

and what on Earth led you to get interested in artificial intelligence?

và điều gì đã khiến anh quan tâm đến trí tuệ nhân tạo?

Shane Legg: Well, I got my first home computer on my 10th birthday,

Shane Legg: Chà, tôi có cái máy vi tính đầu tiên vào sinh nhật lúc 10 tuổi,

and I --

và tôi --

this was before the internet and everything.

lúc đó là trước khi có internet và mọi thứ.

So you couldn't just go and surf the web and so on.

Nên bạn không thể lên mạng rồi lướt web, vâng vâng.

You had to actually make stuff yourself and program.

Thời đó bạn phải tự làm mọi thứ và lập trình.

And so I started programming,

Và thế là tôi bắt đầu lập trình,

and I discovered that in this computer there was a world,

và tôi phát hiện ra trong cái máy tính có một thế giới,

I could create a world,

tôi có thể tạo ra một thế giới,

I could create little agents that would run around

tôi có thể tạo ra các tác nhân nhỏ chạy xung quanh

and chase each other and do things and so on.

và đuổi theo nhau và làm mọi thứ, v.v.

And I could sort of, bring this whole universe to life.

Và tôi có thể làm cho cả vũ trụ này trở nên sống động.

And there was sort of that spark of creativity that really captivated me

Và đó là một tia lửa sáng tạo thực sự hấp dẫn tôi

and sort of, I think that was really the seeds

và tôi nghĩ đó chính là những hạt giống cảm hứng

of my interest that later grew

into an interest in artificial intelligence.

mà sau này trở thành niềm đam mê với trí tuệ nhân tạo.

CA: Because in your standard education, you had some challenges there.

Vì trong chương trình giáo dục phổ thông, anh đã gặp một số khó khăn.

SL: Yeah, I was dyslexic as a child.

Vâng, tôi mắc phải bệnh khó đọc khi còn nhỏ.

And so they were actually going to hold me back a year

Và vì vậy, giáo viên đã thực sự định cho tôi ở lại một lớp

when I was 10 years old,

khi tôi 10 tuổi,

and they sent me off to get my IQ tested to sort of,

và họ cho tôi đi kiểm tra chỉ số IQ

you know, assess how bad the problem was.

để đánh giá mức nghiêm trọng của vấn đề.

And they discovered I had an exceptionally high IQ.

Và họ phát hiện tôi có chỉ số IQ đặc biệt cao.

And then they were a little bit confused about what was going on.

Và sau đó họ khá bối rối về những gì đang xảy ra.

And fortunately, at that time,

May mắn thay, thời điểm đó,

there was somebody in the town I lived in

có một người ở nơi tôi sống

who knew how to test for dyslexia.

biết kiểm tra chứng khó đọc.

And it turns out I wasn't actually of limited intelligence.

Và kết quả là tôi không có bị hạn chế về trí tuệ.

I was dyslexic, and that was the issue.

Vấn đề là tôi mắc chứng khó đọc.

CA: You had reason from an early age to believe

Từ nhỏ, anh đã có cơ sở cho nhận định

that our standard assumptions about intelligence might be off a bit.

rằng các tiêu chuẩn của chúng ta về trí tuệ có thể hơi sai lệch.

SL: Well, I had reason, from an early age, to sometimes doubt authority.

Vâng, từ nhỏ, tôi đã có cơ sở để nghi vấn thẩm quyền của một số chuyên gia.

(Laughter)

(Cười)

You know, if the teacher thinks you're dumb, maybe it's not true.

Nếu giáo viên nghĩ bạn bị khờ, có thể điều đó không đúng.

Maybe there are other things going on.

Có thể những yếu tố khác đang xảy ra.

But I think it also created in me an interest in intelligence

Nhưng tôi nghĩ việc đó cũng đã tạo nên trong tôi đam mê với trí tuệ

when I sort of had that experience as a child.

nhờ những trải nghiệm đó khi còn bé.

CA: So you're credited by many

Anh được biết đến là người đã

as coining the term “artificial general intelligence,” AGI.

khai sinh thuật ngữ “trí tuệ nhân tạo tổng quát”, AGI.

Tell us about 2001, how that happened.

Hãy kể lại từ năm 2001, nó đã xảy ra như nào.

SL: Yeah, so I was approached by someone called Ben Goertzel

Ừm, tôi được liên hệ bởi mọt người tên là Ben Goertzel

who I'd actually been working with,

người mà thật ra tôi đang cùng làm việc, và anh ấy đang định viết một cuốn sách,

and he was going to write a book,

and he was thinking about a book on AI systems

và anh ấy đang nghĩ về một cuốn sách về các hệ thống AI

that would be much more general and capable,

thứ có sự tổng quát và tiềm năng lớn hơn,

rather than focusing on very narrow things.

thay vì tập trung vào những phạm vi hẹp.

Và anh ấy đang suy nghĩ tiêu đề cho cuốn sách.

And he was thinking about a title for the book.

Vì vậy, tôi gợi ý,

So I suggested to him, "If you're interested in very general systems,

“Nếu anh hứng thú với các hệ thống rất có tính tổng quát,

call it artificial general intelligence."

hãy gọi nó là trí tuệ nhân tạo tổng quát.”

And so he went with that.

Và thế là anh ấy chọn luôn.

And then him and various other people started using the term online

Sau đó anh ấy và nhiều người

bắt đầu sử dụng thuật ngữ này trên mạng và internet,

and the internet,

và nó trở nên phổ biến từ đó.

and then it sort of became popularized from there.

Sau đó, chúng tôi phát hiện ra có một người tên là Mike Garrod,

We later discovered there was someone called Mike Garrod,

đã xuất bản một bài báo trên một tạp chí công nghệ nano an ninh vào năm '97.

who published a paper in a security nanotech journal in '97.

So he is actually the first person to have used the term.

Vì vậy, anh ấy thực sự là người đầu tiên sử dụng thuật ngữ này.

But it turns out he pretty much meant the same thing as us anyway.

Nhưng hóa ra dù sao anh ấy cũng có ý nghĩa tương tự như chúng tôi.

CA: It was kind of an idea whose time had come,

Giống như một ý tưởng gặp thời điểm thích hợp,

to recognize the potential here.

để được ghi nhận về tiềm năng.

I mean, you made an early prediction that many people thought was bonkers.

Ý tôi là, anh đã đưa ra một dự đoán sớm mà nhiều người nghĩ là điên rồ.

What was that?

Đó là gì nhỉ?

SL: Well, in about 2001,

Chà, vào khoảng năm 2001,

a similar time to when I suggested this term artificial general intelligence,

tương tự như khi tôi đề xuất thuật ngữ trí tuệ nhân tạo tổng quát,

tôi đọc một cuốn sách của Ray Kurzweil, là “Thời đại của những cỗ máy tinh thần”,

I read a book by Ray Kurzweil, actually, "Age of Spiritual Machines,"

and I concluded that he was fundamentally right,

và tôi kết luận rằng về cơ bản ông ấy đã đúng,

that computation was likely to grow exponentially for at least a few decades,

rằng các phép tính có khả năng tăng theo cấp số mũ trong ít nhất là vài thập kỷ,

and the amount of data in the world would grow exponentially

và lượng dữ liệu trên thế giới sẽ tăng theo cấp lũy thừa

for a few decades.

trong vài thập kỷ.

And so I figured that if that was going to happen,

Thế nên tôi nghĩ rằng nếu điều đó sắp xảy ra,

then the value of extremely scalable algorithms

thì các thuật toán có khả năng nhân rộng

that could harness all this data and computation

mà khai thác được tất cả dữ liệu và phép tính này

were going to be very high.

sẽ có giá trị rất cao.

And then I also figured that in the mid 2020s,

Và sau đó tôi cũng nhận ra rằng tới giữa những năm đầu 20,

it would be possible then,

sẽ khả thi

nếu chúng ta có các thuật toán có khả năng nhân rộng cao này,

if we had these highly scalable algorithms,

to train artificial intelligence systems

để đào tạo các hệ thống trí tuệ nhân tạo

với lượng dữ liệu lớn hơn nhiều những gì một người có thể trải nghiệm trong đời.

on far more data than a human would experience in a lifetime.

And so as a result of that,

Và do đó,

you can find it on my blog from about 2009

bạn có thể tìm thấy nó trên blog của tôi từ khoảng năm 2009.

I think it's the first time I publicly talked about it,

Tôi nghĩ đây là lần đầu tiên tôi nói công khai về nó,

I predicted a 50 percent chance of AGI by 2028.

tôi dự đoán có 50% cơ hội chúng ta sẽ có AGI trong vòng 2028.

I still believe that today.

Tôi vẫn tin điều đó ngày hôm nay.

CA: That's still your date.

Đó vẫn là dự đoán của anh.

How did you define AGI back then, and has your definition changed?

Khi đó bạn đã định nghĩa AGI như thế nào và định nghĩa của bạn có thay đổi không?

SL: Yeah, I didn't have a particularly precise definition at the beginning.

Ừm, tôi không có định nghĩa hoàn toàn chính xác ngay từ đầu.

It was really just an idea of systems that would just be far more general.

Nó thực ra chỉ là một ý tưởng về các hệ thống có tính tổng quát hơn.

So rather than just playing Go or chess or something,

Vì vậy, thay vì chỉ chơi Go hoặc cờ vua gì đó,

rather than actually be able to do many, many different things.

thay vì khả năng làm nhiều, nhiều điều khác nhau.

The definition I use now is that it's a system

Theo định nghĩa của tôi bây giờ thì nó là một hệ thống

that can do all the cognitive kinds of tasks

có thể làm tất cả các loại nhiệm vụ đòi hỏi nhận thức

that people can do, possibly more,

con người có thể làm, có thể hơn thế nữa,

but at least it can do the sorts of cognitive tasks

nhưng ít nhất nó có thể thực hiện

dạng nhiệm vụ đòi hỏi nhận thức mà mọi người có thể thực hiện.

that people can typically do.

CA: So talk about just the founding of DeepMind

Bây giờ, hãy đến với về sự thành lập của DeepMind

and the interplay between you and your cofounders.

và sự phối hợp giữa anh và những người đồng sáng lập.

SL: Right. So I went to London to the place called the Gatsby Unit,

Vâng. Tôi đi London, đến một nơi gọi là Đơn vị Gatsby,

which studies theoretical neuroscience and machine learning.

nghiên cứu về khoa học thần kinh lý thuyết và học máy.

And I was interested in learning the relationships

Và tôi quan tâm đến việc tìm hiểu mối quan hệ

between what we understand about the brain

giữa những gì chúng ta hiểu về bộ não và những gì chúng ta biết được từ máy học.

and what we know from machine learning.

So that seemed like a really good place.

Do đó, nó là một nơi thích hợp.

And I met Demis Hassabis there.

Và tôi đã gặp Demis Hassabis ở đó.

Anh ấy có cùng người hướng dẫn sau tiến sĩ với tôi,

He had the same postdoc supervisor as me,

and we got talking.

và chúng tôi nói chuyện.

And he convinced me

Và anh ấy làm tôi thuyết phục

that it was the time to start a company then.

rằng đã đến lúc để bắt đầu một công ty.

That was in 2009 we started talking.

Đó là năm 2009, chúng tôi bắt đầu nói chuyện.

And I was a little bit skeptical.

Và tôi từng hơi hoài nghi.

I thought AGI was still a bit too far away,

Tôi nghĩ AGI vẫn còn quá xa,

nhưng anh ấy nghĩ rằng thời điểm đã đến, nên chúng tôi quyết định thực hiện nó.

but he thought the time was right, so we decided to go for it.

And then a friend of his was Mustafa Suleyman.

Sau đó một người bạn của anh ấy là Mustafa Suleyman.

CA: And specifically, one of the goals of the company

Cụ thể hơn, một trong những mục tiêu của công ty

was to find a pathway to AGI?

là tìm ra con đường dẫn đến AGI?

SL: Absolutely.

Chắc chắn rồi.

On our first business plan that we were circulating

Trong kế hoạch kinh doanh đầu tiên mà chúng tôi phát hành

when we were looking for investors in 2010,

khi chúng tôi đang kêu gọi nhà đầu tư vào năm 2010,

it had one sentence on the front cover and it said,

trên trang bìa có một câu là,

“Xây dựng trí tuệ nhân tạo tổng quát đầu tiên trên thế giới.”

"Build the world's first artificial general intelligence."

So that was right in from the beginning.

Đó là thứ được đặt ra ngay từ đầu.

CA: Even though you knew

Mặc dù anh biết

that building that AGI might actually have

rằng việc xây dựng AGI có thể gây ra

apocalyptic consequences in some scenarios?

hậu quả nghiêm trọng trong một số viễn cảnh?

SL: Yeah.

Đúng vậy.

So it's a deeply transformative technology.

Tóm lại, đó là một công nghệ mang tính bước ngoặt sâu sắc.

I believe it will happen.

Tôi tin rằng nó sẽ đến.

I think that, you know,

Tôi nghĩ rằng,

these algorithms can be understood and they will be understood at the time.

những thuật toán này có thể được nắm rõ và chúng sẽ được nắm rõ sau một thời gian.

And I think that intelligence is fundamentally

Và tôi nghĩ rằng trí tuệ bản chất là

an incredibly valuable thing.

một thứ vô cùng giá trị.

Mọi thứ xung quanh ta lúc này -- tòa nhà chúng ta đang ở,

Everything around us at the moment -- the building we’re in,

the words I’m using, the concepts we have, the technology around us --

ngôn từ tôi đang sử dụng, những khái niệm chúng ta có, công nghệ quanh ta --

you know, all of these things are being affected by intelligence.

tất cả những thứ này đều chịu tác động bởi trí tuệ.

So having intelligence in machines

Vì vậy, việc máy móc có trí tuệ là một thứ vô cùng đáng giá để phát triển.

is an incredibly valuable thing to develop.

And so I believe it is coming.

Vậy nên tôi tin rằng nó đang đến.

Now when a very, very powerful technology arises,

Bây giờ khi một công nghệ rất, rất quyền năng xuất hiện,

there can be a range of different outcomes.

có thể dẫn đến rất nhiều các kết quả khác nhau.

Things could go very, very well,

Mọi thứ có thể diễn ra rất, rất tốt,

but there is a possibility things can go badly as well.

nhưng cũng có khả năng mọi thứ sẽ trở nên tồi tệ.

And that was something I was aware of also from about 20 years ago.

Và đó là điều tôi đã nhận thức được từ khoảng 20 năm trước.

CA: So talk about, as DeepMind developed,

Thế thì, trong quá trình DeepMind phát triển,

was there a moment where you really felt,

có lúc nào bạn thực sự cảm thấy,

"My goodness, we're onto something unbelievably powerful?"

“Chúa ơi, chúng ta sắp chạm đến thứ gì đó với một sức mạnh khó tin?”

Like, was it AlphaGo, that whole story, or what was the moment for you?

Liệu đó là AlphaGo, toàn bộ câu chuyện

hay khoảnh khắc nào khác, với anh?

SL: Yeah, there were many moments over the years.

Vâng, đã có nhiều khoảnh khắc trong những năm qua.

One was when we did the Atari games.

Một là khi chúng tôi chơi mấy game Atari.

Have you seen those videos

Anh đã xem những video

where we had an algorithm that could learn to play multiple games

mà ta có một thuật toán có thể học cách chơi nhiều game

without being programmed for any specific game?

mà không cần lập trình cho trò chơi cụ thể nào chưa?

There were some exciting moments there.

Có một số khoảnh khắc thú vị ở đó.

Go, of course, was a really exciting moment.

Go, tất nhiên, là một khoảnh khắc thực sự thú vị.

But I think the thing that's really captured my imagination,

Nhưng tôi nghĩ điều thực sự cuốn hút trí tưởng tượng của tôi,

a lot of people's imagination,

trí tưởng tượng của rất nhiều người,

is the phenomenal scaling of language models in recent years.

là sự mở rộng phi thường của các mô hình ngôn ngữ trong những năm gần đây.

I think we can see they're systems

Tôi nghĩ ta có thể thấy đó là những hệ thống

that really can start to do some meaningful fraction

có thể thực sự bắt đầu thực hiện một phần

of the cognitive tasks that people can do.

các nhiệm vụ nhận thức mà con người có thể làm.

CA: Now, you were working on those models,

Hiện tại, anh đang phát triển những mô hình đó,

but were you, to some extent, blindsided

nhưng anh có, ở một mức độ, bị bất ngờ

by OpenAI's, sort of, sudden unveiling of ChatGPT?

bởi sự ra mắt đột ngột của ChatGPT của OpenAI không?

SL: Right.

Vâng.

Chúng tôi đang phát triển chúng và bạn biết đấy,

We were working on them and you know,

the transformer model was invented in Google,

mô hình biến đổi được tạo ra bởi Google,

and we had teams who were building big transformer language models and so on.

và chúng tôi có các nhóm đang xây dựng các mô hình ngôn ngữ biến đổi lớn, v.v.

CA: Google acquired DeepMind at some point in this journey.

Google đã mua lại DeepMind đâu đó trong hành trình này.

SL: Yeah, exactly.

Vâng, chính xác.

And so what I didn't expect

Điều tôi không dự đoán

was just how good a model could get training purely on text.

là trình độ mà một mô hình có thể đạt đến nhờ đào tạo hoàn toàn dựa trên văn bản.

I thought you would need more multimodality.

Tôi nghĩ bạn sẽ cần sự đa phương thức hơn.

You'd need images, you'd need sound, you'd need video and things like that.

Bạn sẽ cần hình ảnh, bạn sẽ cần âm thanh, bạn sẽ cần video và tương tự.

But due to the absolutely vast quantities of text,

Nhưng do lượng văn bản rất khổng lồ,

it can sort of compensate for these things to an extent.

nó có thể bù đắp cho những phương diện này đến một mức độ.

I still think you see aspects of this.

Tôi vẫn nghĩ rằng bạn cũng thấy các khía cạnh này.

I think language models tend to be weak in areas

Tôi thấy các mô hình ngôn ngữ có xu thế bị yếu ở các phương diện

that are not easily expressed in text.

không dễ thể hiện bằng văn bản.

But I don’t think this is a fundamental limitation.

Nhưng tôi không nghĩ đây là một hạn chế về bản chất.

I think we're going to see these language models expanding into video

Tôi nghĩ chúng ta sẽ thấy các mô hình ngôn ngữ này mở rộng sang dạng video,

and images and sound and all these things,

hình ảnh và âm thanh và tất cả những thứ này,

and these things will be overcome in time.

và những điều này sẽ được khắc phục theo thời gian.

CA: So talk to us, Shane,

Shane, hãy chia sẻ

about the things that you, at this moment,

về những điều mà anh, vào lúc này,

passionately feel that the world needs to be thinking about more cogently.

đánh giá là thế giới cần phải suy nghĩ về một cách rành mạch hơn.

SL: Right.

Vâng.

So I think that very, very powerful,

Tôi nghĩ rằng dạng trí tuệ nhân tạo

very intelligent artificial intelligence is coming.

rất, rất quyền năng, và rất thông minh đang đến.

I think that this is very, very likely.

Tôi nghĩ rằng điều này rất khả thi.

I don't think it's coming today.

Tôi không nghĩ nó sẽ đến hôm nay.

I don't think it's coming next year or the year after.

Tôi không nghĩ nó sẽ đến vào năm sau hoặc năm kia.

It's probably a little bit further out than that.

Có lẽ là còn xa hơn chút nữa.

CA: 2028?

2028?

SL: 2028, that's a 50 percent chance.

2028, khả năng khoảng 50%.

So, you know, if it doesn't happen in 2028,

Nên, anh thấy đó, nếu nó chưa xuất hiện vào 2028,

I'm not going to be surprised, obviously.

cũng không phải bất ngờ. Hẳn rồi.

CA: And when you say powerful,

Và khi anh dùng từ "quyền năng",

I mean there's already powerful AI out there.

thì vốn đã có AI quyền năng ngoài kia rồi, nhưng cái anh đang nói là một phiên bản

But you're saying basically a version

of artificial general intelligence is coming.

trí tuệ nhân tạo tổng quát đang đến.

SL: Yeah.

Vâng.

CA: So give us a picture of what that could look like.

Hãy nói về viễn cảnh đó có thể trông như thế nào.

SL: Well, if you had an artificial general intelligence,

Ừm, nếu bạn có trí tuệ nhân tạo tổng quát,

you could do all sorts of amazing things.

bạn có thể làm đủ điều tuyệt vời.

Just like human intelligence is able to do many, many amazing things.

Giống như trí tuệ con người có thể làm được rất nhiều điều tuyệt vời.

So it's not really about a specific thing,

Như vậy, nó không phải là một thứ cụ thể,

that's the whole point of the generality.

đó chính là giá trị của tính tổng quát.

But to give you one example,

Một ví dụ là,

we developed the system AlphaFold,

chúng tôi đã phát triển hệ thống AlphaFold,

which will take a protein and compute, basically, the shape of that protein.

nó sẽ nhận một protein và phân tích hình dạng của protein đó.

And that enables you to do all sorts of research

Điều này cho phép bạn thực hiện các loại nghiên cứu

into understanding biological processes,

về các quá trình sinh học, nghiên cứu thuốc và những thứ tương tự.

developing medicines and all kinds of things like that.

Còn giờ, nếu bạn có một hệ thống AGI,

Now, if you had an AGI system,

instead of requiring what we had at DeepMind,

thay vì đòi hỏi nguồn lực của chúng tôi ở DeepMind,

about roughly 30 world-class scientists

với khoảng 30 nhà khoa học hàng đầu thế giới

working for about three years to develop that,

làm việc trong khoảng ba năm để tạo ra nó,

maybe you could develop that with just a team

có lẽ bạn có thể làm điều đó với một nhóm

of a handful of scientists in one year.

gồm vài nhà khoa học trong vòng một năm.

So imagine these, sort of, AlphaFold-level developments

Rồi, bạn tưởng tượng những bước tiến mức độ Alphafold thế này

taking place around the world on a regular basis.

diễn ra khắp thế giới một cách thường xuyên.

This is the sort of thing that AGI could enable.

Đây là khả năng mà AGI có thể mở ra.

CA: So within months of AGI being with us, so to speak,

Vậy thì trong vòng vài tháng từ khi AGI xuất hiện,

it's quite possible that some of the scientific challenges

rất có thể một số rào cản trong khoa học

that humans have wrestled with for decades, centuries, if you like,

mà con người đã phải vật lộn trong nhiều thập kỷ, thậm chí hàng thế kỷ,

will start to tumble in rapid succession.

sẽ dần sụp đổ nhanh chóng.

SL: Yeah, I think it'll open up all sorts of amazing possibilities.

Vâng, tôi nghĩ nó sẽ mở ra đủ loại tiềm năng to lớn.

And it could be really a golden age of humanity

Và nó thực sự có thể là một thời kỳ hoàng kim của nhân loại,

where human intelligence,

nơi trí tuệ con người,

which is aided and extended with machine intelligence,

được hỗ trợ và mở mang bằng trí tuệ nhân tạo,

enables us to do all sorts of fantastic things

cho phép chúng ta thực hiện đủ điều kỳ diệu

and solve problems that previously were just intractable.

và giải quyết các vấn đề trước đây nằm ngoài tầm kiểm soát.

Chúng ta hãy quay lại với vấn đề này.

CA: So let's come back to that.

But I think you also,

Tôi nghĩ rằng anh cũng không phải là một người lạc quan phi thực tế,

you're not like, an irredeemable optimist only,

you see a potential for it to go very badly in a different direction.

mà anh thấy được khả năng nó phát triển theo hướng thực sự tồi tệ.

Talk about what that pathway could look like.

Hãy nói về việc hướng đi đó có thể trông như thế nào.

SL: Well, yeah, I want to explain.

Ồ, vâng, tôi cũng muốn làm rõ là,

Tôi không đồng tình với những người

I don't believe the people

who are sure that it's going to go very well,

chắc chắn rằng mọi thứ sẽ diễn ra rất tốt đẹp,

and I don't believe the people

và tôi không đồng tình với những người

who are sure that it’s going to go very, very badly.

chắc chắn rằng sự việc sẽ trở nên rất, rất tệ.

Because what we’re talking about is an incredibly profound transition.

Bởi vì những gì chúng ta đang nói đến là một quá trình chuyển đổi vô cùng sâu sắc.

It's like the arrival of human intelligence in the world.

Nó giống như sự xuất hiện của trí tuệ nhân loại trên thế giới.

This is another intelligence arriving in the world.

Đây là một dạng trí tuệ khác đến với thế giới.

And so it is an incredibly deep transition,

Và đây là quá trình chuyển đổi vô cùng sâu sắc,

and we do not fully understand all the implications

mà chúng ta chưa thể hiểu hết toàn bộ tác động

and consequences of this.

và hậu quả của nó.

And so we can't be certain

Và vì vậy chúng ta không thể chắc chắn

that it's going to be this, that or the other thing.

rằng nó sẽ thành cái này, cái kia hay cái khác nữa.

So we have to be open-minded about what may happen.

Vì vậy, chúng ta phải cởi mở đón nhận những gì có thể xảy ra.

I have some optimism because I think

Tôi khá lạc quan vì tôi nghĩ

that if you want to make a system safe,

rằng nếu bạn muốn đảm bảo hệ thống an toàn,

you need to understand a lot about that system.

bạn cần rất nhiều thông tin về hệ thống đó.

You can't make an airplane safe

Bạn không thể làm một chiếc máy bay an toàn

if you don't know about how airplanes work.

nếu bạn không hiểu cách máy bay hoạt động.

So as we get closer to AGI,

Vậy nên khi chúng ta tiến gần hơn đến AGI,

we will understand more and more about these systems,

chúng ta sẽ càng hiểu hơn những hệ thống này

and we will see more ways to make these systems safe,

và chúng ta sẽ có càng nhiều cách để làm cho các hệ thống này an toàn,

make highly ethical AI systems.

tạo ra các hệ thống AI có tính đạo đức cao.

But there are many things we don't understand about the future.

Nhưng còn rất nhiều điều chúng ta không biết về tương lai.

So I have to accept that there is a possibility that things may go badly

Vì vậy, tôi cũng chấp nhận khả năng mọi thứ có thể diễn ra tồi tệ

because I don't know what's going to happen.

vì tôi không biết điều gì sẽ xảy ra.

I can't know that about the future in such a big change.

Tôi không thể biết được trong một tương lai có sự thay đổi lớn như thế.

And even if the probability of something going bad is quite small,

Và kể cả khi xác suất thứ gì đó trở nên tồi tệ là khá nhỏ,

we should take this extremely seriously.

chúng ta nên thực sự xem xét khả năng này.

CA: Paint a scenario of what going bad could look like.

Thế hãy hình dung một kịch bản tồi tệ có thể trông như nào.

SL: Well, it's hard to do

Chà, thực sự khá là khó

because you're talking about systems

vì anh đang nói về các hệ thống

that potentially have superhuman intelligence, right?

có thể sở hữu trí tuệ siêu phàm, nhỉ?

So there are many ways in which things would go bad in the world.

Có nhiều cách để mọi thứ phát triển một cách tồi tệ trên thế giới.

People sometimes point to, I don't know, engineered pathogens, right?

Mọi người hay nhắc đến, tôi không rõ nữa, mầm bệnh nhân tạo, nhỉ?

Maybe a superintelligence could design an engineered pathogen.

Có lẽ một siêu trí tuệ có thể tạo ra một tác nhân gây bệnh.

It could be much more mundane things.

Nó cũng có thể là những thứ đơn giản hơn nhiều.

Maybe with AGI, you know,

Có lẽ với AGI, bạn biết đấy,

it gets used to destabilize democracy in the world,

nó có thể thành công cụ gây mất ổn định cho nền dân chủ trên thế giới,

with, you know, propaganda or all sorts of other things like that.

thông qua tuyên truyền chính trị hoặc những thứ tương tự vậy.

We don't know --

Chúng tôi không biết --

Cái này có thể đã xảy ra rồi.

CA: That one might already have happened.

[Cười]

Có lẽ đã và đang xảy ra rồi. Nhưng có thể có nhiều thứ như thế hơn nữa,

SL: There might be happening a bit already.

But, you know, there may be a lot more of this

nếu chúng ta có các hệ thống quyền năng hơn.

if we have more powerful systems.

So there are many ways in which societies can be destabilized.

Vì vậy, có nhiều cách để gây mất ổn định cho xã hội.

And you can see that in the history books.

Và bạn có thể thấy điều đó trong sách sử.

CA: I mean, Shane, if you could have asked all humans,

Này, Shane, giả sử anh có thể hỏi tất cả mọi người,

say, 15 years ago, OK, we can open a door here,

ví dụ, vào 15 năm trước, rằng OK, chúng ta có thể mở cánh cửa này,

and opening this door could lead to the best-ever outcomes for humanity.

và mở cánh cửa này có thể dẫn đến những hệ quả tốt nhất với nhân loại.

But there's also a meaningful chance,

Nhưng cũng có một nguy cơ,

let's say it's more than five percent,

giả sử nó lớn hơn 5%,

that we could actually destroy our civilization.

là chúng ta hủy diệt luôn nền văn minh loài người.

I mean, isn't there a chance that most people would have actually said,

Thế thì, hoàn toàn có thể là mọi người sẽ nói,

"Don't you dare open that damn door.

“Đừng có mà mở cánh cửa chết tiệt đó. Chờ đã."

Let's wait."

SL: If I had a magic wand and I could slow things down,

Nếu tôi có một chiếc đũa phép và tôi có thể làm chậm mọi thứ lại,

I would use that magic wand, but I don't.

tôi sẽ dùng cây đũa phép đó,

nhưng mà tôi chẳng có.

There are dozens of companies,

Có hàng tá công ty,

well, there's probably 10 companies in the world now

thật ra là khoảng 10 công ty trên thế giới hiện tại

that can develop the most cutting-edge models, including, I think,

có thể phát triển các mô hình tiên tiến nhất,

tính luôn cả, tôi nghĩ là,

some national intelligence services who have secret projects doing this.

một số cơ quan tình báo quốc gia với các dự án tuyệt mật liên quan đến việc này.

And then there's, I don't know,

Và còn có, tôi không chắc,

dozens of companies that can develop something that's a generation behind.

hàng tá công ty có thể phát triển những thứ có công nghệ kém hơn một đời.

And remember, intelligence is incredibly valuable.

Phải biết rằng, trí tuệ vô cùng có giá trị.

It's incredibly useful.

Nó cực kỳ hữu ích.

We're doing this

Chúng tôi đang theo đuổi nó

because we can see all kinds of value that can be created in this

vì chúng tôi thấy được đủ loại giá trị có thể được tạo ra

for all sorts of reasons.

dựa trên nhiều lý do.

How do you stop this process?

Làm sao để dừng lại quá trình này?

I don't see any realistic plan that I've heard of,

Tôi không thấy phương án khả dĩ nào để dừng lại quá trình này.

of stopping this process.

Maybe we can --

Có lẽ chúng ta có thể --

I think we should think about regulating things.

Tôi nghĩ ta nên suy nghĩ về cách kiểm soát chúng.

I think we should do things like this as we do with every powerful technology.

Tôi nghĩ chúng ta nên làm những gì ta làm đối với mọi công nghệ quyền năng.

There's nothing special about AI here.

Không có gì đặc biệt hơn về AI cả.

People talk about, oh, you know, how dare you talk about regulating this?

Mọi người nói là, ồ,

sao bạn có thể nói về việc kiểm soát thứ này?

Không đâu, con ngườỉ kiểm soát các công nghệ quyền năng mãi

No, we regulate powerful technologies all the time in the interests of society.

vì an nguy xã hội.

And I think this is a very important thing that we should be looking at.

Và tôi nghĩ đây là một vấn đề trọng yếu mà chúng ta nên xem xét.

CA: It's kind of the first time we have this superpowerful technology out there

Có thể nói đây là lần đầu tiên chúng ta có công nghệ siêu quyền năng này

that we literally don't understand in full how it works.

mà chúng ta không thực sự hiểu đầy đủ nó hoạt động như nào.

Is the most single, most important thing we must do, in your view,

Theo anh, có phải thứ quan trọng nhất, mà chúng ta phải làm,

to understand, to understand better what on Earth is going on,

là tìm hiểu, hiểu rõ hơn về những gì đang xảy ra trên Trái đất,

so that we least have a shot at pointing it in the right direction?

để ta có khả năng định hướng công nghệ này một cách đúng đắn?

SL: There is a lot of energy behind capabilities at the moment

Hiện có rất nhiều sự quan tâm cho những khả năng có thể được khai thác

because there's a lot of value in developing the capabilities.

bởi vì giá trị từ việc khai phá các khả năng của nó là rất lớn.

I think we need to see a lot more energy going into actual science,

Tôi nghĩ chúng ta cần dành nhiều tài nguyên hơn cho nghiên cứu khoa học,

understanding how these networks work,

để hiểu cách các mạng lưới này hoạt động,

những gì chúng đang thực hiện, những gì chúng không thực hiện được,

what they're doing, what they're not doing,

where they're likely to fail,

những mảng chúng có thể gặp thất bại

and understanding how we put these things together

và để hiểu cách kết hợp những thứ này lại

so that we're able to find ways

để chúng ta tìm được phương pháp

to make these AGI systems profoundly ethical and safe.

làm cho các hệ thống AGI thực sự có tính đạo đức và an toàn.

I believe it's possible.

Tôi tin điều này là có thể.

But we need to mobilize more people's minds and brains

Nhưng chúng ta cần huy động được tâm sức của nhiều người hơn

to finding these solutions

để tìm ra những giải pháp

so that we end up in a future

dẫn đến một tương lai mà con người

where we have incredibly powerful machine intelligence

sở hữu trí tuệ máy cực kỳ quyền năng

that's also profoundly ethical and safe,

và đồng thời có tính đạo đức và an toàn

and it enhances and extends humanity

và điều này sẽ nâng cao tầm vóc và mở ra cho con người

into, I think, a new golden period for humanity.

tôi nghĩ là, một thời hoàng kim mới của nhân loại.

CA: Shane, thank you so much for sharing that vision

Shane, cám ơn vì đã chia sẻ tầm nhìn đó và đến với TED.

and coming to TED.

Cám ơn! (Vỗ tay)

(Applause)