How to get empowered, not overpowered, by AI | Max Tegmark

Translator: Patrizia Le Reviewer: Quynh Anh Ha

After 13.8 billion years of cosmic history,

Sau 13.8 tỉ năm lịch sử vũ trụ,

our universe has woken up

vũ trụ của chúng ta đã tỉnh dậy,

and become aware of itself.

và bắt đầu tự nhận thức.

From a small blue planet,

Từ một hành tinh xanh nhỏ bé,

tiny, conscious parts of our universe have begun gazing out into the cosmos

nơi có nhận thức của thế giới bao la đã bắt đầu nhìn ra bên ngoài hành tinh của họ

with telescopes,

bằng kính viễn vọng,

discovering something humbling.

để khám phá những điều nhỏ bé.

We've discovered that our universe is vastly grander

Ta phát hiện ra rằng vũ trụ này rộng lớn hơn rất nhiều

than our ancestors imagined

so với tổ tiên tưởng tượng

and that life seems to be an almost imperceptibly small perturbation

và cuộc sống dường như là một sự xáo trộn mà chúng ta đều không thể nhận thấy được

on an otherwise dead universe.

trên một hành tinh chết khác.

But we've also discovered something inspiring,

Nhưng ta cũng khám phá ra một điều vô cùng hấp dẫn,

which is that the technology we're developing has the potential

đó là nền công nghệ đang được phát triển mang lại tiềm năng

to help life flourish like never before,

nâng cao cuộc sống hơn bao giờ hết,

not just for centuries but for billions of years,

không chỉ trong một vài thế kỉ mà trong hàng triệu năm lịch sử,

and not just on earth but throughout much of this amazing cosmos.

không chỉ trên trái đất này mà còn rộng mở cho cả vũ trụ vĩ đại này.

I think of the earliest life as "Life 1.0"

Tôi nghĩ cuộc sống sơ khai nhất là "Cuộc sống phiên bản 1.0"

because it was really dumb,

bởi vì nó không có trí tuệ,

like bacteria, unable to learn anything during its lifetime.

như vi khuẩn, không có khả năng tiếp thu được cái gì trong suốt quãng đời của nó.

I think of us humans as "Life 2.0" because we can learn,

Còn loài người là "Cuộc sống bản 2.0" vì chúng ta có thể học,

which we in nerdy, geek speak,

giao tiếp,

might think of as installing new software into our brains,

lại còn nghĩ tới việc cài một phần mềm vào trong não,

like languages and job skills.

để biết thêm ngôn ngữ hoặc kỹ năng khác.

"Life 3.0," which can design not only its software but also its hardware

"Cuộc sống bản 3.0", không những thiết kế được 'phần mềm' mà còn 'phần cứng' của nó

of course doesn't exist yet.

chắc chắn là chưa xuất hiện.

But perhaps our technology has already made us "Life 2.1,"

Nhưng có lẽ, với nền công nghệ hiện tại, ta đã nâng cấp lên phiên bản 2.1,

with our artificial knees, pacemakers and cochlear implants.

đầu gối nhân tạo, máy điều hòa nhịp tim và cả những con ốc điện tử.

So let's take a closer look at our relationship with technology, OK?

Vì vậy, hãy nhìn kỹ hơn sự liên kết của chúng ta với nền công nghệ,

As an example,

Ví dụ,

the Apollo 11 moon mission was both successful and inspiring,

tàu vũ trụ Apollo 11 đã khám phá mặt trăng rất thành công và truyền cảm hứng,

showing that when we humans use technology wisely,

chứng tỏ rằng khi ta biết cách sử dụng công nghệ khéo léo,

we can accomplish things that our ancestors could only dream of.

chúng ta có thể đạt tới những điều mà tổ tiên chỉ biết mơ tới.

But there's an even more inspiring journey

Nhưng còn một chuyến hành trình vĩ đại hơn

propelled by something more powerful than rocket engines,

được phóng lên bởi cái gì đó mạnh hơn cả hệ thống tên lửa,

nơi mà hành khách không chỉ có duy nhất 3 phi hành gia

where the passengers aren't just three astronauts

but all of humanity.

mà là cả một nhân loại.

Let's talk about our collective journey into the future

Hãy nói về chuyến hành trình của chúng ta trong tương lai

with artificial intelligence.

với trí tuệ nhân tạo.

My friend Jaan Tallinn likes to point out that just as with rocketry,

Bạn của tôi, Jaan Tallinn chỉ ra rằng nếu chỉ với mỗi nền công nghệ tên lửa,

it's not enough to make our technology powerful.

thì có lẽ khó để biến công nghệ trở nên mạnh mẽ hơn.

We also have to figure out, if we're going to be really ambitious,

Chúng ta cũng sẽ phải tìm ra, nếu chúng ta thực sự khát vọng,

how to steer it

cách để điều khiển nó

and where we want to go with it.

và ta muốn đi tới đâu cùng nó.

So let's talk about all three for artificial intelligence:

Hãy nói về 3 điều của trí tuệ nhân tạo:

the power, the steering and the destination.

sức mạnh, sự chỉ đạo và đích đến.

Let's start with the power.

Cùng bắt đầu với sức mạnh.

I define intelligence very inclusively --

Tôi định nghĩ trí tuệ rất là bao hàm--

simply as our ability to accomplish complex goals,

đơn giản như khả năng hoàn thành các mục tiêu phức tạp của chúng ta,

because I want to include both biological and artificial intelligence.

vì tôi muốn bao gồm cả trí tuệ sinh học và trí tuệ nhân tạo.

And I want to avoid the silly carbon-chauvinism idea

Tôi muốn tránh cái ý tưởng ngớ ngẩn về sự tôn vinh carbon

that you can only be smart if you're made of meat.

do đó bạn chỉ có thể thông minh khi bạn được tạo nên từ thịt.

It's really amazing how the power of AI has grown recently.

Thật tuyệt vời khi nói về AI đã phát triển như thế nào trong thời gian gần đây.

Just think about it.

Cùng suy nghĩ về nó.

Not long ago, robots couldn't walk.

Cách đây không lâu, robots không thể đi được.

Now, they can do backflips.

Còn bây giờ, nó có thể nhào lộn.

Not long ago,

Cách đây không lâu,

we didn't have self-driving cars.

chúng ta chưa hề có xe ô tô tự động.

Now, we have self-flying rockets.

và bây giờ, ta đã có tên lửa tự động.

Not long ago,

Cách đây không lâu,

AI couldn't do face recognition.

AI không thể nhận diện được mặt con người.

Now, AI can generate fake faces

Bây giờ, AI có thể tạo ra khuôn mặt giả

and simulate your face saying stuff that you never said.

và mô phỏng khuôn mặt của bạn nói những điều mà bạn chưa bao giờ nói.

Not long ago,

Cách đây không lâu,

AI couldn't beat us at the game of Go.

AI không thể thắng ta trong trò cờ vây.

Then, Google DeepMind's AlphaZero AI took 3,000 years of human Go games

Và rồi, AI của Google DeepMind's AlphaZero lấy trọn 3000 năm luyện tập của con người

and Go wisdom,

và cả những chiến thuật,

ignored it all and became the world's best player by just playing against itself.

bỏ qua những điều đó, nó trở thành đối thủ nặng ký nhất kể cả khi chơi với chính nó.

And the most impressive feat here wasn't that it crushed human gamers,

Điều ấn tượng nhất không phải là nó đã đánh bại người chơi như thế nào,

but that it crushed human AI researchers

mà là nó đã hạ gục cả những người nghiên cứu ra nó

who had spent decades handcrafting game-playing software.

người đã dành hàng chục năm để tạo ra những phần mềm chơi trò chơi.

Và AlphaZero hạ gục các nhà nghiên cứu không chỉ mỗi cờ vây mà còn cả cờ vua,

And AlphaZero crushed human AI researchers not just in Go but even at chess,

which we have been working on since 1950.

bộ môn mà ta đã thành thạo từ năm 1950.

So all this amazing recent progress in AI really begs the question:

Chính những thành tựu tuyệt vời gần đây của AI, đã dấy lên một câu hỏi:

How far will it go?

Nó sẽ có thể tiến bộ tới đâu?

I like to think about this question

Tôi thích nghĩ tới câu hỏi này

in terms of this abstract landscape of tasks,

bằng các khái niệm trừu tượng của nhiệm vụ,

where the elevation represents how hard it is for AI to do each task

nơi mà các cấp bậc thể hiện sự khó khăn để AI hoàn thành một nhiệm vụ

at human level,

ở cấp độ con người,

and the sea level represents what AI can do today.

và mực nước biển thể hiện những gì mà AI có thể làm ngày nay.

Mực nước biển tăng lên chỉ sự cải thiện của AI,

The sea level is rising as AI improves,

so there's a kind of global warming going on here in the task landscape.

vì vậy hiện tượng nóng lên toàn cầu xảy ra trong cảnh quan nhiệm vụ.

And the obvious takeaway is to avoid careers at the waterfront --

Và điều hiển nhiên là tránh những công việc tại bờ sông --

(Laughter)

(Cười)

which will soon be automated and disrupted.

nơi mà nó sẽ bị phá huỷ sớm.

But there's a much bigger question as well.

Nhưng còn có một câu hỏi lớn hơn thế nữa

How high will the water end up rising?

Mực nước sẽ dâng cao tới đâu?

Will it eventually rise to flood everything,

Liệu nó sẽ nhấn chìm mọi thứ,

matching human intelligence at all tasks.

đấu trí với con người ở mọi lĩnh vực.

This is the definition of artificial general intelligence --

Đây là định nghĩa của trí tuệ nhân tạo --

AGI,

AGI,

which has been the holy grail of AI research since its inception.

giao thức mạng thần thánh của AI từ điểm khởi đầu.

By this definition, people who say,

Với định nghĩa này, những người nói

"Ah, there will always be jobs that humans can do better than machines,"

"À, chắc chắn sẽ có việc mà con người làm tốt hơn máy móc",

are simply saying that we'll never get AGI.

đơn giản nói rằng chúng ta sẽ không bao giờ có được AGI.

Sure, we might still choose to have some human jobs

Chắc chắn, chúng ta vẫn có thể chọn những công việc của con người

or to give humans income and purpose with our jobs,

hoặc là đưa thu nhập và mục tiêu với công việc của chúng ta,

but AGI will in any case transform life as we know it

nhưng AGI trong mọi trường hợp sẽ chuyển đổi cuộc sống như ta đã biết

with humans no longer being the most intelligent.

cái lúc mà con người đã không còn thông minh nhất nữa.

Now, if the water level does reach AGI,

Bây giờ, nếu mực nước chạm tới AGI,

then further AI progress will be driven mainly not by humans but by AI,

thì sau này, AI sẽ được vận hành bởi chính nó thay vì con người,

which means that there's a possibility

nghĩa là có khả năng rằng

that further AI progress could be way faster

các AI trong tương lai sẽ còn phát triển nhanh hơn

than the typical human research and development timescale of years,

cả những nghiên cứu điển hình mà loài người đã phát triển bao lâu nay,

raising the controversial possibility of an intelligence explosion

dấy lên tranh cãi về sự bùng nổ của trí thông minh

where recursively self-improving AI

nơi mà quá trình tự hoàn thiện của AI

rapidly leaves human intelligence far behind,

đã nhanh chóng bỏ xa trí thông minh của con người ở phía sau,

creating what's known as superintelligence.

được biết đến như siêu thông minh.

Alright, reality check:

Được rồi, cùng kiểm chứng trong thực tế:

Are we going to get AGI any time soon?

Liệu chúng ta sẽ đạt được AGI sớm?

Some famous AI researchers, like Rodney Brooks,

Một số nhà nghiên cứu về AI nổi tiếng, như Rodney Brooks,

think it won't happen for hundreds of years.

nghĩ điều đó sẽ không xảy ra trong hàng trăm năm nữa.

But others, like Google DeepMind founder Demis Hassabis,

Thế nhưng, nhà sáng lập Google DeedMind Demis Hassabis,

are more optimistic

lại lạc quan hơn

and are working to try to make it happen much sooner.

và đang làm việc để rút ngắn khoảng thời gian này.

And recent surveys have shown that most AI researchers

Các khảo sát gần đây cho thấy rằng đa số các nhà nghiên cứu AI

actually share Demis's optimism,

thực sự đồng ý với ý tưởng lạc quan của Demis,

expecting that we will get AGI within decades,

hy vọng rằng chúng ta có thể đạt đến AGI chỉ trong vòng vài chục năm tới,

so within the lifetime of many of us,

vì vậy trong cuộc đời của chúng ta,

which begs the question -- and then what?

sẽ hỏi rằng-- sau đó sẽ như thế nào?

What do we want the role of humans to be

Ta muốn vai trò của loài người sẽ là gì

if machines can do everything better and cheaper than us?

nếu máy móc lại có thể làm mọi thứ tốt và rẻ hơn chúng ta?

Với cách nhìn nhận này, chúng ta đối mặt với một lựa chọn.

The way I see it, we face a choice.

One option is to be complacent.

Một lựa chọn là tự mãn.

We can say, "Oh, let's just build machines that can do everything we can do

Ta có thể nói rằng, "Ok, hãy xây những máy móc có thể làm mọi thứ chúng ta làm

and not worry about the consequences.

và không cần lo về hậu quả của nó.

Come on, if we build technology that makes all humans obsolete,

Nào, nếu ta xây dựng nền công nghệ khiến loài người trở nên lỗi thời,

what could possibly go wrong?"

thì hình như có điều gì đó hơi sai ở đây?"

(Laughter)

(Cười)

But I think that would be embarrassingly lame.

Tôi nghĩ điều đó sẽ rất xấu hổ.

I think we should be more ambitious -- in the spirit of TED.

Tôi nghĩ chúng ta nên tham vọng hơn nữa -- theo tinh thần của TED.

Let's envision a truly inspiring high-tech future

Hãy thử hình dung một cảm hứng thực sự trong ngành công nghệ cao tương lai

and try to steer towards it.

và cố gắng định hướng nó.

This brings us to the second part of our rocket metaphor: the steering.

Điều này đưa chúng ta tới phép ẩn dụ về tên lửa thứ hai: sự định hướng.

We're making AI more powerful,

Ta làm cho AI ngày càng hùng mạnh hơn,

but how can we steer towards a future

nhưng làm sao chúng ta có thể định hướng được tương lai

where AI helps humanity flourish rather than flounder?

khi mà AI giúp loài người hưng thịnh thay vì chật vật khổ sở?

To help with this,

Để giải quyết vấn đề này,

tôi đã đồng sáng lập Viện Cuộc sống Tương lai.

I cofounded the Future of Life Institute.

Đó là một tổ chức phi lợi nhuận nhỏ áp dụng công nghệ có ích,

It's a small nonprofit promoting beneficial technology use,

and our goal is simply for the future of life to exist

mục tiêu của chúng tôi chỉ đơn giản là để hiện thực hóa cuộc sống tương lai

and to be as inspiring as possible.

và trở thành nguồn cảm hứng.

You know, I love technology.

Các bạn biết đấy, tôi yêu thích công nghệ.

Technology is why today is better than the Stone Age.

Công nghệ là lý do cuộc sống ngày nay vượt xa Thời Đồ đá.

And I'm optimistic that we can create a really inspiring high-tech future ...

Và tôi lạc quan rằng chúng ta có thể tạo ra cảm hứng cho công nghệ cao tương lai...

if -- and this is a big if --

nếu -- và đây là một cái nếu quan trọng --

if we win the wisdom race --

nếu ta chiến thắng trong cuộc đua về sự hiểu biết --

the race between the growing power of our technology

cuộc đua giữa sự phát triển công nghệ của chúng ta

and the growing wisdom with which we manage it.

và sự hiểu biết nằm trong sự kiểm soát của chúng ta.

But this is going to require a change of strategy

Nhưng điều này đòi hỏi sự thay đổi trong phương pháp

because our old strategy has been learning from mistakes.

bởi các phương pháp cũ được học hỏi từ những sai lầm.

We invented fire,

Chúng ta đã phát minh ra lửa,

screwed up a bunch of times --

lửa đã tàn phá nhiều lần --

invented the fire extinguisher.

từ đó phát minh ra bình cứu hỏa.

(Laughter)

(Cười)

We invented the car, screwed up a bunch of times --

Chúng ta đã phát minh ra xe hơi, gây ra sự tàn phá nhiều lần --

invented the traffic light, the seat belt and the airbag,

từ đó phát minh ra đèn giao thông, dây an toàn và túi khí

but with more powerful technology like nuclear weapons and AGI,

nhưng với công nghệ càng mạnh mẽ hơn như vũ khí hạt nhân và AGI,

learning from mistakes is a lousy strategy,

học hỏi từ những sai lầm đó là một phương pháp tồi,

don't you think?

bạn có nghĩ thế không?

(Laughter)

(Cười)

It's much better to be proactive rather than reactive;

Sự chủ động luôn tốt hơn nhiều so với sự bị động;

plan ahead and get things right the first time

lên kế hoạch trước và làm đúng ngay từ đầu

because that might be the only time we'll get.

bởi vì đó có thể là cơ hội duy nhất chúng ta có.

But it is funny because sometimes people tell me,

Điều đó cũng khá vui vì đôi khi mọi người bảo tôi rằng,

"Max, shhh, don't talk like that.

"Max, suỵt, đừng nói như vậy.

That's Luddite scaremongering."

Như kiểu Luddite đang phao tin vậy."

Nhưng đó không phải là tin đồn nhảm nhí.

But it's not scaremongering.

It's what we at MIT call safety engineering.

Đây là thứ chúng tôi gọi là an toàn kỹ thuật tại MIT.

Think about it:

Hãy nghĩ về điều này:

before NASA launched the Apollo 11 mission,

trước khi NASA phóng tàu Apollo 11,

they systematically thought through everything that could go wrong

họ đã suy nghĩ một cách có hệ thống rằng mọi thứ có thể sai

when you put people on top of explosive fuel tanks

khi bạn đặt con người trên thùng chứa nhiên liệu nổ

and launch them somewhere where no one could help them.

và đưa họ tới đâu đó, nơi không ai có thể giúp họ.

And there was a lot that could go wrong.

Và có hàng tá điều có thể sai lầm.

Was that scaremongering?

Đó có phải là tin đồn nhảm không?

No.

Không.

That's was precisely the safety engineering

Đó chính xác là kỹ thuật an toàn

that ensured the success of the mission,

nhằm đảm bảo nhiệm vụ thành công,

and that is precisely the strategy I think we should take with AGI.

và đó chính xác là mục đích mà tôi nghĩ ta nên sử dụng AGI.

Nghĩ thấu "điều gì có thể sai lệch" để chắc chắn nó đi đúng hướng.

Think through what can go wrong to make sure it goes right.

So in this spirit, we've organized conferences,

Nên với tinh thần này, chúng tôi tổ chức các hội thảo,

bringing together leading AI researchers and other thinkers

kết nối các nhà nghiên cứu AI và học giả hàng đầu

to discuss how to grow this wisdom we need to keep AI beneficial.

để thảo luận cách phát triển sự thông minh này ta cần giữ cho AI có ích.

Our last conference was in Asilomar, California last year

Hội thảo gần đây nhất của chúng tôi ở Asilomar, California năm ngoái

and produced this list of 23 principles

đã đưa ra danh sách này với 23 quy ước

which have since been signed by over 1,000 AI researchers

được kí tên bởi hơn 1000 nhà nghiên cứu AI

và các nhà lãnh đạo kinh tế chủ chốt,

and key industry leaders,

and I want to tell you about three of these principles.

Tôi muốn nói với bạn về 3 trong số các nguyên tắc này.

One is that we should avoid an arms race and lethal autonomous weapons.

Một là chúng ta nên tránh chạy đua vũ trang và vũ khí tự hủy diệt.

Ý tưởng là sản phẩm khoa học nào cũng được sử dụng như cách mới để giúp đỡ con người

The idea here is that any science can be used for new ways of helping people

or new ways of harming people.

hoặc là làm hại con người.

For example, biology and chemistry are much more likely to be used

Ví dụ, sinh học và hóa học đang được sử dụng nhiều

for new medicines or new cures than for new ways of killing people,

cho nghiên cứu thuốc mới, cách chữa bệnh mới hơn là giết người.

because biologists and chemists pushed hard --

vì các nhà sinh hóa học đã làm việc tích cực

and successfully --

và thành công

for bans on biological and chemical weapons.

khi cấm các loại vũ khí sinh học và hóa học.

And in the same spirit,

Và trên tinh thần này,

most AI researchers want to stigmatize and ban lethal autonomous weapons.

đa số các nhà nghiên cứu AI muốn lên án và cấm các vũ khí tự hủy diệt.

Another Asilomar AI principle

Một nguyên tắc khác tại Asilomar AI

is that we should mitigate AI-fueled income inequality.

là chúng ta nên giảm tối thiểu chi phí nhiên liệu phát sinh cho AI.

I think that if we can grow the economic pie dramatically with AI

Tôi nghĩ nếu ta có thể tăng trưởng chiếc bánh kinh tế mạnh mẽ bằng AI

and we still can't figure out how to divide this pie

và ta vẫn không hình dung ra cách chia cái bánh này

so that everyone is better off,

thì mọi người tốt hơn là dừng lại,

then shame on us.

đáng tiếc cho chúng ta.

(Applause)

(Vỗ tay)

Alright, now raise your hand if your computer has ever crashed.

Bây giờ, bạn hãy giơ tay lên nếu máy tính bạn đã từng bị phá tan tành.

(Laughter)

(Cười)

Wow, that's a lot of hands.

Chà, có nhiều cánh tay quá.

Well, then you'll appreciate this principle

Và, sau đó, bạn sẽ đánh giá cao nguyên tắc này

that we should invest much more in AI safety research,

rằng ta nên đầu tư nhiều hơn nữa vào việc nghiên cứu an toàn AI,

because as we put AI in charge of even more decisions and infrastructure,

Vì khi ta giao cho AI phụ trách làm ra nhiều quyết định và cơ sở hạ tầng hơn,

we need to figure out how to transform today's buggy and hackable computers

ta cần phải tìm ra cách chuyển các máy tính bị lỗi và có khả năng bị hack

into robust AI systems that we can really trust,

thành các hệ thống Robot AI mà ta có thể thực sự tin tưởng,

because otherwise,

Nếu không thì,

all this awesome new technology can malfunction and harm us,

mọi công nghệ mới tuyệt vời có thể trục trặc và gây hại cho ta,

or get hacked and be turned against us.

hoặc bị hack và chống lại chúng ta.

And this AI safety work has to include work on AI value alignment,

Và việc an toàn hoá AI này phải bao gồm việc liên kết giá trị AI,

because the real threat from AGI isn't malice,

vì đe dọa thực sự từ AI không hề ác ý,

như trong những bộ phim ngớ ngẩn của Hollywood,

like in silly Hollywood movies,

but competence --

Tuy nhiên, năng lực --

AGI accomplishing goals that just aren't aligned with ours.

Hoàn thành mục tiêu AGI không phải là con đường thẳng với mục tiêu của chúng ta.

For example, when we humans drove the West African black rhino extinct,

Ví dụ, khi con người tới, tê giác đen Tây Phi bị tuyệt chủng,

we didn't do it because we were a bunch of evil rhinoceros haters, did we?

chúng ta không làm điều đó vì không phải tất cả đều căm thù tê giác, phải không ạ?

We did it because we were smarter than them

Chúng ta làm vì chúng ta thông minh hơn chúng

and our goals weren't aligned with theirs.

và mục tiêu của chúng ta không như của chúng.

But AGI is by definition smarter than us,

Song AGI, theo định nghĩa là nó thông minh hơn chúng ta,

so to make sure that we don't put ourselves in the position of those rhinos

nên để đảm bảo chúng ta không đẩy mình vào vị trí của những con tê giác.

if we create AGI,

Nếu ta tạo ra AGI,

we need to figure out how to make machines understand our goals,

ta cần phải biết cách làm cho máy móc hiểu được mục tiêu của chúng ta,

adopt our goals and retain our goals.

thích nghi và duy trì mục tiêu của chúng ta.

Và toàn bộ mục tiêu nên như thế này, bằng mọi giá phải không ạ?

And whose goals should these be, anyway?

Which goals should they be?

Chúng nên có những mục tiêu nào?

This brings us to the third part of our rocket metaphor: the destination.

Điều này đưa ta tới phần thứ 3 của phép ẩn ý tên lửa: đích đến.

We're making AI more powerful,

Chúng ta đang làm cho AI mạnh mẽ hơn,

trying to figure out how to steer it,

nỗ lực tìm ra cách điều khiển nó,

but where do we want to go with it?

nhưng chúng ta muốn đi cùng nó tới đâu?

This is the elephant in the room that almost nobody talks about --

Điều này giống như con voi trong căn phòng chẳng có người để ý tới nó,

not even here at TED --

thậm chí là ngay đây, tại TED

because we're so fixated on short-term AI challenges.

vì chúng ta quá để tâm vào các thử thách AI ngắn hạn.

Look, our species is trying to build AGI,

Nhìn xem, loài người đang nỗ lực xây dựng AGI,

motivated by curiosity and economics,

bởi sự tò mò và nền kinh tế thúc đẩy.

but what sort of future society are we hoping for if we succeed?

Nhưng xã hội mà ta mong đợi trong tương lai sẽ ra sao nếu ta thành công?

Chúng tôi đã làm một cuộc thăm dò ý kiến về điều này gần đây,

We did an opinion poll on this recently,

and I was struck to see

tôi rất ngạc nhiên khi

that most people actually want us to build superintelligence:

phần lớn mọi người thực sự muốn chúng tôi tạo ra siêu AI:

AI that's vastly smarter than us in all ways.

Cực kỳ thông minh hơn con người về mọi thứ.

What there was the greatest agreement on was that we should be ambitious

Thỏa thuận lớn nhất đó là chúng ta nên tham vọng hơn

and help life spread into the cosmos,

và giúp cho sự sống rộng mở hơn trong vũ trụ,

but there was much less agreement about who or what should be in charge.

nhưng vẫn có sự không nhất quán về việc ai hoặc cái gì sẽ thực hiện trách nhiệm này.

And I was actually quite amused

Tôi đã thực sự rất vui thích

to see that there's some some people who want it to be just machines.

khi thấy một số người muốn được như những cỗ máy.

(Laughter)

(Cười)

And there was total disagreement about what the role of humans should be,

Và toàn bộ không nhất trí về vấn đề đâu là vai trò con người nên có

even at the most basic level,

thậm chí ở mức cơ bản nhất.

so let's take a closer look at possible futures

Hãy nhìn gần hơn về một tương lai

that we might choose to steer toward, alright?

mà chúng ta có thể chọn để hướng tới, được không?

So don't get me wrong here.

Bạn đừng hiểu sai ý tôi.

I'm not talking about space travel,

Tôi không nói về du hành xuyên không gian,

merely about humanity's metaphorical journey into the future.

chỉ đơn thuần là về hành trình ẩn ý của loài người tới tương lai.

So one option that some of my AI colleagues like

Một lựa chọn mà một số đồng nghiệp AI của tôi ưa thích

is to build superintelligence and keep it under human control,

là xây dựng siêu AI, và giữ nó trong sự kiểm soát của con người,

like an enslaved god,

như là nô lệ của Chúa,

disconnected from the internet

ngắt kết nối với internet

and used to create unimaginable technology and wealth

và được sử dụng để tạo ra công nghệ phi thường và của cải

for whoever controls it.

cho bất cứ người nào kiểm soát nó.

But Lord Acton warned us

Song Lord Acton đã cảnh báo chúng ta

that power corrupts, and absolute power corrupts absolutely,

rằng quyền lực, và quyền lực tuyệt đối dẫn đến hỗn loạn tuyệt đối,

so you might worry that maybe we humans just aren't smart enough,

nên bạn có thể lo lắng rằng liệu con người không đủ thông minh

or wise enough rather,

hoặc không đủ khôn ngoan hơn,

to handle this much power.

để nắm giữ quyền lực này.

Also, aside from any moral qualms you might have

Ngoài những nỗi e sợ về đạo đức bạn có thể có,

about enslaving superior minds,

về sự nô dịch cho siêu trí tuệ,

you might worry that maybe the superintelligence could outsmart us,

Bạn có thể bất an về việc AI có thể thông minh hơn chúng ta,

break out and take over.

thoát khỏi và chiếm quyền kiểm soát.

But I also have colleagues who are fine with AI taking over

Nhưng tôi cũng có những đồng nghiệp lạc quan về việc AI sẽ chiếm giữ

and even causing human extinction,

và thậm chí là nguyên nhân tuyệt chủng con người,

as long as we feel the the AIs are our worthy descendants,

khi chúng ta cảm thấy AI là những hậu duệ xứng đáng,

like our children.

như con cháu chúng ta.

But how would we know that the AIs have adopted our best values

Nhưng làm sao ta biết được AI tiếp nhận những giá trị tốt nhất của con người,

and aren't just unconscious zombies tricking us into anthropomorphizing them?

và không phải là hình nộm lừa chúng ta qua nhân cách hóa?

Also, shouldn't those people who don't want human extinction

Liệu những ai không muốn con người tuyệt chủng,

have a say in the matter, too?

lên tiếng rằng đó cũng là nguyên nhân?

Now, if you didn't like either of those two high-tech options,

Giờ đây, nếu bạn đều không thích cả hai lựa chọn công nghệ này,

it's important to remember that low-tech is suicide

thì điều quan trọng cần nhớ là công nghệ thấp là tự sát

from a cosmic perspective,

từ góc nhìn tương lai,

because if we don't go far beyond today's technology,

vì nếu chúng ta không vượt xa công nghệ hiện có,

the question isn't whether humanity is going to go extinct,

câu hỏi sẽ không phải là liệu nhân loại sắp bị tuyệt chủng,

merely whether we're going to get taken out

mà sẽ là chúng ta sẽ bị kiểm soát

by the next killer asteroid, supervolcano

bởi hành tinh hủy diệt tiếp theo, siêu núi lửa

or some other problem that better technology could have solved.

hoặc vài vấn đề khác mà đáng ra công nghệ tốt hơn có thể giải quyết.

So, how about having our cake and eating it ...

Cho nên, việc có cái bánh và ăn nó...

with AGI that's not enslaved

cùng với AGI không phải là sự nô dịch

nhưng lại đối xử tốt với chúng ta vì giá trị của chúng song hành cùng chúng ta?

but treats us well because its values are aligned with ours?

This is the gist of what Eliezer Yudkowsky has called "friendly AI,"

Đây là nguyên nhân chính mà Cliezer Yudkowsky đã gọi là "AI thân thiện"

and if we can do this, it could be awesome.

Nếu ta có thể làm được điều này, đó sẽ rất tuyệt.

It could not only eliminate negative experiences like disease, poverty,

AI không thể loại bỏ những trải nghiệm tiêu cực như bệnh tật, đói nghèo,

crime and other suffering,

tội phạm và những khổ đau khác.

but it could also give us the freedom to choose

Nhưng nó có thể cho chúng ta sự tự do lựa chọn

from a fantastic new diversity of positive experiences --

từ sự đa dạng, mới mẻ tuyệt vời của những trải nghiệm tích cực --

basically making us the masters of our own destiny.

dựa trên việc để chúng ta làm chủ số phận của chính mình.

So in summary,

Tóm lại,

our situation with technology is complicated,

vị thế của chúng ta với công nghệ là phức tạp,

but the big picture is rather simple.

nhưng nhìn chung thì khá đơn giản.

Most AI researchers expect AGI within decades,

Đa số các nhà nghiên cứu AI chờ đợi AGI qua hàng thập kỷ,

and if we just bumble into this unprepared,

và nếu chúng ta chỉ tự mãn mà không chuẩn bị,

it will probably be the biggest mistake in human history --

đó sẽ có thể là sai lầm lớn nhất trong lịch sử loài người.

let's face it.

Hãy đối mặt với nó.

It could enable brutal, global dictatorship

Nó có thể sẽ tàn bạo, độc quyền toàn cầu,

with unprecedented inequality, surveillance and suffering,

bằng sự bất bình đẳng không thể dự đoán, bị quản đốc và tổn thương,

and maybe even human extinction.

và thậm chí có thể là sự tuyệt chủng loài người.

But if we steer carefully,

Nhưng nếu chúng ta điều hướng cẩn thận,

we could end up in a fantastic future where everybody's better off:

ta có thể đúc kết trong một tương lai sáng lạng khi mọi người đều tốt lên:

the poor are richer, the rich are richer,

người nghèo sẽ giàu có lên, người giàu thì giàu hơn,

everybody is healthy and free to live out their dreams.

mọi người đều khỏe mạnh và tự do sống với ước mơ của mình.

Now, hang on.

Bây giờ, còn nữa.

Do you folks want the future that's politically right or left?

Các bạn muốn tương lai là đúng hay sai?

Do you want the pious society with strict moral rules,

Bạn có muốn một xã hội yên bình với lề lối đạo đức nghiêm trị,

hay là một chủ nghĩa khoái lạc - tự do cho tất cả,

or do you an hedonistic free-for-all,

more like Burning Man 24/7?

như Burning Man 24/7?

Bạn mong có những bờ biển cát trắng, rừng xanh và hồ trong veo,

Do you want beautiful beaches, forests and lakes,

or would you prefer to rearrange some of those atoms with the computers,

hay bạn sẽ thích sắp xếp lại các nguyên tử bằng máy tính,

enabling virtual experiences?

có khả năng trải nghiệm thực tế ảo?

With friendly AI, we could simply build all of these societies

Với AI thân thiện, chúng ta đơn giản có thể xây dựng một xã hội như thế

and give people the freedom to choose which one they want to live in

và cho mọi người sự tự do lựa chọn cuộc sống

because we would no longer be limited by our intelligence,

vì chúng ta sẽ không còn bị giới hạn bởi trí thông minh,

merely by the laws of physics.

chỉ vì luật pháp hay vật lý học.

So the resources and space for this would be astronomical --

Và nguồn nguyên liệu và không gian có thể

vô cùng to lớn.

literally.

So here's our choice.

Và đó là lựa chọn của chúng ta.

We can either be complacent about our future,

Chúng ta có thể bằng lòng về tương lai,

taking as an article of blind faith

và kiểm soát như một bài báo với đức tin mù quáng

that any new technology is guaranteed to be beneficial,

nói rằng công nghệ mới nào cũng bảo đảm mang lại lợi ích,

and just repeat that to ourselves as a mantra over and over and over again

và chỉ là sự lặp lại của chính chúng ta.

as we drift like a rudderless ship towards our own obsolescence.

khi ta buông trôi như con tàu mất lái về sự lỗi thời của chính mình.

Or we can be ambitious --

Hoặc ta có thể tham vọng về

thinking hard about how to steer our technology

suy nghĩ làm cách nào để kiểm soát và điều hướng công nghệ

and where we want to go with it

và cùng công nghệ tiến xa tới đâu

to create the age of amazement.

để tạo ra thời kỳ đáng kinh ngạc.

We're all here to celebrate the age of amazement,

Tất cả chúng ta ở đây để ăn mừng nó,

and I feel that its essence should lie in becoming not overpowered

và tôi cảm thấy bản chất của nó nên nằm ở việc không bị áp đảo

but empowered by our technology.

mà là sự trao quyền bằng công nghệ.

Thank you.

Cảm ơn các bạn!

(Applause)

(Vỗ tay)