Don't fear superintelligent AI | Grady Booch

Translator: Thuy Nguyen Thanh Reviewer: Vy Chu

When I was a kid, I was the quintessential nerd.

Khi còn là đứa trẻ, tôi là con mọt sách chính hiệu.

I think some of you were, too.

Tôi nghĩ ở đây cũng có các bạn như vậy.

(Laughter)

(Cười)

And you, sir, who laughed the loudest, you probably still are.

Và bạn, bạn cười to nhất đó, chắc đúng bạn rồi.

(Laughter)

(Cười)

I grew up in a small town in the dusty plains of north Texas,

Tôi lớn lên ở một thị trấn nhỏ trong vùng đồng bằng bụi bặm bắc Texas,

the son of a sheriff who was the son of a pastor.

ba tôi là cảnh sát trưởng và ông nội tôi là một mục sư.

Getting into trouble was not an option.

Gây ra rắc rối là không được phép.

And so I started reading calculus books for fun.

Và tôi bắt đầu đọc các sách số học để cho vui.

(Laughter)

(Cười)

You did, too.

Bạn cũng vậy chứ.

That led me to building a laser and a computer and model rockets,

Nó đã đưa tôi đến việc tạo ra thiết bị laser, máy tính và các tên lửa mô hình,

and that led me to making rocket fuel in my bedroom.

và đã dẫn dắt tôi tạo ra nhiên liệu tên lửa trong phòng ngủ.

Now, in scientific terms,

Theo thuật ngữ khoa học mà nói,

we call this a very bad idea.

chúng ta gọi nó là một ý tưởng sai lầm.

(Laughter)

(Cười)

Around that same time,

Vào cùng khoảng thời gian đó,

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

Ra mắt bộ phim của Stanley Kubrick "2001: A Space Odyssey",

and my life was forever changed.

và cuộc đời tôi đã thay đổi từ đó.

I loved everything about that movie,

Tôi yêu mọi thứ của bộ phim đó,

especially the HAL 9000.

đặc biệt là nhân vật HAL 9000.

Now, HAL was a sentient computer

HAL là một máy tính có tri giác

designed to guide the Discovery spacecraft

được thiết kế để hướng dẫn phi thuyền Discovery

from the Earth to Jupiter.

từ Trái Đất tới sao Mộc.

HAL was also a flawed character,

HAL cũng là một nhân vật có khiếm khuyết,

for in the end he chose to value the mission over human life.

vì cuối cùng anh ấy đã lựa chọn đề cao nhiệm vụ hơn sự sống con người.

Now, HAL was a fictional character,

HAL là một nhân vật viễn tưởng

but nonetheless he speaks to our fears,

nhưng anh ta vẫn nói lên nỗi sợ hãi của chúng ta

our fears of being subjugated

nỗi sợ hãi của việc bị thống trị

by some unfeeling, artificial intelligence

bởi trí tuệ nhân tạo vô cảm

who is indifferent to our humanity.

không quan tâm đến loài người chúng ta.

I believe that such fears are unfounded.

Tôi tin rằng những nỗi sợ hãi như vậy là vô căn cứ.

Indeed, we stand at a remarkable time

Thật vậy, chúng ta đang ở một thời điểm đáng chú ý

in human history,

trong lịch sử loài người,

where, driven by refusal to accept the limits of our bodies and our minds,

nó được thúc đẩy nhờ sự bất mãn với các giới hạn của cơ thể và trí tuệ chúng ta,

we are building machines

chúng ta đang tạo ra các cỗ máy

of exquisite, beautiful complexity and grace

tinh vi, phức tạp, xinh đẹp và duyên dáng

that will extend the human experience

thứ sẽ mở rộng trải nghiệm của con người

theo những cách vượt xa tưởng tượng.

in ways beyond our imagining.

After a career that led me from the Air Force Academy

Sau quá trinh công tác từ Học viện không quân

to Space Command to now,

đến công tác tại Không quân đến nay,

I became a systems engineer,

tôi đã trở thành một kỹ sư hệ thống

and recently I was drawn into an engineering problem

và gần đây tôi được tham gia vào một vấn đề kỹ thuật

associated with NASA's mission to Mars.

hỗ trợ cho nhiệm vụ đến sao Hỏa của NASA.

Now, in space flights to the Moon,

Trong các chuyến bay đến Mặt trăng,

we can rely upon mission control in Houston

chúng ta có thể dựa trên hệ thống điều khiển nhiệm vụ ở Houston

to watch over all aspects of a flight.

để quan sát mọi khía cạnh của chuyến bay.

However, Mars is 200 times further away,

Tuy nhiên, sao Hỏa thì xa hơn đến 200 lần

and as a result it takes on average 13 minutes

và như vậy trung bình phải cần 13 phút

for a signal to travel from the Earth to Mars.

để một tín hiệu đi từ Trái đất đến sao Hỏa.

If there's trouble, there's not enough time.

Nếu có trục trặc, sẽ không đủ thời gian.

And so a reasonable engineering solution

Và do vậy một giải pháp kỹ thuật hợp lý

calls for us to put mission control

đặt ra là cần phải đặt thiết bị điều khiển nhiệm vụ

inside the walls of the Orion spacecraft.

ngay bên trong phi thuyền Orion

Another fascinating idea in the mission profile

Một ý tưởng hấp dẫn khác trong hồ sơ nhiệm vụ

places humanoid robots on the surface of Mars

là đưa các robot giống người lên bề mặt sao Hỏa

before the humans themselves arrive,

trước khi con người đặt chân đến,

first to build facilities

đầu tiên để xây dựng cơ sở hạ tầng

and later to serve as collaborative members of the science team.

và sau đó để phục vụ các thành viên cộng tác của đội ngũ khoa học.

Now, as I looked at this from an engineering perspective,

Khi tôi xem xét nó dưới góc độ kỹ thuật,

it became very clear to me that what I needed to architect

thì thấy rõ ràng cái mà chúng ta cần tạo ra

was a smart, collaborative,

là một trí tuệ nhân tạo hiểu biết xã hội

socially intelligent artificial intelligence.

thông minh, dễ cộng tác.

In other words, I needed to build something very much like a HAL

Nói cách khác, tôi cần tạo ra một thứ rất giống với một HAL

but without the homicidal tendencies.

nhưng không có khuynh hướng giết người.

(Laughter)

(Cười)

Let's pause for a moment.

Chúng ta hãy dừng lại trong giây lát.

Is it really possible to build an artificial intelligence like that?

Thực sự chúng ta có thể tạo ra một trí tuệ nhân tạo như vậy không?

Actually, it is.

Thực ra là có thể.

In many ways,

Theo nhiều cách,

this is a hard engineering problem

đây là một vấn đề khó khăn về kỹ thuật

with elements of AI,

có liên quan đến AI,

not some wet hair ball of an AI problem that needs to be engineered.

chứ không phải một vấn đề lộn xộn về AI cần được giải quyết.

To paraphrase Alan Turing,

Để diễn đạt lại theo ý của Alan Turing,

tôi không hứng thú tạo ra một cỗ máy có tri giác.

I'm not interested in building a sentient machine.

I'm not building a HAL.

Tôi không tạo ra một HAL.

All I'm after is a simple brain,

Cái tôi làm là tạo ra một bộ não đơn giản

something that offers the illusion of intelligence.

mà có thể đem đến ảo giác của trí tuệ.

The art and the science of computing have come a long way

Nghệ thuật và khoa học điện toán đã đi được một đoạn đường dài

since HAL was onscreen,

kể từ khi HAL trên sóng,

and I'd imagine if his inventor Dr. Chandra were here today,

và tôi tưởng tượng nếu cha đẻ của anh ta, Dr. Chandra, ở đây hôm nay,

he'd have a whole lot of questions for us.

ông ấy sẽ có một loạt câu hỏi cho chúng ta.

Is it really possible for us

Chúng ta có thể

to take a system of millions upon millions of devices,

sử dụng một hệ thống gồm hàng triệu triệu thiết bị,

to read in their data streams,

để nhập các luồng dữ liệu,

to predict their failures and act in advance?

để dự đoán các thất bại và có hành động trước không?

Yes.

Vâng, có thể.

Can we build systems that converse with humans in natural language?

Ta tạo ra được các hệ thống giao tiếp bằng ngôn ngữ tự nhiên không?

Yes.

Được.

Can we build systems that recognize objects, identify emotions,

Ta tạo ra được các hệ thống nhận diện vật thể, xác định cảm xúc,

emote themselves, play games and even read lips?

tự biểu hiện cảm xúc, chơi trò chơi và thậm chí đọc khẩu hình không?

Yes.

Được.

Can we build a system that sets goals,

Ta tạo ra được hệ thống tự lập mục tiêu,

that carries out plans against those goals and learns along the way?

xây dựng kế hoạch lệch với mục tiêu đó và học hỏi từ quá trình trên không?

Yes.

Được

Can we build systems that have a theory of mind?

Chúng ta có thể tạo ra các hệ thống có khả năng nhận thức tư duy không?

This we are learning to do.

Cái này chúng ta đang học.

Can we build systems that have an ethical and moral foundation?

Chúng ta có thể tạo ra các hệ thống có nền tảng đạo đức và luân lý không?

This we must learn how to do.

Cái này chúng ta phải học cách làm.

So let's accept for a moment

Vậy chúng ta hãy tạm chấp nhận

that it's possible to build such an artificial intelligence

rằng có thể tạo ra một hệ thống trí tuệ nhân tạo như vậy

for this kind of mission and others.

cho kiểu nhiệm vụ này và cả các loại khác.

The next question you must ask yourself is,

Câu hỏi tiếp theo mà bạn phải tự hỏi là,

should we fear it?

chúng ta có nên sợ nó?

Now, every new technology

Thực chất, mọi công nghệ mới

brings with it some measure of trepidation.

đều đem đến sự lo lắng ở mức độ nào đó.

When we first saw cars,

Khi chúng ta thấy xe hơi lần đầu,

people lamented that we would see the destruction of the family.

người ta đã than phiền rằng nó sẽ hủy hoại gia đình.

When we first saw telephones come in,

Khi điện thoại lần đầu xuất hiện,

people were worried it would destroy all civil conversation.

người ta đã lo lắng nó sẽ hủy hoại việc giao lưu trò chuyện.

Đã có lúc khi chữ viết trở nên phổ biến,

At a point in time we saw the written word become pervasive,

people thought we would lose our ability to memorize.

người ta đã nghĩ chúng ta sẽ mất khả năng ghi nhớ.

These things are all true to a degree,

Tất cả lo sợ đó đều đúng ở mức độ nào đó,

but it's also the case that these technologies

nhưng những công nghệ này cũng

brought to us things that extended the human experience

mang đến chúng ta những thứ đã mở rộng trải nghiệm của con người

in some profound ways.

một cách sâu sắc.

So let's take this a little further.

Chúng ta hãy nói thêm về nó một chút.

I do not fear the creation of an AI like this,

Tôi không sợ việc một AI như vậy được tạo ra,

because it will eventually embody some of our values.

bởi vì cuối cùng nó vẫn sẽ là hiện thân một số giá trị của chúng ta.

Consider this: building a cognitive system is fundamentally different

Hãy nghĩ thế này: xây dựng một hệ thống có nhận thức về cơ bản là khác với

than building a traditional software-intensive system of the past.

xây dựng một hệ thống phần mềm chuyên sâu truyền thống như trước đây.

We don't program them. We teach them.

Ta không lập trình nó. Ta dạy nó.

In order to teach a system how to recognize flowers,

Để dạy một hệ thống nhận biết các bông hoa,

I show it thousands of flowers of the kinds I like.

Tôi cho nó xem hàng nghìn bông hoa thuộc những loại tôi thích.

In order to teach a system how to play a game --

Để dạy một hệ thống cách chơi trò chơi--

Well, I would. You would, too.

Vâng, tôi sẽ làm thế. Bạn cũng sẽ thôi.

I like flowers. Come on.

Tôi thích hoa mà. Nào mọi người.

To teach a system how to play a game like Go,

Để dạy một hệ thống chơi game như Go chẳng hạn,

I'd have it play thousands of games of Go,

Tôi sẽ cho nó chơi hàng nghìn ván Go,

but in the process I also teach it

trong quá trình đó tôi cũng dạy nó

how to discern a good game from a bad game.

cách phân biệt ván chơi hay và ván chơi dở.

If I want to create an artificially intelligent legal assistant,

Nếu tôi muốn tạo ra một trợ lý pháp lý thông minh nhân tạo,

I will teach it some corpus of law

Tôi sẽ dạy nó một số tập sách luật

but at the same time I am fusing with it

nhưng đồng thời tôi sẽ lồng ghép vào đó

the sense of mercy and justice that is part of that law.

ý thức về lòng thương người và công lý là một phần của luật.

In scientific terms, this is what we call ground truth,

Theo thuật ngữ khoa học, ta gọi nó là sự thật nền móng,

and here's the important point:

và đây là điểm quan trọng:

in producing these machines,

khi sản xuất các cỗ máy này,

we are therefore teaching them a sense of our values.

chúng ta đang dạy chúng ý thức về các giá trị của chúng ta.

To that end, I trust an artificial intelligence

Do vậy, tôi tin tưởng vào một trí tuệ nhân tạo

the same, if not more, as a human who is well-trained.

bằng với, nếu không muốn nói hơn cả, một con người được giáo dục tốt.

But, you may ask,

Nhưng bạn có thể sẽ hỏi,

what about rogue agents,

thế còn các tổ chức biến tướng thì sao,

some well-funded nongovernment organization?

một tổ chức phi chính phủ lắm tiền nào đấy chẳng hạn?

I do not fear an artificial intelligence in the hand of a lone wolf.

Tôi không sợ một trí tuệ nhân tạo trong tay một kẻ đơn độc.

Clearly, we cannot protect ourselves against all random acts of violence,

Rõ ràng, chúng ta không thể bảo vệ mình trước những hành động bạo lực bất ngờ,

but the reality is such a system

nhưng trong thực tế một hệ thống như vậy

requires substantial training and subtle training

yêu cầu sự đào tạo cơ bản và đào tạo tinh vi

far beyond the resources of an individual.

vượt xa các nguồn lực của một cá nhân.

And furthermore,

Và hơn nữa,

it's far more than just injecting an internet virus to the world,

nó không giống như việc phát tán virus qua mạng ra khắp thế giới,

where you push a button, all of a sudden it's in a million places

kiểu bạn chỉ ấn một phím, nó đã lan ra một triệu vị trí

and laptops start blowing up all over the place.

và laptop bắt đầu nổ tanh bành khắp mọi nơi.

Now, these kinds of substances are much larger,

Những chuyện thế này lớn hơn rất nhiều,

and we'll certainly see them coming.

và chắc chắn ta sẽ dự đoán trước được.

Do I fear that such an artificial intelligence

Tôi có sợ rằng một trí tuệ nhân tạo như vậy

might threaten all of humanity?

có thể đe dọa toàn nhân loại hay không?

If you look at movies such as "The Matrix," "Metropolis,"

Nếu bạn nhìn vào các bộ phim như "The Matrix," "Metropolis,"

"The Terminator," shows such as "Westworld,"

"The Terminator," các chương trình như "Westworld,"

they all speak of this kind of fear.

chúng đều nói về nỗi sợ hãi này.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

Thực vậy, trong cuốn "Siêu trí tuệ" của triết gia Nick Bostrom,

he picks up on this theme

ông đề cập đến chủ đề này

and observes that a superintelligence might not only be dangerous,

và nhận ra rằng một siêu trí tuệ có thể không chỉ nguy hiểm,

it could represent an existential threat to all of humanity.

mà còn có thể đại diện cho một mối đe dọa sống còn với toàn nhân loại.

Dr. Bostrom's basic argument

Lý lẽ chủ yếu của Dr. Bostrom

is that such systems will eventually

là các hệ thống như vậy cuối cùng sẽ

have such an insatiable thirst for information

có một cơn khát thông tin vô độ;

that they will perhaps learn how to learn

là chúng có lẽ sẽ học cách để học

and eventually discover that they may have goals

và cuối cùng khám phá ra rằng chúng có các mục tiêu

that are contrary to human needs.

trái ngược với nhu cầu con người.

Dr. Bostrom has a number of followers.

Có một số người ủng hộ Dr. Bostrom.

He is supported by people such as Elon Musk and Stephen Hawking.

Ông ấy được ủng hộ bởi những người như Elon Musk và Stephen Hawking.

With all due respect

Dù rất kính trọng

to these brilliant minds,

những bộ óc lỗi lạc này,

I believe that they are fundamentally wrong.

tôi tin rằng họ về căn bản đều sai.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Có rất nhiều lý lẽ của Dr. Bostrom cần được mổ xẻ

and I don't have time to unpack them all,

và tôi không có thời gian để mổ xẻ tất cả,

but very briefly, consider this:

nhưng rất ngắn gọn, hãy nghĩ thế này:

super knowing is very different than super doing.

biết nhiều khác với làm nhiều.

HAL was a threat to the Discovery crew

HAL là một mối đe dọa với tàu Discovery

only insofar as HAL commanded all aspects of the Discovery.

chỉ trong điều kiện HAL được chỉ huy toàn bộ tàu Discovery.

So it would have to be with a superintelligence.

Nghĩa là chúng ta xét về một siêu trí tuệ.

It would have to have dominion over all of our world.

Nó sẽ phải có quyền chi phối toàn thế giới chúng ta.

This is the stuff of Skynet from the movie "The Terminator"

Đây là trường hợp của Skynet trong phim "The Terminator"

in which we had a superintelligence

trong đó chúng ta có một siêu trí tuệ

that commanded human will,

có thể chỉ huy ý chí con người,

that directed every device that was in every corner of the world.

điều khiển mọi thiết bị ở mọi ngõ ngách của thể giới.

Practically speaking,

Thực tế mà nói,

it ain't gonna happen.

điều đó sẽ không xảy ra.

We are not building AIs that control the weather,

Chúng ta sẽ không tạo ra các AI kiểm soát được thời tiết,

that direct the tides,

điều khiển được thủy triều,

that command us capricious, chaotic humans.

hay chỉ huy được loài người lộn xộn thất thường chúng ta.

And furthermore, if such an artificial intelligence existed,

Và hơn nữa, nếu một trí tuệ nhân tạo như vậy tồn tại,

it would have to compete with human economies,

nó sẽ phải cạnh tranh với nền kinh tế nhân loại,

and thereby compete for resources with us.

và từ đó cạnh tranh với chúng ta giành các nguồn lực.

And in the end --

Và cuối cùng thì --

don't tell Siri this --

đừng nói với Siri nhé --

we can always unplug them.

ta luôn có thể rút dây điện.

(Laughter)

(Cười)

We are on an incredible journey

Chúng ta đang ở trên một hành trình khó tin

of coevolution with our machines.

cùng tiến hóa với các cỗ máy của mình.

The humans we are today

Loài người chúng ta hôm nay

are not the humans we will be then.

sẽ không phải là loài người chúng ta sau này.

To worry now about the rise of a superintelligence

Lo lắng lúc này về sự phát triển của một siêu trí tuệ

is in many ways a dangerous distraction

theo nhiều cách là một sự phân tâm nguy hiểm

because the rise of computing itself

bởi vì sự phát triển của điện toán tự nó

brings to us a number of human and societal issues

cũng đã đem đến nhiều vấn đề về con người và xã hội

to which we must now attend.

mà chúng ta giờ đây phải chú ý tới.

How shall I best organize society

Chúng ta sẽ tổ chức xã hội một cách tốt nhất như thế nào

when the need for human labor diminishes?

khi nhu cầu về sức lao động con người giảm đi?

How can I bring understanding and education throughout the globe

Làm thế nào tôi có thể đem sự hiểu biết và giáo dục đi khắp thế giới

and still respect our differences?

và vẫn tôn trọng sự khác biệt?

How might I extend and enhance human life through cognitive healthcare?

Làm sao tôi có thể mở rộng và nâng cao đời sống qua chăm sóc sức khỏe có nhận thức?

How might I use computing

Tôi có thể sử dụng điện toán như thế nào

to help take us to the stars?

để giúp đưa người lên các vì sao?

And that's the exciting thing.

Và đó là điều thú vị.

The opportunities to use computing

Các cơ hội sử dụng điện toán

to advance the human experience

để nâng cao trải nghiệm

are within our reach,

đang trong tầm tay chúng ta,

here and now,

ở đây và bây giờ,

and we are just beginning.

và chúng ta chỉ vừa bắt đầu.

Thank you very much.

Xin cám ơn rất nhiều.

(Applause)

(Vỗ tay)