How will AI change the world?

Translator: Trang Do Nu Gia Reviewer: Mai Tran

Trong những năm tới, trí tuệ nhân tạo

In the coming years, artificial intelligence

có thể sẽ thay đổi cuộc đời bạn, và thậm chí là cả thế giới.

is probably going to change your life, and likely the entire world.

Nhưng người ta vẫn tranh cãi xem chính xác thì thay đổi ra sao.

But people have a hard time agreeing on exactly how.

Sau đây là trích đoạn một bài phỏng vấn từ Diễn đàn Kinh tế Thế giới

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

nơi mà giáo sư khoa học máy tính và chuyên gia AI nổi tiếng Stuart Russell

helps separate the sense from the nonsense.

giúp tách biệt điều có nghĩa từ điều vô nghĩa.

There’s a big difference between asking a human to do something

Có một sự khác biệt lớn giữa việc yêu cầu một người làm một việc gì đó

and giving that as the objective to an AI system.

và đưa việc đó thành mục tiêu cho một hệ thống AI.

When you ask a human to get you a cup of coffee,

Khi bạn nhờ một người lấy giúp bạn một cốc cà phê,

bạn không cho rằng việc này là sứ mệnh của cuộc đời họ,

you don’t mean this should be their life’s mission,

and nothing else in the universe matters.

và trong vũ trụ không còn gì khác quan trọng nữa.

Even if they have to kill everybody else in Starbucks

Ngay cả khi họ phải giết tất cả mọi người ở Starbucks

to get you the coffee before it closes— they should do that.

để lấy cà phê cho bạn trước giờ đóng cửa— thì họ cũng làm.

No, that’s not what you mean.

Không, bạn không có ý đó.

All the other things that we mutually care about,

Tất cả những thứ khác mà chúng ta cùng quan tâm,

they should factor into your behavior as well.

chúng cũng nên tính đến hành vi của bạn.

And the problem with the way we build AI systems now

Và vấn đề trong cách xây dựng các hệ thống AI hiện nay

đó là chúng ta đưa ra một mục tiêu cố định.

is we give them a fixed objective.

Các thuật toán yêu cầu chúng ta chỉ rõ mọi thứ trong mục tiêu đó.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

Và bạn nói xem, ta có thể khắc phục sự acid hóa ở các đại dương không?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Có, bạn có thể xử lý cực kì hiệu quả việc đó với một phản ứng xúc tác,

but it consumes a quarter of the oxygen in the atmosphere,

nhưng nó sẽ tiêu thụ một phần tư lượng oxy trong không khí,

which would apparently cause us to die fairly slowly and unpleasantly

điều này rõ ràng sẽ khiến ta chết một cách chậm rãi và bức bối

over the course of several hours.

trong khoảng thời gian tầm vài giờ.

So, how do we avoid this problem?

Vậy, làm thế nào để tránh khỏi vấn đề này?

You might say, okay, well, just be more careful about specifying the objective—

Bạn có thể nói, ổn thôi, chỉ cần cẩn thận hơn trong việc cụ thể hóa mục tiêu--

don’t forget the atmospheric oxygen.

đừng quên oxy trong khí quyển.

And then, of course, some side effect of the reaction in the ocean

Và rồi, tất nhiên, một số tác dụng phụ của phản ứng trong đại dương

poisons all the fish.

sẽ đầu độc tất cả các loài cá.

Okay, well I meant don’t kill the fish either.

Chà, ý tôi là cũng đừng giết cá.

And then, well, what about the seaweed?

Và rồi, chà, thế còn tảo biển thì sao?

Don’t do anything that’s going to cause all the seaweed to die.

Đừng làm bất cứ điều gì khiến tất cả tảo biển phải chết.

And on and on and on.

Và nhiều thứ nữa.

And the reason that we don’t have to do that with humans is that

Và lí do ta không phải làm điều đó với con người là vì

humans often know that they don’t know all the things that we care about.

con người thường nhận định rằng họ không biết tất cả mọi thứ mà ta quan tâm.

If you ask a human to get you a cup of coffee,

Nếu bạn nhờ một người lấy giúp bạn một cốc cà phê,

and you happen to be in the Hotel George Sand in Paris,

và tình cờ bạn đang cớ mặt ở khách sạn George Sand ở Paris,

where the coffee is 13 euros a cup,

nơi cà phê có giá 13 euro mỗi cốc,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

thì hoàn toàn hợp lí khi người ta quay lại và nói, chà, 13 euro đó,

are you sure you want it, or I could go next door and get one?

bạn chắc muốn mua chứ, hay là tôi có thể qua nhà kế bên và lấy một cốc?

And it’s a perfectly normal thing for a person to do.

Và đó là điều hoàn toàn bình thường mà một người sẽ làm.

To ask, I’m going to repaint your house—

Thử hỏi, nếu tôi định sơn lại nhà bạn--

is it okay if I take off the drainpipes and then put them back?

thì có ổn không nếu tôi dỡ hết ống thoát nước rồi lắp lại?

We don't think of this as a terribly sophisticated capability,

Chúng ta không nghĩ đây là một năng lực cực kỳ phức tạp,

but AI systems don’t have it because the way we build them now,

nhưng hệ thống AI không có bởi vì cách chúng ta tạo ra chúng ngày nay,

they have to know the full objective.

là chúng phải biết mục tiêu đầy đủ.

If we build systems that know that they don’t know what the objective is,

Nếu chúng ta xây dựng những hệ thống mà chúng không biết rõ mục tiêu là gì,

then they start to exhibit these behaviors,

thì khi đó chúng bắt đầu biểu hiện ra các hành vi này,

like asking permission before getting rid of all the oxygen in the atmosphere.

như là việc hỏi xin phép trước khi loại bỏ toàn bộ khí oxy trong bầu khí quyển.

In all these senses, control over the AI system

Hiều theo nghĩa này, thì việc kiểm soát hệ thống AI

comes from the machine’s uncertainty about what the true objective is.

đến từ sự không chắc chắn của cỗ máy về mục tiêu thực sự là gì.

And it’s when you build machines that believe with certainty

Và khi bạn chế tạo những cỗ máy mà chúng tin chắc chắn rằng

that they have the objective,

chúng có mục tiêu,

that’s when you get this sort of psychopathic behavior.

thì khi đó bạn sẽ nhận được dạng hành vi có triệu chứng tâm lý.

And I think we see the same thing in humans.

Và tôi nghĩ chúng ta cũng thấy điều tương tự ở con người.

What happens when general purpose AI hits the real economy?

Điều gì xảy ra khi AI với mục đích chung tấn công nền kinh tế thực?

How do things change? Can we adapt?

Mọi thứ thay đổi thế nào? Liệu ta có thể thích nghi không?

This is a very old point.

Đây là một quan điểm rất cũ.

Amazingly, Aristotle actually has a passage where he says,

Thật đáng ngạc nhiên, Aristotle thực tế có một đoạn văn nói rằng,

look, if we had fully automated weaving machines

hãy nhìn xem, nếu chúng ta có những chiếc máy dệt tự động

and plectrums that could pluck the lyre and produce music without any humans,

và phím gảy tự động có thể gảy đàn lia và tạo ra nhạc mà không cần con người,

then we wouldn’t need any workers.

thì chúng ta sẽ không cần bất kì một công nhân nào cả.

That idea, which I think it was Keynes

Ý tưởng đó, mà tôi nghĩ đó là Keynes

who called it technological unemployment in 1930,

người đã gọi điều đó là thất nghiệp công nghệ ở năm 1930,

is very obvious to people.

là điều rất hiển nhiên đối với con người.

They think, yeah, of course, if the machine does the work,

Họ nghĩ rằng, vâng, tất nhiên, nếu máy móc làm việc,

then I'm going to be unemployed.

thì tôi sẽ thất nghiệp.

You can think about the warehouses that companies are currently operating

Bạn có thể nghĩ về các nhà kho nơi mà các công ty hiện đang vận hành

for e-commerce, they are half automated.

cho thương mại điện tử, chúng được tự động hóa một nửa.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Cách nó hoạt động đó là một nhà kho cũ— nơi bạn có hàng tấn đồ đạc chất đống

all over the place and humans go and rummage around

ở khắp mọi nơi và con người đi lục lọi xung quanh,

and then bring it back and send it off—

sau đó mang chúng trở lại và gửi đi—

there’s a robot who goes and gets the shelving unit

có một con rô-bốt sẽ đi và lấy bộ kệ đỡ

that contains the thing that you need,

là cái chứa đồ vật bạn cần,

but the human has to pick the object out of the bin or off the shelf,

nhưng con người phải lấy món hàng ra khỏi thùng hoặc khỏi kệ,

because that’s still too difficult.

bởi vì điều đó vẫn còn quá khó.

But, at the same time,

Nhưng, tại cùng một thời điểm,

would you make a robot that is accurate enough to be able to pick

liệu bạn có thể tạo ra một con rô-bốt có đủ độ chính xác để lấy ra

pretty much any object within a very wide variety of objects that you can buy?

gần như bất kỳ đồ vật nào trong vô số đồ vật mà bạn có thể mua không?

That would, at a stroke, eliminate 3 or 4 million jobs?

Liệu điều đó, ngay lập tức, xóa bỏ 3 hoặc 4 triệu việc làm?

There's an interesting story that E.M. Forster wrote,

Có một câu chuyện thú vị mà E.M. Forster đã viết,

where everyone is entirely machine dependent.

nơi mọi người hoàn toàn phụ thuộc vào máy móc.

The story is really about the fact that if you hand over

Câu chuyện thực chất là về một sự thật nếu bạn trao quyền

the management of your civilization to machines,

quản lý nền văn minh của mình cho các cỗ máy,

you then lose the incentive to understand it yourself

thì bạn sẽ mất đi động lực để tự mình hiểu về nó

or to teach the next generation how to understand it.

hoặc để dạy cho thế hệ sau cách hiểu nó.

Bạn có thể thấy “WALL-E” thực sự là một phiên bản hiện đại,

You can see “WALL-E” actually as a modern version,

nơi mọi người đều bị các cỗ máy làm cho yếu đi và đối xử như một đứa trẻ sơ sinh,

where everyone is enfeebled and infantilized by the machine,

and that hasn’t been possible up to now.

và điều đó vẫn chưa khả thi cho đến nay.

We put a lot of our civilization into books,

Chúng ta đưa rất nhiều nền văn minh của mình vào sách,

but the books can’t run it for us.

nhưng sách không thể làm việc đó thay ta.

And so we always have to teach the next generation.

Và vì thế chúng ta luôn phải truyền dạy cho thế hệ sau.

If you work it out, it’s about a trillion person years of teaching and learning

Nếu bạn tính được, đó sẽ là khoảng một nghìn tỷ năm dạy và học của con người

and an unbroken chain that goes back tens of thousands of generations.

và một chuỗi liên tục đã đi qua hàng chục nghìn thế hệ.

What happens if that chain breaks?

Điều gì xảy ra nếu chuỗi đó bị phá vỡ?

I think that’s something we have to understand as AI moves forward.

Tôi nghĩ đó là điều chúng ta cần phải nhận thức được khi AI tiến xa hơn.

The actual date of arrival of general purpose AI—

Ngày xuất hiện thực sự của AI có mục đích chung—

bạn sẽ không thể xác định chính xác, đó không phải là một ngày cụ thể.

you’re not going to be able to pinpoint, it isn’t a single day.

It’s also not the case that it’s all or nothing.

Nó cũng không phải là kiểu được ăn cả ngã về không.

The impact is going to be increasing.

Tác động sẽ ngày càng gia tăng.

So with every advance in AI,

Vậy với mỗi tiến bộ của AI,

it significantly expands the range of tasks.

nó sẽ mở rộng đáng kể phạm vi các nhiệm vụ.

So in that sense, I think most experts say by the end of the century,

Theo nghĩa đó, tôi nghĩ hầu hết chuyên gia đều nói rằng vào cuối thế kỷ này,

we’re very, very likely to have general purpose AI.

chúng ta rất, rất có thể sẽ có Ai phục vụ cho mục đích chung.

The median is something around 2045.

Trung bình là đâu đó gần năm 2045.

I'm a little more on the conservative side.

Tôi nghiêng về phía bảo thủ hơn một chút.

I think the problem is harder than we think.

Tôi nghĩ vấn đề này khó hơn chúng ta nghĩ.

I like what John McAfee, he was one of the founders of AI,

Tôi thích điều mà John McAfee, một trong những nhà sáng lập AI,

when he was asked this question, he said, somewhere between five and 500 years.

khi được hỏi câu hỏi này, ông ấy đã nói, đâu đó giữa năm và 500 năm.

And we're going to need, I think, several Einsteins to make it happen.

Và chúng ta sẽ cần đến, tôi cho rằng, vài Einsteins để biến điều đó thành hiện thực.