What Is an AI Anyway? | Mustafa Suleyman | TED

Translator: Dieu Anh Nguyen Reviewer: Nguyen Hue

I want to tell you what I see coming.

Tôi muốn nói với bạn những gì tôi thấy sắp tới.

I've been lucky enough to be working on AI for almost 15 years now.

Tôi may mắn được làm việc trong lĩnh vực AI gần 15 năm nay.

Back when I started, to describe it as fringe would be an understatement.

Khi tôi bắt đầu, AI được mô tả như một việc thừa thãi và bị đánh giá thấp

Researchers would say, “No, no, we’re only working on machine learning.”

Các nhà nghiên cứu nói: “Không, không, chúng tôi chỉ nghiên cứu về máy móc”

Because working on AI was seen as way too out there.

Bởi vì nghiên cứu về AI đã được coi là quá nhiều ở ngoài kia.

In 2010, just the very mention of the phrase “AGI,”

Vào năm 2010, chỉ cần đề cập đến cụm từ “AGI”

artificial general intelligence,

trí tuệ nhân tạo nói chung,

would get you some seriously strange looks

sẽ khiến bạn hoài nghi và thậm chí tỏ thái độ coi thường.

and even a cold shoulder.

"You're actually building AGI?" people would say.

“Anh thực sự đang phát triển AGI à?” mọi người sẽ nói.

“Đó không phải là một cái gì đó từ khoa học viễn tưởng sao?”

"Isn't that something out of science fiction?"

People thought it was 50 years away or 100 years away,

Mọi người nghĩ rằng 50 năm hoặc 100 năm nữa điều đó mới xảy ra

if it was even possible at all.

Talk of AI was, I guess, kind of embarrassing.

Nói về AI, tôi đoán là hơi xấu hổ.

People generally thought we were weird.

Mọi người thường nghĩ rằng chúng tôi kỳ lạ.

Và tôi nghĩ rằng theo một cách nào đó, chúng tôi thực sự như vậy.

And I guess in some ways we kind of were.

It wasn't long, though, before AI started beating humans

Tuy nhiên, không lâu trước đây khi AI bắt đầu đánh bại con người

at a whole range of tasks

ở một loạt các nhiệm vụ

that people previously thought were way out of reach.

mà trước đây mọi người nghĩ là ngoài tầm với.

Understanding images,

Hiểu hình ảnh,

translating languages,

dịch ngôn ngữ,

transcribing speech,

phiên âm lời nói,

playing Go and chess

chơi Go và cờ vua

and even diagnosing diseases.

và thậm chí chẩn đoán bệnh.

People started waking up to the fact

Mọi người bắt đầu nhận thức với thực tế

that AI was going to have an enormous impact,

rằng AI sẽ có một tác động to lớn,

and they were rightly asking technologists like me

và họ đã ngay lập tức hỏi các nhà công nghệ như tôi

some pretty tough questions.

một số câu hỏi khá khó.

Is it true that AI is going to solve the climate crisis?

Có đúng là AI sẽ giải quyết cuộc khủng hoảng khí hậu?

Liệu nó có tạo nên cá nhân hóa việc học cho tất cả mọi người không?

Will it make personalized education available to everyone?

Does it mean we'll all get universal basic income

tất cả ta sẽ nhận được thu nhập cơ bản và chúng ta sẽ không phải làm việc nữa?

and we won't have to work anymore?

Should I be afraid?

Tôi có nên sợ không?

What does it mean for weapons and war?

AI có ý nghĩa gì đối với vũ khí và chiến tranh?

And of course, will China win?

Và tất nhiên, liệu Trung Quốc sẽ thắng?

Are we in a race?

Chúng ta có tham gia một cuộc đua không?

Are we headed for a mass misinformation apocalypse?

Liệu chúng ta có hướng tới một ngày tận thế khi thông tin sai lệch hàng loạt?

All good questions.

Đây đều là những câu hỏi đáng suy ngẫm.

But it was actually a simpler

Nhưng đó thực ra là một câu hỏi đơn giản

and much more kind of fundamental question that left me puzzled.

và nhiều loại câu hỏi cơ bản khác khiến tôi bối rối.

One that actually gets to the very heart of my work every day.

Có một điều thực sự liên quan đến công việc hằng ngày của tôi.

One morning over breakfast,

Một buổi sáng khi đang ăn sáng,

my six-year-old nephew Caspian was playing with Pi,

Caspian, cháu trai sáu tuổi của tôi đang chơi với Pi,

the AI I created at my last company, Inflection.

AI mà tôi tạo ra tại Inflection, công ty cũ của mình, .

With a mouthful of scrambled eggs,

Với miệng nhồm nhoàm đầy trứng bác

he looked at me plain in the face and said,

cháu tôi nhìn thẳng vào mặt tôi và nói,

"But Mustafa, what is an AI anyway?"

“Nhưng bác Mustafa ơi, AI là gì vậy?”

He's such a sincere and curious and optimistic little guy.

Cháu tôi là một chàng trai nhỏ chân thành, tò mò và lạc quan.

He'd been talking to Pi about how cool it would be if one day in the future,

Cậu bé đã nói chuyện với Pi về việc sẽ thật tuyệt nếu trong tương lai,

he could visit dinosaurs at the zoo.

cậu bé có thể đến thăm khủng long ở sở thú.

And how he could make infinite amounts of chocolate at home.

Và cách cậu bé có thể làm vô số sô cô la ở nhà.

And why Pi couldn’t yet play I Spy.

Và câu hỏi tại sao Pi vẫn chưa thể chơi I Spy?

"Well," I said, "it's a clever piece of software

“Chà,” tôi nói, “Đó là một phần mềm

that's read most of the text on the open internet,

có thể đọc hầu hết các văn bản trên internet

and it can talk to you about anything you want."

và nó có thể nói với cháu về bất cứ điều gì cháu muốn.”

"Right.

“Đúng rồi.

So like a person then?"

Như một con người vậy sao?”

I was stumped.

Tôi đã bối rối.

Genuinely left scratching my head.

Tôi thực sự gãi đầu.

All my boring stock answers came rushing through my mind.

Tất cả những câu trả lời nhàm chán hiện lên trong tâm trí tôi.

"No, but AI is just another general-purpose technology,

“Không, nhưng AI chỉ là một công nghệ đa năng khác,

like printing or steam."

như in ấn hoặc hơi nước.”

It will be a tool that will augment us

Nó sẽ là một công cụ sẽ hỗ trợ chúng ta

and make us smarter and more productive.

giúp chúng ta thông minh hơn và làm việc hiệu quả hơn.

And when it gets better over time,

Và khi nó trở nên tốt hơn theo thời gian,

it'll be like an all-knowing oracle

nó sẽ giống như nhà tiên tri toàn năng

that will help us solve grand scientific challenges."

giúp chúng ta giải quyết những thách thức khoa học to lớn.

You know, all of these responses started to feel, I guess,

Bạn biết đấy, tất cả câu trả lời này cảm giác như, tôi đoán,

a little bit defensive.

hơi phòng thủ một chút.

Và câu hỏi thực sự phù hợp với một hội thảo chính sách

And actually better suited to a policy seminar

than breakfast with a no-nonsense six-year-old.

hơn là bữa sáng với một đứa trẻ 6 tuổi.

"Why am I hesitating?" I thought to myself.

“Tại sao mình lại do dự?” Tôi thầm nghĩ.

You know, let's be honest.

Bạn biết đấy, hãy thành thật.

My nephew was asking me a simple question

Cháu trai của tôi đã hỏi tôi một câu hỏi đơn giản

that those of us in AI just don't confront often enough.

mà những người làm việc trong ngàng AI như chúng tôi không đối mặt thường xuyên.

What is it that we are actually creating?

Chúng tôi đang thực sự tạo ra cái gì?

What does it mean to make something totally new,

Nó có ý nghĩa gì khi tạo ra một cái gì đó hoàn toàn mới,

fundamentally different to any invention that we have known before?

và về cơ bản AI có khác với phát minh nào mà chúng ta đã biết trước đây không?

It is clear that we are at an inflection point

Rõ ràng là chúng ta đang ở một điểm biến đổi

in the history of humanity.

trong lịch sử nhân loại.

On our current trajectory,

Trên quỹ đạo hiện tại của chúng ta

we're headed towards the emergence of something

chúng ta đang hướng tới sự xuất hiện của một cái gì đó

that we are all struggling to describe,

mà tất cả chúng ta đang gặp khó khăn trong việc diễn tả,

and yet we cannot control what we don't understand.

nhưng chúng ta không thể kiểm soát những điều chúng ta không hiểu.

And so the metaphors,

Vậy nên, những phép ẩn dụ,

the mental models,

các mô hình tư duy,

the names, these all matter

những tên gọi, tất cả những điều này đều quan trọng

if we’re to get the most out of AI whilst limiting its potential downsides.

nếu ta muốn tận dụng tối đa AI, đồng thời hạn chế nhược điểm tiềm ẩn của nó.

As someone who embraces the possibilities of this technology,

Là một người nắm bắt những khả năng của công nghệ này,

but who's also always cared deeply about its ethics,

nhưng cũng luôn quan tâm sâu sắc đến tính đạo đức của nó,

we should, I think,

tôi nghĩ chúng ta

be able to easily describe what it is we are building.

có thể dễ dàng mô tả những gì chúng ta đang phát triển.

And that includes the six-year-olds.

Và điều đó bao gồm cả điều mà đứa trẻ sáu tuổi nói.

So it's in that spirit that I offer up today the following metaphor

Vì vậy, với tinh thần đó, hôm nay tôi đưa ra phép ẩn dụ sau đây

for helping us to try to grapple with what this moment really is.

để giúp chúng ta cố gắng xoay sở với định nghĩa về AI thực sự là gì.

I think AI should best be understood

Tôi nghĩ AI nên được hiểu

as something like a new digital species.

là một thứ giống như một loại kỹ thuật số mới.

Now, don't take this too literally,

Bây giờ, đừng hiểu điều này theo nghĩa đen,

but I predict that we'll come to see them as digital companions,

nhưng tôi dự đoán rằng chúng ta sẽ coi AI như những người bạn đồng hành kỹ thuật số

new partners in the journeys of all our lives.

đối tác mới trong hành trình cuộc sống của chúng ta

Whether you think we’re on a 10-, 20- or 30-year path here,

Cho dù bạn nghĩ rằng chúng ta đang đi trên con đường 10, 20 hay 30 năm

this is, in my view, the most accurate and most fundamentally honest way

Theo quan điểm của tôi, đây là cách về cơ bản là chính xác và trung thực nhất

of describing what's actually coming.

để diễn tả những gì thực sự sắp xảy ra.

And above all, it enables everybody to prepare for

Và trên hết, AI cho phép mọi người chuẩn bị

and shape what comes next.

và định hình những gì sắp tới.

Bây giờ, tôi hoàn toàn hiểu đây là một tuyên bố mạnh mẽ,

Now I totally get, this is a strong claim,

and I'm going to explain to everyone as best I can why I'm making it.

và tôi sẽ cố gắng giải thích cho các bạn hiểu lý do tại sao tôi lại tạo ra AI.

But first, let me just try to set the context.

Nhưng trước tiên, hãy để tôi thử thiết lập bối cảnh.

From the very first microscopic organisms,

Từ những vi sinh vật đầu tiên,

life on Earth stretches back billions of years.

sự sống trên Trái đất kéo dài hàng tỷ năm trước.

Over that time, life evolved and diversified.

Trong thời gian đó, cuộc sống đã phát triển và đa dạng hóa.

Then a few million years ago, something began to shift.

Sau đó, vài triệu năm trước, một cái gì đó bắt đầu thay đổi.

After countless cycles of growth and adaptation,

Sau vô số chu kỳ phát triển và thích nghi,

one of life’s branches began using tools, and that branch grew into us.

một trong các chi bắt đầu sử dụng công cụ, và đã phát triển thành chúng ta.

We went on to produce a mesmerizing variety of tools,

Chúng ta tiếp tục sản xuất nhiều công cụ đầy kì diệu,

at first slowly and then with astonishing speed,

lúc đầu quá trình diễn ra từ từ, sau đó xảy ra với tốc độ đáng kinh ngạc.

we went from stone axes and fire

Chúng ta đi từ rìu đá và lửa

to language, writing and eventually industrial technologies.

đến ngôn ngữ, chữ viết và cuối cùng là nền công nghiệp gắn liền với công nghệ

One invention unleashed a thousand more.

Một phát minh đã mở ra hàng nghìn phát minh khác.

And in time, we became homo technologicus.

Và theo thời gian, chúng ta trở thành loài không thể tách rời công nghệ

Around 80 years ago,

Khoảng 80 năm trước,

another new branch of technology began.

một ngành công nghệ mới khác bắt đầu.

With the invention of computers,

Với việc phát minh ra máy tính,

we quickly jumped from the first mainframes and transistors

chúng ta nhanh chóng chuyển từ máy tính có kích thước lớn, linh kiện bán dẫn

to today's smartphones and virtual-reality headsets.

sang điện thoại thông minh và thiết bị thực tế ảo ngày nay.

Information, knowledge, communication, computation.

Thông tin, kiến thức, giao tiếp, tính toán.

In this revolution,

Trong cuộc cách mạng này

creation has exploded like never before.

sự sáng tạo bùng nổ hơn bao giờ hết.

And now a new wave is upon us.

Và bây giờ một làn sóng mới đang đến với chúng ta.

Artificial intelligence.

Trí tuệ nhân tạo.

These waves of history are clearly speeding up,

Những làn sóng lịch sử này rõ ràng đang tăng tốc,

as each one is amplified and accelerated by the last.

vì mỗi làn sóng được khuếch đại và tăng tốc bởi những làn sóng cuối cùng.

Và nếu bạn nhìn lại,

And if you look back,

it's clear that we are in the fastest

rõ ràng là chúng ta đang ở trong làn sóng nhanh và quan trọng nhất từ trước đến nay.

and most consequential wave ever.

The journeys of humanity and technology are now deeply intertwined.

Cuộc hành trình của nhân loại và công nghệ hiện gắn bó chặt chẽ với nhau.

In just 18 months,

Chỉ trong 18 tháng,

over a billion people have used large language models.

hơn một tỷ người sử dụng các mô hình ngôn ngữ lớn.

We've witnessed one landmark event after another.

Chúng tôi đã chứng kiến hết sự kiện mang tính bước ngoặt này đến sự kiện khác.

Just a few years ago, people said that AI would never be creative.

Chỉ vài năm trước, mọi người đã nói rằng AI sẽ không bao giờ sáng tạo.

And yet AI now feels like an endless river of creativity,

Vậy mà, giờ đây AI giống như một dòng sông vô tân của sự sáng tạo,

making poetry and images and music and video that stretch the imagination.

tạo ra thơ ca, hình ảnh, âm nhạc và video giúp mở rộng trí tưởng tượng.

People said it would never be empathetic.

Người ta nói rằng AI sẽ không bao giờ có sự đồng cảm.

And yet today, millions of people enjoy meaningful conversations with AIs,

Tuy nhiên, ngày nay, hàng triệu người tận hưởng cuộc trò chuyện ý nghĩa với AI,

talking about their hopes and dreams

nói về hy vọng và ước mơ của họ

and helping them work through difficult emotional challenges.

và giúp họ vượt qua những thách thức khó khăn về mặt cảm xúc.

AIs can now drive cars,

AI giờ đây có thể lái xe ô tô,

manage energy grids

quản lý lưới năng lượng

and even invent new molecules.

và thậm chí phát minh ra các phân tử mới.

Just a few years ago, each of these was impossible.

Chỉ vài năm trước, những điều này là không thể.

And all of this is turbocharged by spiraling exponentials of data

Tất cả điều này được thúc đẩy bởi dữ liệu và các chỉ số tính toán theo cấp số nhân.

and computation.

Last year, Inflection 2.5, our last model,

Năm ngoái, Inflection 2.5, mô hình cuối cùng của chúng tôi,

used five billion times more computation

đã sử dụng tính toán gấp 5 tỷ lần

than the DeepMind AI that beat the old-school Atari games

so với AI DeepMind và đánh bại các trò chơi Atari cũ

just over 10 years ago.

chỉ hơn 10 năm trước.

That's nine orders of magnitude more computation.

Đó là hơn 9 cấp độ tính toán .

10x per year,

10 lần mỗi năm,

every year for almost a decade.

mỗi năm trong gần một thập kỷ.

Over the same time, the size of these models has grown

Cùng với thời gian đó, kích thước của các mô hình này đã tăng

from first tens of millions of parameters to then billions of parameters,

từ hàng chục triệu thông số đầu tiên đến hàng tỷ thông số,

and very soon, tens of trillions of parameters.

và rất sớm, hàng chục nghìn tỷ thông số.

If someone did nothing but read 24 hours a day for their entire life,

Nếu ai đó không làm gì ngoài việc đọc sách 24 giờ/ngày trong cuộc đời

they'd consume eight billion words.

thì họ sẽ tiêu thụ tám tỷ từ.

And of course, that's a lot of words.

Và tất nhiên, đó là số lượng lớn các từ ngữ.

But today, the most advanced AIs consume more than eight trillion words

Nhưng ngày nay, AI tiên tiến nhất tiêu thụ hơn tám nghìn tỷ từ

in a single month of training.

chỉ trong một tháng đào tạo.

And all of this is set to continue.

Và tất cả những điều này sẽ tiếp tục

The long arc of technological history is now in an extraordinary new phase.

Lịch sử lâu dài của công nghệ hiện đang ở một giai đoạn mới phi thường.

So what does this mean in practice?

Vậy điều này có ý nghĩa gì trong thực tế?

Well, just as the internet gave us the browser

Chà, giống như internet đã cung cấp cho chúng ta trình duyệt

và điện thoại thông minh cung cấp cho chúng ta các ứng dụng,

and the smartphone gave us apps,

the cloud-based supercomputer is ushering in a new era

siêu máy tính dựa trên cloud đang mở ra một kỷ nguyên mới

of ubiquitous AIs.

của việc AI có mặt ở khắp nơi.

Everything will soon be represented by a conversational interface.

Mọi thứ sẽ sớm được thể hiện bằng một giao diện trò chuyện.

Or, to put it another way, a personal AI.

Hay nói cách khác, là AI cá nhân.

And these AIs will be infinitely knowledgeable,

Và những AI này sẽ có kiến thức vô tận,

and soon they'll be factually accurate and reliable.

và chúng sẽ sớm chính xác và đáng tin cậy trong thực tế.

They'll have near-perfect IQ.

Chúng sẽ có IQ gần như hoàn hảo.

They’ll also have exceptional EQ.

Chúng cũng sẽ có EQ đặc biệt.

They’ll be kind, supportive, empathetic.

Chúng sẽ tốt bụng, hỗ trợ, đồng cảm.

These elements on their own would be transformational.

Bản thân những yếu tố này sẽ mang tính biến đổi.

Just imagine if everybody had a personalized tutor in their pocket

Hãy tưởng tượng nếu mọi người đều có một gia sư riêng trong túi của mình

and access to low-cost medical advice.

và tiếp cận với tư vấn y tế chi phí thấp.

A lawyer and a doctor,

Một luật sư và một bác sĩ,

a business strategist and coach --

một chiến lược gia kinh doanh và huấn luyện viên

all in your pocket 24 hours a day.

tất cả đều nằm trong túi của bạn 24/24.

But things really start to change when they develop what I call AQ,

Nhưng mọi thứ thực sự bắt đầu thay đổi khi AI phát triển cái mà tôi gọi là AQ,

their “actions quotient.”

“chỉ số hành động”.

This is their ability to actually get stuff done

Đây là khả năng thực sự hoàn thành công việc của AI

in the digital and physical world.

trong thế giới kỹ thuật số và vật lý.

And before long, it won't just be people that have AIs.

Và chẳng bao lâu nữa, sẽ không chỉ con người có AI.

Strange as it may sound, every organization,

Nghe có vẻ kỳ lạ, mọi tổ chức,

from small business to nonprofit to national government,

từ doanh nghiệp nhỏ đến phi lợi nhuận đến chính phủ quốc gia,

each will have their own.

mỗi tổ chức sẽ có một AI riêng.

Every town, building and object

Mỗi thị trấn, tòa nhà và đối tượng

will be represented by a unique interactive persona.

sẽ được đại diện bởi một nhân vật tương tác độc đáo.

And these won't just be mechanistic assistants.

Và chúng không chỉ là trợ lý máy móc.

They'll be companions, confidants,

Chúng còn là bạn đồng hành, người bạn tâm giao,

colleagues, friends and partners,

đồng nghiệp, bạn bè và đối tác,

as varied and unique as we all are.

đa dạng và độc đáo như tất cả chúng ta.

At this point, AIs will convincingly imitate humans at most tasks.

Tại thời điểm này,

AI sẽ bắt chước con người một cách thuyết phục trong hầu hết các nhiệm vụ

And we'll feel this at the most intimate of scales.

Và chúng ta sẽ cảm nhận được điều này ở mức độ gần gũi nhất.

An AI organizing a community get-together for an elderly neighbor.

AI tổ chức một cuộc tụ họp cộng đồng cho một người hàng xóm lớn tuổi.

A sympathetic expert helping you make sense of a difficult diagnosis.

Một chuyên gia đầy thông cảm giúp bạn hiểu được một chẩn đoán khó khăn.

But we'll also feel it at the largest scales.

Nhưng chúng ta cũng sẽ cảm nhận nó ở quy mô lớn nhất.

Accelerating scientific discovery,

Tăng tốc khám phá khoa học,

autonomous cars on the roads,

ô tô không người lái trên đường,

drones in the skies.

máy bay không người lái trên bầu trời.

They'll both order the takeout and run the power station.

Chúng đều đặt hàng và điều hành các nhà máy điện

They’ll interact with us and, of course, with each other.

Chúng sẽ tương tác với chúng ta và, tất nhiên, với nhau.

They'll speak every language,

Chúng sẽ nói mọi ngôn ngữ,

take in every pattern of sensor data,

tiếp thu mọi mô hình dữ liệu cảm biến, tầm nhìn, âm thanh,

sights, sounds,

streams and streams of information,

các luồng thông tin

far surpassing what any one of us could consume in a thousand lifetimes.

vượt xa những gì bất kỳ ai trong chúng ta có thể tiêu thụ trong suốt cuộc đời.

So what is this?

Vậy đây là cái gì?

What are these AIs?

Những AI này là gì?

If we are to prioritize safety above all else,

Nếu chúng ta ưu tiên an toàn hơn mọi thứ,

to ensure that this new wave always serves and amplifies humanity,

để đảm bảo rằng làn sóng mới này luôn phục vụ và nhân rộng trong nhân loại,

then we need to find the right metaphors for what this might become.

thì chúng ta cần tìm ra những ẩn dụ phù hợp cho những điều có thể xảy ra.

For years, we in the AI community, and I specifically,

Trong nhiều năm, chúng tôi trong cộng đồng AI, và đặc biệt là tôi,

have had a tendency to refer to this as just tools.

đã có xu hướng coi AI chỉ là công cụ.

But that doesn't really capture what's actually happening here.

Nhưng điều đó không thực sự nắm bắt được những gì đang thực sự xảy ra ở đây.

AIs are clearly more dynamic,

AI rõ ràng năng động hơn,

more ambiguous, more integrated

mơ hồ hơn, tích hợp hơn

and more emergent than mere tools,

và nổi bật hơn so với các công cụ đơn thuần,

which are entirely subject to human control.

hoàn toàn chịu sự kiểm soát của con người.

So to contain this wave,

Vì vậy, để kiềm chế làn sóng này,

to put human agency at its center

để đặt quyền tự quyết của con người vào trung tâm của AI

and to mitigate the inevitable unintended consequences

và để giảm thiểu những hậu quả không lường trước có thể xảy ra,

that are likely to arise,

we should start to think about them as we might a new kind of digital species.

chúng ta nên bắt đầu nghĩ về chúng như một ’loài” kỹ thuật số mới.

Now it's just an analogy,

Bây giờ, đây chỉ là một phép so sánh,

it's not a literal description, and it's not perfect.

đây không phải là một mô tả theo nghĩa đen và nó không hoàn hảo.

For a start, they clearly aren't biological in any traditional sense,

Đầu tiên, AI rõ ràng không phải là những sinh vật theo nghĩa truyền thống

but just pause for a moment

nhưng chỉ cần tạm dừng một lát

and really think about what they already do.

và thực sự suy nghĩ về những gì AI đã làm.

They communicate in our languages.

AI giao tiếp bằng ngôn ngữ của chúng ta.

They see what we see.

AI nhìn thấy những gì chúng ta thấy.

They consume unimaginably large amounts of information.

AI tiêu thụ một lượng lớn thông tin không thể tưởng tượng được.

They have memory.

AI có trí nhớ.

They have personality.

AI có tính cách.

They have creativity.

AI có sự sáng tạo.

They can even reason to some extent and formulate rudimentary plans.

Chúng thậm chí có thể lý luận ở một mức độ nhất định và lập kế hoạch thô sơ.

They can act autonomously if we allow them.

Chúng có thể hành động tự chủ nếu chúng ta cho phép họ.

And they do all this at levels of sophistication

Và chúng làm tất cả điều này ở mức độ tinh vi

that is far beyond anything that we've ever known from a mere tool.

mà vượt xa bất cứ điều gì chúng ta từng biết từ một công cụ đơn thuần.

And so saying AI is mainly about the math or the code

Và vì vậy, nói AI chủ yếu là về toán học hoặc thuật mã

is like saying we humans are mainly about carbon and water.

cũng giống như nói con người chúng ta chủ yếu là về carbon và nước.

It's true, but it completely misses the point.

Đó là sự thật, nhưng nó hoàn toàn bỏ lỡ vấn đề cốt lõi.

And yes, I get it, this is a super arresting thought

Vâng, tôi hiểu, đây là một suy nghĩ đầy hấp dẫn

but I honestly think this frame helps sharpen our focus on the critical issues.

nhưng tôi thực sự tin rằng khung này

sẽ giúp chúng ta tập trung hơn vào những vấn đề then chốt.

What are the risks?

Những rủi ro là gì?

What are the boundaries that we need to impose?

Chúng ta cần áp đặt những ranh giới gì?

What kind of AI do we want to build or allow to be built?

Chúng ta muốn phát triển hoặc được cho phép phát triển loại AI nào?

This is a story that's still unfolding.

Đây là câu chuyện vẫn đang diễn ra.

Nothing should be accepted as a given.

Không có gì được coi là thiết lập.

We all must choose what we create.

Tất cả chúng ta phải chọn những gì chúng ta tạo ra.

What AIs we bring into the world, or not.

Những AI nào chúng ta mang đến thế giới, hay không.

These are the questions for all of us here today,

Đây là những câu hỏi dành cho tất cả chúng ta ở đây hôm nay,

and all of us alive at this moment.

và cho tất cả chúng ta đang sống tại thời điểm này.

For me, the benefits of this technology are stunningly obvious,

Đối với tôi, những lợi ích của công nghệ này rất rõ ràng

and they inspire my life's work every single day.

và chúng truyền cảm hứng cho công việc của tôi mỗi ngày.

But quite frankly, they'll speak for themselves.

Nhưng thành thật mà nói, chúng sẽ tự nói lên điều đó.

Over the years, I've never shied away from highlighting risks

Trong nhiều năm, tôi không ngại nhấn mạnh những rủi ro

and talking about downsides.

và nói về những nhược điểm.

Suy nghĩ theo cách này giúp chúng ta tập trung

Thinking in this way helps us focus on the huge challenges

vào những thách thức to lớn đang ở phía trước đối với tất cả chúng ta.

that lie ahead for all of us.

But let's be clear.

Nhưng hãy làm rõ.

There is no path to progress

Không có con đường tiến bộ nào

where we leave technology behind.

mà chúng ta bỏ lại công nghệ phía sau.

The prize for all of civilization is immense.

Cái giá phải trả dành cho toàn bộ nền văn minh là vô cùng to lớn.

Chúng ta cần những giải pháp về sức khỏe, và giáo dục

We need solutions in health care and education, to our climate crisis.

để đối phó với khủng hoảng khí hậu.

And if AI delivers just a fraction of its potential,

Và nếu AI chỉ mang lại một phần nhỏ tiềm năng của nó,

the next decade is going to be the most productive in human history.

thì thập kỷ tới sẽ là thập kỷ năng suất cao nhất trong lịch sử loài người.

Here's another way to think about it.

Đây là một cách khác để suy nghĩ về nó.

In the past,

Trong quá khứ,

unlocking economic growth often came with huge downsides.

việc mở khóa tăng trưởng kinh tế thường có những tác động tiêu cực lớn.

The economy expanded as people discovered new continents

Nền kinh tế mở rộng khi mọi người khám phá các lục địa mới

and opened up new frontiers.

và mở ra những lĩnh vực mới.

But they colonized populations at the same time.

Nhưng họ đã xâm chiếm lãnh thổ cùng một lúc.

We built factories,

Chúng ta xây dựng các nhà máy,

but they were grim and dangerous places to work.

ở những nơi khắc nghiệt và nguy hiểm để làm việc.

We struck oil,

Chúng ta khai thác dầu mỏ,

but we polluted the planet.

nhưng chúng ta đã làm ô nhiễm Trái Đất

Now because we are still designing and building AI,

Vì chúng ta bây giờ vẫn đang thiết kế và xây dựng AI,

we have the potential and opportunity to do it better,

chúng ta có tiềm năng và cơ hội để làm điều đó tốt hơn,

radically better.

hoàn toàn tốt hơn.

And today, we're not discovering a new continent

Và ngày nay, chúng ta không khám phá ra một lục địa mới

and plundering its resources.

và cướp bóc tài nguyên của nó.

We're building one from scratch.

Chúng ta đang xây dựng từ đầu.

Sometimes people say that data or chips are the 21st century’s new oil,

Mọi người thi thoảng cho rằng dữ liệu hoặc chip là “dầu mới” của thế kỷ 21,

but that's totally the wrong image.

nhưng đó là hình ảnh hoàn toàn sai lầm.

AI is to the mind

Trong tâm trí AI giống như phản ứng tổng hợp hạt nhân đối với năng lượng.

what nuclear fusion is to energy.

Limitless, abundant,

Vô hạn, phong phú,

world-changing.

thay đổi thế giới.

And AI really is different,

Và AI thực sự khác biệt,

and that means we have to think about it creatively and honestly.

điều đó có nghĩa là chúng ta phải suy nghĩ về nó một cách sáng tạo và trung thực.

We have to push our analogies and our metaphors

Chúng ta phải đẩy những phép so sánh và ẩn dụ của mình

to the very limits

đến tận giới hạn

to be able to grapple with what's coming.

để có thể đương đầu với những gì sắp xảy ra.

Because this is not just another invention.

Bởi vì đây không chỉ là một phát minh khác.

AI is itself an infinite inventor.

Bản thân AI là một nhà phát minh vô hạn.

And yes, this is exciting and promising and concerning

Vâng, điều này thật thú vị, đầy hứa hẹn và đáng quan tâm

and intriguing all at once.

và cùng một lúc cũng đầy hấp dẫn.

To be quite honest, it's pretty surreal.

Thành thật mà nói, nó khá siêu thực.

But step back,

Nhưng hãy nhìn lại,

see it on the long view of glacial time,

trong một khía cạnh dài hạn của kỷ băng hà,

and these really are the very most appropriate metaphors that we have today.

và đây thực sự là những ẩn dụ thích hợp nhất mà chúng ta có ngày nay.

Since the beginning of life on Earth,

Kể từ khi bắt đầu sự sống trên Trái đất,

we've been evolving, changing

chúng ta đã tiến hóa, thay đổi

and then creating everything around us in our human world today.

và sau đó tạo ra mọi thứ xung quanh ta trong thế giới loài người ngày nay.

And AI isn't something outside of this story.

Và AI không phải là thứ nằm ngoài câu chuyện này.

In fact, it's the very opposite.

Trên thực tế, AI hoàn toàn ngược lại.

It's the whole of everything that we have created,

Đó là toàn bộ mọi thứ mà chúng ta đã tạo ra,

distilled down into something that we can all interact with

được chắt lọc thành thứ mà tất cả chúng ta đều có thể tương tác

and benefit from.

và hưởng lợi từ đó.

It's a reflection of humanity across time,

Đó là sự phản ánh của nhân loại qua thời gian,

and in this sense,

và theo nghĩa này,

it isn't a new species at all.

AI hoàn toàn không phải là một loài mới.

This is where the metaphors end.

Đây là nơi các phép ẩn dụ kết thúc.

Here's what I'll tell Caspian next time he asks.

Đây là những gì tôi sẽ nói với Caspian lần tới khi cậu bé hỏi.

AI isn't separate.

AI không tách biệt.

AI isn't even in some senses, new.

AI thậm chí không phải là thứ mới theo một số phán đoán.

AI is us.

AI là chúng ta.

It's all of us.

Đó là tất cả chúng ta.

And this is perhaps the most promising and vital thing of all

Và đây có lẽ là điều hứa hẹn và quan trọng nhất

that even a six-year-old can get a sense for.

mà ngay cả một đứa trẻ sáu tuổi cũng có thể cảm nhận được.

As we build out AI,

Khi chúng ta xây dựng AI,

we can and must reflect all that is good,

chúng ta có thể và phải phản ánh tất cả những gì tốt đẹp,

all that we love,

tất cả những gì chúng ta thích,

all that is special about humanity:

tất cả những gì đặc biệt về nhân loại:

our empathy, our kindness,

sự đồng cảm, lòng tốt của chúng ta,

our curiosity and our creativity.

sự tò mò và sự sáng tạo của chúng ta.

This, I would argue, is the greatest challenge of the 21st century,

Tôi cho rằng đây là thách thức lớn nhất của thế kỷ 21,

but also the most wonderful,

nhưng cũng là cơ hội tuyệt vời,

inspiring and hopeful opportunity for all of us.

truyền cảm hứng và hy vọng nhất cho tất cả chúng ta.

Thank you.

Xin chân thành cảm ơn!

(Applause)

(Vỗ tay)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Cảm ơn Mustafa.

It's an amazing vision and a super powerful metaphor.

Đó là một tầm nhìn tuyệt vời và một phép ẩn dụ đầy ảnh hưởng.

Bạn đang ở một vị trí tuyệt vời ngay bây giờ.

You're in an amazing position right now.

I mean, you were connected at the hip

Ý tôi là, bạn đã được kết nối ngay từ đầu với công việc tuyệt vời tại OpenAI.

to the amazing work happening at OpenAI.

You’re going to have resources made available,

Bạn sẽ có những nguồn lực sẵn có,

there are reports of these giant new data centers,

có báo cáo về các trung tâm dữ liệu mới khổng lồ này,

100 billion dollars invested and so forth.

100 tỷ đô la đầu tư và vân vân.

And a new species can emerge from it.

Và một loài mới có thể xuất hiện từ AI.

I mean, in your book,

Ý tôi là, trong cuốn sách của bạn,

you did, as well as painting an incredible optimistic vision,

bạn đã làm, ngoài việc vẽ ra một tầm nhìn lạc quan đáng kinh ngạc,

you were super eloquent on the dangers of AI.

bạn đã rất hùng hồn về sự nguy hiểm của AI.

And I'm just curious, from the view that you have now,

Và tôi chỉ tò mò, từ quan điểm mà bạn có bây giờ,

what is it that most keeps you up at night?

Điều gì khiến bạn trăn trở mỗi đêm?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman: Tôi nghĩ rủi ro lớn là chúng ta bị mắc kẹt

in what I call the pessimism aversion trap.

trong cái mà tôi gọi là cái bẫy ác cảm bi quan

You know, we have to have the courage to confront

Bạn biết đấy, chúng ta phải có can đảm để đối mặt với

the potential of dark scenarios

khả năng xảy ra những kịch bản tồi tệ

in order to get the most out of all the benefits that we see.

để tận dụng tối đa tất cả những lợi ích mà chúng ta thấy.

So the good news is that if you look at the last two or three years,

Vậy, tin tốt là nếu bạn nhìn vào hai hoặc ba năm qua,

there have been very, very few downsides, right?

có rất ít nhược điểm, phải không?

It’s very hard to say explicitly what harm an LLM has caused.

Rất khó để nói rõ ràng những tác hại mà một LLM đã gây ra.

But that doesn’t mean that that’s what the trajectory is going to be

Nhưng điều đó không có nghĩa là đó là quỹ đạo sẽ diễn ra trong 10 năm tới.

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

Vì vậy, tôi nghĩ nếu bạn chú ý đến một vài khả năng cụ thể,

take for example, autonomy.

hãy lấy ví dụ, quyền tự chủ.

Autonomy is very obviously a threshold

Quyền tự chủ rõ ràng là một ngưỡng mà

over which we increase risk in our society.

qua đó chúng ta làm tăng rủi ro trong xã hội.

And it's something that we should step towards very, very closely.

Và đó là điều mà chúng ta nên tiến tới rất gần.

The other would be something like recursive self-improvement.

và cái thứ hai là sự cải thiện bản thân.

If you allow the model to independently self-improve,

Nếu bạn cho phép mô hình tự cải thiện một cách độc lập,

update its own code,

cập nhật mã của riêng nó,

explore an environment without oversight, and, you know,

khám phá một môi trường mà không có sự giám sát

và bạn biết đấy không có con người kiểm soát để thay đổi cách nó hoạt động,

without a human in control to change how it operates,

that would obviously be more dangerous.

điều đó rõ ràng sẽ nguy hiểm hơn.

But I think that we're still some way away from that.

Nhưng tôi nghĩ rằng chúng ta vẫn còn cách xa điều đó.

I think it's still a good five to 10 years before we have to really confront that.

Tôi nghĩ vẫn còn 5 đến 10 năm trước khi chúng ta phải thực sự đối mặt với điều đó.

But it's time to start talking about it now.

Nhưng đã đến lúc bắt đầu nói về nó ngay bây giờ.

CA: A digital species, unlike any biological species,

CA: Một loài kỹ thuật số, không giống bất kỳ sinh vật nào,

can replicate not in nine months,

có thể tái tạo không trong chín tháng, mà trong chín nano giây,

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

và tạo ra vô số bản sao của chính nó,

all of which have more power than we have in many ways.

tất cả đều có sức mạnh hơn chúng ta về nhiều mặt.

I mean, the possibility for unintended consequences seems pretty immense.

Ý tôi là, khả năng xảy ra những hậu quả không mong muốn có vẻ khá lớn.

And isn't it true that if a problem happens,

Và chẳng phải là nếu có vấn đề xảy ra,

it could happen in an hour?

nó có thể xảy ra trong một giờ sao?

MS: No.

MS: Không.

That is really not true.

Điều đó thực sự không đúng.

I think there's no evidence to suggest that.

Tôi nghĩ không có bằng chứng nào cho thấy điều đó.

And I think that, you know,

Và tôi nghĩ, bạn biết đấy, điều đó thường được gọi là “sự bùng nổ trí tuệ”.

that’s often referred to as the “intelligence explosion.”

And I think it is a theoretical, hypothetical maybe

Và tôi nghĩ đó là một lý thuyết, giả thuyết mà

that we're all kind of curious to explore,

tất cả chúng ta đều tò mò muốn khám phá,

but there's no evidence that we're anywhere near anything like that.

nhưng không có bằng chứng nào

cho thấy chúng ta đang ở gần những thứ như vậy.

And I think it's very important that we choose our words super carefully.

Và tôi nghĩ điều quan trọng là chúng ta phải diễn đạt nó rất cẩn thận.

Because you're right, that's one of the weaknesses of the species framing,

Bởi vì bạn nói đúng, đó là một trong những điểm yếu của việc định hình loài,

that we will design the capability for self-replication into it

rằng chúng tôi sẽ thiết kế khả năng tự sao chép vào AI

if people choose to do that.

nếu mọi người chọn làm điều đó.

And I would actually argue that we should not,

Và tôi thực sự cho rằng chúng ta không nên,

that would be one of the dangerous capabilities

đó sẽ là một trong những khả năng nguy hiểm

that we should step back from, right?

mà chúng ta nên lùi lại, phải không?

So there's no chance that this will "emerge" accidentally.

Vì vậy, không có khả năng điều này sẽ “xuất hiện” một cách vô tình.

I really think that's a very low probability.

Tôi thực sự nghĩ rằng đó là một xác suất rất thấp.

It will happen if engineers deliberately design those capabilities in.

Điều đó sẽ xảy ra nếu các kỹ sư cố tình thiết kế năng lực đó.

And if they don't take enough efforts to deliberately design them out.

Và nếu họ không dành đủ nỗ lực để thiết kế nó một cách có chủ ý

And so this is the point of being explicit

Và vì vậy, đây là điểm của việc rõ ràng

and transparent about trying to introduce safety by design very early on.

và minh bạch về việc cố gắng đưa tính an toàn bằng thiết kế từ rất sớm.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Cảm ơn bạn, ý tôi là tầm nhìn của bạn về việc con người

đã đưa những phần tốt đẹp của mình vào điều mới này

the best parts of ourselves,

avoiding all those weird, biological, freaky,

tránh tất cả những khuynh hướng sinh học, kỳ quái, khủng khiếp

horrible tendencies that we can have in certain circumstances,

mà chúng ta có thể có trong một số hoàn cảnh nhất định,

I mean, that is a very inspiring vision.

Ý tôi là, đó là một tầm nhìn rất truyền cảm hứng.

And thank you so much for coming here and sharing it at TED.

Và cảm ơn bạn rất nhiều vì đã đến đây và chia sẻ tại TED.

Thank you, good luck.

Cảm ơn bạn, chúc may mắn.

(Applause)

(Vỗ tay)