How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Translator: Quỳnh Phương Flora Reviewer: Thùy Dung Đỗ

When I talk to people about artificial intelligence,

Khi tôi nói chuyện với mọi người về trí tuệ nhân tạo,

something I hear a lot from non-experts is “I don’t understand AI.”

điều tôi nghe nhiều từ những người không phải là chuyên gia là “Tôi không hiểu AI.”

But when I talk to experts, a funny thing happens.

Nhưng khi tôi nói với các chuyên gia, có điều buồn cười xảy ra.

They say, “I don’t understand AI, and neither does anyone else.”

Họ nói, “Tôi không hiểu AI, và bất kỳ ai khác cũng vậy.”

This is a pretty strange state of affairs.

Đây là một tình trạng khá kỳ lạ.

Normally, the people building a new technology

Thông thường, những người xây dựng một công nghệ mới

understand how it works inside and out.

hiểu cách nó hoạt động từ trong ra ngoài.

But for AI, a technology that's radically reshaping the world around us,

Nhưng với AI, một công nghệ đang định hình lại hoàn toàn thế giới quanh ta,

that's not so.

nó không phải như vậy.

Experts do know plenty about how to build and run AI systems, of course.

Tất nhiên, các chuyên gia biết rất nhiều về cách xây dựng và chạy hệ thống AI.

But when it comes to how they work on the inside,

Nhưng khi nói đến cách chúng hoạt động bên trong,

there are serious limits to how much we know.

có những giới hạn nghiêm trọng đối với việc chúng ta biết bao nhiêu.

And this matters because without deeply understanding AI,

Và điều này quan trọng bởi vì nếu không hiểu sâu sắc về AI,

it's really difficult for us to know what it will be able to do next,

chúng ta thực sự khó biết nó sẽ có thể làm gì tiếp theo,

or even what it can do now.

hay thậm chí là những gì nó có thể làm bây giờ.

And the fact that we have such a hard time understanding

Và thực tế là chúng ta gặp khó khăn trong việc hiểu

what's going on with the technology and predicting where it will go next,

những gì đang xảy ra với công nghệ và dự đoán nó sẽ đi đến đâu tiếp theo,

is one of the biggest hurdles we face in figuring out how to govern AI.

là một trong số rào cản lớn nhất chúng ta phải đối mặt về việc tìm cách quản lý AI.

But AI is already all around us,

Nhưng AI đã ở xung quanh chúng ta,

so we can't just sit around and wait for things to become clearer.

vì vậy chúng ta không thể chỉ ngồi và chờ đợi mọi thứ trở nên rõ ràng hơn.

We have to forge some kind of path forward anyway.

Dù sao thì chúng ta cũng phải tạo ra một hướng đi nào đó.

I've been working on these AI policy and governance issues

Tôi đã làm việc về chính sách AI và các vấn đề quản trị

for about eight years,

trong khoảng tám năm,

First in San Francisco, now in Washington, DC.

Đầu tiên ở San Francisco, bây giờ ở Washington, DC.

Along the way, I've gotten an inside look

Trên đường đi, tôi đã có một cái nhìn bên trong

at how governments are working to manage this technology.

về cách các chính phủ đang làm việc để quản lý công nghệ này.

And inside the industry, I've seen a thing or two as well.

Và trong ngành công nghiệp, tôi cũng đã thấy một hoặc hai điều.

So I'm going to share a couple of ideas

Vì vậy, tôi sẽ chia sẻ một vài ý tưởng

for what our path to governing AI could look like.

về con đường quản lý AI của chúng ta có thể trông như thế nào.

But first, let's talk about what actually makes AI so hard to understand

Nhưng trước tiên, hãy nói về những gì thực sự khiến AI trở nên khó hiểu

and predict.

và dự đoán.

One huge challenge in building artificial "intelligence"

Một thách thức lớn trong việc xây dựng “trí tuệ nhân tạo”

is that no one can agree on what it actually means

là không ai có thể đồng ý về ý nghĩa thực sự của việc

to be intelligent.

trở nên thông minh.

This is a strange place to be in when building a new tech.

Đây là một nơi kỳ lạ khi xây dựng một công nghệ mới.

When the Wright brothers started experimenting with planes,

Khi anh em nhà Wright bắt đầu thử nghiệm với máy bay,

they didn't know how to build one,

họ không biết chế tạo thế nào,

but everyone knew what it meant to fly.

nhưng mọi người đều biết điều đó là gì khi bay.

With AI on the other hand,

Mặt khác, với AI,

different experts have completely different intuitions

các chuyên gia khác nhau có trực giác hoàn toàn khác nhau

about what lies at the heart of intelligence.

về những gì nằm ở trung tâm của trí thông minh.

Is it problem solving?

Đó có phải là giải quyết vấn đề?

Is it learning and adaptation,

Đó là học tập và thích nghi,

are emotions,

hay cảm xúc

or having a physical body somehow involved?

có một cơ thể vật lý bằng cách nào đó liên quan?

We genuinely don't know.

Chúng tôi thực sự không biết.

But different answers lead to radically different expectations

Nhưng các câu trả lời khác nhau dẫn đến những kỳ vọng hoàn toàn khác nhau

about where the technology is going and how fast it'll get there.

về việc công nghệ đang đi đến đâu và nó sẽ đến đó nhanh như thế nào.

An example of how we're confused is how we used to talk

Một ví dụ mà chúng ta bối rối là cách chúng ta thường

about narrow versus general AI.

nói về AI hẹp so với AI nói chung.

For a long time, we talked in terms of two buckets.

Trong một thời gian dài, chúng tôi đã nói chuyện về hai thùng.

A lot of people thought we should just be dividing between narrow AI,

Rất nhiều người nghĩ rằng chúng ta chỉ nên phân chia giữa AI hẹp,

trained for one specific task,

được đào tạo cho một nhiệm vụ cụ thể,

like recommending the next YouTube video,

như giới thiệu video YouTube tiếp theo,

versus artificial general intelligence, or AGI,

so với trí tuệ nhân tạo chung, hoặc AGI,

that could do everything a human could do.

mà có thể làm mọi thứ mà con người có thể làm.

We thought of this distinction, narrow versus general,

Chúng tôi nghĩ về sự khác biệt này, hẹp so với chung chung,

as a core divide between what we could build in practice

như một sự phân chia cốt lõi giữa những gì chúng tôi có thể xây dựng trong thực tế

and what would actually be intelligent.

và những gì thực sự thông minh.

But then a year or two ago, along came ChatGPT.

Nhưng sau đó một hoặc hai năm trước, ChatGPT đã xuất hiện.

If you think about it,

Nếu bạn nghĩ về nó,

you know, is it narrow AI, trained for one specific task?

bạn biết đấy, đó có phải là AI hẹp, được đào tạo cho một nhiệm vụ thôi không?

Or is it AGI and can do everything a human can do?

Hay đó là AGI và có thể làm mọi thứ mà con người có thể làm?

Clearly the answer is neither.

Rõ ràng câu trả lời là không.

It's certainly general purpose.

Đó chắc chắn là mục đích chung.

It can code, write poetry,

Nó có thể viết mã, viết thơ,

analyze business problems, help you fix your car.

phân tích các vấn đề kinh doanh, giúp bạn sửa xe của bạn.

But it's a far cry from being able to do everything

Nhưng nó còn khác xa với việc có thể làm mọi thứ tốt

as well as you or I could do it.

như bạn hoặc tôi có thể làm điều đó.

So it turns out this idea of generality

Hóa ra ý tưởng về tính tổng quát này

doesn't actually seem to be the right dividing line

không thực sự là ranh giới phân chia đúng đắn

between intelligent and not.

giữa thông minh và không.

And this kind of thing

Và loại điều này

is a huge challenge for the whole field of AI right now.

là một thách thức lớn đối với toàn bộ lĩnh vực AI bây giờ.

We don't have any agreement on what we're trying to build

Chúng tôi không có thỏa thuận nào về việc xây dựng cái gì

or on what the road map looks like from here.

hoặc về lộ trình từ đây trông như thế nào.

We don't even clearly understand the AI systems that we have today.

Chúng tôi thậm chí không hiểu rõ các hệ thống AI mà chúng tôi có ngày nay.

Why is that?

Tại sao lại như vậy?

Researchers sometimes describe deep neural networks,

Các nhà nghiên cứu đôi khi mô tả mạng nơ-ron sâu,

the main kind of AI being built today,

loại AI chính đang được xây dựng ngày nay,

as a black box.

như một hộp đen.

But what they mean by that is not that it's inherently mysterious

Nhưng ý của họ không phải là nó vốn là bí ẩn

and we have no way of looking inside the box.

và chúng ta không có cách nào để nhìn vào bên trong hộp.

The problem is that when we do look inside,

Vấn đề là khi chúng ta nhìn vào bên trong,

what we find are millions,

những gì chúng ta tìm thấy là hàng triệu,

billions or even trillions of numbers

hàng tỷ hoặc thậm chí hàng nghìn tỷ con số

that get added and multiplied together in a particular way.

được cộng lại và nhân lên với nhau theo một cách cụ thể.

What makes it hard for experts to know what's going on

Điều khiến các chuyên gia khó biết điều gì đang xảy ra

is basically just, there are too many numbers,

về cơ bản là, có quá nhiều con số,

and we don't yet have good ways of teasing apart what they're all doing.

và chúng ta vẫn chưa có cách tốt để phân biệt những gì họ đang làm.

There's a little bit more to it than that, but not a lot.

Có một chút nhiều hơn thế, nhưng không nhiều.

So how do we govern this technology

Vậy làm thế nào để chúng ta quản lý công nghệ này

that we struggle to understand and predict?

mà chúng ta phải chật vật để hiểu và dự đoán?

I'm going to share two ideas.

Tôi sẽ chia sẻ hai ý tưởng.

One for all of us and one for policymakers.

Một cho tất cả chúng ta và một cho các nhà hoạch định chính sách.

First, don't be intimidated.

Đầu tiên, đừng bị đe dọa.

Either by the technology itself

Hoặc bởi chính công nghệ

or by the people and companies building it.

hoặc bởi những người và công ty xây dựng nó.

On the technology,

Về công nghệ,

AI can be confusing, but it's not magical.

AI có thể gây nhầm lẫn, nhưng nó không phải kỳ diệu.

There are some parts of AI systems we do already understand well,

Có một số phần của hệ thống AI mà chúng ta đã hiểu rõ,

and even the parts we don't understand won't be opaque forever.

và ngay cả những phần chúng ta không hiểu cũng sẽ không bị mờ đục mãi mãi.

An area of research known as “AI interpretability”

Một lĩnh vực nghiên cứu được gọi là “khả năng diễn giải AI”

has made quite a lot of progress in the last few years

đã đạt được khá nhiều tiến bộ trong vài năm qua

in making sense of what all those billions of numbers are doing.

trong việc hiểu những gì tất cả hàng tỷ con số đó đang làm.

One team of researchers, for example,

Ví dụ, một nhóm các nhà nghiên cứu đã

found a way to identify different parts of a neural network

tìm ra cách xác định các phần khác nhau của mạng nơ-ron

that they could dial up or dial down

mà họ có thể quay số lên hoặc quay xuống

to make the AI's answers happier or angrier,

để làm cho câu trả lời của AI hạnh phúc hơn hoặc tức giận hơn,

more honest,

trung thực hơn,

more Machiavellian, and so on.

Machiavellian hơn, v.v.

If we can push forward this kind of research further,

Nếu chúng ta thúc đẩy loại nghiên cứu này hơn nữa,

then five or 10 years from now,

thì 5 hoặc 10 năm nữa,

we might have a much clearer understanding of what's going on

chúng ta có thể hiểu rõ hơn nhiều về những gì đang diễn ra

inside the so-called black box.

bên trong cái gọi là hộp đen.

And when it comes to those building the technology,

Và khi nói đến những người xây dựng công nghệ,

các nhà công nghệ đôi khi hành động như thể

technologists sometimes act as though

if you're not elbows deep in the technical details,

nếu bạn không sâu vào các chi tiết kỹ thuật,

then you're not entitled to an opinion on what we should do with it.

thì bạn không có quyền đưa ý kiến về những gì chúng ta nên làm với nó.

Expertise has its place, of course,

Tất nhiên, chuyên môn có vị trí của nó,

but history shows us how important it is

nhưng lịch sử cho thấy tầm quan trọng của việc

that the people affected by a new technology

những người bị ảnh hưởng bởi một công nghệ mới

get to play a role in shaping how we use it.

có ảnh hưởng trong việc định hình cách ta sử dụng nó.

Like the factory workers in the 20th century who fought for factory safety,

Như những công nhân thế kỷ 20 đã đấu tranh cho sự an toàn của nhà máy,

or the disability advocates

hoặc những người ủng hộ người khuyết tật

who made sure the world wide web was accessible.

mà đã đảm bảo rằng mạng toàn cầu có thể truy cập được.

You don't have to be a scientist or engineer to have a voice.

Bạn không cần phải là một nhà khoa học hoặc kỹ sư để có tiếng nói.

(Applause)

(Vỗ tay)

Second, we need to focus on adaptability, not certainty.

Thứ hai, chúng ta cần tập trung vào khả năng thích ứng, không phải sự chắc chắn.

A lot of conversations about how to make policy for AI

Rất nhiều cuộc trò chuyện về cách tạo ra chính sách cho AI

get bogged down in fights between, on the one side,

bị sa lầy trong các cuộc chiến giữa, một bên,

people saying, "We have to regulate AI really hard right now

mọi người nói, “Ta phải nghiêm túc điều chỉnh AI ngay bây giờ

because it's so risky."

vì nó rất rủi ro.”

And on the other side, people saying,

Và ở phía còn lại, mọi người nói,

“But regulation will kill innovation, and those risks are made up anyway.”

“Nhưng quy định sẽ giết chết sự đổi mới, và những rủi ro chỉ là tưởng tượng.”

But the way I see it,

Nhưng theo tôi,

it’s not just a choice between slamming on the brakes

đó không chỉ là sự lựa chọn giữa đập phanh

or hitting the gas.

hoặc bấm ga.

If you're driving down a road with unexpected twists and turns,

Nếu bạn đang lái xe trên một con đường có những khúc cua bất ngờ,

then two things that will help you a lot

thì hai điều sẽ giúp bạn rất nhiều

are having a clear view out the windshield

là có tầm nhìn rõ ràng ra kính chắn gió

and an excellent steering system.

và một hệ thống lái tuyệt vời.

In AI, this means having a clear picture of where the technology is

Trong AI, điều này có nghĩa là có một bức tranh rõ ràng về vị trí của công nghệ

and where it's going,

và nó sẽ đi đến đâu,

and having plans in place for what to do in different scenarios.

và có kế hoạch cho những việc cần làm trong các tình huống khác nhau.

Concretely, this means things like investing in our ability to measure

Điều này nghĩa là những thứ như đầu tư vào khả năng đo lường

what AI systems can do.

những gì các hệ thống AI có thể làm.

This sounds nerdy, but it really matters.

Điều này nghe có vẻ mọt sách, nhưng nó thực sự quan trọng.

Right now, if we want to figure out

Bây giờ, nếu chúng ta muốn tìm hiểu xem

whether an AI can do something concerning,

AI có thể làm điều gì nguy hiểm không,

like hack critical infrastructure

như là hack cơ sở hạ tầng quan trọng

or persuade someone to change their political beliefs,

hay thuyết phục ai đó thay đổi quan điểm chính trị,

our methods of measuring that are rudimentary.

phương pháp đo lường của chúng ta chỉ là sơ đẳng.

We need better.

Chúng ta cần cách tốt hơn.

We should also be requiring AI companies,

Chúng ta cũng nên yêu cầu các công ty AI,

especially the companies building the most advanced AI systems,

đặc biệt là các công ty xây dựng các hệ thống AI tiên tiến nhất,

to share information about what they're building,

chia sẻ thông tin về những gì họ đang xây dựng, những

what their systems can do

gì hệ thống của họ có thể làm

and how they're managing risks.

và cách họ quản lý rủi ro.

And they should have to let in external AI auditors to scrutinize their work

Và họ nên cho phép các kiểm toán viên AI bên ngoài xem xét kỹ công việc của họ

so that the companies aren't just grading their own homework.

để các công ty không chỉ chấm bài tập về nhà của riêng họ.

(Applause)

(Vỗ tay)

A final example of what this can look like

Ví dụ cuối về điều này có thể trông như thế nào

is setting up incident reporting mechanisms,

là thiết lập các cơ chế báo cáo sự cố,

so that when things do go wrong in the real world,

để khi có sự cố xảy ra trong thế giới thực,

we have a way to collect data on what happened

chúng ta có cách thu thập dữ liệu về những gì đã xảy ra

and how we can fix it next time.

và cách ta có thể sửa nó vào lần sau.

Just like the data we collect on plane crashes and cyber attacks.

Cũng như dữ liệu thu thập được về các vụ tai nạn máy bay và tấn công mạng.

Không có ý tưởng nào trong này là của tôi,

None of these ideas are mine,

and some of them are already starting to be implemented in places like Brussels,

và một số trong số đó đã bắt đầu được thực hiện ở những nơi như Brussels,

London, even Washington.

London, thậm chí cả Washington.

But the reason I'm highlighting these ideas,

Nhưng lý do tôi nhấn mạnh những ý tưởng này,

measurement, disclosure, incident reporting,

đo lường, tiết lộ, báo cáo sự cố,

is that they help us navigate progress in AI

là chúng giúp chúng ta điều hướng tiến bộ trong AI

by giving us a clearer view out the windshield.

bằng cách cho chúng ta cái nhìn rõ ràng hơn về kính chắn gió.

If AI is progressing fast in dangerous directions,

Nếu AI đang tiến triển nhanh theo những hướng nguy hiểm,

these policies will help us see that.

những chính sách này sẽ giúp chúng ta thấy điều đó.

And if everything is going smoothly, they'll show us that too,

Và nếu mọi thứ diễn ra suôn sẻ, họ cũng sẽ cho chúng ta thấy điều đó,

and we can respond accordingly.

và chúng ta có thể đáp ứng cho phù hợp.

What I want to leave you with

Điều tôi muốn để lại cho bạn

is that it's both true that there's a ton of uncertainty

là đúng là có rất nhiều sự không chắc chắn

and disagreement in the field of AI.

và bất đồng trong lĩnh vực AI.

And that companies are already building and deploying AI

Và các công ty đã xây dựng và triển khai AI

all over the place anyway in ways that affect all of us.

khắp nơi theo những cách ảnh hưởng đến tất cả chúng ta.

Left to their own devices,

Bỏ mặc cho thiết bị của họ,

it looks like AI companies might go in a similar direction

có vẻ như các công ty AI có thể đi theo hướng

to social media companies,

tương tự như các công ty mạng xã hội,

spending most of their resources on building web apps

dành phần lớn tài nguyên vào việc xây dựng các ứng dụng

and for users' attention.

và thu hút sự chú ý của người dùng.

And by default, it looks like the enormous power of more advanced AI systems

Và theo mặc định, nó trông như sức mạnh to lớn của các hệ thống AI tiên tiến hơn

might stay concentrated in the hands of a small number of companies,

có thể nằm trong tay của một số ít công ty,

or even a small number of individuals.

hoặc thậm chí một số ít cá nhân.

But AI's potential goes so far beyond that.

Nhưng tiềm năng của AI vượt xa điều đó.

AI already lets us leap over language barriers

AI đã cho phép chúng ta vượt qua rào cản ngôn ngữ

and predict protein structures.

và dự đoán cấu trúc protein.

More advanced systems could unlock clean, limitless fusion energy

Các hệ thống tiên tiến hơn có thể mở khóa năng lượng nhiệt hạch sạch, vô hạn

or revolutionize how we grow food

hoặc cách mạng hóa cách chúng ta trồng thực phẩm

or 1,000 other things.

hoặc 1.000 thứ khác.

And we each have a voice in what happens.

Và mỗi chúng ta đều có tiếng nói về những gì xảy ra.

We're not just data sources,

Chúng tôi không chỉ là nguồn dữ liệu,

we are users,

chúng tôi là người dùng,

we're workers,

chúng tôi là công nhân,

we're citizens.

chúng tôi là công dân.

So as tempting as it might be,

Vì vậy, dù nó có thể hấp dẫn,

we can't wait for clarity or expert consensus

chúng tôi không thể chờ đợi sự rõ ràng hoặc đồng thuận của chuyên gia

to figure out what we want to happen with AI.

để tìm ra những gì chúng tôi muốn xảy ra với AI.

AI is already happening to us.

AI đang xảy ra với chúng ta.

What we can do is put policies in place

Những gì chúng ta có thể làm là đưa ra các chính sách

to give us as clear a picture as we can get

để cung cấp một bức tranh rõ ràng nhất có thể

of how the technology is changing,

về cách công nghệ đang thay đổi,

and then we can get in the arena and push for futures we actually want.

và rồi ta có thể tham gia đấu trường và thúc đẩy tương lai mà ta thực sự muốn.

Thank you.

Cảm ơn bạn.

(Applause)

(Vỗ tay)