How we can build AI to help humans, not hurt us | Margaret Mitchell

Translator: Lam Nguyen Reviewer: Lan Dang

I work on helping computers communicate about the world around us.

Tôi đang làm việc để giúp máy tính có thể "giao tiếp" với thế giới.

There are a lot of ways to do this,

Có rất nhiều phương pháp để làm điều đó,

and I like to focus on helping computers

tôi muốn tập trung vào khía cạnh khiến máy tính

to talk about what they see and understand.

có thể diễn đạt điều mà chúng đang thấy và hiểu.

Given a scene like this,

Với một bức ảnh thế này,

a modern computer-vision algorithm

một thuật toán nhận diện hình ảnh hiện đại

can tell you that there's a woman and there's a dog.

có khả năng nhận biết đâu là cô gái và đâu là chú chó.

It can tell you that the woman is smiling.

Nó sẽ cho bạn biết rằng cô gái đang cười.

It might even be able to tell you that the dog is incredibly cute.

Thậm chí nó còn nói với bạn rằng chú chó đó cực kỳ dễ thương.

I work on this problem

Trong quá trình làm việc,

thinking about how humans understand and process the world.

tôi suy nghĩ nhiều về cách con người nhận thức thế giới xung quanh.

The thoughts, memories and stories

Những suy nghĩ, ký ức, hay kỷ niệm

that a scene like this might evoke for humans.

đều được con người gọi đến khi cần thiết.

All the interconnections of related situations.

Tất cả các mối liên hệ với các tình huống cụ thể có liên quan.

Maybe you've seen a dog like this one before,

Có thể bạn đã từng thấy chú chó này rồi,

or you've spent time running on a beach like this one,

hoặc bạn đã từng chạy bộ dọc bờ biển giống thế này,

and that further evokes thoughts and memories of a past vacation,

và điều đó gợi nhớ cho bạn những suy nghĩ và ký ức của kỳ nghỉ trước đây,

past times to the beach,

những lần ra biển,

times spent running around with other dogs.

những lần chạy bộ cùng chú chó cưng của mình.

One of my guiding principles is that by helping computers to understand

Một trong các mục tiêu tôi luôn hướng tới là giúp máy tính hiểu được

what it's like to have these experiences,

"cảm giác" khi trải qua những điều như vậy,

to understand what we share and believe and feel,

hiểu được cách chúng ta chia sẻ, tin tưởng, cảm nhận lẫn nhau,

then we're in a great position to start evolving computer technology

điều đó giúp công nghệ máy tính tiến hoá mạnh mẽ

in a way that's complementary with our own experiences.

tới mức chúng có thể hỗ trợ cho những trải nghiệm của chúng ta.

So, digging more deeply into this,

Tìm hiểu sâu hơn về vấn đề này,

a few years ago I began working on helping computers to generate human-like stories

vài năm trước, tôi bắt đầu giúp máy tính tạo ra các câu chuyện "như người kể"

from sequences of images.

từ một chuỗi những bức ảnh.

So, one day,

Một ngày kia,

I was working with my computer to ask it what it thought about a trip to Australia.

tôi đang cố gắng "hỏi" chiếc máy của mình về cảm xúc của nó khi được tới Úc.

It took a look at the pictures, and it saw a koala.

Nó nhìn vào một bức ảnh, trong đó có một chú gấu koala.

It didn't know what the koala was,

Nó không biết gì về loài gấu đó,

but it said it thought it was an interesting-looking creature.

nhưng nó cho rằng đó là một sinh vật có ngoại hình khá hay ho.

Then I shared with it a sequence of images about a house burning down.

Sau đó, tôi cho nó xem một loạt ảnh về một căn nhà đang đổ sập trong đám cháy.

It took a look at the images and it said,

Nó nhìn vào những bức ảnh đó và nói,

"This is an amazing view! This is spectacular!"

"Một quang cảnh tuyệt vời ngoài sức tưởng tượng!"

It sent chills down my spine.

Điều đó làm tôi rợn người.

It saw a horrible, life-changing and life-destroying event

Nó đang thấy một sự kiện khủng khiếp, khiến mạng sống con người bị đe doạ,

and thought it was something positive.

nhưng vẫn nghĩ đó là điều tốt đẹp.

I realized that it recognized the contrast,

Tôi nhận ra rằng nó đã để ý tới sự tương phản màu sắc,

the reds, the yellows,

các gam màu đỏ và vàng,

and thought it was something worth remarking on positively.

và khiến nó cho rằng đó là một sự kiện tốt đẹp.

And part of why it was doing this

Một phần lý do nó nghĩ như vậy

was because most of the images I had given it

vì hầu hết những bức ảnh tôi cho nó xem

were positive images.

đều nói lên sự tốt đẹp.

That's because people tend to share positive images

Lý do vì hầu hết mọi người đều chia sẽ những tấm ảnh tốt đẹp

when they talk about their experiences.

khi họ nói về trải nghiệm của chính mình.

When was the last time you saw a selfie at a funeral?

Bạn có nhớ lần cuối bạn thấy ai đó "selfie" tại đám tang?

I realized that, as I worked on improving AI

Tôi nhận ra điều đó khi cố gắng cải thiện AI

task by task, dataset by dataset,

từng chút một, trong mỗi công việc, với các bộ dữ liệu khác nhau,

that I was creating massive gaps,

tôi đang tạo ra những lỗ hổng lớn,

holes and blind spots in what it could understand.

những "điểm mù" làm hạn chế những điều AI có thể hiểu được.

And while doing so,

Khi làm vậy,

I was encoding all kinds of biases.

tôi đã khiến AI suy nghĩ theo lối mòn (bias).

Biases that reflect a limited viewpoint,

Điều đó phản ánh một điểm nhìn hạn hẹp,

limited to a single dataset --

do chỉ được huấn luyện với một bộ dữ liệu duy nhất.

biases that can reflect human biases found in the data,

Lối mòn của dữ liệu cũng phản ánh lối mòn trong suy nghĩ con người,

such as prejudice and stereotyping.

biểu hiện qua thành kiến và sự đánh đồng.

I thought back to the evolution of the technology

Tôi nghĩ lại về cách công nghệ thay đổi và tiến hoá,

that brought me to where I was that day --

điều đó giúp tôi đứng ở đây hôm nay --

how the first color images

những bức ảnh màu đầu tiên

were calibrated against a white woman's skin,

phản ứng rất tốt với màu da của người da trắng,

meaning that color photography was biased against black faces.

có nghĩa rằng ảnh màu đã vô tình "chống lại" người da đen.

And that same bias, that same blind spot

Điểm nhìn hạn hẹp dẫn đến "điểm mù" đó

continued well into the '90s.

vẫn tiếp tục cho đến những năm 1990.

And the same blind spot continues even today

Một điểm mù tương tự vẫn kéo dài cho đến ngày nay

in how well we can recognize different people's faces

về khả năng nhận diện những khuôn mặt khác nhau

in facial recognition technology.

trong công nghệ nhận dạng khuôn mặt.

I though about the state of the art in research today,

Tôi nghĩ tới những nghiên cứu mới nhất hiện nay,

where we tend to limit our thinking to one dataset and one problem.

khi ta bó hẹp suy nghĩ của mình trong một bộ dữ liệu và một vấn đề.

And that in doing so, we were creating more blind spots and biases

Bằng việc làm như vậy, ta đã tạo ra thêm nhiều điểm mù và lối mòn,

that the AI could further amplify.

điều đó được AI nhân thêm bội phần.

I realized then that we had to think deeply

Khi đó, tôi nhận ra ta cần suy nghĩ sâu hơn

about how the technology we work on today looks in five years, in 10 years.

về bộ mặt của những công nghệ hiện nay trong năm hay mười năm nữa.

Humans evolve slowly, with time to correct for issues

Con người tiến hoá rất chậm, theo thời gian, họ trở nên thích nghi hơn

in the interaction of humans and their environment.

khi tương tác với người khác và với môi trường.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Ngược lại, AI tiến hoá với tốc độ không tưởng.

And that means that it really matters

Điều đó thực sự quan trọng

that we think about this carefully right now --

nếu chúng ta nghĩ kỹ --

that we reflect on our own blind spots,

chúng chính là những "điểm mù" của ta,

our own biases,

những lối mòn cũ kỹ của ta,

and think about how that's informing the technology we're creating

hãy nghĩ đến tầm ảnh hưởng của nó đến thứ công nghệ ta đang tạo ra hôm nay,

and discuss what the technology of today will mean for tomorrow.

và bàn đến ý nghĩa của chúng đối với tương lai ta sau này.

CEOs and scientists have weighed in on what they think

Các giám đốc điều hành và nhà khoa học đã cho biết những gì họ nghĩ

the artificial intelligence technology of the future will be.

về cách mà công nghệ AI hoạt động trong tương lai.

Stephen Hawking warns that

Stephen Hawking đã cảnh báo rằng

"Artificial intelligence could end mankind."

"Trí tuệ nhân tạo có thể là điểm kết thúc của loài người."

Elon Musk warns that it's an existential risk

Elon Musk cảnh báo đó là mối nguy hại liên quan đến sự tồn vong

and one of the greatest risks that we face as a civilization.

và là một trong những hiểm hoạ lớn nhất nền văn minh này phải đối mặt.

Bill Gates has made the point,

Bill Gates thì cho rằng,

"I don't understand why people aren't more concerned."

"Tôi không hiểu nổi vì sao người ta chẳng lo lắng gì cả."

But these views --

Nhưng các quan điểm này --

they're part of the story.

chúng là một phần của bức tranh lớn hơn.

The math, the models,

Những mô hình toán học,

the basic building blocks of artificial intelligence

những viên gạch nền tảng của trí tuệ nhân tạo

are something that we call access and all work with.

đều là những thứ chúng tôi thường xuyên làm việc cùng.

We have open-source tools for machine learning and intelligence

Ta có những nền tảng mã nguồn mở dành riêng cho Học máy hoặc AI

that we can contribute to.

mà ai cũng có thể đóng góp vào.

And beyond that, we can share our experience.

Xa hơn nữa, thông qua đó, ta có thể chia sẻ trải nghiệm của mình.

We can share our experiences with technology and how it concerns us

Ta có thể chia sẻ những điều mà công nghệ khiến ta bận tâm

and how it excites us.

và cách chúng làm ta thích thú.

We can discuss what we love.

Ta có thể nói về thứ ta yêu quý.

We can communicate with foresight

Ta có thể đưa ra những dự đoán

about the aspects of technology that could be more beneficial

về những khía cạnh công nghệ giúp ích con người

or could be more problematic over time.

hoặc những vấn đề cần giải quyết.

If we all focus on opening up the discussion on AI

Nếu chúng ta đều cởi mở trong vấn đề chia sẻ về AI

with foresight towards the future,

với tầm nhìn tương lai rõ ràng,

this will help create a general conversation and awareness

điều đó sẽ chúng ta tạo nên một nền tảng kiến thức

about what AI is now,

về bản chất của AI hiện nay,

what it can become

sự phát triển của nó trong tương lai,

and all the things that we need to do

và những điều ta phải làm

in order to enable that outcome that best suits us.

để đảm bảo một kết quả tốt nhất cho chúng ta.

We already see and know this in the technology that we use today.

Ta đã biết rõ những điều đó qua việc sử dụng các công nghệ ngày nay.

We use smart phones and digital assistants and Roombas.

Ta dùng điện thoại thông minh, trợ lý ảo và những con robot biết dọn phòng.

Are they evil?

Điều đó có xấu xa không?

Maybe sometimes.

Cũng tuỳ lúc.

Are they beneficial?

Chúng có ích cho ta không?

Yes, they're that, too.

Cũng tuỳ lúc thôi.

And they're not all the same.

Và không phải trường hợp nào cũng như nhau.

And there you already see a light shining on what the future holds.

Khi đó, bạn đã thấy những tia sáng từ tương lai tới.

The future continues on from what we build and create right now.

Tương lai sẽ tiếp diễn từ những điều chúng ta đang xây dựng hôm nay.

We set into motion that domino effect

Giống như hiệu ứng domino,

that carves out AI's evolutionary path.

ta vẽ nên lộ trình phát triển và tiến hoá của AI.

In our time right now, we shape the AI of tomorrow.

Những gì ta làm bây giờ sẽ quyết định AI tương lai.

Technology that immerses us in augmented realities

Những công nghệ giúp ta được sống trong thực tế tăng cường,

bringing to life past worlds.

đem tới cho chúng ta sự sống từ xa xưa.

Technology that helps people to share their experiences

Công nghệ giúp con người chia sẻ những trải nghiệm của mình

when they have difficulty communicating.

khi họ gặp khó khăn trong việc giao tiếp.

Technology built on understanding the streaming visual worlds

Hay công nghệ chuyên về thu thập và xử lý thế giới hình ảnh,

used as technology for self-driving cars.

được dùng trong các sản phẩm như xe tự lái.

Technology built on understanding images and generating language,

Công nghệ chuyên về xử lý hình ảnh và sinh ra ngôn ngữ,

evolving into technology that helps people who are visually impaired

được phát triển để hỗ trợ những người gặp vấn đề về thị lực,

be better able to access the visual world.

hỗ trợ họ hiểu rõ hơn về những hình ảnh quanh mình.

And we also see how technology can lead to problems.

Và ta cũng thấy được rằng công nghệ tạo ra những vấn đề mới.

We have technology today

Ngày nay, ta có những công nghệ

that analyzes physical characteristics we're born with --

phân tích chính xác ngoại hình của con người,

such as the color of our skin or the look of our face --

ví dụ như màu da hay các đường nét trên khuôn mặt,

in order to determine whether or not we might be criminals or terrorists.

nhằm dự đoán liệu ta có nguy cơ trở thành tội phạm hoặc khủng bố được không.

We have technology that crunches through our data,

Ta có những công nghệ xử lý dữ liệu cá nhân của người khác,

even data relating to our gender or our race,

thậm chí chúng kiểm tra dữ liệu về giới tính và chủng tộc,

in order to determine whether or not we might get a loan.

nhằm quyết định xem liệu ta có được vay tiền hay không.

All that we see now

Mọi thứ ta thấy bây giờ

is a snapshot in the evolution of artificial intelligence.

chỉ là một mảnh ghép nhỏ trong sự tiến hoá của AI.

Because where we are right now,

Bởi vì hiện tại ta đang sống

is within a moment of that evolution.

vẫn nằm trong quá trình tiến hoá đó.

That means that what we do now will affect what happens down the line

Điều đó có nghĩa những điều ta làm bây giờ sẽ ảnh hưởng sâu rộng đến hiện tại

and in the future.

và đến tương lai.

If we want AI to evolve in a way that helps humans,

Nếu ta muốn AI tiến hoá theo hướng hỗ trợ loài người,

then we need to define the goals and strategies

ta cần định nghĩa rõ ràng mục tiêu và các phương pháp cụ thể

that enable that path now.

để vạch ra con đường đó.

What I'd like to see is something that fits well with humans,

Tôi muốn thấy một thứ phù hợp nhất với con người,

with our culture and with the environment.

với văn hoá của chúng ta và với môi trường.

Technology that aids and assists those of us with neurological conditions

Công nghệ cần hỗ trợ những người gặp vấn đề về thần kinh

or other disabilities

hay bất cứ khuyết tật nào khác

in order to make life equally challenging for everyone.

nhằm tạo ra một cuộc sống bình đẳng cho tất cả mọi người.

Technology that works

Công nghệ cần được áp dụng

regardless of your demographics or the color of your skin.

bất kể ngoại hình hay màu da của bạn thế nào.

And so today, what I focus on is the technology for tomorrow

Điều tôi muốn tập trung đến là về công nghệ cho ngày mai

and for 10 years from now.

và cho mười năm nữa.

AI can turn out in many different ways.

AI sẽ biến thể theo nhiều cách khác nhau.

But in this case,

Nhưng trong tình huống này,

it isn't a self-driving car without any destination.

nó không chỉ là một chiếc xe tự lái mà không biết điểm đích.

This is the car that we are driving.

Nó giống như chiếc xe ta đang lái hằng ngày.

We choose when to speed up and when to slow down.

Ta sẽ quyết định lúc nào nên tăng tốc và giảm tốc.

We choose if we need to make a turn.

Ta quyết định lúc nào nên rẽ.

We choose what the AI of the future will be.

Ta quyết định số phận của AI tương lai.

There's a vast playing field

Có vô vàn bộ mặt

of all the things that artificial intelligence can become.

mà trí tuệ nhân tạo có thể biến thành.

It will become many things.

Chúng sẽ có mặt trong nhiều thứ.

And it's up to us now,

Điều đó phụ thuộc vào chúng ta,

in order to figure out what we need to put in place

ta cần tìm hiểu những gì cần thực hiện ngay hôm nay

to make sure the outcomes of artificial intelligence

để tìm đường đi đúng đắn cho trí tuệ nhân tạo,

are the ones that will be better for all of us.

một con đường đi giúp tất cả chúng ta tốt hơn.

Thank you.

Cám ơn.

(Applause)

(Vỗ tay)