How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Translator: Gia Bảo Nguyễn

Bạn đã ra bao nhiêu quyết định cho mình trong hôm nay rồi,

hay cũng có thể là trong tuần hoặc năm nay,

bằng trí tuệ nhân tạo?

How many decisions have been made about you today,

Tôi kiếm sống bằng cách xây dựng AI

or this week or this year,

nên, nói cách khác, tôi kiểu như 1 kẻ mọt sách vậy.

by artificial intelligence?

Và do tôi là một đứa mọt sách,

nên mỗi khi có chuyện gì đó mới

I build AI for a living

so, full disclosure, I'm kind of a nerd.

về việc trí tuệ nhân tạo đang lấy mất công việc của chúng ta,

And because I'm kind of a nerd,

hay những robot được cấp quyền công dân ở 1 đất nước có thật,

wherever some new news story comes out

Tôi là kiểu người mà lũ bạn hay những người theo dõi hay gọi là

about artificial intelligence stealing all our jobs,

kẻ hay lo về tương lai.

or robots getting citizenship of an actual country,

Ta thấy điều này ở mọi nơi.

Truyền thông sợ rằng những lãnh chúa robot đang dần chiếm lấy thế giới.

I'm the person my friends and followers message

freaking out about the future.

Ta có thể đỗ lỗi cho Hollywood vì điều này.

We see this everywhere.

This media panic that our robot overlords are taking over.

Nhưng trong thực tế, đó không phải là vấn đề mà ta nên tập trung vào.

We could blame Hollywood for that.

Còn nhiều mối nguy hơn đang đè ấp, 1 nguy cơ lớn hơn với AI,

But in reality, that's not the problem we should be focusing on.

mà ta cần sửa chữa đầu tiên.

Nên ta sẽ quay lại với câu hỏi này:

There is a more pressing danger, a bigger risk with AI,

Bạn dùng AI để ra bao nhiêu quyết định cho mình vào hôm nay?

that we need to fix first.

So we are back to this question:

Và bao nhiêu trong số đó

How many decisions have been made about you today by AI?

dựa trên giới tính, chủng tộc hay lí lịch của bạn?

And how many of these

Các thuật toán được dùng vào mọi lúc

were based on your gender, your race or your background?

để đưa quyết định rằng ta là ai và ta muốn gì.

Vài người phụ nữ trong phòng này sẽ biết tôi đang nói về cái gì

Algorithms are being used all the time

to make decisions about who we are and what we want.

Nếu bạn được gọi tham gia vào những quảng cáo thử thai trên YouTube

tầm 1,000 lần.

Some of the women in this room will know what I'm talking about

Hoặc bạn đã lướt qua các quảng cáo của các phòng khám hiếm muộn

if you've been made to sit through those pregnancy test adverts on YouTube

trên Facebook feed.

Hay trong trường hợp của tôi, là văn phòng hôn nhân Ấn Độ.

like 1,000 times.

Or you've scrolled past adverts of fertility clinics

(Cười)

Nhưng AI không chỉ được dùng để ra quyết định

on your Facebook feed.

về các sản phầm mà ta muốn mua

Or in my case, Indian marriage bureaus.

hay về chương mình mà ta muốn xem tiếp.

(Laughter)

But AI isn't just being used to make decisions

Tôi tự nhũ bạn sẽ cảm thấy thế nào khi có ai đó nghĩ về mấy thứ như này:

about what products we want to buy

or which show we want to binge watch next.

“Một người da den hoặc Latin

sẽ có khả năng trả nợ đúng hạn ít hơn so với một người da trắng.”

I wonder how you'd feel about someone who thought things like this:

“Một người tên John có thể là một lập trình viên tốt hơn

"A black or Latino person

so với một người tên Mary.”

is less likely than a white person to pay off their loan on time."

“Người da đen thì có khả năng tái phạm tội cao hơn người da trắng.”

"A person called John makes a better programmer

than a person called Mary."

Bạn có lẽ đang nghĩ,

"A black man is more likely to be a repeat offender than a white man."

“Wow, giọng điệu đó như là 1 kẻ phân biệt chủng tộc và giới tính,” đúng chứ?

Đây là vài quyết định thật mà AI đưa ra gần đây,

You're probably thinking,

"Wow, that sounds like a pretty sexist, racist person," right?

dựa trên những định kiến mà nó học được từ chúng ta,

từ chính con người.

These are some real decisions that AI has made very recently,

AI đang được dùng để giúp ra quyết định rằng bạn có được gọi tới phỏng vấn;

based on the biases it has learned from us,

from the humans.

bạn trả bao nhiêu cho bảo hiểm xe hơi;

điểm tín dụng của bạn tốt ra sao;

AI is being used to help decide whether or not you get that job interview;

và cả xếp hạng bạn đạt được

trong đánh giá hiệu suất hàng năm của mình.

how much you pay for your car insurance;

Nhưng tất cả những quyết định này đều được sàn lọc qua

how good your credit score is;

những giả định của nó về danh tính, chủng tộc, giới tính, tuổi tác của ta.

and even what rating you get in your annual performance review.

But these decisions are all being filtered through

Sao điều đó lại xảy ra?

its assumptions about our identity, our race, our gender, our age.

Giờ, tưởng tương một AI đang giúp người quản lí tuyển dụng

tìm ra nhóm trưởng công nghệ kế tiếp trong công ty.

How is that happening?

Đến nay, người quản lí đã tuyển phần lớn là nam giới.

Now, imagine an AI is helping a hiring manager

Nên AI đã học ra 1 điều là nam giới làm lập trình nhiều hơn nữ.

find the next tech leader in the company.

So far, the manager has been hiring mostly men.

Và đó có thể xem là một bước nhảy vọt ngắn để nó cho là:

nam giới giỏi lập trình hơn nữ giới.

So the AI learns men are more likely to be programmers than women.

Chính ta đã tăng cường sự thiên vị của mình vào AI.

And it's a very short leap from there to:

Và giờ, nó đang lọc ra hết những ứng viên nữ.

men make better programmers than women.

We have reinforced our own bias into the AI.

Mà khoan, nếu quản lí tuyển dụng là con người làm điều này,

And now, it's screening out female candidates.

ta đang bị xúc phạm, ta không cho phép điều đó.

Thể loại phân biệt giới tính này quả thật không ổn.

Hang on, if a human hiring manager did that,

Và bằng cách nào đó, AI đã vượt lên trên cả quy luật,

we'd be outraged, we wouldn't allow it.

bởi máy móc là thứ ra quyết định.

This kind of gender discrimination is not OK.

And yet somehow, AI has become above the law,

Không phải do nó.

Chính ta cũng đã tăng cường định kiến của mình trong cách mà ta tương tác với AI

because a machine made the decision.

Bạn có thường sử dụng trợ lí giọng nói như Siri, Alexa hay cả Cortana?

That's not it.

We are also reinforcing our bias in how we interact with AI.

Chúng đều có 2 điểm chung:

How often do you use a voice assistant like Siri, Alexa or even Cortana?

thứ nhất, chúng không bao giờ nhớ đúng tên tôi,

và thứ 2, chúng đều là nữ.

They all have two things in common:

Chúng được thiết kể để là những đầy tớ ngoan ngoãn của ta,

one, they can never get my name right,

bật tắt đèn của bạn, đặt hàng hộ bạn.

and second, they are all female.

Ta cũng có cả AI nam nữa, nhưng chúng có vẻ quyền lực hơn,

They are designed to be our obedient servants,

như IBM Watson, dùng để ra quyết định kinh doanh,

turning your lights on and off, ordering your shopping.

Einstein của Salesforce hay ROSS, một luật sư robot.

You get male AIs too, but they tend to be more high-powered,

Nên hơi tội cho robot, đến cả chúng cũng bị phân biệt giới tính nơi công sở.

like IBM Watson, making business decisions,

Salesforce Einstein or ROSS, the robot lawyer.

(Cười)

Hãy thử nghĩ 2 thứ này hợp lại và ảnh hưởng đến

So poor robots, even they suffer from sexism in the workplace.

1 đứa trẻ mới lớn trong thế giới xoay quanh AI ra sao.

(Laughter)

Think about how these two things combine

Nên họ đã làm vài nghiên cứu cho 1 dự án trường học

and affect a kid growing up in today's world around AI.

và họ Google các bức ảnh của CEO.

Thuật toán cho ra kết quả phần lớn là đàn ông.

So they're doing some research for a school project

Và rồi, họ Google trợ lí cá nhân.

and they Google images of CEO.

Như bạn có thể đoán, nó cho ra chủ yếu là nữ.

The algorithm shows them results of mostly men.

Và rồi họ muốn bật chút âm nhạc, và có thể là đặt ít đồ ăn,

And now, they Google personal assistant.

và giờ, họ ra lệnh cho trợ lí có giọng nữ đầy vâng lời ấy.

As you can guess, it shows them mostly females.

And then they want to put on some music, and maybe order some food,

Vài trong số các bộ óc thông minh nhất của nhân loại

and now, they are barking orders at an obedient female voice assistant.

đang tạo ra thứ công nghệ này hiện nay.

Thứ công nghệ có thể tạo ra mọi thứ mà chúng muốn.

Some of our brightest minds are creating this technology today.

Và, họ đã chọn tạo ra nó theo phong cách của thư kí “Mad Man” những năm 50.

Technology that they could have created in any way they wanted.

Yay!

Nhưng OK, đừng quá lo.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

bài nói này sẽ không dừng ở khúc mà tôi bảo

rằng ta cứ thể để những cỗ máy phân biệt chủng tộc, giới tính vận hành thế giới.

Yay!

But OK, don't worry,

Tin tốt về AI là toàn bộ vẫn trong tầm kiểm soát của ta.

this is not going to end with me telling you

that we are all heading towards sexist, racist machines running the world.

Ta cần dạy AI về những giá trị, những phẩm chất đạo đức đúng đắn.

The good news about AI is that it is entirely within our control.

Nên có 3 điều mà ta có thể làm.

Thứ nhất, ta có thể cảnh giác về chính những định kiến của mình

We get to teach the right values, the right ethics to AI.

và định kiến của những cỗ máy quanh ta.

So there are three things we can do.

Hai là, ta cần chắc chắn là có các đội nhóm khác nhau

One, we can be aware of our own biases

đang xây dựng thứ công nghệ này.

Và ba là, ta cần cho chúng những trải nghiệm đa dạng để học hỏi

and the bias in machines around us.

Two, we can make sure that diverse teams are building this technology.

Tôi có thể nói về 2 cái đầu tiên là nhờ kinh nghiệm cá nhân

And three, we have to give it diverse experiences to learn from.

Khi bạn làm ở mảng công nghệ

và bạn trông không giống Mark Zuckerberg hay Elon Musk,

I can talk about the first two from personal experience.

cuộc sống của bạn sẽ hơi khó khăn, năng lực của bạn thì bị đặt dấu hỏi.

When you work in technology

and you don't look like a Mark Zuckerberg or Elon Musk,

Đây là một ví dụ.

Cũng như đa số các nhà phát triển, tôi hay tham gia các diễn đàn công nghệ

your life is a little bit difficult, your ability gets questioned.

và chia sẻ kiến thức để giúp đỡ mọi người.

Here's just one example.

Và tôi thấy,

Like most developers, I often join online tech forums

khi tôi tham gia với tư cách là chính mình, với ảnh và tên của chính tôi,

and share my knowledge to help others.

Tôi thường nhận được những câu hỏi hoặc bình luận như này:

And I've found,

when I log on as myself, with my own photo, my own name,

“Cô nghĩ là cô có đủ bằng cấp để nói chuyện về AI ở đây à?”

I tend to get questions or comments like this:

“Cô nghĩ là cô biết về học máy tới mức nào?”

Nên, bạn biết đó, tôi đã lập một tài khoản khác,

"What makes you think you're qualified to talk about AI?"

và lần này, thay vì ảnh của chính tôi, tôi chọn ảnh 1 con mèo đeo tên lửa.

"What makes you think you know about machine learning?"

So, as you do, I made a new profile,

Và tôi chọn 1 cái tên để không làm lộ giới tính thật.

and this time, instead of my own picture, I chose a cat with a jet pack on it.

Các bạn có thể đoán được diễn biến sau đó rồi chứ hả?

Nên, lần này, tôi đã không nhận được bình luận khiếm nhã nào về năng lực của mình

And I chose a name that did not reveal my gender.

You can probably guess where this is going, right?

và tôi thực sự có thể hoàn thành một số việc.

So, this time, I didn't get any of those patronizing comments about my ability

Và nó khốn nạn lắm.

Tôi đã tạo ra các con robot khi mới 15,

and I was able to actually get some work done.

tôi có ít bằng cấp về khoa học máy tính,

và rồi sau, tôi phải giấu giới tính của mình

And it sucks, guys.

để cho công việc của tôi được thực hiện nghiêm túc.

I've been building robots since I was 15,

I have a few degrees in computer science,

Nên là, chuyện gì đang xảy ra vậy?

Liêu đàn ông có giỏi về công nghệ hơn đàn bà?

and yet, I had to hide my gender

in order for my work to be taken seriously.

Một nghiên cứu khác chỉ ra

rằng khi một nữ lập trình viên trên 1 nền tảng giấu giới tính thật, như tôi,

So, what's going on here?

Are men just better at technology than women?

mã lập trình của họ sẽ có tỉ lệ được chấp thuận cao hơn 4% so với nam.

Another study found

that when women coders on one platform hid their gender, like myself,

Nên vấn đề không nằm ở thiên phú.

Đấy là về tinh hoa của AI

their code was accepted four percent more than men.

nói rằng một lập trình viên phải trông giống một người nhất định.

So this is not about the talent.

Cái mà ta thực sự cần làm để khiến AI tốt hơn

This is about an elitism in AI

chính là mang đến những người từ mọi loại bối cảnh lại với nhau.

that says a programmer needs to look like a certain person.

Ta cần những người có thể viết và kể những câu chuyện

What we really need to do to make AI better

để giúp ta định hình tính cách cho AI.

is bring people from all kinds of backgrounds.

Ta cần những người có thể giải quyết vấn đề.

We need people who can write and tell stories

Ta cần những người có thể đối diện với thách thức

to help us create personalities of AI.

và ta cần những người có thể nói ta biết vấn đề thực sự cần khắc phục là gì

We need people who can solve problems.

We need people who face different challenges

và giúp ta tìm cách để công nghệ có thể thật sự khắc phục nó.

and we need people who can tell us what are the real issues that need fixing

Bởi, khi những người từ những bối cảnh đa dạng cùng chung tay,

and help us find ways that technology can actually fix it.

khi ta xây dựng những thứ theo đúng cách,

thì các khả năng là vô hạn.

Because, when people from diverse backgrounds come together,

Và đó chính là cái kết mà tôi muốn nói cho các bạn.

when we build things in the right way,

Các robot phân biệt chủng tộc hay các cỗ máy lấy mất việc của ta sẽ dần ít đi

the possibilities are limitless.

và những thành tựu của công nghệ sẽ càng nhiều thêm.

And that's what I want to end by talking to you about.

Nên, đúng vậy, vài thứ năng lượng trong thế giới của AI,

Less racist robots, less machines that are going to take our jobs --

trong thế giới của công nghệ

and more about what technology can actually achieve.

sẽ là về các quảng cáo mà bạn thấy trên sóng nhà mình.

So, yes, some of the energy in the world of AI,

Nhưng rất nhiều trong số đó đang hướng tới việc làm cho thế giới tốt đẹp hơn.

in the world of technology

is going to be about what ads you see on your stream.

Thử nghĩ về một người phụ nữ mang thai ở Cộng hòa Dân chủ Congo,

But a lot of it is going towards making the world so much better.

người phải đi bộ 17 tiếng để đến phòng khám thai gần nhất trong thôn

để được chuẩn đoán.

Think about a pregnant woman in the Democratic Republic of Congo,

Sẽ ra sao nếu thay vào đó cô ấy được chuẩn đoán qua điện thoại?

who has to walk 17 hours to her nearest rural prenatal clinic

Hay nghĩ về điều mà AI có thể làm

to get a checkup.

cho 1 trong 3 người phụ nữ ở Nam Phi

What if she could get diagnosis on her phone, instead?

những người phải hứng chịu bạo lực gia đình.

Nếu nó không an toàn để nói thành lời,

Or think about what AI could do

for those one in three women in South Africa

họ có thể dùng dịch vụ của AI để nâng cao cảnh giác,

được tư vấn tài chính và pháp lý.

who face domestic violence.

If it wasn't safe to talk out loud,

Đây đều là các ví dụ thực tiễn của các dự án mà người ta, bao gồm cả tôi,

they could get an AI service to raise alarm,

get financial and legal advice.

đang thực hiện bây giờ, dùng đến AI.

These are all real examples of projects that people, including myself,

Nên, tôi chắc là vài ngày tới sẽ có thêm một câu chuyện thời sự khác

về những nguy cơ đang hiện hữu,

are working on right now, using AI.

lũ robot đang chiếm hữu và lấy dần công việc của bạn.

So, I'm sure in the next couple of days there will be yet another news story

(Cười)

Và khi chuyện như vậy xảy tới,

about the existential risk,

Tôi biết là tôi cũng có 1 thông điệp tương tự là hoài lo về tương lai

robots taking over and coming for your jobs.

Nhưng tôi cảm thấy vô cùng tích cực về thứ công nghệ này.

(Laughter)

And when something like that happens,

I know I'll get the same messages worrying about the future.

Đây là cơ hội của chúng ta để kiến tạo lại thế giới thành 1 nơi công bằng hơn.

But I feel incredibly positive about this technology.

Nhưng để làm điều đó, ta cần xây dựng đúng cách ngay từ đầu.

This is our chance to remake the world into a much more equal place.

Ta cần những người với giới tính, chủng tộc, xu hướng và bối cảnh khác nhau

But to do that, we need to build it the right way from the get go.

Ta cần phụ nữ là những người kiến tạo

We need people of different genders, races, sexualities and backgrounds.

chứ không chỉ là những cỗ máy đang tính toán sự kiến tạo.

Ta cần suy nghĩ thận trọng về cái mà ta dạy máy móc,

We need women to be the makers

and not just the machines who do the makers' bidding.

về dữ liệu mà ta đưa cho chúng,

nhằm để chúng không lặp lại những sai lầm của ta trong quá khứ.

We need to think very carefully what we teach machines,

Nên tôi hy vọng bạn có thể suy nghẫm về 2 thứ

what data we give them,

so they don't just repeat our own past mistakes.

Thứ nhất, tôi hy vọng bạn suy nghẫm lại về định kiến ngày nay.

So I hope I leave you thinking about two things.

Và rằng lần tới mà bạn lướt ngang qua 1 quảng cáo

nói rằng bạn đang hứng thú với phòng khám hiếm muộn

First, I hope you leave thinking about bias today.

hay các trang cá cược online,

And that the next time you scroll past an advert

bạn hãy nhớ một điều như này

thứ công nghệ tương tự cũng đang giả định rằng người đàn ông da đen sẽ lại tái phạm.

that assumes you are interested in fertility clinics

or online betting websites,

Hay một người phụ nữ sẽ có khả năng làm trợ lí cá nhân cao hơn là CEO.

that you think and remember

that the same technology is assuming that a black man will reoffend.

Và tôi hy vọng điều đó gợi nhắc bạn rằng ta cần làm gì đó.

Or that a woman is more likely to be a personal assistant than a CEO.

Và hai là,

And I hope that reminds you that we need to do something about it.

Tôi hy vọng mọi người nghĩ về một thực tế

là bạn không nhất thiết phải nhìn về 1 hướng

hay nền tảng nhất định về kĩ sư hay công nghệ

And second,

I hope you think about the fact

để tạo ra AI,

thứ sẽ là một lực lượng phi thường trong tương lai của chúng ta.

that you don't need to look a certain way

or have a certain background in engineering or technology

Bạn không cần phải trông như Mark Zuckenberg,

bạn có thể trông như tôi.

to create AI,

which is going to be a phenomenal force for our future.

Và đó là nghĩa vụ của tất cả những ai trong căn phòng này

nhằm thuyết phục chính phủ và các tập đoàn

You don't need to look like a Mark Zuckerberg,

you can look like me.

xây dựng công nghệ AI cho tất cả mọi người,

And it is up to all of us in this room

bao gồm cả các trường hợp ngoại lệ.

Và để cho tất cả chúng ta được giáo dục

to convince the governments and the corporations

về thứ công nghệ hiện tượng này trong tương lai.

to build AI technology for everyone,

including the edge cases.

Bởi nếu ta làm thế,

thì ta chỉ mới chạm vào phần nổi của những gì ta có thể đạt được với AI.

And for us all to get education

about this phenomenal technology in the future.

Cám ơn mọi người.

(Vỗ tay)

Because if we do that,

then we've only just scratched the surface of what we can achieve with AI.

Thank you.

(Applause)