How I'm fighting bias in algorithms | Joy Buolamwini

Translator: Thuy Nguyen Thanh Reviewer: Nguyet Minh Doan

Hello, I'm Joy, a poet of code,

Xin chào, Tôi là Joy, một nhà thơ viết mã,

on a mission to stop an unseen force that's rising,

đang thực hiện nhiệm vụ ngăn chặn một một lực lượng vô hình đang gia tăng,

a force that I called "the coded gaze,"

một lực lượng mà tôi gọi là "the coded gaze,"

my term for algorithmic bias.

là từ tôi nói về sự thiên vị thuật toán.

Algorithmic bias, like human bias, results in unfairness.

Thiên vị thuật toán, giống như thiên vị con người, sẽ đưa đến sự bất công.

However, algorithms, like viruses, can spread bias on a massive scale

Tuy nhiên, thuật toán, giống như virút, có thể phát tán sự thiên vị trên quy mô lớn

at a rapid pace.

với tốc độ nhanh chóng.

Algorithmic bias can also lead to exclusionary experiences

Thiên vị thuật toán có thể dẫn đến nhiều trải nghiệm bị loại trừ ra

and discriminatory practices.

và các hành vi phân biệt đối xử.

Let me show you what I mean.

Tôi sẽ cho các bạn thấy điều tôi muốn nói.

(Video) Joy Buolamwini: Hi, camera. I've got a face.

(Video) Joy: Chào camera. Tôi có một khuôn mặt.

Can you see my face?

Bạn có thấy mặt tôi không?

No-glasses face?

Khuôn mặt không đeo kính ấy?

You can see her face.

Bạn có thể thấy mặt cô ấy.

What about my face?

Thế còn mặt của tôi?

I've got a mask. Can you see my mask?

Tôi có một mặt nạ. Bạn có thấy mặt nạ của tôi không?

Joy Buolamwini: So how did this happen?

Joy Buolamwini: Việc này là thế nào?

Why am I sitting in front of a computer

Tại sao tôi đang ngồi trước máy tính

in a white mask,

đeo mặt nạ trắng,

trying to be detected by a cheap webcam?

cố dò khuôn mặt mình bằng một webcam rẽ tiền?

Well, when I'm not fighting the coded gaze

Vâng, tôi không chống lại the coded gaze

as a poet of code,

với vai trò một nhà thơ viết mã

I'm a graduate student at the MIT Media Lab,

Tôi là sinh viên tốt nghiệp tại MIT Media Lab,

and there I have the opportunity to work on all sorts of whimsical projects,

và ở đó, tôi có cơ hội làm việc với mọi loại dự án kỳ quặc,

including the Aspire Mirror,

bao gồm dự án Aspire Mirror,

a project I did so I could project digital masks onto my reflection.

dự án này tôi đã thực hiện nên tôi có thể chiếu các mặt nạ số phản ánh tâm trạng tôi

So in the morning, if I wanted to feel powerful,

vào buổi sáng, nếu tôi muốn cảm thấy mạnh mẽ

I could put on a lion.

Tôi có thể đeo mặt nạ sư tử.

If I wanted to be uplifted, I might have a quote.

Nếu tôi muốn được lên tinh thần, tôi có thể có một viện dẫn.

So I used generic facial recognition software

Và tôi đã sử dụng một phần mềm nhận diện khuôn mặt thông dụng

to build the system,

để xây dựng hệ thống,

but found it was really hard to test it unless I wore a white mask.

nhưng tôi nhận ra rằng rất khó để chạy thử nó trừ khi tôi đeo mặt nạ trắng

Unfortunately, I've run into this issue before.

Thật không may, trước đây tôi cũng đã gặp sự cố này.

When I was an undergraduate at Georgia Tech studying computer science,

Khi tôi còn là sinh viên nghiên cứu khoa học máy tính ở Georgia Tech,

I used to work on social robots,

tôi đã từng làm các robot xã hội,

and one of my tasks was to get a robot to play peek-a-boo,

và một trong những công việc của tôi là cài đặt robot chơi trò "Ú òa",

a simple turn-taking game

một trò chơi luân phiên đơn giản

where partners cover their face and then uncover it saying, "Peek-a-boo!"

trong đó các người chơi che mặt lại và tháo mặt ra và nói "Ú òa!"

The problem is, peek-a-boo doesn't really work if I can't see you,

Vấn đề là, tôi sẽ không Ú Òa nếu không nhìn thấy bạn,

and my robot couldn't see me.

và robot của tôi đã không thấy tôi.

But I borrowed my roommate's face to get the project done,

Nhưng khi tôi mượn khuôn mặt của bạn cùng phòng để thực hiện dự án,

submitted the assignment,

nộp bài tập,

and figured, you know what, somebody else will solve this problem.

và tham gia, bạn biết không, ai sẽ giải quyết vấn đề này.

Not too long after,

Không lâu sau đó,

I was in Hong Kong for an entrepreneurship competition.

Tôi đã đến Hong Kong để tham gia một cuộc thi làm doanh nhân.

The organizers decided to take participants

Các nhà tổ chức đã quyết định đưa những người tham gia

on a tour of local start-ups.

đi tham quan các startup địa phương.

One of the start-ups had a social robot,

Một trong các startup đó có một robot xã hội,

and they decided to do a demo.

và họ đã quyết định demo.

The demo worked on everybody until it got to me,

Việc demo thực hiện với mọi người và khi đến lược tôi

and you can probably guess it.

và bạn có lẽ cùng đoán được.

It couldn't detect my face.

Nó không nhận diện được khuôn mặt tôi.

I asked the developers what was going on,

Tôi đã hỏi người phát triển nó chuyện gì xãy ra vậy,

and it turned out we had used the same generic facial recognition software.

và hóa ra chúng tôi đã sử dụng cùng một phần mềm nhận diện khuôn mặt đó.

Halfway around the world,

Nữa vòng trái đất,

I learned that algorithmic bias can travel as quickly

Tôi đã học được rằng sự thiên vị thuật toán có thể di chuyển nhanh như

as it takes to download some files off of the internet.

việc tải một số file từ internet.

So what's going on? Why isn't my face being detected?

Vậy điều gì đang xãy ra? Tại sao khuôn mặt tôi không nhận ra được

Well, we have to look at how we give machines sight.

Vâng, chúng ta phải xem lại cách chúng ta cho máy tính nhìn.

Computer vision uses machine learning techniques

Thi giác máy tính sử dụng các công nghệ học máy để nhìn

to do facial recognition.

để nhận diện khuôn mặt.

So how this works is, you create a training set with examples of faces.

Và cách làm là, ta tạo ra một một tập huấn luyện với các ví dụ về khuôn mặt.

This is a face. This is a face. This is not a face.

Đây là khuôn mặt. Đây là khuôn mặt. Còn đây thì không.

And over time, you can teach a computer how to recognize other faces.

và qua thời gian, ta có thể dạy máy tính cách nhận ra các khuôn mặt khác.

However, if the training sets aren't really that diverse,

Tuy nhiên, nếu tập huấn luyện không đa dạng,

any face that deviates too much from the established norm

bất kỳ khuôn mặt nào mà khác quá nhiều so với chuẩn đã thiết lập

will be harder to detect,

sẽ khó dò tìm hơn,

which is what was happening to me.

đó chính là trường hợp xãy ra với tôi.

But don't worry -- there's some good news.

Nhưng đừng lo - có một vài tin tốt.

Training sets don't just materialize out of nowhere.

Các tập huấn luyện không tồn tại ở cõi hư vô.

We actually can create them.

Mà do chính chúng ta tạo ra.

So there's an opportunity to create full-spectrum training sets

Do vậy chúng ta có cơ hội tạo ra các tập huấn luyện phủ kín các trường hợp

that reflect a richer portrait of humanity.

và phản ánh một bức tranh đầy đủ hơn về con người.

Now you've seen in my examples

Bây giờ bạn đã thấy trong các ví dụ của tôi

how social robots

các robot xã hội nó ra sao

was how I found out about exclusion with algorithmic bias.

cách tôi đã tìm ra sự sai sót về thiên vị thuật toán.

But algorithmic bias can also lead to discriminatory practices.

Nhưng sự thiên vị thuật toán có thể dẫn đến các hành vi phân biệt đối xử.

Across the US,

Khắp nước Mỹ,

police departments are starting to use facial recognition software

các sở cảnh sát đang bắt đầu đưa phần mềm nhận dạng khuôn mặt

in their crime-fighting arsenal.

vào kho vũ khí chống tội phạm của họ.

Georgetown Law published a report

Trường luật Georgetown công bố một báo cáo

showing that one in two adults in the US -- that's 117 million people --

cho thấy 1/2 người lớn ở Mỹ -- có đến 117 triệu người --

have their faces in facial recognition networks.

có khuôn mặt trong các mạng lưới nhận dạng khuôn mặt.

Police departments can currently look at these networks unregulated,

Hiện tại các sở cảnh sát có thể nhìn vào các mạng lưới không được kiểm soát này

using algorithms that have not been audited for accuracy.

sử dụng các thuật toán không được kiểm tra để bảo đảm sự chính xác.

Yet we know facial recognition is not fail proof,

Nhưng chúng ta biết nhận dạng khuôn mặt không phải là không có sai sót

and labeling faces consistently remains a challenge.

và đánh nhãn khuôn mặt một cách chắc chắn vẫn còn là một thách thức.

You might have seen this on Facebook.

Bạn có thể thấy điều này trên Facebook

My friends and I laugh all the time when we see other people

Tôi và các bạn tôi luôn cười khi thấy những người khác

mislabeled in our photos.

bị đánh nhãn sai trong các bức hình của chúng tôi.

But misidentifying a suspected criminal is no laughing matter,

Nhưng nhận diện sai một nghi phạm không phải là một chuyện để cười,

nor is breaching civil liberties.

cũng không phải là vi phạm quyền tự do dân sự.

Machine learning is being used for facial recognition,

Công nghệ học máy đang được sử dụng để nhận diện khuôn mặt,

but it's also extending beyond the realm of computer vision.

nhưng nó cũng đang mở rộng vượt quá lĩnh vực thị giác máy tính.

In her book, "Weapons of Math Destruction,"

Trong cuốn sách "Vũ khí hủy diệt toán học"

data scientist Cathy O'Neil talks about the rising new WMDs --

của cô Cathy O'Neil, một nhà khoa học dữ liệu, nói các loại WMD đang gia tăng --

widespread, mysterious and destructive algorithms

các giải thuật hủy diệt, thần bí và phổ biến rộng rãi

that are increasingly being used to make decisions

đang ngày càng được sử dụng để đưa ra quyết định

that impact more aspects of our lives.

mà ảnh hưởng đến nhiều lĩnh vực của cuộc sống.

So who gets hired or fired?

Vậy ai được tuyển dụng hoặc sa thải?

Do you get that loan? Do you get insurance?

Bạn có khoản vay đó? Bạn có bảo hiểm không?

Are you admitted into the college you wanted to get into?

Bạn có được tiếp nhận vào trường đại học mà bạn muốn?

Do you and I pay the same price for the same product

Bạn và tôi có trả cùng giá cho cùng sản phẩm

purchased on the same platform?

được mua trên cùng một nền tảng?

Law enforcement is also starting to use machine learning

Việc thực thi luật pháp cũng đang bắt đầu sử dụng công nghệ học máy

for predictive policing.

để dự báo tình hình phạm pháp

Some judges use machine-generated risk scores to determine

Một số thẩm phán sử dụng điểm số rủi ro do máy tạo ra để xác định

how long an individual is going to spend in prison.

một cá nhân sẽ đi tù trong bao lâu.

So we really have to think about these decisions.

Do vậy chúng ta phải nghĩ về những quyết định này.

Are they fair?

Chúng có công bằng?

And we've seen that algorithmic bias

Và chúng ta đã thấy rằng sự thiên vị thuật toán

doesn't necessarily always lead to fair outcomes.

không nhất thiết luôn cho ra kết quả công bằng

So what can we do about it?

Vậy ta có thể làm gì với chúng?

Well, we can start thinking about how we create more inclusive code

Vâng, ta có thể bắt đầu nghĩ về cách tạo ra mã lệnh bao hàm nhiều hơn

and employ inclusive coding practices.

và sử dụng các hoạt động viết mã có tính bao hàm.

It really starts with people.

Nó thực sự bắt đầu với con người.

So who codes matters.

Vậy ai viết các mã lệnh đó.

Are we creating full-spectrum teams with diverse individuals

Có phải chúng ta đang tạo ra các nhóm đầy đủ với các cá nhân đa dạng

who can check each other's blind spots?

những người có thể kiểm tra các điểm mù lẫn nhau?

On the technical side, how we code matters.

Về mặt kỹ thuật, chúng ta viết các mã lệnh đó như thế nào

Are we factoring in fairness as we're developing systems?

Chúng ta có đang tính đến yếu tố công bằng khi xây dựng hệ thống/

And finally, why we code matters.

Và cuối cùng, tại sao chúng ta viết những mã lệnh đó.

We've used tools of computational creation to unlock immense wealth.

Chúng ta đã sử dụng các công cụ sáng tạo tính toán để mở khóa sự giàu có to lớn.

We now have the opportunity to unlock even greater equality

Giờ đây chúng ta có cơ hội mở khóa sự bình đẳng to lớn hơn

if we make social change a priority

nếu chúng ta tạo ra sự thay đổi xã hội một sự ưu tiên

and not an afterthought.

và không suy nghĩ lại

And so these are the three tenets that will make up the "incoding" movement.

Và đây là 3 nguyên lý mà sẽ tạo nên phong trào "incoding".

Who codes matters,

Ai viết mã lệnh đó,

how we code matters

chúng ta viết mã lệnh đó ra sao

and why we code matters.

và tại sao ta viết mã lệnh đó.

So to go towards incoding, we can start thinking about

Do đó để hướng đến sự viết mã tận tâm, ta có thể bắt đầu nghĩ về

building platforms that can identify bias

xây dựng các nền tảng mà có thể nhận diện sự thiên vị

by collecting people's experiences like the ones I shared,

bằng cách tập hợp trải nghiệm của mọi người như tôi đã chia sẽ

but also auditing existing software.

nhưng cũng kiểm tra các phần mềm hiện tại.

We can also start to create more inclusive training sets.

Chúng ta cũng có thể bắt đầu tạo ra những tập huấn luyện bao hàm hơn

Imagine a "Selfies for Inclusion" campaign

Hãy tưởng tượng một chiến dịch "Tự sướng để hòa nhập"

where you and I can help developers test and create

ở đó bạn và tôi có thể giúp các nhà phát triển kiểm thử và tạo ra

more inclusive training sets.

các tập huấn luyện bao hàm hơn.

And we can also start thinking more conscientiously

Và chúng ta cũng bắt đầu suy nghĩ một cách tận tâm hơn

about the social impact of the technology that we're developing.

về sự ảnh hưởng xã hội của công nghệ mà ta đang phát triển.

To get the incoding movement started,

Để bắt đầu phong trào viết mã tận tâm

I've launched the Algorithmic Justice League,

Tôi đã khởi xướng Liên minh công lý thuật toán,

where anyone who cares about fairness can help fight the coded gaze.

ở đó bất cứ ai quan tâm đến sự công bằng đều có thể giúp chống lại the coded gaze.

On codedgaze.com, you can report bias,

trên codedgaze.com, nơi bạn có thể báo cáo lại các thiên vị,

request audits, become a tester

đề nghị sự kiểm tra, trở thành người kiểm thử

and join the ongoing conversation,

và tham gia vào các cuộc nói chuyện

#codedgaze.

#codedgaze.

So I invite you to join me

Tôi mời bạn tham gia với tôi

in creating a world where technology works for all of us,

để tạo ra một thế giới ở đó công nghệ phục vụ cho tất cả chúng ta,

not just some of us,

không phải chỉ với một số người,

a world where we value inclusion and center social change.

một thế giới ở đó chúng ta đề cao sự hòa nhập và thay đổi xã hội làm trung tâm

Thank you.

Xin cảm ơn.

(Applause)

(Vỗ tay)

But I have one question:

Nhưng tôi còn một câu hỏi:

Will you join me in the fight?

Bạn có cùng tôi vào cuộc chiến này không?

(Laughter)

(Cười)

(Applause)

(Vỗ tay)