How bad data keeps us from good AI | Mainak Mazumdar

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Translator: Thịnh Phạm Reviewer: Thu Ha Tran

AI có thể sẽ đóng góp 16 tỉ đô la cho nền kinh tế toàn cầu

trong 10 năm tới.

Nền kinh tế này sẽ không được xây dựng bởi hàng tỉ người,

AI could add 16 trillion dollars to the global economy

hay hàng triệu nhà máy,

in the next 10 years.

mà bởi máy tính và thuật toán.

This economy is not going to be built by billions of people

Chúng ta đã thấy những lợi ích tuyệt vời của AI

or millions of factories,

trong việc đơn giản hóa các nhiệm vụ,

but by computers and algorithms.

mang lại hiệu quả cao,

We have already seen amazing benefits of AI

và cải thiện đời sống của chúng ta.

Tuy nhiên, khi nói đến công bằng và chính sách ra quyết định công bằng,

in simplifying tasks,

bringing efficiencies

and improving our lives.

AI đã không thực hiện đúng lời hứa của nó.

However, when it comes to fair and equitable policy decision-making,

AI trở thành người gác đền của nền kinh tế

quyết định ai sẽ nhận được công việc

AI has not lived up to its promise.

và ai sẽ được vay.

AI is becoming a gatekeeper to the economy,

AI chỉ củng cố và tăng sự thiên kiến của chúng

deciding who gets a job

ở tốc độ và quy mô

and who gets an access to a loan.

với các công tác xã hội.

AI is only reinforcing and accelerating our bias

Vậy có phải AI đang làm chúng ta thất vọng?

Chúng ta có đang thiết kế những thuật toán để đưa ra

at speed and scale

with societal implications.

những quyết định thiên vị và sai lầm?

So, is AI failing us?

Là một nhà khoa học dữ liệu, tôi ở đây để nói với bạn,

Are we designing these algorithms to deliver biased and wrong decisions?

nó không phải thuật toán,

nhưng dữ liệu có tính thiên kiến

chịu trách nhiệm cho những quyết định.

As a data scientist, I'm here to tell you,

Để làm AI khả thi với con người và xã hội,

it's not the algorithm,

but the biased data

chúng ta cần khẩn cấp thiết lập lại.

that's responsible for these decisions.

Thay vì những thuật toán,

To make AI possible for humanity and society,

chúng ta cần tập trung vào dữ liệu.

Chúng ta đang dành thời gian và tiền bạc để mở rộng quy mô AI

we need an urgent reset.

về chi phí thiết kế, thu thập nguồn dữ liệu chất lượng cao.

Instead of algorithms,

we need to focus on the data.

We're spending time and money to scale AI

Chúng ta cần ngừng dữ liệu, hay dữ liệu thiên kiến mà chúng ta có,

at the expense of designing and collecting high-quality and contextual data.

và tập trung vào ba thứ:

cơ sở hạ tầng dữ liệu,

We need to stop the data, or the biased data that we already have,

chất lượng dữ liệu,

và hiểu biết dữ liệu.

Trong tháng sáu năm nay,

and focus on three things:

chúng ta đã thấy sự thiên kiến đáng xấu hổ trong mô hình AI của đại học Duke

data infrastructure,

data quality

and data literacy.

tên PULSE,

nó đã biến một bức ảnh mờ

In June of this year,

we saw embarrassing bias in the Duke University AI model

thành bức ảnh của một người và ta có thể dễ dàng nhận diện.

called PULSE,

Thuật toán này đã được xây dựng không đúng

which enhanced a blurry image

từ hình ảnh của một người da màu thành hình ảnh của một người da trắng.

into a recognizable photograph of a person.

Hình ảnh người Mỹ gốc Phi không được mô tả đúng mức trong dữ liệu đào tạo,

This algorithm incorrectly enhanced a nonwhite image into a Caucasian image.

dẫn đến quyết định và dự đoán sai lầm.

African-American images were underrepresented in the training set,

Có lẽ đó không phải là lần đầu tiên

bạn thấy AI nhận định sai hình ảnh của một người da đen.

leading to wrong decisions and predictions.

Mặc dù có một số phương pháp để cải tiến AI

Probably this is not the first time

you have seen an AI misidentify a Black person's image.

nhưng việc mô tả chưa đúng về chủng tộc

vẫn sẽ để lại cho ta một kết quả mang tính thiên kiến.

Despite an improved AI methodology,

Nghiên cứu này mang tính học thuật,

the underrepresentation of racial and ethnic populations

tuy nhiên, không phải tất cả dữ liệu thiên kiến

đều mang tính học thuật.

still left us with biased results.

Những thiên kiến thực sự gây ra nhiều hậu quả.

This research is academic,

Ví dụ cuộc điều tra dân số Hoa Kỳ năm 2020.

however, not all data biases are academic.

Điều tra dân số là nền tảng

Biases have real consequences.

cho sự quyết định chính sách về xã hội và kinh tế.

Take the 2020 US Census.

Vì vậy điều tra dân số được yêu cầu tính 100% dân số

The census is the foundation

for many social and economic policy decisions,

ở Hoa Kỳ.

Tuy nhiên, dịch bệnh

therefore the census is required to count 100 percent of the population

và những vấn đề chính trị về quyền công dân,

in the United States.

bỏ sót các dân tộc thiểu số là một khả năng có thể xảy ra.

However, with the pandemic

Tôi cho rằng việc bỏ sót các dân tộc thiểu số là đáng kể,

and the politics of the citizenship question,

những dân tộc mà khó để xác định ví trí, liên lạc,

undercounting of minorities is a real possibility.

thuyết phục hay phỏng vấn họ cho cuộc điều tra dân số.

I expect significant undercounting of minority groups

Bỏ sót sẽ dẫn đến sai lệch

who are hard to locate, contact, persuade and interview for the census.

và làm giảm chất lượng cơ sở hạ tầng dữ liệu của chúng ta.

Hãy nhìn sự bỏ sót của cuộc điều tra dân số năm 2010.

Undercounting will introduce bias

16 triệu người đã bị bỏ sót trong lần tính cuối cùng.

and erode the quality of our data infrastructure.

Nó bằng tổng dân số

Let's look at undercounts in the 2010 census.

của 3 bang Arizona, Arkansas, Oklahoma gộp lại.

16 million people were omitted in the final counts.

This is as large as the total population

Chúng ta cũng thấy hàng triệu đứa trẻ dưới năm tuổi bị bỏ sót

of Arizona, Arkansas, Oklahoma and Iowa put together for that year.

trong cuộc điều tra dân số năm 2010.

Ngày này, việc bỏ sót các dân tộc thiểu số

We have also seen about a million kids under the age of five undercounted

là điều phổ biến trong các cuộc điều tra dân số,

in the 2010 Census.

vì dân tộc thiểu số khó tiếp cận hơn,

Now, undercounting of minorities

họ không tin tưởng vào chính phủ,

is common in other national censuses,

hay họ sống ở khu vực bất ổn chính trị.

as minorities can be harder to reach,

Ví dụ,

cuộc điều tra dân số ở Úc năm 2016,

they're mistrustful towards the government

or they live in an area under political unrest.

dân số Aboriginals và Torres bị bỏ sót

For example,

chiếm khoảng 17.5%.

the Australian Census in 2016

Chúng ta ước tính sự bỏ sót năm 2020

undercounted Aboriginals and Torres Strait populations

sẽ cao hơn rất nhiều so với năm 2010,

by about 17.5 percent.

và tác động của sự thiên tính này sẽ rất lớn.

We estimate undercounting in 2020

Hãy nhìn vào tác động của dữ liệu của cuộc điều tra dân số.

to be much higher than 2010,

and the implications of this bias can be massive.

Điều tra dân số là nguồn dữ liệu đáng tin cậy nhất

với những số liệu phong phú và công khai

Let's look at the implications of the census data.

về thành phần và các đặc điểm của dân số.

Census is the most trusted, open and publicly available rich data

Trong khi đó các doanh nghiệp có thông tin độc quyền

của khách hàng,

Cục điều tra dân số báo cáo số lượng công khai, chính xác

on population composition and characteristics.

về tuổi, giới tính, dân tộc

While businesses have proprietary information

on consumers,

chủng tộc, việc làm, tình trạng gia đình

the Census Bureau reports definitive, public counts

cũng như phân bố địa lý,

tất cả những điều trên là nền tảng cho cơ sở hạ tầng dữ liệu về dân số.

on age, gender, ethnicity,

race, employment, family status,

Khi các dân tộc thiểu số bị bỏ sót,

as well as geographic distribution,

mô hình AI hỗ trợ phương tiện công cộng,

which are the foundation of the population data infrastructure.

nhà ở, chăm sóc sức khỏe,

bảo hiểm

có khả năng bỏ sẽ qua các cộng đồng cần những dịch vụ này nhất.

When minorities are undercounted,

AI models supporting public transportation,

housing, health care,

Bước đầu tiên để cải thiện kết quả

insurance

là làm cho cơ sở dữ liệu thể hiện được

are likely to overlook the communities that require these services the most.

tuổi, giới tính, dân tộc và chủng tộc

First step to improving results

theo dữ liệu của cuộc điều tra dân số.

is to make that database representative

Do điều tra dân số rất quan trọng,

chúng ta cần phải nỗ lực để tính được 100% dân số.

of age, gender, ethnicity and race

per census data.

Đầu tư vào chất lượng và độ chính xác của dữ liệu

Since census is so important,

we have to make every effort to count 100 percent.

là quan trọng để thực hiện hóa mô hình AI,

không chỉ cho một số ít người

Investing in this data quality and accuracy

mà là cho mọi người trong xã hội.

is essential to making AI possible,

Hầu hết các hệ thống AI sử dụng dữ liệu có sẵn

not for only few and privileged,

hoặc được thu thập cho những mục đích khác

but for everyone in the society.

bởi vì nó tiện và ít tốn chi phí.

Most AI systems use the data that's already available

Tuy nhiên, chất lượng dữ liệu là nguyên tắc đòi hỏi sự cam kết--

or collected for some other purposes

một sự cam kết thực sự.

because it's convenient and cheap.

Điều này làm ta chú ý đến định nghĩa,

Yet data quality is a discipline that requires commitment --

thu thập dữ liệu và tính toán thiên kiến,

không chỉ bị đánh giá thấp

real commitment.

This attention to the definition,

trong một thế giới của tốc độ, quy mô và sự tiện lợi,

data collection and measurement of the bias,

mà nó còn thường bị bỏ qua.

Là một phần của đội khoa học dữ liệu Nielsen,

is not only underappreciated --

in the world of speed, scale and convenience,

tôi đã đi khảo sát thực tế để thu thập dữ liệu,

đến các cửa hàng bán lẻ ở ngoại ô Thượng Hải và Bangalore.

it's often ignored.

As part of Nielsen data science team,

Mục đích của chuyến đi là đo lường doanh số bán lẻ của các cửa hàng đó.

I went to field visits to collect data,

visiting retail stores outside Shanghai and Bangalore.

Chúng tôi đã lái xe hàng dặm ở ngoại ô,

tìm những cửa hàng nhỏ

The goal of that visit was to measure retail sales from those stores.

không chính thức và khó để tiếp cận.

Và có thể bạn sẽ tự hỏi

tại sao chúng tôi lại quan tâm tới những cửa hàng cụ thể như vậy?

We drove miles outside the city,

found these small stores --

Chúng tôi có thể chọn những cửa hàng ở nội đô,

informal, hard to reach.

nơi mà dữ liệu điện tử có thể dễ dàng nhập vào đường dẫn dữ liệu

And you may be wondering --

why are we interested in these specific stores?

rẻ, tiện lợi và dễ dàng.

We could have selected a store in the city

Tại sao chúng tôi bị ám ảnh bởi chất lượng

where the electronic data could be easily integrated into a data pipeline --

và độ chính xác của dữ liệu từ những cửa hàng này?

cheap, convenient and easy.

Câu trả lời đơn giản là:

bởi vì dữ liệu từ những cửa hàng nông thôn này rất quan trọng.

Why are we so obsessed with the quality

and accuracy of the data from these stores?

Theo Tổ chức Lao động Quốc tế,

The answer is simple:

because the data from these rural stores matter.

40% người Trung Quốc

và 65% người Ấn Độ sống ở khu vực nông thôn.

According to the International Labour Organization,

Hãy tưởng tượng sự thiên kiến trong quyết định

40 percent Chinese

khi 65% lượng tiêu thụ ở Ấn Độ không được tính trong mô hình,

and 65 percent of Indians live in rural areas.

điều đó có nghĩa khi đưa ra quyết định, sẽ có lợi cho thành thị hơn là nông thôn.

Imagine the bias in decision

when 65 percent of consumption in India is excluded in models,

Không có bối cảnh nông thôn - thành thị sai lầm trong việc

và các tín hiệu về sinh kế, cách sống, kinh tế và trị giá,

meaning the decision will favor the urban over the rural.

các thương hiệu bán lẻ sẽ đầu tư sai về giá cả, quảng cáo và tiếp thị.

Without this rural-urban context

and signals on livelihood, lifestyle, economy and values,

Hay sự thiên kiến về thành thị sẽ dẫn đến sai lầm trong việc

retail brands will make wrong investments on pricing, advertising and marketing.

đưa ra các chính sách cho khu vực nông thôn

liên quan đến sức khỏe hay các khoản đầu tư khác.

Or the urban bias will lead to wrong rural policy decisions

Quyết định sai lầm không phải lỗi do thuật toán AI.

with regards to health and other investments.

Nó thuộc về dữ liệu,

dữ liệu đã bỏ qua các khu vực dự định được đo lường ngay từ ban đầu.

Wrong decisions are not the problem with the AI algorithm.

It's a problem of the data

Dữ liệu trong các bối cảnh là ưu tiên hàng đầu,

that excludes areas intended to be measured in the first place.

không phải thuật toán.

Hãy nhìn một ví dụ khác.

Tôi đã đến các vùng xa xôi này, các ngôi nhà di động ở bang Oregon

The data in the context is a priority,

not the algorithms.

và các căn hộ ở thành phố New York

Let's look at another example.

để mời mọi người tham gia bảng khảo sát Nielsen.

I visited these remote, trailer park homes in Oregon state

Nó thống kê các hộ gia đình

and New York City apartments

mà chúng tôi mời tham gia đo lường

to invite these homes to participate in Nielsen panels.

trong một khoảng thời gian.

Panels are statistically representative samples of homes

Nhiệm vụ của chúng tôi bao gồm mọi người trong cuộc đo lường này

là thu thập dữ liệu từ các hộ gia đình người gốc Tây Ban Nha và gốc Phi

that we invite to participate in the measurement

over a period of time.

Our mission to include everybody in the measurement

sử dụng ăng-ten truyền hình.

led us to collect data from these Hispanic and African homes

Theo dữ liệu Nielsen,

những hộ gia đình này chiếm 15% trên tổng số hộ gia đình ở Hoa Kỳ,

who use over-the-air TV reception to an antenna.

khoảng 45 triệu người.

Per Nielsen data,

these homes constitute 15 percent of US households,

Cam kết và tập trung vào chất lượng có nghĩa là chúng tôi sẽ nỗ lực

để thu thập dữ liệu

which is about 45 million people.

từ 15% này - nhóm đối tượng khó tiếp cận.

Commitment and focus on quality means we made every effort

Tại sao nó quan trọng?

to collect information

Đây là một nhóm khá lớn,

from these 15 percent, hard-to-reach groups.

nó rất quan trọng đối với nhà tiếp thị, nhãn hàng,

cũng như các công ty giải trí.

Why does it matter?

Nếu không có dữ liệu,

This is a sizeable group

các nhãn hàng và mô hình của họ

that's very, very important to the marketers, brands,

sẽ không thể tiếp cận tới nhóm đối tượng này,

as well as the media companies.

cũng như việc chạy quảng cáo cho nhóm đối tượng thiểu số rất quan trọng này.

Without the data,

the marketers and brands and their models

Và nếu không có doanh thu quảng cáo,

would not be able to reach these folks,

các đài truyền hình như Telemundo hay Univision,

as well as show ads to these very, very important minority populations.

sẽ không thể phát sóng các nội dung miễn phí,

And without the ad revenue,

bao gồm các phương tiện truyền thông mới--

the broadcasters such as Telemundo or Univision,

nền tảng của nền dân chủ chúng ta.

would not be able to deliver free content,

Dữ liệu này cũng cần thiết đối với doanh nghiệp và xã hội.

including news media,

which is so foundational to our democracy.

Cách tốt nhất để giảm thiểu sự thiên kiến của AI

This data is essential for businesses and society.

hãy bắt đầu với dữ liệu.

Thay vì chạy đua để xây dựng những thuật toán mới,

Our once-in-a-lifetime opportunity to reduce human bias in AI

nhiệm vụ của tôi là xây dựng một cơ sở hạ tầng dữ liệu tốt hơn

starts with the data.

để AI có thể cân nhắc các yếu tố đạo đức.

Instead of racing to build new algorithms,

Tôi hi vọng bạn sẽ cùng tham gia với tôi trong nhiệm vụ này.

my mission is to build a better data infrastructure

Xin cảm ơn.

that makes ethical AI possible.

I hope you will join me in my mission as well.

Thank you.