Why AI Needs a “Nutrition Label” | Kasia Chmielinski | TED

Translator: Nguyen Hue Reviewer: Quỳnh Phương Flora

Bây giờ, tôi chưa gặp hầu hết các bạn hay bất kỳ ai trong số các bạn,

Now, I haven't met most of you or really any of you,

but I feel a really good vibe in the room.

nhưng tôi cảm thấy có một cảm giác rất tốt trong phòng.

(Laughter)

(Cười)

And so I think I'd like to treat you all to a meal.

Vì vậy tôi nghĩ tôi muốn chiêu đãi các bạn 1 bữa ăn.

What do you think?

Bạn nghĩ sao?

Yes? Great, so many new friends.

Có? Tuyệt vời, rất nhiều bạn mới.

So we're going to go to this cafe,

Vậy, chúng ta sẽ đi đến quán cà phê này,

they serve sandwiches.

họ phục vụ bánh sandwich.

And the sandwiches are really delicious.

Và bánh sandwich thực sự rất ngon.

But I have to tell you that sometimes they make people really, really sick.

Nhưng tôi phải nói với bạn đôi khi chúng làm mọi người thực sự, thực sự tệ

(Laughter)

(Cười)

Và ta không biết tại sao.

And we don't know why.

Because the cafe won't tell us how they make the sandwich,

Vì quán cà phê sẽ không cho ta biết họ làm bánh sandwich ra sao,

they won't tell us about the ingredients.

họ sẽ không cho ta biết về nguyên liệu.

And then the authorities have no way to fix the problem.

Và sau đó chính quyền không có cách nào để khắc phục vấn đề.

But the offer still stands.

Nhưng lời đề nghị vẫn còn.

So who wants to get a sandwich?

Vậy ai muốn mua một chiếc sandwich?

(Laughter)

(Cười)

Some brave souls, we can talk after.

Một số tâm hồn dũng cảm, hãy trò chuyện sau nhé.

But for the rest of you, I understand.

Nhưng đối với những người còn lại, tôi hiểu.

You don't have enough information

Bạn không đủ thông tin để đưa ra lựa chọn tốt cho sự an toàn của bạn

to make good choices about your safety

or even fix the issue.

hay thậm chí khắc phục sự cố.

Giờ trước khi tôi tiếp tục lo lắng ở đây, tôi thực sự không cố gắng làm bạn phát ốm,

Now, before I further the anxiety here, I'm not actually trying to make you sick,

but this is an analogy to how we're currently making algorithmic systems,

nhưng đây là 1 sự tương đồng với cách ta hiện đang tạo ra các hệ thống thuật toán,

also known as artificial intelligence or AI.

còn được gọi là trí tuệ nhân tạo hoặc AI.

Now, for those who haven't thought about the relationship

Bây giờ, đối với những người chưa nghĩ về mối quan hệ

between AI and sandwiches, don't worry about it,

giữa AI và bánh sandwich, đừng lo lắng về điều đó,

I'm here for you, I'm going to explain.

tôi ở đây vì bạn, tôi sẽ giải thích.

You see, AI systems, they provide benefit to society.

Bạn thấy đấy, các hệ thống AI, chúng mang lại lợi ích cho xã hội.

They feed us,

Chúng nuôi chúng ta,

but they're also inconsistently making us sick.

nhưng chúng cũng không nhất quán khiến chúng ta bị bệnh.

And we don't have access to the ingredients that go into the AI.

Và chúng ta không có quyền truy cập vào các thành phần đi vào AI.

And so we can't actually address the issues.

Và vì vậy chúng ta không thể thực sự giải quyết các vấn đề.

Chúng ta cũng không thể ngừng ăn AI

We also can't stop eating AI

giống như ta có thể ngừng ăn một chiếc bánh sandwich mờ ám

like we can just stop eating a shady sandwich

because it's everywhere,

vì nó ở khắp mọi nơi

and we often don't even know that we're encountering a system

và ta thậm chí thường không biết rằng đang gặp phải một hệ thống

that's algorithmically based.

dựa trên thuật toán.

Vì vậy, hôm nay, tôi sẽ nói với bạn về một số xu hướng AI mà tôi thấy.

So today, I'm going to tell you about some of the AI trends that I see.

Tôi rút ra kinh nghiệm của mình trong việc xây dựng hệ thống này

I'm going to draw on my experience building these systems

over the last two decades to tell you about the tools

trong 2 thập kỷ qua để cho bạn biết về các công cụ

that I and others have built to look into these AI ingredients.

mà tôi và những người khác đã xây dựng để xem xét các thành phần AI này.

Và cuối cùng, tôi sẽ để lại cho bạn 3 nguyên tắc

And finally, I'm going to leave you with three principles

mà tôi nghĩ sẽ mang lại cho ta một mối quan hệ lành mạnh hơn

that I think will give us a healthier relationship

to the companies that build artificial intelligence.

với các công ty xây dựng trí tuệ nhân tạo.

I'm going to start with the question, how did we get here?

Tôi sẽ bắt đầu với câu hỏi, làm thế nào ta đến được đây?

AI is not new.

AI không phải là mới

We have been living alongside AI for two decades.

Chúng ta đã sống bên cạnh AI trong hai thập kỷ.

Every time that you apply for something online,

Mỗi khi bạn đăng ký một cái gì đó trực tuyến,

you open a bank account or you go through passport control,

bạn mở tài khoản ngân hàng hoặc bạn đi qua kiểm soát hộ chiếu,

you're encountering an algorithmic system.

bạn đang gặp phải một hệ thống thuật toán.

We've also been living with the negative repercussions of AI for 20 years,

Chúng ta cũng đã sống với những hậu quả tiêu cực của AI trong 20 năm,

and this is how it makes us sick.

và đây là cách nó khiến ta bị bệnh.

These systems get deployed on broad populations,

Các hệ thống này được triển khai trên các quần thể rộng lớn,

and then certain subsets end up getting negatively disparately impacted,

và sau đó một số tập hợp con nhất định sẽ bị tác động tiêu cực khác nhau,

usually on the basis of race or gender or other characteristics.

thường là trên cơ sở chủng tộc hoặc giới tính hoặc các đặc điểm khác.

We need to be able to understand the ingredients to these systems

Chúng ta cần có khả năng hiểu các thành phần của các hệ thống này

so that we can address the issues.

để chúng ta có thể giải quyết các vấn đề.

So what are the ingredients to an AI system?

Vậy các thành phần cho một hệ thống AI là gì?

Well, data fuels the AI.

Vâng, dữ liệu cung cấp năng lượng cho AI.

The AI is going to look like the data that you gave it.

AI sẽ trông giống như dữ liệu mà bạn đã cung cấp cho nó.

So for example,

Vì vậy, ví dụ,

if I want to make a risk-assessment system for diabetes,

nếu muốn tạo 1 hệ thống đánh giá rủi ro cho bệnh tiểu đường,

my training data set might be adults in a certain region.

bộ dữ liệu đào tạo của tôi có thể là người lớn ở một khu vực nhất định.

And so I'll build that system,

Và vì vậy tôi sẽ xây dựng hệ thống đó,

nó sẽ hoạt động thực sự tốt cho người trưởng thành trong vùng đó.

it'll work really well for those adults in that region.

But it does not work for adults in other regions

Nhưng với người lớn ở các khu vực khác thì không

or maybe at all for children.

hay có thể với trẻ em.

So you can imagine if we deploy this for all those populations,

Bạn có thể hình dung nếu triển khai điều này cho tất cả những quần thể đó,

there are going to be a lot of people who are harmed.

sẽ có rất nhiều người bị tổn hại.

We need to be able to understand the quality of the data before we use it.

Ta cần có khả năng hiểu chất lượng của dữ liệu trước khi chúng ta sử dụng nó.

Nhưng tôi rất tiếc phải nói với bạn rằng ta hiện đang sống

But I'm sorry to tell you that we currently live

in what I call the Wild West of data.

trong cái mà tôi gọi là miền Tây hoang dã của dữ liệu.

It's really hard to assess quality of data before you use it.

Thật khó để đánh giá chất lượng dữ liệu trước khi bạn sử dụng nó.

There are no global standards for data quality assessment,

Không có tiêu chuẩn toàn cầu về đánh giá chất lượng dữ liệu

and there are very few data regulations around how you can use data

và có rất ít quy định về cách bạn có thể sử dụng dữ liệu

and what types of data you can use.

và loại dữ liệu bạn có thể sử dụng.

This is kind of like in the food safety realm.

Điều này giống như trong lĩnh vực an toàn thực phẩm.

If we couldn't understand where the ingredients were sourced,

Nếu chúng ta không thể hiểu được các thành phần được lấy từ đâu,

we also had no idea whether they were safe for us to consume.

ta cũng không biết liệu chúng có an toàn cho ta để tiêu thụ hay không.

We also tend to stitch data together,

Chúng ta cũng có xu hướng kết hợp dữ liệu lại với nhau,

and every time we stitch this data together,

và mỗi khi kết hợp dữ liệu này lại với nhau,

which we might find on the internet, scrape, we might generate it,

ta có thể tìm thấy trên internet, quét, chúng ta có thể tạo ra nó,

we could source it.

chúng ta có thể lấy nó.

We lose information about the quality of the data.

Chúng ta mất thông tin về chất lượng của dữ liệu.

Và những người đang xây dựng các mô hình không phải

And the folks who are building the models

are not the ones that found the data.

là những người tìm thấy dữ liệu.

So there's further information that's lost.

Vì vậy, có thêm thông tin bị mất.

Now, I've been asking myself a lot of questions

Bây giờ, tôi đã tự hỏi mình rất nhiều câu hỏi

about how can we understand the data quality before we use it.

về làm thế nào ta có thể hiểu được chất lượng dữ liệu trước khi sử dụng nó.

And this emerges from two decades of building these kinds of systems.

Và điều này xuất hiện từ hai thập kỷ xây dựng các loại hệ thống này.

Cách tôi được đào tạo để xây dựng hệ thống tương tự như cách mọi người làm ngày nay.

The way I was trained to build systems is similar to how people do it today.

You build for the middle of the distribution.

Bạn xây dựng cho trung gian phân phối.

That's your normal user.

Đó là người dùng bình thường của bạn.

So for me, a lot of my training data sets

Vì vậy, với tôi, rất nhiều bộ dữ liệu đào tạo của tôi

would include information about people from the Western world who speak English,

sẽ bao gồm thông tin về những người từ thế giới phương Tây nói tiếng Anh,

who have certain normative characteristics.

những người có những đặc điểm chuẩn mực nhất định.

And it took me an embarrassingly long amount of time

Và tôi đã mất một khoảng thời gian dài đáng xấu hổ

to realize that I was not my own user.

để nhận ra tôi không phải là người dùng của chính mình.

So I identify as non-binary, as mixed race,

Vì vậy, tôi xác định là không nhị phân, là chủng tộc hỗn hợp,

I wear a hearing aid

tôi đeo máy trợ thính

and I just wasn't represented in the data sets that I was using.

và tôi không được thể hiện trong bộ dữ liệu mà tôi đang sử dụng.

And so I was building systems that literally didn't work for me.

Và vì vậy tôi đã xây dựng các hệ thống thực sự không hoạt động với tôi.

And for example, I once built a system that repeatedly told me

Và ví dụ, tôi đã từng xây dựng một hệ thống liên tục nói với tôi

that I was a white Eastern-European lady.

rằng tôi là một phụ nữ da trắng Đông Âu.

Điều này đã tạo ra một con số thực sự trên danh tính của tôi.

This did a real number on my identity.

(Laughter)

(Cười)

But perhaps even more worrying,

Nhưng có lẽ còn đáng lo ngại hơn,

this was a system to be deployed in health care,

đây là một hệ thống được triển khai trong chăm sóc sức khỏe,

where your background can determine things like risk scores for diseases.

nơi lý lịch của bạn có thể xác định những thứ như điểm số nguy cơ mắc bệnh.

Và vì vậy tôi bắt đầu tự hỏi,

And so I started to wonder,

liệu tôi có thể xây công cụ và làm việc với những người khác để làm điều này

can I build tools and work with others to do this

so that I can look inside of a dataset before I use it?

để tôi có thể nhìn vào bên trong tập dữ liệu trước khi sử dụng nó không?

In 2018, I was part of a fellowship at Harvard and MIT,

Vào năm 2018, tôi là một phần của học bổng tại Harvard và MIT,

and I, with some colleagues, decided to try to address this problem.

và tôi, với một số đồng nghiệp, đã quyết định cố gắng giải quyết vấn đề này.

And so we launched the Data Nutrition Project,

Và vì vậy, chúng tôi đã khởi động Dự án Dinh dưỡng Dữ liệu,

which is a research group and also a nonprofit

một nhóm nghiên cứu và cũng là một tổ chức phi lợi nhuận

that builds nutrition labels for datasets.

xây dựng nhãn dinh dưỡng cho các bộ dữ liệu.

So similar to food nutrition labels,

Vì vậy, tương tự như nhãn dinh dưỡng thực phẩm,

ý tưởng ở đây là bạn có thể nhìn vào trong một tập dữ liệu trước khi sử dụng nó.

the idea here is that you can look inside of a data set before you use it.

You can understand the ingredients,

Bạn có thể hiểu các thành phần,

xem liệu nó có tốt cho sức khỏe cho việc bạn muốn làm hay không.

see whether it's healthy for the things that you want to do.

Now this is a cartoonified version of the label.

Bây giờ đây là một phiên bản hoạt hình của nhãn hiệu.

The top part tells you about the completion of the label itself.

Phần trên cùng cho bạn biết về việc hoàn thành nhãn.

And underneath that you have information about the data,

Và bên dưới đó bạn có thông tin về dữ liệu,

the description, the keywords, the tags,

mô tả, từ khóa, thẻ

and importantly, on the right hand side,

và quan trọng là ở phía bên phải,

how you should and should not use the data.

bạn nên và không nên sử dụng dữ liệu như thế nào.

If you could scroll on this cartoon,

Nếu bạn có thể cuộn trên phim hoạt hình này,

you would see information about risks and mitigation strategies

bạn sẽ thấy thông tin về rủi ro và các chiến lược giảm thiểu

across a number of vectors.

trên một số vectơ.

And we launched this with two audiences in mind.

Và chúng tôi đã khởi động điều này với hai khán giả trong tâm trí.

The first audience are folks who are building AI.

Đối tượng đầu tiên là những người đang xây dựng AI.

Vì vậy, họ đang chọn bộ dữ liệu.

So they’re choosing datasets.

We want to help them make a better choice.

Chúng tôi muốn giúp họ đưa ra lựa chọn tốt hơn.

The second audience are folks who are building datasets.

Đối tượng thứ hai là những người đang xây dựng bộ dữ liệu.

Và hóa ra khi bạn nói với ai đó

And it turns out

that when you tell someone they have to put a label on something,

rằng họ phải dán nhãn lên thứ gì đó,

họ sẽ nghĩ về các thành phần trước.

they think about the ingredients beforehand.

Sự tương tự ở đây có thể là,

The analogy here might be,

nếu tôi muốn làm một chiếc bánh sandwich và nói rằng nó không chứa gluten,

if I want to make a sandwich and say that it’s gluten-free,

I have to think about all the components as I make the sandwich,

tôi phải nghĩ về tất cả các thành phần khi tôi làm sandwich,

the bread and the ingredients, the sauces.

bánh mì và các thành phần, nước sốt.

I can't just put it on a sandwich and put it in front of you

Tôi không thể chỉ đặt nó lên sandwich và đặt nó trước mặt bạn

and tell you it's gluten-free.

và nói với bạn rằng nó không chứa gluten.

We're really proud of the work that we've done.

Chúng tôi thực sự tự hào về công việc đã làm.

We launched this as a design and then a prototype

Chúng tôi đã đưa ra nó như 1 thiết kế và sau đó là 1 nguyên mẫu

and ultimately a tool for others to make their own labels.

và cuối cùng là một công cụ để những người khác tạo nhãn của riêng họ.

And we've worked with experts at places like Microsoft Research,

Chúng tôi đã làm việc với các chuyên gia ở những nơi như Microsoft Research,

the United Nations and professors globally

Liên Hợp Quốc và các giáo sư trên toàn cầu

to integrate the label and the methodology

để tích hợp nhãn hiệu và phương pháp luận

into their work flows and into their curricula.

vào quy trình làm việc và chương trình giảng dạy của họ.

Nhưng chúng tôi biết nó chỉ đi xa đến mức đó.

But we know it only goes so far.

And that's because it's actually really hard to get a label

Và đó là bởi vì thực sự rất khó để có được một nhãn

on every single dataset.

trên mỗi tập dữ liệu.

And this comes down to the question

Và điều này dẫn đến câu hỏi

of why would you put a label on a dataset to begin with?

tại sao bạn lại đặt nhãn trên tập dữ liệu để bắt đầu?

Well, the first reason is not rocket science.

Lý do đầu tiên không phải là khoa học tên lửa.

It's that you have to.

Đó là điều bạn phải làm.

And this is, quite frankly, why food nutrition labels exist.

Và thẳng thắn, đây là lý do nhãn dinh dưỡng thực phẩm tồn tại.

It's because if they didn't put them on the boxes, it would be illegal.

Đó là vì nếu họ không đặt chúng vào hộp, điều đó sẽ là bất hợp pháp.

However, we don't really have AI regulation.

Tuy nhiên, chúng ta không thực sự có quy định về AI.

Chúng ta không có nhiều quy định xung quanh việc sử dụng dữ liệu.

We don't have much regulation around the use of data.

Now there is some on the horizon.

Bây giờ có một số trên đường chân trời.

For example, the EU AI Act just passed this week.

Ví dụ, Đạo luật AI của EU vừa được thông qua trong tuần này.

And although there are no requirements around making the training data available,

Và mặc dù không có yêu cầu nào xung quanh việc cung cấp dữ liệu đào tạo,

they do have provisions for creating transparency labeling

họ có các quy định để tạo nhãn minh bạch

like the dataset nutrition label, data sheets, data statements.

như nhãn dinh dưỡng tập dữ liệu, bảng dữ liệu, báo cáo dữ liệu.

Có rất nhiều trong không gian.

There are many in the space.

We think this is a really good first step.

Chúng tôi nghĩ đây là một bước đầu tiên thực sự tốt.

The second reason that you might have a label on a dataset

Lý do thứ hai mà bạn có thể có nhãn trên tập dữ liệu

is because it is a best practice or a cultural norm.

là vì đó là một thực hành tốt nhất hoặc một chuẩn mực văn hóa.

The example here might be how we're starting to see

Ví dụ ở đây có thể là cách chúng ta bắt đầu thấy

more and more food packaging and menus at restaurants

ngày càng nhiều bao bì thực phẩm và thực đơn tại các nhà hàng

include information about whether there's gluten.

bao gồm thông tin về việc có gluten hay không.

Điều này không được yêu cầu bởi pháp luật,

This is not required by law,

mặc dù nếu bạn nói điều đó, tốt hơn là nó phải là sự thật.

although if you do say it, it had better be true.

And the reason that people are adding this to their menus

Và lý do mà mọi người đang thêm điều này vào thực đơn

and their food packaging

và bao bì thực phẩm của họ

is because there's an increased awareness of the sensitivity

là vì nhận thức ngày càng tăng về sự nhạy cảm

and kind of the seriousness of that kind of an allergy or condition.

và mức độ nghiêm trọng của loại dị ứng hoặc tình trạng đó.

Vì vậy, ta cũng đang thấy một số chuyển động trong lĩnh vực này.

So we're also seeing some movement in this area.

Những người xây dựng bộ dữ liệu đang bắt đầu đặt nhãn dinh dưỡng,

Folks who are building datasets are starting to put nutrition labels,

bảng dữ liệu trên bộ dữ liệu của họ.

data sheets on their datasets.

Và những người đang sử dụng dữ liệu đang bắt đầu yêu cầu thông tin.

And people who are using data are starting to request the information.

This is really heartening.

Điều này thực sự đáng khích lệ.

Và bạn có thể nói, “Kasia, tại sao bạn lại ở đây?

And you might say, "Kasia, why are you up here?

Everything seems to be going well, seems to be getting better."

Mọi thứ dường như diễn ra tốt đẹp, dường như đang trở nên tốt hơn.”

In some ways it is.

Một cách nào đó là như vậy.

But I'm also here to tell you that our relationship to data

Tôi cũng ở đây nói với bạn mối quan hệ của ta với dữ liệu

is getting worse.

đang trở nên tồi tệ hơn.

Now the last few years have seen a supercharged interest

Bây giờ vài năm qua đã chứng kiến sự quan tâm gia tăng

in gathering datasets.

trong việc thu thập các bộ dữ liệu.

Companies are scraping the web.

Các công ty đang quét web.

They're transcribing millions of hours of YouTube videos into text.

Họ đang phiên âm hàng triệu giờ video YouTube thành văn bản.

By some estimates, they'll run out of information on the internet by 2026.

Theo một số ước tính, họ sẽ hết thông tin trên internet vào năm 2026.

They're even considering buying publishing houses

Họ thậm chí đang cân nhắc mua nhà xuất bản

so they can get access to printed text and books.

để họ có thể truy cập vào văn bản và sách in.

So why are they gathering this information?

Vậy tại sao họ thu thập thông tin này?

Well, they need more and more information

Họ cần ngày càng nhiều thông tin hơn

to train a new technique called generative AI.

để đào tạo một kỹ thuật mới gọi là AI generative.

I want to tell you about the size of these datasets.

Tôi muốn nói với bạn về kích thước của các bộ dữ liệu này.

If you look at GPT-3, which is a model that launched in 2020,

Nếu bạn nhìn vào GPT-3, một mô hình được ra mắt vào năm 2020,

the training dataset included 300 billion words, or parts of words.

tập dữ liệu đào tạo bao gồm 300 tỷ từ hoặc các phần của từ.

Now for context, the English language contains less than a million words.

Bây giờ đối với ngữ cảnh, ngôn ngữ tiếng Anh chứa ít hơn một triệu từ.

Just three years later, DBRX was launched,

Chỉ ba năm sau, DBRX được ra mắt,

which was trained on eight trillion words.

được đào tạo trên tám nghìn tỷ từ.

So 300 billion to eight trillion in three years.

Vì vậy, 300 tỷ đến 8,000 tỷ trong ba năm.

And the datasets are getting bigger.

Và các bộ dữ liệu đang ngày càng lớn hơn.

Now with each successive model launch,

Bây giờ với mỗi lần ra mắt mô hình liên tiếp,

the datasets are actually less and less transparent.

các bộ dữ liệu thực sự ngày càng ít minh bạch hơn.

And even we have access to the information,

Và ngay cả ta có quyền truy cập vào thông tin,

it's so big, it's so hard to look inside without any kind of transparency tooling.

nó rất lớn, thật khó để nhìn vào bên trong mà không có bất kỳ công cụ minh bạch nào.

And the generative AI itself is also causing some worries.

Và bản thân AI tạo ra cũng đang gây ra một số lo lắng.

Và bạn có thể đã gặp kỹ thuật này thông qua ChatGPT.

And you've probably encountered this technique through ChatGPT.

I don't need to know what you do on the internet,

Tôi không cần biết những gì bạn làm trên internet,

that's between you and the internet,

đó là giữa bạn và internet,

but you probably know, just like I do,

nhưng bạn có thể biết, giống như tôi,

how easy it is to create information using ChatGPT

việc tạo thông tin bằng ChatGPT

và các công nghệ AI tổng hợp khác

and other generative AI technologies

and to put that out onto the web.

và đưa nó lên web dễ dàng ra sao.

And so we're looking at a situation

Và vì vậy chúng tôi đang xem xét một tình huống

in which we're going to encounter lots of information

trong đó chúng ta sẽ gặp rất nhiều thông tin

that's algorithmically generated but we won't know it

được tạo ra bằng thuật toán nhưng ta sẽ không biết nó

and we won't know whether it's true.

và ta sẽ không biết liệu nó có đúng hay không.

And this increases the scale of the potential risks and harms from AI.

Và điều này làm tăng quy mô của các rủi ro và tác hại tiềm ẩn từ AI.

Not only that, I'm sorry,

Không chỉ vậy, tôi xin lỗi,

but the models themselves are getting controlled

mà bản thân các mô hình đang bị kiểm soát

bởi một số lượng nhỏ và ít hơn các chủ thể tư nhân trong các công ty công nghệ Mỹ.

by a smaller and smaller number of private actors in US tech firms.

Vì vậy, đây là những mô hình đã được ra mắt vào năm ngoái, vào năm 2023.

So this is the models that were launched last year, in 2023.

Có thể thấy hầu hết chúng có màu hồng, nghĩa là xuất phát từ ngành công nghiệp.

And you can see most of them are pink, meaning they came out of industry.

Nếu bạn nhìn điều này theo thời gian, ngày càng nhiều ra khỏi ngành công nghiệp

And if you look at this over time, more and more are coming out of industry

and fewer and fewer are coming out of all the other sectors combined,

và ngày càng ít đi ra khỏi tất cả các lĩnh vực khác cộng lại,

including academia and government,

bao gồm cả học viện và chính phủ,

where technology is often launched in a way

nơi công nghệ thường được đưa ra theo cách

that's more easy to be scrutinized.

dễ dàng được xem xét kỹ lưỡng hơn.

So if we go back to our cafe analogy,

Vì vậy, nếu quay trở lại quán cà phê,

this is like you have a small number of private actors

điều này giống như bạn có một số lượng nhỏ các diễn viên tư nhân

who own all the ingredients,

sở hữu tất cả các nguyên liệu,

they make all the sandwiches globally,

họ làm tất cả các bánh sandwich trên toàn cầu

và không có nhiều quy định.

and there's not a lot of regulation.

Và vì vậy tại thời điểm này, bạn có thể sợ hãi

And so at this point you're probably scared

và có thể cảm thấy hơi khó chịu.

and maybe feeling a little uncomfortable.

Thật mỉa mai vì vài phút trước, tôi định mua cho tất cả các bạn bánh sandwich

Which is ironic because a few minutes ago, I was going to get you all sandwiches

and you said yes.

và bạn đã nói có.

Đây là lý do tại sao bạn không nên chấp nhận thức ăn từ người lạ.

This is why you should not accept food from strangers.

But I wouldn't be up here if I weren't also optimistic.

Nhưng tôi sẽ không ở đây nếu tôi cũng không lạc quan.

And that's because I think we have momentum

Và đó là bởi vì tôi nghĩ ta có động lực

behind the regulation and the culture changes.

đằng sau quy định và sự thay đổi văn hóa.

Especially if we align ourselves with three basic principles

Đặc biệt nếu chúng ta liên kết với ba nguyên tắc cơ bản

about how corporations should engage with data.

về cách các công ty nên tương tác với dữ liệu.

Nguyên tắc đầu tiên là các công ty thu thập dữ liệu nên cho chúng ta biết

The first principle is that companies that gather data should tell us

những gì họ đang thu thập.

what they're gathering.

Điều này sẽ cho phép ta đặt câu hỏi như, nó có phải là tài liệu có bản quyền không?

This would allow us to ask questions like, is it copyrighted material?

Thông tin đó có phải là riêng tư không?

Is that information private?

Could you please stop?

Bạn có thể làm ơn dừng lại?

Nó cũng mở ra dữ liệu cho các cuộc điều tra khoa học.

It also opens up the data to scientific inquiry.

Nguyên tắc thứ hai là

The second principle is that companies that are gathering our data should tell us

các công ty đang thu thập dữ liệu nên cho chúng ta biết họ sẽ làm gì với nó

what they're going to do with it before they do anything with it.

trước khi họ làm bất cứ điều gì với nó.

Và bằng cách yêu cầu các công ty cho ta biết kế hoạch của họ,

And by requiring that companies tell us their plan,

điều này có nghĩa là họ phải có một kế hoạch,

this means that they have to have a plan,

đó sẽ là một bước đầu tiên tuyệt vời.

which would be a great first step.

Nó cũng có thể sẽ dẫn đến việc giảm thiểu việc thu thập dữ liệu,

It also probably would lead to the minimization of data capture,

bởi vì họ sẽ không thể thu thập dữ liệu

because they wouldn't be able to capture data

nếu họ không biết họ sẽ làm gì với nó.

if they didn't know what they were already going to do with it.

Và cuối cùng, nguyên tắc thứ ba,

And finally, principle three,

companies that build AI should tell us about the data

các công ty xây dựng AI nên cho chúng ta biết về dữ liệu

mà họ sử dụng để đào tạo AI.

that they use to train the AI.

Và đây là nơi mà nhãn dinh dưỡng tập dữ liệu

And this is where dataset nutrition labels

và ghi nhãn minh bạch khác phát huy tác dụng.

and other transparency labeling comes into play.

Bạn biết đấy, trong trường hợp dữ liệu sẽ không được cung cấp,

You know, in the case where the data itself won't be made available,

đó là hầu hết thời gian, có lẽ,

which is most of the time, probably,

the labeling is critical for us to be able to investigate the ingredients

việc dán nhãn rất quan trọng để chúng ta có thể điều tra các thành phần

và bắt đầu tìm giải pháp.

and start to find solutions.

Vì vậy, tôi muốn để lại cho bạn một tin tốt,

So I want to leave you with the good news,

và đó là các dự án dinh dưỡng dữ liệu và các dự án khác

and that is that the data nutrition projects and other projects

chỉ là một phần nhỏ của phong trào toàn cầu

are just a small part of a global movement

hướng tới trách nhiệm giải trình AI.

towards AI accountability.

Tập dữ liệu Nutrition Label và các dự án khác chỉ là bước đầu tiên.

Dataset Nutrition Label and other projects are just a first step.

Quy định sắp ra mắt,

Regulation's on the horizon,

các chuẩn mực văn hóa đang thay đổi,

the cultural norms are shifting,

đặc biệt nếu ta phù hợp với ba nguyên tắc cơ bản

especially if we align with these three basic principles

mà các công ty nên cho chúng ta biết họ đang thu thập những gì,

that companies should tell us what they're gathering,

cho ta biết họ sẽ làm gì với nó trước khi họ làm bất cứ điều gì

tell us what they're going to do with it before they do anything with it,

và các công ty đang xây dựng AI

and that companies that are building AI

nên giải thích dữ liệu mà họ đang sử dụng để xây dựng hệ thống.

should explain the data that they're using to build the system.

Chúng ta cần buộc các tổ chức này phải chịu

We need to hold these organizations accountable

trách nhiệm về AI mà họ đang xây dựng

for the AI that they're building

bằng cách hỏi họ, giống như ta làm với ngành công nghiệp thực phẩm,

by asking them, just like we do with the food industry,

những gì bên trong và bạn đã tạo ra nó ra sao?

what's inside and how did you make it?

Chỉ khi đó, ta mới có thể giảm thiểu các vấn đề trước khi chúng xảy ra,

Only then can we mitigate the issues before they occur,

trái ngược với sau khi chúng xảy ra.

as opposed to after they occur.

Khi làm như vậy, hãy tạo ra một internet thuật toán tích hợp lành mạnh hơn

And in doing so, create an integrated algorithmic internet

cho tất cả mọi người.

that is healthier for everyone.

Xin cảm ơn.

Thank you.

(Vỗ tay)

(Applause)