Machine intelligence makes human morals more important | Zeynep Tufekci

Translator: Le Huong

Vì thế, tôi đã có công việc đầu tiên của mình là một lập trình viên máy tính

So, I started my first job as a computer programmer

in my very first year of college --

ngay trong những năm học đại học đầu tiên

basically, as a teenager.

về cơ bản, khi vẫn là một thiếu niên

Soon after I started working,

Không lâu sau khi tôi bắt đầu công việc,

writing software in a company,

trong lúc đang viết phần mềm cho công ty,

a manager who worked at the company came down to where I was,

thì người quản lý ở đó tiến đến chỗ tôi

and he whispered to me,

và thì thầm vào tai tôi

"Can he tell if I'm lying?"

"Hắn có phát hiện nếu tôi nói dối không?"

There was nobody else in the room.

Không có một ai khác trong phòng cả.

"Ai có thể nhận ra anh đang nói dối?" "Và tại sao ta phải nói thầm?"

"Can who tell if you're lying? And why are we whispering?"

Ông quản lý chỉ tay vào chiếc máy tính trong phòng.

The manager pointed at the computer in the room.

"Can he tell if I'm lying?"

"Hắn có phát hiện nếu tôi nói dối không?"

Well, that manager was having an affair with the receptionist.

Vâng, ông quản lý này đang ngoại tình với cô tiếp tân.

(Laughter)

( Cười)

Và tôi vẫn chỉ là một đứa oắt con.

And I was still a teenager.

So I whisper-shouted back to him,

nên tôi nói thầm lại với anh ta,

"Yes, the computer can tell if you're lying."

" Có chứ, nó biết khi nào ông nói dối đấy."

(Cười)

(Laughter)

Well, I laughed, but actually, the laugh's on me.

Vâng, tôi cười nhưng thực ra là cười bản thân.

Nowadays, there are computational systems

Ngày nay, có những hệ thống máy tính

that can suss out emotional states and even lying

có thể nhận diện trạng thái cảm xúc, ngay cả việc nói dối

from processing human faces.

thông qua phân tích nhân diện.

Advertisers and even governments are very interested.

Các nhà quảng cáo và thậm chí cả chính quyền rất hứng thú với điều này.

I had become a computer programmer

Tôi đã trở thành 1 lập trình viên

because I was one of those kids crazy about math and science.

vì tôi từng là đứa trẻ say mê Toán và Khoa học.

But somewhere along the line I'd learned about nuclear weapons,

Nhưng khoảng thời gian đó, tôi cũng học về vũ khí hạt nhân.

và tôi trở nên rất quan ngại về vấn đề đạo đức của khoa học.

and I'd gotten really concerned with the ethics of science.

Tôi đã rất bối rối.

I was troubled.

However, because of family circumstances,

Tuy nhiên, do hoàn cảnh gia đình,

I also needed to start working as soon as possible.

tôi cần phải bắt đầu làm việc càng sớm càng tốt.

So I thought to myself, hey, let me pick a technical field

Vì vậy nên tôi nói với bản thân, này, hãy chọn một ngành kỹ thuật

where I can get a job easily

giúp tôi có thể dễ dàng kiếm việc

and where I don't have to deal with any troublesome questions of ethics.

mà lại không phải quan tâm đến những câu hỏi đạo đức phiền phức.

Vì vậy nên tôi chọn máy tính.

So I picked computers.

(Laughter)

(Cười lớn)

Well, ha, ha, ha! All the laughs are on me.

Vậy đấy! haha Tôi cười vì chính mình!

Ngày nay, các nhà khoa học máy tính xây dựng hệ điều hành

Nowadays, computer scientists are building platforms

that control what a billion people see every day.

có thể điều khiển thứ mà một tỉ người xem hằng ngày.

Họ đang phát triển những chiếc xe có thể tự quyết định nó sẽ cán qua ai.

They're developing cars that could decide who to run over.

They're even building machines, weapons,

Họ thậm chí còn đang tạo ra nhiều máy móc, vũ khí,

that might kill human beings in war.

có thể tiêu diệt loài người trong chiến tranh.

It's ethics all the way down.

Chung quy lại đều liên quan tới đạo đức

Machine intelligence is here.

Trí tuệ nhân tạo là đây.

We're now using computation to make all sort of decisions,

Ta không chỉ sử dụng những thuật toán để đưa ra mọi quyết định

but also new kinds of decisions.

mà còn cả những chuyện chưa từng xảy ra

We're asking questions to computation that have no single right answers,

Ta đưa cho máy móc những câu hỏi không có một đáp án đúng nào cả,

that are subjective

những câu hỏi chủ quan

and open-ended and value-laden.

những câu hỏi mở và mang tính giả định.

Chúng ta hỏi những câu hỏi như,

We're asking questions like,

"Who should the company hire?"

"Công ty nên thuê ai?"

"Những gì bạn nên được biết từ bạn bè?"

"Which update from which friend should you be shown?"

"Which convict is more likely to reoffend?"

"Phạm nhân nào có khả năng tái phạm cao?"

"Which news item or movie should be recommended to people?"

"Dòng tin hay bộ phim nào nên được đề xuất cho mọi người?"

Look, yes, we've been using computers for a while,

Nhìn xem, đúng, chúng ta đã sử dụng máy tính một thời gian dài,

but this is different.

nhưng lần này thì khác.

This is a historical twist,

Đây là một bước ngoặt lịch sử,

because we cannot anchor computation for such subjective decisions

vì ta không thể trông cậy vào sự tính toán cho các quyết định chủ quan thế này

the way we can anchor computation for flying airplanes, building bridges,

như cái cách chúng ta dựa vào nó để lái máy bay, xây cầu,

going to the moon.

để đi lên mặt trăng.

Are airplanes safer? Did the bridge sway and fall?

Máy bay liệu có an toàn hơn? Cây cầu có lắc lư và sập không?

There, we have agreed-upon, fairly clear benchmarks,

Thế đấy, chúng ta đều có một chuẩn mực thống nhất và khá rõ ràng,

and we have laws of nature to guide us.

và ta có những quy luật của tự nhiên hướng dẫn.

We have no such anchors and benchmarks

Chúng ta không hề có những điểm tựa hay tiêu chuẩn như vậy

for decisions in messy human affairs.

cho các quyết định về những vấn đề phức tạp của con người.

To make things more complicated, our software is getting more powerful,

Để làm vấn đề phức tạp hơn, phần mềm của ta ngày càng trở nên hùng mạnh,

but it's also getting less transparent and more complex.

nhưng nó đồng thời trở nên khó hiểu và phức tạp hơn.

Recently, in the past decade,

Gần đây, trong thập kỷ gần đây,

complex algorithms have made great strides.

các thuật toán phức tạp đã đạt được những bước tiến lớn.

They can recognize human faces.

Chúng có thể nhận diện khuôn mặt người.

They can decipher handwriting.

Chúng có thể giải mã được chữ viết tay.

They can detect credit card fraud

Chúng có thể nhận biết thẻ tín dụng giả

and block spam

và chặn tin rác

and they can translate between languages.

và chúng có thể phiên dịch ngôn ngữ.

They can detect tumors in medical imaging.

Chúng có thể phát hiện khối u trong phim chụp y khoa.

They can beat humans in chess and Go.

Chúng đánh bại con người trong cờ vua và Go.

Much of this progress comes from a method called "machine learning."

Đa phần những tiến bộ này đến từ phương pháp "máy tính tự học"

Máy tính tự học khác với lập trình truyền thống,

Machine learning is different than traditional programming,

where you give the computer detailed, exact, painstaking instructions.

ở chỗ bạn đưa ra những hướng dẫn cụ thể, chính xác, kỹ lưỡng cho máy tính.

It's more like you take the system and you feed it lots of data,

Đúng hơn là bạn cho một đống dữ liệu vào hệ thống,

including unstructured data,

bao gồm dữ liệu chưa được sắp xếp,

like the kind we generate in our digital lives.

như loại chúng ta tạo ra trong thế giới số

And the system learns by churning through this data.

Và hệ thống học bằng cách lướt qua các dữ liệu này.

And also, crucially,

Và quan trọng hơn,

these systems don't operate under a single-answer logic.

những hệ thống này không hoạt động dựa trên logic một-câu-trả-lời-duy-nhất.

They don't produce a simple answer; it's more probabilistic:

Chúng không cho ra câu trả lời đơn giản mà có tính xác suất hơn

"This one is probably more like what you're looking for."

"Cái này có nhiều khả năng là cái bạn đang muốn tìm."

Lợi thế ở đây là: biện pháp này rất hiệu quả.

Now, the upside is: this method is really powerful.

Trưởng hệ thống Al của Google gọi nó là,

The head of Google's AI systems called it,

"the unreasonable effectiveness of data."

"sự hiệu quả bất hợp lý của dữ liệu."

The downside is,

Bất lợi ở đây là,

we don't really understand what the system learned.

ta không thật sự hiểu cái mà hệ thống học được.

In fact, that's its power.

Thực tế, đó là sức mạnh của nó.

This is less like giving instructions to a computer;

Cái này khác với việc đưa ra hướng dẫn cho máy tính;

it's more like training a puppy-machine-creature

Nó giống hơn với việc huấn luyện một loại chó cưng bằng máy

we don't really understand or control.

mà chúng ta không thật sự hiểu hay kiểm soát.

So this is our problem.

Vậy nên đó là vấn đề của ta.

It's a problem when this artificial intelligence system gets things wrong.

Nó là vấn đề khi mà hệ thống trí tuệ nhân tạo hiểu sai sự việc.

It's also a problem when it gets things right,

Nó cũng là vấn đề khi nó hiểu đúng sự việc,

because we don't even know which is which when it's a subjective problem.

bởi vì chúng ta không thể phân biệt được khi nó là một vấn đề chủ quan.

We don't know what this thing is thinking.

Chúng ta không biết được vật này đang nghĩ gì.

So, consider a hiring algorithm --

Thử xem xét một thuật toán thuê --

một hệ thống dùng để thuê nhân viên, dựa vào hệ thống máy móc tự học.

a system used to hire people, using machine-learning systems.

Một hệ thống như vậy sẽ được đào tạo dựa trên dự liệu của nhân viên cũ

Such a system would have been trained on previous employees' data

and instructed to find and hire

và được hướng dẫn để tìm và thuê

people like the existing high performers in the company.

những người tương tự với nhân viên xuất sắc hiện có ở công ty.

Sounds good.

Nghe có vẻ tốt đấy.

I once attended a conference

Tôi từng tham dự một hội nghị

bao gồm quản lý nhân sự và các lãnh đạo,

that brought together human resources managers and executives,

những nhân vật cấp cao,

high-level people,

using such systems in hiring.

dùng hệ thống như vậy khi thuê

They were super excited.

Họ cực kỳ phấn khích về việc đó.

They thought that this would make hiring more objective, less biased,

Họ nghĩ rằng hệ thống này sẽ giúp việc thuê người khách quan và ít thiên vị hơn,

and give women and minorities a better shot

và cho phụ nữ và người thiểu số một cơ hội tốt hơn

against biased human managers.

chống lại những người quản lý thiên vị.

And look -- human hiring is biased.

Đúng là người thuê người thường có sự thiên vị.

Tôi biết vậy.

I know.

I mean, in one of my early jobs as a programmer,

Trong những việc đầu tiên của tôi với vai trò lập trình viên,

my immediate manager would sometimes come down to where I was

quản lý trực tiếp của tôi thỉnh thoảng sẽ đến chỗ tôi

really early in the morning or really late in the afternoon,

rất sớm vào buổi sáng hoặc rất muộn vào buổi chiều,

để nói, "Zeynep, cùng đi ăn trưa nào!"

and she'd say, "Zeynep, let's go to lunch!"

I'd be puzzled by the weird timing.

Tôi bị bối rối bởi giờ giấc thất thường.

It's 4pm. Lunch?

Bây giờ là 4g chiều mà ăn trưa ư?

Tôi thì thiếu tiền, mà bữa trưa miễn phí. Cho nên tôi luôn đi

I was broke, so free lunch. I always went.

I later realized what was happening.

Sau đó tôi nhận ra chuyện gì đang diễn ra.

My immediate managers had not confessed to their higher-ups

Những quản lý trực tiếp của tôi chưa hề thông báo với cấp trên

that the programmer they hired for a serious job was a teen girl

rằng lập trình viên họ thuê cho việc quan trọng là một thiếu nữ

who wore jeans and sneakers to work.

mặc quần jeans và đi giày thể thao đi làm.

Tôi làm tốt việc, chỉ ăn mặc không đúng

I was doing a good job, I just looked wrong

and was the wrong age and gender.

và sai độ tuổi và giới tính.

Cho nên việc tuyển chọn không dựa theo giới tính và sắc tộc

So hiring in a gender- and race-blind way

certainly sounds good to me.

rõ ràng tốt cho tôi.

Nhưng với những hệ thống này, nó phức tạp hơn, và đây là lý do:

But with these systems, it is more complicated, and here's why:

Currently, computational systems can infer all sorts of things about you

Bây giờ, hệ thống tính toán có thể đưa ra đủ mọi loại kết luận vể bạn

from your digital crumbs,

dựa trên những vết tích số của bạn,

even if you have not disclosed those things.

ngay cả khi bạn không hề tiết lộ những việc đó.

They can infer your sexual orientation,

Chúng có thể đưa ra kết luận về xu hướng tình dục của bạn,

your personality traits,

tính cách bạn,

your political leanings.

quan điểm chính trị của bạn.

They have predictive power with high levels of accuracy.

Chúng có sức mạnh dự đoán với sự chuẩn xác cao.

Remember -- for things you haven't even disclosed.

Nhớ rằng - ngay cả những việc bạn không hề tiết lộ.

This is inference.

Đây chỉ mới là việc suy luận

I have a friend who developed such computational systems

Tôi có một người bạn thiết kế những hệ thống tính toán như vậy

to predict the likelihood of clinical or postpartum depression

để dự đoán khả năng mắc bệnh trầm cảm lâm sàng hoặc hậu thai sản

from social media data.

từ những dự liệu truyền thông xã hội.

The results are impressive.

Kết quả thật đáng ấn tượng.

Her system can predict the likelihood of depression

Hệ thống của cô ấy có thể dự đoán được khả năng mắc trầm cảm

months before the onset of any symptoms --

hàng tháng trước khi các triệu chứng xuất hiện --

months before.

hàng tháng trước.

No symptoms, there's prediction.

Không hề có triệu chứng, nhưng lại có dự đoán.

She hopes it will be used for early intervention. Great!

Cô mong rằng nó được sử dụng cho việc can thiệp sớm. Tuyệt vời!

But now put this in the context of hiring.

Nhưng giờ đặt nó vào viễn cảnh tuyển chọn.

Ở buổi họp quản lý nhân sự này,

So at this human resources managers conference,

tôi tiếp cận một quản lý cấp cao của một công ty lớn,

I approached a high-level manager in a very large company,

and I said to her, "Look, what if, unbeknownst to you,

và nói rằng, "Này, nếu như, ngoài sự hiểu biết của bạn,

your system is weeding out people with high future likelihood of depression?

hệ thống của bạn đang gạt bỏ người có thể bị trầm cảm cao trong tương lai?

They're not depressed now, just maybe in the future, more likely.

Hiện tại họ không hề bị trầm cảm, chỉ là trong tương lai có khả năng.

What if it's weeding out women more likely to be pregnant

Nếu như hệ thống loại bỏ những phụ nữ có khả năng mang thai

in the next year or two but aren't pregnant now?

trong một vài năm tới nhưng hiện không mang thai?

What if it's hiring aggressive people because that's your workplace culture?"

Nếu nó chọn những người có tính hung hăng vì đó là bản chất làm việc ở đây?"

Bạn không thể thấy điều này qua việc xem tỉ lệ giới tính

You can't tell this by looking at gender breakdowns.

Those may be balanced.

Điều đó có thể được cân bằng.

And since this is machine learning, not traditional coding,

Và vì đây là máy móc tự học, chứ không phải mã hóa truyền thống,

there is no variable there labeled "higher risk of depression,"

không hề có một biến số nào có tên "có khả năng trầm cảm cao",

"higher risk of pregnancy,"

"có khả năng mang thai cao",

"aggressive guy scale."

"tính cách hung hăng".

Not only do you not know what your system is selecting on,

Bạn không chỉ không biết hệ thống của bạn lựa chọn dựa trên tiêu chí gì,

you don't even know where to begin to look.

bạn còn không biết phải bắt đầu tìm từ đâu.

Nó là một hộp đen.

It's a black box.

It has predictive power, but you don't understand it.

Nó có khả năng tiên đoán, nhưng bạn không hiểu nó.

"What safeguards," I asked, "do you have

Tôi hỏi cô, "Bạn có chốt an toàn nào

to make sure that your black box isn't doing something shady?"

để đảm bảo rằng hộp đen của bạn không làm gì mờ ám?"

She looked at me as if I had just stepped on 10 puppy tails.

Cô ấy nhìn tôi như thể tôi vừa đạp lên 10 cái đuôi chó.

(Laughter)

(Cười lớn)

Cô nhìn tôi chằm chằm và nói,

She stared at me and she said,

"I don't want to hear another word about this."

"Tôi không muốn nghe thêm một từ nào về vấn đề này nữa."

And she turned around and walked away.

Và cô ấy bỏ đi.

Cho bạn biết- cô ấy không thô lỗ

Mind you -- she wasn't rude.

It was clearly: what I don't know isn't my problem, go away, death stare.

Rõ ràng rằng: điều tôi không biết không phải là vấn đề của tôi, đi đi, ánh nhìn chết người.

(Laughter)

(Cười lớn)

Look, such a system may even be less biased

Một hệ thống như vậy có thể ít thiên vị hơn

than human managers in some ways.

những người quản lý theo cách nào đó.

And it could make monetary sense.

Và nó có khả năng ra quyết định tài chính.

But it could also lead

Nhưng nó cũng có thể dẫn đến

to a steady but stealthy shutting out of the job market

một thị trường việc làm ổn định nhưng lén lút cô lập

những người có khả năng trầm cảm cao.

of people with higher risk of depression.

Is this the kind of society we want to build,

Liệu đây có phải là xã hội mà chúng ta muốn gầy dựng,

without even knowing we've done this,

khi mà chúng ta còn thậm chí không biết chúng ta làm vậy,

because we turned decision-making to machines we don't totally understand?

bởi vì chúng ta phó thác việc ra quyết định cho những cỗ máy mà chính chúng ta cũng không hiểu rõ?

Another problem is this:

Một vấn đề khác là:

these systems are often trained on data generated by our actions,

những hệ thống này được huấn luyện dựa trên những dữ liệu lấy từ các hành động của chúng ta,

human imprints.

dấu ấn của con người.

Well, they could just be reflecting our biases,

Chúng có thể phản ánh những thiên vị của chúng ta,

và những hệ thống này có thể bắt nhịp những thiên vị của chúng ta

and these systems could be picking up on our biases

and amplifying them

và phóng đại chúng

and showing them back to us,

và thể hiện chúng lại cho chúng ta,

while we're telling ourselves,

trong khi chúng ta lại tự bảo bản thân,

"We're just doing objective, neutral computation."

"Chúng ta đang tính toán một cách trung lập, khách quan."

Researchers found that on Google,

Các nhà nghiên cứu tìm ra rằng trên Google,

phụ nữ ít được cho thấy những thông cáo việc làm lương cao hơn đàn ông.

women are less likely than men to be shown job ads for high-paying jobs.

And searching for African-American names

Và các tìm kiếm tên của người Mỹ gốc Phi

sẽ dễ dẫn đến những cảnh báo tiền án tội phạm hơn,

is more likely to bring up ads suggesting criminal history,

even when there is none.

ngay cả khi người đó không hề phạm tội.

Such hidden biases and black-box algorithms

Những thiên vị tiềm ẩn và những thuật toán hộp-đen như vậy

that researchers uncover sometimes but sometimes we don't know,

được các nhà nghiên cứu thỉnh thoảng tìm ra nhưng thỉnh thoảng chúng ta không hề biết,

can have life-altering consequences.

có thể có các hậu quả nặng nề.

In Wisconsin, a defendant was sentenced to six years in prison

Ở Wisconsin, một bị cáo bị kết án sáu năm tù

vì trốn tránh cảnh sát.

for evading the police.

You may not know this,

Bạn có thể không biết rằng,

các thuật toán ngày càng được sử dụng trong việc ân xá và kết án nhiều hơn.

but algorithms are increasingly used in parole and sentencing decisions.

Ông ta muốn biết: Kết quả này được tính toán như thế nào?

He wanted to know: How is this score calculated?

It's a commercial black box.

Nó là một hộp đen thương hiệu.

The company refused to have its algorithm be challenged in open court.

Công ty từ chối để cho thuật toán của mình bị chất vấn ở các phiên tòa mở.

But ProPublica, an investigative nonprofit, audited that very algorithm

Nhưng ProPublica, một tổ chức điều tra phi lợi nhuận, đã kiểm tra chính thuật toán

with what public data they could find,

họ dùng để tra cứu các dữ liệu công cộng,

and found that its outcomes were biased

và nhận ra rằng các kết quả của chúng rất thiên vị

and its predictive power was dismal, barely better than chance,

và khả năng dự đoán của nó rất ảm đạm, chẳng hơn đoán mò bao nhiêu,

and it was wrongly labeling black defendants as future criminals

và nó kết luận sai các bị cáo da đen có thể thành phạm nhân tương lai

at twice the rate of white defendants.

nhiều gấp đôi bị cáo da trắng.

So, consider this case:

Thử nhìn vào vụ án này:

Người phụ nữ này đón chị đỡ đầu của bà trễ

This woman was late picking up her godsister

from a school in Broward County, Florida,

từ một trường ở quận Broward, Florida,

running down the street with a friend of hers.

chạy xuống phố với một người bạn của bà.

Họ nhìn thấy một chiếc xe đạp trẻ em không khóa và một chiếc xe máy trên hiên nhà

They spotted an unlocked kid's bike and a scooter on a porch

and foolishly jumped on it.

và họ nghịch ngợm nhảy lên nó.

As they were speeding off, a woman came out and said,

Trong khi họ đang tăng tốc, một người phụ nữ chạy ra và la lên rằng,

"Hey! That's my kid's bike!"

"Hey, đó là xe đạp của con tôi!"

They dropped it, they walked away, but they were arrested.

Họ quăng chiếc xe lại, chạy đi, nhưng họ bị bắt.

Cô sai, cô ngu ngốc, nhưng cô vẫn chỉ mới 18 tuổi.

She was wrong, she was foolish, but she was also just 18.

She had a couple of juvenile misdemeanors.

Cô đã phạm một vài tội vị thành niên.

Meanwhile, that man had been arrested for shoplifting in Home Depot --

Trong khi đó, một người đàn ông bị bắt vì trộm đồ ở Home Depot --

một mớ đồ trị giá $85, một tội ăn cắp vặt.

85 dollars' worth of stuff, a similar petty crime.

But he had two prior armed robbery convictions.

Nhưng ông có hai tiền án cướp có vũ khí.

But the algorithm scored her as high risk, and not him.

Nhưng thuật toán lại chấm điểm cô ấy có khả năng phạm tội cao hơn ông ta.

Two years later, ProPublica found that she had not reoffended.

Hai năm sau, ProPublica nhận thấy rằng cô ấy không hề tái phạm.

It was just hard to get a job for her with her record.

Nhưng cô ấy chỉ khó kiếm được việc làm với tiền án như v6a5y.

He, on the other hand, did reoffend

Ngược lại, ông ta tái phậm

and is now serving an eight-year prison term for a later crime.

và hiện đang bị ở tù tám năm cho tội ác sau này.

Rõ ràng, chúng ta cần kiểm tra các hộp đen của chúng ta

Clearly, we need to audit our black boxes

and not have them have this kind of unchecked power.

và không để chúng có những sức mạnh không kiểm soát này.

(Vỗ tay)

(Applause)

Kiểm tra rất tuyệt vời và quan trọng, nhưng chúng không giải quyết hết các vấn đề của chúng ta.

Audits are great and important, but they don't solve all our problems.

Take Facebook's powerful news feed algorithm --

Ví dụ như thuật toán trang chủ hùng mạnh của Facebook --

bạn biết đấy, cái đánh giá mọi thứ và quyết định sẽ cho bạn xem cái gì

you know, the one that ranks everything and decides what to show you

from all the friends and pages you follow.

từ bạn bè và những trang bạn theo dõi.

Should you be shown another baby picture?

Liệu bạn có nên được cho xem thêm một bức ảnh trẻ con nữa?

(Laughter)

(Cười lớn)

A sullen note from an acquaintance?

Một thông điệp u tối từ một người quen?

An important but difficult news item?

Một mẩu tin quan trọng nhưng phức tạp?

There's no right answer.

Không hề có câu trả lời đúng nào.

Facebook optimizes for engagement on the site:

Facebook tối đa hóa các tương tác trên trang chủ:

likes, shares, comments.

thích, chia sẻ, bình luận.

Vào tháng 8/2014,

In August of 2014,

protests broke out in Ferguson, Missouri,

biểu tình diễn ra ở Ferguson, Missouri,

after the killing of an African-American teenager by a white police officer,

sau vụ thảm sát một thiếu niên Mỹ Phi bởi một cảnh sát da trắng,

dưới điều kiện mờ ám.

under murky circumstances.

The news of the protests was all over

Tin tức về các buổi biểu tình tràn ngập

trên trang chủ Twitter không được thanh lọc bởi thuật toán,

my algorithmically unfiltered Twitter feed,

but nowhere on my Facebook.

nhưng không hề hiện ra trên Facebook của tôi.

Was it my Facebook friends?

Liệu đó có phải do các bạn trên Facebook của tôi?

I disabled Facebook's algorithm,

Tôi tắt thuật toán của Facebook,

which is hard because Facebook keeps wanting to make you

và rất khó để làm vậy vì Facebook luôn muốn bạn

come under the algorithm's control,

ở dưới sự kiểm soát của thuật toán,

and saw that my friends were talking about it.

và thấy rằng bạn bè tôi đang nói về vấn đề đó.

It's just that the algorithm wasn't showing it to me.

Chỉ là do thuật toán không cho tôi thấy điều đó.

I researched this and found this was a widespread problem.

Tôi đi tìm hiểu và phát hiện ra rằng đây là một vấn đề phổ biến.

The story of Ferguson wasn't algorithm-friendly.

Câu chuyện ở Ferguson không hề thân thiện với thuật toán.

Nó không được "yêu thích".

It's not "likable."

Who's going to click on "like?"

Ai sẽ bấm "thích"?

It's not even easy to comment on.

Nó không hề đơn giản để bình luận.

Without likes and comments,

Thiếu các lượt yêu thích và bình luận,

thuật toán lại hiển thị nó cho càng ít người,

the algorithm was likely showing it to even fewer people,

so we didn't get to see this.

cho nên chúng ta không hề thấy nó.

Instead, that week,

Thay vào đó, trong tuần đó,

Facebook's algorithm highlighted this,

Thuật toán của Facebook lại làm nổi bật mẩu tin

which is the ALS Ice Bucket Challenge.

về ALS Thử Thách Chậu Đá.

Worthy cause; dump ice water, donate to charity, fine.

Một động cơ cao cả; đổ chậu nước đá, quyên góp từ thiện, tốt thôi.

But it was super algorithm-friendly.

Nhưng nó rất được thuật toán yêu thích.

The machine made this decision for us.

Cỗ máy đưa ra quyết định này cho chúng ta.

A very important but difficult conversation

Một cuộc hội thoại quan trọng nhưng khó khăn

might have been smothered,

có thể vừa bị giết chết,

had Facebook been the only channel.

nếu như Facebook là cổng thông tin duy nhất.

Cuối cùng, các hệ thống này có thể phạm lỗi

Now, finally, these systems can also be wrong

in ways that don't resemble human systems.

theo nhiều cách không giống gì hệ thống con người.

Do you guys remember Watson, IBM's machine-intelligence system

Quý vị còn nhớ Watson, hệ thống máy móc thông minh của IBM

that wiped the floor with human contestants on Jeopardy?

quét sạch các người thi con người trong trò Jeopardy?

Nó là một người chơi tuyệt vời.

It was a great player.

But then, for Final Jeopardy, Watson was asked this question:

Nhưng ở màn cuối của Jeopardy, khi được hỏi:

"Its largest airport is named for a World War II hero,

"Sân bay lớn nhất của thành phố này được đặt tên theo một anh hùng Thế Chiến II,

its second-largest for a World War II battle."

sân bay lớn nhì được đặt tên theo một trận đánh trong Thế Chiến II."

(Hums Final Jeopardy music)

(Nhạc nền Jeopardy)

Chicago.

Chicago.

The two humans got it right.

Hai người chơi con người đoán đúng.

Watson, on the other hand, answered "Toronto" --

Ngược lại, Watson lại trả lời "Toronto" --

cho một phân mục thành phố Mỹ!

for a US city category!

The impressive system also made an error

Một hệ thống ấn tượng phạm một lỗi

that a human would never make, a second-grader wouldn't make.

mà không một con người nào sẽ mắc phải, ngay cả một học sinh cấp 2.

Our machine intelligence can fail

Cỗ máy thông minh của chúng ta đã thất bại

in ways that don't fit error patterns of humans,

theo nhiều cách không hề giống con người,

theo những cách chúng ta không ngờ tới và không chuẩn bị cho.

in ways we won't expect and be prepared for.

Sẽ thật tệ nếu như một người không được nhận vào một công việc mà họ đủ tiêu chuẩn,

It'd be lousy not to get a job one is qualified for,

but it would triple suck if it was because of stack overflow

nhưng nó sẽ còn tệ gấp ba lần nếu như lý do là vì sự tắc nghẽn thông tin

in some subroutine.

trong một thủ tục phụ nào đó.

(Laughter)

(Cười lớn)

In May of 2010,

Vào tháng 5/2010,

a flash crash on Wall Street fueled by a feedback loop

một khủng hoảng nhỏ ở Wall Street xảy ra do hệ thống phản hồi

in Wall Street's "sell" algorithm

trong thuật toán "bán" của Wall Street

wiped a trillion dollars of value in 36 minutes.

làm bốc hơi một trị giá 1000 tỉ đô trong 36 phút.

I don't even want to think what "error" means

Tôi không hề muốn nghĩ đến "lỗi" đó là gì

in the context of lethal autonomous weapons.

khi nói đến các vũ khí tự phát nguy hiểm.

So yes, humans have always made biases.

Cho nên vâng, con người luôn thiên vị.

Decision makers and gatekeepers,

Các người đưa ra quyết định và những người gác cổng,

in courts, in news, in war ...

trong tòa án, trên báo chí, trong chiến tranh,...

they make mistakes; but that's exactly my point.

họ phạm sai lầm; nhưng đó chính xác là điều tôi muốn nói.

We cannot escape these difficult questions.

Chúng ta không thể trốn tránh những câu hỏi khó.

We cannot outsource our responsibilities to machines.

Chúng ta không thể phó thác trách nhiệm của chúng ta cho máy móc.

(Applause)

(Vỗ tay)

Trí tuệ nhân tạo không cho chúng ta một thẻ "Trốn tránh đạo đức miễn phí"

Artificial intelligence does not give us a "Get out of ethics free" card.

Data scientist Fred Benenson calls this math-washing.

Nhà khoa học dữ liệu Fred Benenson gọi đây là tẩy rửa toán học.

Chúng ta cần điều ngược lại.

We need the opposite.

We need to cultivate algorithm suspicion, scrutiny and investigation.

Chúng ta cần nuôi dưỡng các hoài nghi về các thuật toán, các khó khăn và điều tra.

We need to make sure we have algorithmic accountability,

Chúng ta cần đảm bảo tính trung thực của các thuật toán,

auditing and meaningful transparency.

sự rõ ràng ý nghĩa và qua kiểm tra.

We need to accept that bringing math and computation

Chúng ta cần chấp nhận rằng khi đem toán học và tính toán

to messy, value-laden human affairs

vào các vấn đề phức tạp, nhiều tầng giá trị của con người

does not bring objectivity;

không hề đem đến tính khách quan;

mà ngược lại, sự phức tạp của các vấn đề của con người xâm lấn các thuật toán.

rather, the complexity of human affairs invades the algorithms.

Vâng, chúng ta có thể và nên sử dụng tính toán

Yes, we can and we should use computation

to help us make better decisions.

để giúp chúng ta đưa ra các quyết định đúng đắn hơn.

But we have to own up to our moral responsibility to judgment,

Nhưng chúng ta cần chịu trách nhiệm cho các quyết định mang tính đạo đức của chúng ta,

và sử dụng thuật toán nội trong khuôn khổ đó,

and use algorithms within that framework,

not as a means to abdicate and outsource our responsibilities

chứ không phải như một phương tiện để từ bỏ và phó thác trách nhiệm của chúng ta

to one another as human to human.

cho người khác giữa người với người.

Machine intelligence is here.

Máy móc thông minh tồn tại ở đây.

That means we must hold on ever tighter

Điều đó có nghĩa là chúng ta cần .... hơn

to human values and human ethics.

các giá trị nhân bản và đạo đức nhân văn.

Xin cám ơn.

Thank you.

(Applause)

(Vỗ tay)