How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Translator: Anh Trần Reviewer: vo vy

Let me share a paradox.

Để tôi chia sẻ với các bạn một nghịch lí.

For the last 10 years,

Trong suốt mười năm qua,

many companies have been trying to become less bureaucratic,

nhiều công ty đã cố gắng hạn chế tình trạng quan liêu,

to have fewer central rules and procedures,

giảm bớt các quy tắc và quy trình,

more autonomy for their local teams to be more agile.

cho phép các địa phương tự quản để bộ máy trở nên tinh gọn hơn.

And now they are pushing artificial intelligence, AI,

Và giờ họ đang làm việc nhiều hơn với trí tuệ nhân tạo, AI,

unaware that cool technology

mà không biết rằng công nghệ

might make them more bureaucratic than ever.

có thể gia tăng tình trạng quan liêu hơn trước.

Why?

Tại sao?

Because AI operates just like bureaucracies.

Vì trí tuệ nhân tạo vận hành giống nạn quan liêu.

The essence of bureaucracy

Bản chất của nạn quan liêu

is to favor rules and procedures over human judgment.

là đề cao các quy tắc và quy trình hơn quyết định của con người.

And AI decides solely based on rules.

Và trí tuệ nhân tạo quyết định hoàn toàn dựa trên các quy tắc.

Many rules inferred from past data

Rất nhiều các quy tắc dựa trên dữ liệu trước

but only rules.

nhưng chỉ là các quy tắc.

And if human judgment is not kept in the loop,

Và nếu quyết định của con người không được xem trọng,

AI will bring a terrifying form of new bureaucracy --

trí tuệ nhân tạo sẽ tạo ra một kiểu quan liêu mới đáng sợ hơn --

I call it "algocracy" --

tôi gọi nó là "algocracy" --

where AI will take more and more critical decisions by the rules

nơi trí tuệ nhân tạo sẽ đưa ra nhiều quyết định hoàn toàn dựa trên các quy tắc

outside of any human control.

ngoài tầm kiểm soát của con người.

Is there a real risk?

Có rủi ro gì đằng sau đó không?

Yes.

Có.

I'm leading a team of 800 AI specialists.

Tôi lãnh đạo một đội gồm 800 chuyên gia về trí tuệ nhân tạo.

We have deployed over 100 customized AI solutions

Chúng tôi đã triển khai hơn 100 giải pháp đặc chế về trí tuệ nhân tạo

for large companies around the world.

tại các công ty lớn trên toàn thế giới.

And I see too many corporate executives behaving like bureaucrats from the past.

Và tôi chứng kiến nhiều tổ chức đoàn thể vận hành giống nạn quan liêu ngày trước.

They want to take costly, old-fashioned humans out of the loop

Họ muốn chiếm nhiều tiền, loại bỏ những người kiểu cũ ra khỏi cuộc chơi

and rely only upon AI to take decisions.

và dựa hoàn toàn vào trí tuệ nhân tạo để đưa ra quyết định.

I call this the "human-zero mindset."

Tôi gọi đó là "con người có tư duy bằng không."

And why is it so tempting?

Tại sao điều này lại lôi cuốn đến vậy?

Because the other route, "Human plus AI," is long,

Vì "Con người với trí tuệ nhân tạo" là một quá trình dài,

costly and difficult.

tốn kém và đầy khó khăn.

Business teams, tech teams, data-science teams

Đội kinh doanh, đội công nghệ, đội dữ liệu khoa học

have to iterate for months

phải nhắc đi nhắc lại trong nhiều tháng

to craft exactly how humans and AI can best work together.

với nhân viên cách để con người và trí tuệ nhân tạo có thể hợp tác với nhau tốt nhất.

Long, costly and difficult.

Một hành trình dài, tốn kém và đầy khó khăn.

But the reward is huge.

Nhưng thành quả nhận được vô cùng to lớn.

A recent survey from BCG and MIT

Một cuộc khảo sát gần đây từ BCG và MIT

shows that 18 percent of companies in the world

cho thấy 18% các công ty trên thế giới

are pioneering AI,

đã đi đầu trong lĩnh vực trí tuệ nhân tạo,

making money with it.

kiếm tiền từ nó.

Those companies focus 80 percent of their AI initiatives

Các công ty này tập trung 80% nguồn lực về trí tuệ nhân tạo

on effectiveness and growth,

để đảm bảo tính hiệu quả và sự phát triển

taking better decisions --

và đưa ra các quyết định đúng đắn --

not replacing humans with AI to save costs.

và không thay thế con người bằng trí tuệ nhân tạo để tiết kiệm chi phí.

Why is it important to keep humans in the loop?

Tại sao quyết định của con người vẫn quan trọng?

Simply because, left alone, AI can do very dumb things.

Đơn giản vì làm một mình, trí tuệ nhân tạo có thể sẽ làm những việc ngớ ngẩn.

Sometimes with no consequences, like in this tweet.

Có khi không có gì nghiêm trọng, như dòng tweet này.

"Dear Amazon,

"Amazon thân mến,

I bought a toilet seat.

tôi đã mua một cái bồn cầu.

Necessity, not desire.

Do tôi cần, chứ không phải ao ước.

I do not collect them,

Tôi không sưu tầm chúng,

I'm not a toilet-seat addict.

tôi không phải là người thích bồn cầu.

No matter how temptingly you email me,

Dù bạn có gửi một email hấp dẫn thế nào,

I am not going to think, 'Oh, go on, then,

tôi cũng không bao giờ nghĩ, "Oh, tiếp tục đi,

one more toilet seat, I'll treat myself.' "

cho tôi một cái bồn cầu nữa, tôi sẽ tự xử."

(Laughter)

(Cười)

Sometimes, with more consequence, like in this other tweet.

Nhưng đôi khi nghiêm trọng hơn, như dòng tweet này.

"Had the same situation

"Cùng tình trạng

with my mother's burial urn."

với hũ đựng tro cốt của mẹ tôi."

(Laughter)

(Cười)

"For months after her death,

"Nhiều tháng sau khi bà mất,

I got messages from Amazon, saying, 'If you liked that ...' "

tôi liên tục nhận được tin nhắn từ Amazon, nói rằng, "Nếu bạn thích..."

(Laughter)

(Cười)

Sometimes with worse consequences.

Có khi lại gây hậu quả nghiêm trọng hơn.

Take an AI engine rejecting a student application for university.

Để trí tuệ nhân tạo đánh trượt hồ sơ của học sinh nộp vào trường đại học.

Why?

Tại sao?

Because it has "learned," on past data,

Vì nó được "lập trình", dựa trên dữ liệu

characteristics of students that will pass and fail.

và đặc điểm của những học sinh sẽ đỗ hoặc trượt.

Some are obvious, like GPAs.

Một số cái rất rõ ràng, như điểm GPA.

But if, in the past, all students from a given postal code have failed,

Nhưng nếu tất cả học sinh cùng một mã bưu chính bị trượt,

it is very likely that AI will make this a rule

rất có thể trí tuệ nhân tạo sẽ lấy đó làm nguyên tắc

and will reject every student with this postal code,

và sẽ đánh trượt tất cả học sinh có mã bưu chính đó,

not giving anyone the opportunity to prove the rule wrong.

không cho ai cơ hội chứng minh rằng nguyên tắc đó là sai.

And no one can check all the rules,

Và không ai có thể kiểm tra toàn bộ nguyên tắc,

because advanced AI is constantly learning.

vì trí tuệ nhân tạo làm việc liên tục.

And if humans are kept out of the room,

Và nếu con người không có ở đó,

there comes the algocratic nightmare.

sẽ xảy ra những ác mộng trí tuệ nhân tạo.

Who is accountable for rejecting the student?

Ai sẽ chịu trách nhiệm cho việc đánh trượt thí sinh?

No one, AI did.

Không ai, sẽ là trí tuệ nhân tạo.

Is it fair? Yes.

Điều này có công bằng không? Có.

The same set of objective rules has been applied to everyone.

Bộ nguyên tắc tương tự cũng được áp dụng với mọi người.

Could we reconsider for this bright kid with the wrong postal code?

Liệu có thể cân nhắc lại về trường hợp của những đứa trẻ có mã bưu chính sai?

No, algos don't change their mind.

Không, thuật toán không thể quyết định.

We have a choice here.

Chúng ta có một lựa chọn ở đây.

Carry on with algocracy

Tiếp tục làm việc với trí tuệ nhân tạo

or decide to go to "Human plus AI."

hoặc quyết định đi tới "Con người với trí tuệ nhân tạo."

And to do this,

Và để làm được việc này,

we need to stop thinking tech first,

ta cần dừng nghĩ đến công nghệ đầu tiên,

and we need to start applying the secret formula.

và cần bắt đầu áp dụng một công thức bí mật.

To deploy "Human plus AI,"

Để triển khai "Con người và trí tuệ nhân tạo"

10 percent of the effort is to code algos;

cần 10% nỗ lực lập trình thuật toán;

20 percent to build tech around the algos,

20% xây dựng công nghệ xung quanh thuật toán,

collecting data, building UI, integrating into legacy systems;

thu thập dữ liệu, xây dựng giao diện người dùng, hợp nhất vào hệ thống;

But 70 percent, the bulk of the effort,

nhưng 70% còn lại

is about weaving together AI with people and processes

sẽ khớp trí tuệ nhân tạo với con người và các quy trình

to maximize real outcome.

để tối đa hoá giá trị sản phẩm thu được.

AI fails when cutting short on the 70 percent.

Trí tuệ nhân tạo thất bại khi ta rút ngắn 70% kia.

The price tag for that can be small,

Tag giá có thể nhỏ,

wasting many, many millions of dollars on useless technology.

nhưng lại tốn rất nhiều triệu đô vào thứ công nghệ vô dụng.

Anyone cares?

Có ai quan tâm không?

Or real tragedies:

Hoặc là những bi kịch có thực:

346 casualties in the recent crashes of two B-737 aircrafts

Có 346 thương vong trong vụ va chạm gần đây giữa hai máy bay B-737

when pilots could not interact properly

khi các phi công không thể kết nối trực tiếp

with a computerized command system.

với hệ thống máy tính.

For a successful 70 percent,

Muốn thành công ở 70% này

the first step is to make sure that algos are coded by data scientists

bước đầu tiên là phải đảm bảo thuật toán phải được các nhà khoa học dữ liệu

and domain experts together.

và các chuyên gia trong ngành lập trình.

Take health care for example.

Lấy một ví dụ thuộc ngành chăm sóc sức khoẻ.

One of our teams worked on a new drug with a slight problem.

Một nhóm của tôi gặp phải một vấn đề nhỏ khi nghiên cứu loại thuốc mới.

When taking their first dose,

Khi uống liều đầu tiên,

some patients, very few, have heart attacks.

một số ít bệnh nhân có thể bị đau tim.

So, all patients, when taking their first dose,

Vậy nên tất cả các bệnh nhân sau khi uống liều đầu tiên

have to spend one day in hospital,

phải ở lại bệnh viện một ngày

for monitoring, just in case.

để được theo dõi.

Our objective was to identify patients who were at zero risk of heart attacks,

Mục tiêu là xác định những bệnh nhân không có nguy cơ đau tim,

who could skip the day in hospital.

để có thể không phải ở lại bệnh viện nữa.

We used AI to analyze data from clinical trials,

Chúng tôi dùng trí tuệ nhân tạo phân tích dữ liệu từ các cuộc thử nghiệm y học,

to correlate ECG signal, blood composition, biomarkers,

liên hệ dấu hiệu điện tim, thành phần của máu, các dấu ấn sinh học

with the risk of heart attack.

với nguy cơ bị đau tim.

In one month,

Trong một tháng,

our model could flag 62 percent of patients at zero risk.

mẫu của chúng tôi đã giúp 62% bệnh nhân không có nguy cơ mắc đau tim.

They could skip the day in hospital.

Họ không cần phải ở lại bệnh viện.

Would you be comfortable staying at home for your first dose

Bạn có cảm thấy thoải mái khi được ở nhà sau lần uống thuốc đầu tiên

if the algo said so?

nếu thuật toán nói như thế?

(Laughter)

(Cười)

Doctors were not.

Các bác sĩ thì không.

What if we had false negatives,

Sẽ ra sao nếu ta đánh giá sai,

meaning people who are told by AI they can stay at home, and die?

nhỡ các bệnh nhân mà trí tuệ nhân tạo cho rằng họ có thể ở nhà, lại qua đời?

(Laughter)

(Cười)

There started our 70 percent.

Đây là khởi đầu cho 70% của chúng tôi.

We worked with a team of doctors

Chúng tôi đã làm việc với đội ngũ bác sĩ

to check the medical logic of each variable in our model.

để kiểm tra tính logic về mặt y học của mỗi biến số trong mẫu của mình.

For instance, we were using the concentration of a liver enzyme

Ví dụ, chúng tôi dùng sự tập trung các enzym của gan

as a predictor,

để dự đoán,

for which the medical logic was not obvious.

trong trường hợp này tính logic không hề rõ ràng.

The statistical signal was quite strong.

Các dấu hiệu thống kê khá nhiều.

But what if it was a bias in our sample?

Nhưng sẽ ra sao nếu có một đường chéo ở mẫu của chúng tôi?

That predictor was taken out of the model.

Sự dự đoán này vượt ra ngoài mẫu của chúng tôi.

We also took out predictors for which experts told us

Chúng tôi cũng thử nghiệm một vài dự đoán do các chuyên gia gợi ý

they cannot be rigorously measured by doctors in real life.

nhưng không được các bác sĩ đánh giá chặt chẽ.

After four months,

Sau bốn tháng,

we had a model and a medical protocol.

chúng tôi đã có mô hình và biên bản y tế.

They both got approved

Cả hai đều được đồng ý.

my medical authorities in the US last spring,

Nghiên cứu của tôi ở Mỹ vào mùa xuân năm ngoái

resulting in far less stress for half of the patients

giúp giảm sự căng thẳng cho một nửa bệnh nhân

and better quality of life.

và cải thiện chất lượng cuộc sống.

And an expected upside on sales over 100 million for that drug.

Và chúng tôi hi vọng sẽ bán được 100 triệu cho loại thuốc này.

Seventy percent weaving AI with team and processes

70% trong việc hợp tác trí tuệ nhân tạo với đội ngũ và các quy trình

also means building powerful interfaces

đã xây dựng được mặt phân giãn vững chắc

for humans and AI to solve the most difficult problems together.

cho con người và trí tuệ nhân tạo cùng giải quyết những vấn đề hóc búa nhất.

Once, we got challenged by a fashion retailer.

Một lần chúng tôi có thử thách từ nhà bán lẻ thời trang.

"We have the best buyers in the world.

"Chúng tôi đã có khách hàng tốt nhất trên thế giới.

Could you build an AI engine that would beat them at forecasting sales?

Các bạn có thể thiết kế động cơ dùng trí tuệ nhân tạo mà dự đoán được mặt hàng?

At telling how many high-end, light-green, men XL shirts

Nói cho chúng tôi biết bao nhiêu áo phông nam cao cấp, màu xanh nhạt

we need to buy for next year?

chúng tôi cần mua cho năm sau?

At predicting better what will sell or not

Và dự đoán xem cái gì bán được hay không

than our designers."

tốt hơn các nhà thiết kế."

Our team trained a model in a few weeks, on past sales data,

Đội chúng tôi đã nghiên cứu mô hình trong vài tuần, dựa vào dữ liệu bán hàng trước,

and the competition was organized with human buyers.

và cuộc thi được tổ chức với khách hàng thật.

Result?

Kết quả ư?

AI wins, reducing forecasting errors by 25 percent.

Trí tuệ nhân tạo đã thắng, tỉ lệ dự đoán sai ít hơn 25%.

Human-zero champions could have tried to implement this initial model

Con người cũng có thể thử sử dụng mô hình này

and create a fight with all human buyers.

và tạo ra một cuộc thách đấu với các khách hàng.

Have fun.

Thật thú vị.

But we knew that human buyers had insights on fashion trends

Nhưng chúng tôi biết khách hàng có những hiểu biết về xu hướng thời trang

that could not be found in past data.

mà không có ở dữ liệu trước.

There started our 70 percent.

Bắt đầu 70% của chúng tôi.

We went for a second test,

Chúng tôi thực hiện bài kiểm tra thứ hai

where human buyers were reviewing quantities

để khách hàng kiểm tra số lượng sản phẩm

suggested by AI

được trí tuệ nhân tạo gợi ý

and could correct them if needed.

và có thể sửa chúng nếu cần.

Result?

Kết quả ư?

Humans using AI ...

Người sử dụng trí tuệ nhân tạo...

lose.

thất bại.

Seventy-five percent of the corrections made by a human

75% lỗi được sửa bởi con người

were reducing accuracy.

lại ít chính xác hơn.

Was it time to get rid of human buyers?

Có phải đã đến lúc loại bỏ các khách hàng không?

No.

Không.

It was time to recreate a model

Đến lúc cần phải thiết kế lại mô hình

where humans would not try to guess when AI is wrong,

để con người không cần phải cố gắng dự đoán khi trí tuệ nhân tạo làm việc sai,

but where AI would take real input from human buyers.

nhưng là nơi trí tuệ nhân tạo có thể xử lí được thông tin từ khách hàng.

We fully rebuilt the model

Chúng tôi xây dựng lại mô hình

and went away from our initial interface, which was, more or less,

và tránh xa giao diện ban đầu, giao diện đó như muốn nói:

"Hey, human! This is what I forecast,

"Hey! Đây là những gì tôi dự đoán,

correct whatever you want,"

đối chiếu với cái bạn cần,"

and moved to a much richer one, more like,

và chuyển đến một giao diện giàu có hơn, như,

"Hey, humans!

"Hey,

I don't know the trends for next year.

tôi không biết xu hướng của năm sau.

Could you share with me your top creative bets?"

Bạn có thể chia sẻ dự đoán tốt nhất của mình được không?"

"Hey, humans!

"Hey,

Could you help me quantify those few big items?

bạn giúp tôi xác định số lượng một ít đồ lớn được không?

I cannot find any good comparables in the past for them."

Tôi không thể tìm thấy bất kì sự so sánh nào tốt trong quá khứ."

Result?

Kết quả ư?

"Human plus AI" wins,

"Con người và trí tuệ nhân tạo" đã thắng,

reducing forecast errors by 50 percent.

giảm 50% tỉ lệ đoán sai.

It took one year to finalize the tool.

Phải mất một năm để hoàn thành công cụ này.

Long, costly and difficult.

Một quá trình dài, tốn kém và đầy khó khăn.

But profits and benefits

Nhưng lợi nhuận và lợi ích

were in excess of 100 million of savings per year for that retailer.

mà nó mang lại là tiết kiệm được 100 triệu cho nhà bán lẻ mỗi năm.

Seventy percent on very sensitive topics

70% thành công ở các chủ đề nhạy cảm

also means human have to decide what is right or wrong

nghĩa là con người phải quyết định đúng sai

and define rules for what AI can do or not,

và đặt ra các luật lệ những gì trí tuệ nhân tạo có thể làm hoặc không,

like setting caps on prices to prevent pricing engines

như đặt giá để ngăn chặn máy

[from charging] outrageously high prices to uneducated customers

trả mức giá cao quá cho những khách hàng không có học thức

who would accept them.

chấp nhận chúng.

Only humans can define those boundaries --

Chỉ con người mới có thể đặt ra ranh giới như vậy --

there is no way AI can find them in past data.

trí tuệ nhân tạo không thể tìm thấy chúng trong dữ liệu.

Some situations are in the gray zone.

Một số trường hợp trong vùng màu xám.

We worked with a health insurer.

Chúng tôi làm việc với một công ty bảo hiểm sức khoẻ.

He developed an AI engine to identify, among his clients,

Anh phát triển thiết bị dùng trí tuệ nhân tạo để xác định trong các khách hàng,

people who are just about to go to hospital

những người sẽ đến bệnh viện

to sell them premium services.

để bán dịch vụ bảo hiểm của mình.

And the problem is,

Vấn đề là,

some prospects were called by the commercial team

viễn cảnh được vẽ ra bởi những người làm thương mại

while they did not know yet

trong khi họ không biết rằng

they would have to go to hospital very soon.

mình sẽ sớm phải đến bệnh viện.

You are the CEO of this company.

Nếu là CEO của công ty này,

Do you stop that program?

bạn có dừng chương trình này không?

Not an easy question.

Không phải là một câu hỏi dễ.

And to tackle this question, some companies are building teams,

Và để trả lời câu hỏi này, một số công ty đang xây dựng đội ngũ,

defining ethical rules and standards to help business and tech teams set limits

đặt ra các tiêu chuẩn đạo đức giúp đội kinh doanh và công nghệ đặt giới hạn

between personalization and manipulation,

giữa việc cá nhân hoá và thao túng,

customization of offers and discrimination,

giữ việc tùy chỉnh đề nghị với việc phân biệt đối xử,

targeting and intrusion.

mục tiêu và sự xâm lấn.

I am convinced that in every company,

Tôi bị thuyết phục rằng ở mỗi công ty,

applying AI where it really matters has massive payback.

áp dụng trí tuệ nhân tạo thu được một nguồn lợi vô cùng lớn.

Business leaders need to be bold

Lãnh đạo các công ty cần dũng cảm

and select a few topics,

lựa chọn các chủ đề,

and for each of them, mobilize 10, 20, 30 people from their best teams --

và với mỗi chủ đề đó, huy động 10, 20, 30 người từ các đội tốt nhất --

tech, AI, data science, ethics --

công nghệ, trí tuệ nhân tạo, khoa học dữ liệu, nội quy --

and go through the full 10-, 20-, 70-percent cycle

và áp dụng đầy đủ vòng xoay 10, 20, 70%

of "Human plus AI,"

của "Con người và trí tuệ nhân tạo,"

if they want to land AI effectively in their teams and processes.

nếu họ muốn khai thác trí tuệ nhân tạo hiệu quả trong đội và các quá trình.

There is no other way.

Không còn cách nào khác.

Citizens in developed economies already fear algocracy.

Các cư dân ở các nước phát triển sợ nạn quan liêu gây ra bởi trí tuệ nhân tạo.

Seven thousand were interviewed in a recent survey.

7000 người được hỏi trong cuộc khảo sát gần đây.

More than 75 percent expressed real concerns

Hơn 75% bày tỏ sự lo lắng

on the impact of AI on the workforce, on privacy,

về ảnh hưởng của trí tuệ nhân tạo đến lực lượng lao động, chính sách,

on the risk of a dehumanized society.

và nguy cơ xã hội trở thành vô nhân đạo.

Pushing algocracy creates a real risk of severe backlash against AI

Sự gia tăng của nạn quan liêu này sẽ tạo ra khe hở chống lại trí tuệ nhân tạo

within companies or in society at large.

ở các công ty và xã hội nói chung.

"Human plus AI" is our only option

"Con người với trí tuệ nhân tạo" là lựa chọn duy nhất của chúng ta

to bring the benefits of AI to the real world.

để mang những lợi ích của trí tuệ nhân tạo đến với thế giới.

And in the end,

Và cuối cùng,

winning organizations will invest in human knowledge,

chiến thắng các cuộc thi còn cung cấp cho con người kiến thức,

not just AI and data.

không chỉ trí tuệ nhân tạo và dữ liệu.

Recruiting, training, rewarding human experts.

Tuyển dụng, đào tạo và khen thưởng thành tích của con người.

Data is said to be the new oil,

Dữ liệu được cho là mỏ dầu mới,

but believe me, human knowledge will make the difference,

nhưng tin tôi đi, kiến thức của con người mới tạo ra sự khác biệt,

because it is the only derrick available

vì nó là cái cần cẩu có sẵn duy nhất

to pump the oil hidden in the data.

để hút dầu trong dữ liệu.

Thank you.

Xin cảm ơn.

(Applause)

(Vỗ tay)