How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Перекладач: Svitlana Zapolskykh Утверджено: Khrystyna Romashko

Let me share a paradox.

Розкажу один парадокс.

For the last 10 years,

За останні 10 років

many companies have been trying to become less bureaucratic,

більшість підприємств намагаються позбутися бюрократії,

to have fewer central rules and procedures,

зменшити кількість основних правил і процедур,

more autonomy for their local teams to be more agile.

надати більше автономії місцевим філіям, досягти більшої гнучкості.

And now they are pushing artificial intelligence, AI,

А зараз вони впроваджують штучний інтелект (ШІ),

unaware that cool technology

не розуміючи, що нова технологія

might make them more bureaucratic than ever.

призведе до ще більшої бюрократизації.

Why?

Чому?

Because AI operates just like bureaucracies.

Тому що ШІ функціонує за принципами бюрократії.

The essence of bureaucracy

Суть бюрократії у тому,

is to favor rules and procedures over human judgment.

що правила та процедури є важливішими за судження людини.

And AI decides solely based on rules.

А ШІ приймає рішення виключно за правилами.

Many rules inferred from past data

Багато правил виводиться з попередніх даних,

but only rules.

проте лише правил.

And if human judgment is not kept in the loop,

І якщо не брати до уваги людські судження,

AI will bring a terrifying form of new bureaucracy --

ШІ призведе до появи жахливої форми нової бюрократії:

I call it "algocracy" --

«алгократії».

where AI will take more and more critical decisions by the rules

ШІ прийматиме все більше важливих рішень за правилами

outside of any human control.

незалежно від людини.

Is there a real risk?

Чи є тут реальна загроза?

Yes.

Так.

I'm leading a team of 800 AI specialists.

Я очолюю команду з 800 фахівців у сфері ШІ.

We have deployed over 100 customized AI solutions

Ми проаналізували понад 100 спеціальних рішень у сфері ШІ

for large companies around the world.

для великих компаній по всьому світу.

And I see too many corporate executives behaving like bureaucrats from the past.

І виявилося, що забагато керівників поводяться, як бюрократи минулого.

They want to take costly, old-fashioned humans out of the loop

Вони хочуть позбавитися дорогих, старомодних людських ресурсів

and rely only upon AI to take decisions.

і покластися у прийнятті рішень лише на ШІ.

I call this the "human-zero mindset."

Це «без-людський менталітет».

And why is it so tempting?

І чому ця ідея принадлива?

Because the other route, "Human plus AI," is long,

Тому що інший механізм, «Людина плюс ШІ», є довготривалим,

costly and difficult.

вартісним і складним.

Business teams, tech teams, data-science teams

Команди з питань бізнесу, техніки та обробки даних

have to iterate for months

змушені виконати безліч монотонних операцій,

to craft exactly how humans and AI can best work together.

щоб напрацювати механізм втілення взаємодії людини і ШІ.

Long, costly and difficult.

Довготривало, коштовно та складно.

But the reward is huge.

Але справа варта того.

A recent survey from BCG and MIT

Останнє опитування від BCG та MIT

shows that 18 percent of companies in the world

демонструє, що 18% компаній світу

are pioneering AI,

впроваджують ШІ,

making money with it.

отримуючи від цього прибуток.

Those companies focus 80 percent of their AI initiatives

Компанії скеровують 80% ШІ

on effectiveness and growth,

на ефективність та розвиток,

taking better decisions --

і приймають виваженіше рішення:

not replacing humans with AI to save costs.

не заміняти людей на ШІ для економії коштів.

Why is it important to keep humans in the loop?

Чому люди досі залишаються важливим ґвинтиком в механізмі?

Simply because, left alone, AI can do very dumb things.

Все просто, тому що без контролю ШІ здатний до безглуздих речей.

Sometimes with no consequences, like in this tweet.

Іноді без жодних наслідків як, наприклад, у цьому твіті.

"Dear Amazon,

«Шановний Amazon,

I bought a toilet seat.

я придбав туалетне сидіння.

Necessity, not desire.

За необхідністю, а не за бажанням.

I do not collect them,

Я не збираю їх,

I'm not a toilet-seat addict.

не захоплююсь туалетними сидіннями.

No matter how temptingly you email me,

Як би спокусливо не виглядав ваш лист,

I am not going to think, 'Oh, go on, then,

у мене не з’явиться думка: «О, ну ж бо,

one more toilet seat, I'll treat myself.' "

придбаю ще одне, розбещу себе».

(Laughter)

(Сміх)

Sometimes, with more consequence, like in this other tweet.

Іноді це має неприємні наслідки, як у цьому твіті.

"Had the same situation

«У мене був схожий випадок

with my mother's burial urn."

з урною з прахом моєї мами».

(Laughter)

(Сміх)

"For months after her death,

«Певний час після її смерті

I got messages from Amazon, saying, 'If you liked that ...' "

я отримував повідомлення від Amazon з текстом «Якщо це вам сподобалось…»»

(Laughter)

(Сміх)

Sometimes with worse consequences.

Подекуди наслідки бувають серйозніші.

Take an AI engine rejecting a student application for university.

Система ШІ відхилила заяву студента про вступ до університету.

Why?

Чому?

Because it has "learned," on past data,

Тому що система спиралась на дані

characteristics of students that will pass and fail.

про студентів, які складуть або провалять іспити.

Some are obvious, like GPAs.

Такі дані, як середній бал, є достовірними.

But if, in the past, all students from a given postal code have failed,

Якщо всіх студентів з певним поштовим індексом спіткала невдача,

it is very likely that AI will make this a rule

дуже ймовірно, що ШІ наслідує цю модель

and will reject every student with this postal code,

і відхилить кандидатуру студентів з таким поштовим індексом

not giving anyone the opportunity to prove the rule wrong.

без можливості довести хибність цієї моделі.

And no one can check all the rules,

Ніхто не може перевірити усі правила,

because advanced AI is constantly learning.

адже передовий ШІ постійно розвивається.

And if humans are kept out of the room,

Якщо людина не втручається,

there comes the algocratic nightmare.

настає алгократичний кошмар.

Who is accountable for rejecting the student?

Хто несе відповідальність за відмову студенту?

No one, AI did.

Ніхто, окрім ШІ.

Is it fair? Yes.

Справедливо? Так.

The same set of objective rules has been applied to everyone.

Ті самі об’єктивні правила застосовуються до всіх.

Could we reconsider for this bright kid with the wrong postal code?

Чи можемо ми переглянути рішення щодо тієї здібної дитини з нещасливим індексом?

No, algos don't change their mind.

Ні, адже алгоритми не змінюють рішень.

We have a choice here.

У нас є вибір.

Carry on with algocracy

Жити далі з алгократією

or decide to go to "Human plus AI."

або обрати модель «Людина плюс ШІ.»

And to do this,

Для цього

we need to stop thinking tech first,

нам треба припинити мислити механічно,

and we need to start applying the secret formula.

і застосувати нову секретну формулу.

To deploy "Human plus AI,"

При застосуванні моделі «Людина плюс ШІ,»

10 percent of the effort is to code algos;

10% зусиль піде на створення алгоритмів;

20 percent to build tech around the algos,

20% – на технічні питання:

collecting data, building UI, integrating into legacy systems;

збір даних, розробку інтерфейсу, інтеграцію в традиційні системи.

But 70 percent, the bulk of the effort,

А 70%, тобто більшу частку зусиль,

is about weaving together AI with people and processes

має бути затрачено на поєднання ШІ з людьми та процесами,

to maximize real outcome.

задля досягнення результату.

AI fails when cutting short on the 70 percent.

ШІ не працює, якщо скоротити ці 70%.

The price tag for that can be small,

Ціна може бути незначною:

wasting many, many millions of dollars on useless technology.

змарновані мільйони доларів на непотрібну техніку.

Anyone cares?

Когось це хвилює?

Or real tragedies:

Або справжня трагедія:

346 casualties in the recent crashes of two B-737 aircrafts

346 жертв за останні катастрофи двох літаків B-737,

when pilots could not interact properly

коли пілоти не змогли справитися

with a computerized command system.

з комп'ютеризованою командною системою.

For a successful 70 percent,

Аби 70% вдались,

the first step is to make sure that algos are coded by data scientists

спочатку треба переконатись, що алгоритми прописані дослідниками

and domain experts together.

й експертами колективно.

Take health care for example.

Візьмемо, наприклад, медичну допомогу.

One of our teams worked on a new drug with a slight problem.

Команда працювала над новими ліками та зіштовхнулась з проблемою.

When taking their first dose,

Після першого прийому ліків

some patients, very few, have heart attacks.

у деяких пацієнтів розвивається інфаркт.

So, all patients, when taking their first dose,

Тому, всі пацієнти після першого прийому цих ліків

have to spend one day in hospital,

змушені провести один день у лікарні

for monitoring, just in case.

під наглядом, про всяк випадок.

Our objective was to identify patients who were at zero risk of heart attacks,

Наша мета була визначити тих пацієнтів, які мали нульовий ризик серцевих нападів,

who could skip the day in hospital.

тих хто б міг обійтися без лікарні.

We used AI to analyze data from clinical trials,

Ми використовували ШІ для аналізу клінічних даних,

to correlate ECG signal, blood composition, biomarkers,

для кореляції ЕКГ, аналізу крові, біомаркерів,

with the risk of heart attack.

з ризиком серцевого нападу.

In one month,

За один місяць

our model could flag 62 percent of patients at zero risk.

наша модель визначила 62 відсотки пацієнтів з нульовим ризиком.

They could skip the day in hospital.

Вони могли б обійтися без лікарні.

Would you be comfortable staying at home for your first dose

Адже комфортніше залишатися вдома,

if the algo said so?

якщо алгоритм дозволяє?

(Laughter)

(Сміх)

Doctors were not.

Лікарі проти.

What if we had false negatives,

Що робити, якщо результати помилкові,

meaning people who are told by AI they can stay at home, and die?

тобто, ШІ рекомендував людям залишитися вдома і померти?

(Laughter)

(Сміх)

There started our 70 percent.

Тут переходимо до наших 70 відсотків.

We worked with a team of doctors

Ми працювали з командою лікарів,

to check the medical logic of each variable in our model.

перевіряли медичну логіку кожної змінної у нашій моделі.

For instance, we were using the concentration of a liver enzyme

Наприклад, ми використовували концентрацію ферменту печінки

as a predictor,

як показник,

for which the medical logic was not obvious.

для якого медична логіка не була очевидною.

The statistical signal was quite strong.

Статистичні дані справляли враження.

But what if it was a bias in our sample?

Але що робити, якщо у дослідженні є похибка?

That predictor was taken out of the model.

Якщо показник просто не врахований?

We also took out predictors for which experts told us

Ми ж не враховували показники,

they cannot be rigorously measured by doctors in real life.

які неможливо точно виміряти

у лікарській практиці.

After four months,

Через чотири місяці

we had a model and a medical protocol.

ми мали модель і медичний протокол.

They both got approved

Вони отримали схвалення

my medical authorities in the US last spring,

фахівцями з медицини в США минулої весни.

resulting in far less stress for half of the patients

У результаті зменшився стрес для половини з пацієнтів,

and better quality of life.

покращилась якість життя,

And an expected upside on sales over 100 million for that drug.

очікувано продажі цього препарату перевищили 100 мільйонів.

Seventy percent weaving AI with team and processes

70 відсотків поєднання ШІ з людьми та процесами

also means building powerful interfaces

означають створення потужних інтерфейсів

for humans and AI to solve the most difficult problems together.

для вирішення найскладніших проблем людьми та ШІ спільно.

Once, we got challenged by a fashion retailer.

Одного разу ми отримали виклик від продавця модного одягу.

"We have the best buyers in the world.

«У нас найкращі покупці у світі.

Could you build an AI engine that would beat them at forecasting sales?

Чи могли б ви створити механізм ШІ, який переможе їх у прогнозуванні продажів?

At telling how many high-end, light-green, men XL shirts

Щоб визначити, скільки екслюзивних світло-зелених чоловічих сорочок XL

we need to buy for next year?

нам потрібно придбати на наступний рік?

At predicting better what will sell or not

Щоб ми знали краще, що буде продаватися,

than our designers."

ніж наші дизайнери».

Our team trained a model in a few weeks, on past sales data,

Наша команда створила модель за кілька тижнів, за даними минулих продажів,

and the competition was organized with human buyers.

було організовано змагання з покупцями.

Result?

Результат?

AI wins, reducing forecasting errors by 25 percent.

ШІ виграв, зменшуючи похибку прогнозування на 25 відсотків.

Human-zero champions could have tried to implement this initial model

ШІ міг би спробувати створити модель з нуля

and create a fight with all human buyers.

і позмагатися з людьми.

Have fun.

Весело.

But we knew that human buyers had insights on fashion trends

Але ми знали, що люди мали уявлення про модні тенденції,

that could not be found in past data.

це неможливо знайти в минулих даних.

There started our 70 percent.

Тут знову почалися наші 70 відсотків.

We went for a second test,

Наступний етап полягав в аналізі,

where human buyers were reviewing quantities

покупці переглядали кількісні дані,

suggested by AI

запропоновані ШІ,

and could correct them if needed.

вносили корективи за потреби.

Result?

Результат?

Humans using AI ...

Люди, які використовують ШІ,

lose.

програли.

Seventy-five percent of the corrections made by a human

Сімдесят п’ять відсотків виправлень, внесених людиною,

were reducing accuracy.

знизили точність.

Was it time to get rid of human buyers?

Чи вирішили ми позбутися людей?

No.

Ні.

It was time to recreate a model

Настав час відтворити модель,

where humans would not try to guess when AI is wrong,

в якій люди б не намагалися виправляти штучний інтелект,

but where AI would take real input from human buyers.

а штучний інтелект використовував би дані від людей.

We fully rebuilt the model

Ми повністю змінили модель,

and went away from our initial interface, which was, more or less,

відмовилися від нашого початкового інтерфейсу, щось на кшталт:

"Hey, human! This is what I forecast,

«Гей, людино! Ось мій прогноз,

correct whatever you want,"

виправляй його, як тобі заманеться».

and moved to a much richer one, more like,

Ми перейшли до складнішого, на кшталт:

"Hey, humans!

«Гей, люди!

I don't know the trends for next year.

Я не знаю трендів на наступний рік.

Could you share with me your top creative bets?"

Ви не могли б поділитися зі мною своїми прогнозами?»

"Hey, humans!

«Гей, люди!

Could you help me quantify those few big items?

Допоможіть мені визначитися з проблемними елементами?

I cannot find any good comparables in the past for them."

Я не можу знайти надійних даних для порівняння».

Result?

Результат?

"Human plus AI" wins,

«Людина плюс ШІ» виграє,

reducing forecast errors by 50 percent.

Зменшуючи кількість помилок на 50%.

It took one year to finalize the tool.

Знадобився рік, щоб доопрацювати модель.

Long, costly and difficult.

Довго. Дорого та складно.

But profits and benefits

Але прибутки та переваги

were in excess of 100 million of savings per year for that retailer.

перевищили 100 мільйонів на рік у цього продавця.

Seventy percent on very sensitive topics

Сімдесят відсотків делікатних тем

also means human have to decide what is right or wrong

також означають, що людині вирішувати: що правильно, а що ні,

and define rules for what AI can do or not,

встановлювати правила, що ШІ може робити, а що ні,

like setting caps on prices to prevent pricing engines

наприклад, обмежувати ціни, щоб запобігти встановленню

[from charging] outrageously high prices to uneducated customers

надзвичайно високих цін, бо неосвічені клієнти

who would accept them.

можуть з цим погодитися.

Only humans can define those boundaries --

Тільки люди можуть визначати ці межі.

there is no way AI can find them in past data.

ШІ не зможе знайти їх у минулих даних.

Some situations are in the gray zone.

Деякі ситуації у так званій «сірій зоні».

We worked with a health insurer.

Ми працювали з агентом з медичного страхування.

He developed an AI engine to identify, among his clients,

Він розробив ШІ, щоб визначати серед своїх клієнтів

people who are just about to go to hospital

людей, які скоро потраплять до лікарні,

to sell them premium services.

щоб продати їм послуги.

And the problem is,

Але проблема в тому,

some prospects were called by the commercial team

що деякі прогнози були замовлені комерційними групами,

while they did not know yet

коли вони ще не знали,

they would have to go to hospital very soon.

що їм буде потрібно звернутися до лікарні дуже скоро.

You are the CEO of this company.

Ви директор цієї компанії.

Do you stop that program?

Ви зупините цю програму?

Not an easy question.

Непросте питання.

And to tackle this question, some companies are building teams,

Щоб вирішити це питання, деякі компанії створюють команди,

defining ethical rules and standards to help business and tech teams set limits

формулюють етичні правила та стандарти, щоб встановити межі

between personalization and manipulation,

між персоналізацією та маніпулюванням,

customization of offers and discrimination,

кастомізацією та дискримінацією,

targeting and intrusion.

пошуком цільової аудиторії та вторгненням.

I am convinced that in every company,

Я переконаний, що в кожній компанії

applying AI where it really matters has massive payback.

доцільне застосування ШІ має високу окупність.

Business leaders need to be bold

Керівники бізнесу повинні бути сміливими,

and select a few topics,

обирати кілька тем,

and for each of them, mobilize 10, 20, 30 people from their best teams --

і для кожної з них відібрати 10, 20, 30 кращих людей зі своїх команд,

tech, AI, data science, ethics --

техніку, ШІ, методи, етику,

and go through the full 10-, 20-, 70-percent cycle

пройти повний 10-, 20-, 70- відсотковий цикл

of "Human plus AI,"

«Людина плюс ШІ»,

if they want to land AI effectively in their teams and processes.

якщо вони хочуть ефективно використовувати ШІ.

There is no other way.

Немає іншого способу.

Citizens in developed economies already fear algocracy.

Громадяни економічно розвинених країн вже побоюються алгократії.

Seven thousand were interviewed in a recent survey.

Нещодавно ми опитали сім тисяч кандидатів.

More than 75 percent expressed real concerns

Більше 75 відсотків висловили реальне занепокоєння

on the impact of AI on the workforce, on privacy,

щодо впливу ШІ на робочу силу, приватність,

on the risk of a dehumanized society.

щодо ризику дегуманізованого суспільства.

Pushing algocracy creates a real risk of severe backlash against AI

Просування алгократії створює реальний ризик відторгнення ШІ

within companies or in society at large.

у компаніях і в суспільстві в цілому.

"Human plus AI" is our only option

«Людина плюс ШІ» – це єдина можливість

to bring the benefits of AI to the real world.

донести переваги ШІ до реального світу.

And in the end,

І врешті-решт,

winning organizations will invest in human knowledge,

передові організації інвестуватимуть у людські знання,

not just AI and data.

а не лише у ШІ та інформацію.

Recruiting, training, rewarding human experts.

Це навчання, підготовка та оплата праці експертів.

Data is said to be the new oil,

Інформація зараз - як нова нафта,

but believe me, human knowledge will make the difference,

але повірте, людські знання мають значення,

because it is the only derrick available

адже це єдине доступне обладнання

to pump the oil hidden in the data.

для перекачування нафти, яка прихована у знаннях.

Thank you.

Дякую.

(Applause)

(Оплески)