How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Fordító: Eva Danko Lektor: Zsuzsa Viola

Let me share a paradox.

Hadd osszak meg önökkel egy ellentmondást.

For the last 10 years,

Az elmúlt 10 évben

many companies have been trying to become less bureaucratic,

sok cég próbálkozik a bürokrácia csökkentésével:

to have fewer central rules and procedures,

kevesebb központi szabályozás és folyamat,

more autonomy for their local teams to be more agile.

több önállóság a helyi csapatoknak, hogy hatékonyabbak lehessenek.

And now they are pushing artificial intelligence, AI,

Most a mesterséges intelligenciával, az MI-vel próbálkoznak,

unaware that cool technology

nem sejtve, hogy a nagyszerű technológia

might make them more bureaucratic than ever.

sokkal bürokratikusabbá is teheti őket.

Why?

Hogy miért?

Because AI operates just like bureaucracies.

Mert az MI a bürokráciához hasonlóan működik.

The essence of bureaucracy

A bürokrácia a szabályokat és folyamatokat

is to favor rules and procedures over human judgment.

előrébb valónak tartja az emberi ítélőképességnél.

And AI decides solely based on rules.

Az MI pusztán szabályok alapján dönt.

Many rules inferred from past data

Sok szabály múltbeli adatokból következik,

but only rules.

de ezek csak szabályok.

And if human judgment is not kept in the loop,

Ha az emberi ítélőképesség kimarad e folyamatból,

AI will bring a terrifying form of new bureaucracy --

az MI egy újfajta bürokrácia szörnyű formáját hozza el –

I call it "algocracy" --

az "algokrácia" nevet adtam neki –,

where AI will take more and more critical decisions by the rules

amelyben az MI egyre több döntést hoz pusztán szabályok alapján,

outside of any human control.

az ember beleszólása nélkül.

Is there a real risk?

Vajon ez valós kockázat?

Yes.

Igen.

I'm leading a team of 800 AI specialists.

Egy 800 fős, MI-szakértőkből álló csapatot vezetek.

We have deployed over 100 customized AI solutions

Nagy cégeknek 100-nál is több egyedi MI-megoldást telepítettünk

for large companies around the world.

a világ minden táján.

And I see too many corporate executives behaving like bureaucrats from the past.

Túl sok ügyvezetőt látok úgy viselkedni, mint a múlt bürokratái.

They want to take costly, old-fashioned humans out of the loop

Szeretnének megszabadulni a költséges, régimódi emberi döntéshozóktól,

and rely only upon AI to take decisions.

s az MI-re bízni minden döntést.

I call this the "human-zero mindset."

Ezt "zéró emberi gondolkodás"-nak nevezem.

And why is it so tempting?

Hogy ez miért is csábító?

Because the other route, "Human plus AI," is long,

Mert a másik megoldás, az "Ember plusz MI" hosszadalmas,

costly and difficult.

költséges és nehéz.

Business teams, tech teams, data-science teams

Pénzügyi, műszaki és adattudós szakemberekből álló csapatok

have to iterate for months

több hónapos munkája szükséges ahhoz,

to craft exactly how humans and AI can best work together.

hogy pontosan megtervezzék az ember és az MI legoptimálisabb együttműködését.

Long, costly and difficult.

Hosszadalmas, költséges, nehéz.

But the reward is huge.

Ám a jutalom óriási.

A recent survey from BCG and MIT

A BCG és az MIT egy friss kutatása szerint

shows that 18 percent of companies in the world

a világ cégeinek 18%-a

are pioneering AI,

kísérletezik az MI-vel

making money with it.

pénzszerzési céllal.

Those companies focus 80 percent of their AI initiatives

E cégek az MI-fejlesztéseik 80%-át

on effectiveness and growth,

a hatékonyság és növekedés fejlesztésére

taking better decisions --

és jobb döntések meghozatalára használják –

not replacing humans with AI to save costs.

nem helyettesítve az embereket az MI-vel.

Why is it important to keep humans in the loop?

Miért van jelentősége, hogy az ember ne essen ki e folyamatból?

Simply because, left alone, AI can do very dumb things.

Egyszerűen azért, mert ha magára hagyják, az MI igen ostoba dolgokra képes.

Sometimes with no consequences, like in this tweet.

Néha ennek nincs komoly következménye, mint például ebben a tweetben.

"Dear Amazon,

"Tisztelt Amazon,

I bought a toilet seat.

vettem egy vécéülőkét.

Necessity, not desire.

A szükség vezérelt,

I do not collect them,

nem gyűjtő vagyok.

I'm not a toilet-seat addict.

Nem vagyok vécéülőke-függő.

No matter how temptingly you email me,

Nem érdekelnek a csábító e-mailjeik.

I am not going to think, 'Oh, go on, then,

Nem veszem fontolóra,

one more toilet seat, I'll treat myself.' "

hogy még egy vécéülőkével lepjem meg magam.

(Laughter)

(Nevetés)

Sometimes, with more consequence, like in this other tweet.

Néha viszont van következménye, ahogy a következő tweet is bizonyítja.

"Had the same situation

"Ugyanígy jártam

with my mother's burial urn."

anyám urnájával."

(Laughter)

(Nevetés)

"For months after her death,

"Hónapokkal a halála után

I got messages from Amazon, saying, 'If you liked that ...' "

üzenetet kaptam az Amazontól, miszerint, 'ha tetszett a termék...'"

(Laughter)

(Nevetés)

Sometimes with worse consequences.

Néha a következmények még rosszabbak.

Take an AI engine rejecting a student application for university.

Vegyük azt, mikor az MI elutasítja egy diák egyetemi jelentkezését.

Why?

Miért?

Because it has "learned," on past data,

Mert múltbeli adatok alapján kiismeri,

characteristics of students that will pass and fail.

a diákok mely jellemzői jelentenek sikert vagy bukást.

Some are obvious, like GPAs.

Néhány közülük egyértelmű, pl. az átlagpontszám.

But if, in the past, all students from a given postal code have failed,

Ám ha a múltban az azonos irányítószámról érkező minden diák megbukott,

it is very likely that AI will make this a rule

elég valószínű, hogy az MI ezt szabályszerűségként értelmezi,

and will reject every student with this postal code,

és minden, erről az irányítószámról érkező diákot el fog utasítani,

not giving anyone the opportunity to prove the rule wrong.

így senki nem kap esélyt, hogy bizonyítsa, a szabály rossz.

And no one can check all the rules,

Az összes szabályt pedig lehetetlen leellenőrizni,

because advanced AI is constantly learning.

mert a fejlett MI állandóan tanul.

And if humans are kept out of the room,

Ha az emberi tényező kimarad a folyamatból,

there comes the algocratic nightmare.

jön az "algokratikus" rémálom.

Who is accountable for rejecting the student?

Ki a felelős a diák elutasításáért?

No one, AI did.

Senki. Az MI tette.

Is it fair? Yes.

Tisztességes ez? Igen.

The same set of objective rules has been applied to everyone.

Ugyanazokat az objektív szabályokat alkalmazzák mindenkire.

Could we reconsider for this bright kid with the wrong postal code?

Felülvizsgálhatjuk a döntést egy rossz irányítószámmal bíró, ragyogó diák miatt?

No, algos don't change their mind.

Nem, az algoritmusok nem változtatják meg a döntésüket.

We have a choice here.

Van választási lehetőségünk.

Carry on with algocracy

Marad az "algokrácia",

or decide to go to "Human plus AI."

vagy megvalósítjuk az "Ember plusz MI" együttműködést.

And to do this,

Ehhez először le kell állnunk azzal,

we need to stop thinking tech first,

hogy csak a technológiában gondolkodjunk,

and we need to start applying the secret formula.

és elkezdeni adagolni a titkos hozzávalót.

To deploy "Human plus AI,"

Az "Ember plusz MI" bevetéséhez

10 percent of the effort is to code algos;

az erőfeszítések 10%-át az algoritmusok kódolása,

20 percent to build tech around the algos,

20%-át az algoritmusok köré épülő műszaki megoldások teszik ki:

collecting data, building UI, integrating into legacy systems;

adatgyűjtés, felhasználói felület építése, meglévő rendszerekbe való integrálása.

But 70 percent, the bulk of the effort,

Ám az erőfeszítések nagy részét, 70%-át az teszi ki,

is about weaving together AI with people and processes

hogy összehangolják az MI működését az emberekkel és folyamatokkal,

to maximize real outcome.

hogy maximalizálják a valós eredmény esélyét.

AI fails when cutting short on the 70 percent.

Ha spórolunk ezen a 70%-nyi erőfeszítésen, az MI elbukik.

The price tag for that can be small,

Az ár lehet aprócska:

wasting many, many millions of dollars on useless technology.

dollármilliókat költöttünk egy haszontalan technológiára.

Anyone cares?

Érdekel bárkit is?

Or real tragedies:

Vagy igazi tragédia: 346 halálos áldozat

346 casualties in the recent crashes of two B-737 aircrafts

a két, nemrégiben történt

B-737-es repülőgép-szerencsétlenségben,

when pilots could not interact properly

amikor a pilóták képtelenek voltak pontosan kommunikálni

with a computerized command system.

egy számítógépes irányítási rendszerrel.

For a successful 70 percent,

Az eredményes 70%-hoz az első lépés,

the first step is to make sure that algos are coded by data scientists

hogy az algoritmusokat adattudósok és domainszakértők

and domain experts together.

közösen alkotják meg.

Take health care for example.

Vegyük például az egészségügyi ellátást.

One of our teams worked on a new drug with a slight problem.

Egyik csapatunk egy új gyógyszeren dolgozott, amivel volt egy kis gond.

When taking their first dose,

Miután az első adagot bevették,

some patients, very few, have heart attacks.

néhány beteg, tényleg csak néhány, szívrohamot kapott.

So, all patients, when taking their first dose,

Így az első adag bevételekor minden betegnek

have to spend one day in hospital,

kórházban kellett töltenie egy napot

for monitoring, just in case.

megfigyelés céljából, biztos, ami biztos.

Our objective was to identify patients who were at zero risk of heart attacks,

Célunk volt olyan betegeket találni, akiknél a szívroham kockázata zéró volt,

who could skip the day in hospital.

így kihagyhatták a kórházi megfigyelést.

We used AI to analyze data from clinical trials,

A klinikai kísérleteket az MI segítségével elemeztük,

to correlate ECG signal, blood composition, biomarkers,

hogy összefüggést találjunk az EKG, a vérösszetétel, a biomarkerek

with the risk of heart attack.

és a szívroham kockázata között.

In one month,

Egy hónap alatt

our model could flag 62 percent of patients at zero risk.

a program a betegek 62%-át szűrte ki zéró kockázattal.

They could skip the day in hospital.

Kihagyhatták az egynapos megfigyelést.

Would you be comfortable staying at home for your first dose

Önök nyugodt szívvel otthon maradnának, miután bevették az első adagot,

if the algo said so?

csak mert egy algoritmus mondta?

(Laughter)

(Nevetés)

Doctors were not.

Az orvosokat ez nem nyugtatta meg.

What if we had false negatives,

Mi van, ha voltak hamis negatív eredmények,

meaning people who are told by AI they can stay at home, and die?

vagyis azok, akik az MI tanácsára otthon maradnak, meghalhatnak?

(Laughter)

(Nevetés)

There started our 70 percent.

A mi 70%-unk itt kezdődött.

We worked with a team of doctors

Egy orvoscsapattal dolgoztunk,

to check the medical logic of each variable in our model.

hogy a modellünk változóit orvosi logika mentén ellenőrizzük.

For instance, we were using the concentration of a liver enzyme

Például egy májenzim koncentrációját használtuk

as a predictor,

előrejelzőként,

for which the medical logic was not obvious.

ami az orvosi logika szerint nem nyilvánvaló.

The statistical signal was quite strong.

A statisztikai valószínűség viszont elég magas volt.

But what if it was a bias in our sample?

De mi van, ha a mintánk egyoldalú volt?

That predictor was taken out of the model.

Kivettük ezt az előrejelzőt a modellünkből.

We also took out predictors for which experts told us

Eltávolítottuk azon előrejelzőket is, amelyeket a szakértők szerint

they cannot be rigorously measured by doctors in real life.

az orvosok, a való életben, nem tudnak szigorúan mérni.

After four months,

Négy hónap után

we had a model and a medical protocol.

a birtokunkban volt egy modell és egy orvosi protokoll.

They both got approved

Tavaly tavasszal

my medical authorities in the US last spring,

mindkettőt engedélyezték az amerikai egészségügyi hatóságok,

resulting in far less stress for half of the patients

így a betegek felét kevesebb stressz éri,

and better quality of life.

az életminőségük pedig javul.

And an expected upside on sales over 100 million for that drug.

Plusz több mint százmilliós, nem várt bevétel a gyógyszereladásból.

Seventy percent weaving AI with team and processes

70%-kal felhangolva az MI-t a csapattal és a folyamatokkal

also means building powerful interfaces

egyet jelent egy olyan erős interfész kiépítésével is,

for humans and AI to solve the most difficult problems together.

ahol az emberek és az MI együtt oldják meg a legnehezebb problémákat.

Once, we got challenged by a fashion retailer.

Egyszer egy ruházati kiskereskedő állított minket nagy kihívás elé.

"We have the best buyers in the world.

"A mieink a világ legjobb beszerzői.

Could you build an AI engine that would beat them at forecasting sales?

Képesek olyan MI-t alkotni, amely náluk jobban jósolja meg az eladási adatokat?

At telling how many high-end, light-green, men XL shirts

Ami megmondja, hány minőségi, világoszöld, XL-es férfi felsőt

we need to buy for next year?

kell vegyünk jövőre?

At predicting better what will sell or not

Olyat, ami képes a tervezőinknél jobban megjósolni,

than our designers."

mire lesz kereslet, mire nem."

Our team trained a model in a few weeks, on past sales data,

A csapatunk múltbeli eladási adatok alapján alkotott egy modellt,

and the competition was organized with human buyers.

majd megkezdődött a versengés a beszerzőkkel.

Result?

Eredmény?

AI wins, reducing forecasting errors by 25 percent.

Az MI nyert, 25%-kal csökkentve az előrejelzési adatok hibáit.

Human-zero champions could have tried to implement this initial model

A "zéró emberi gondolkodás" támogatói bevethették volna ezt a kiinduló modellt

and create a fight with all human buyers.

a beszerzők ellen.

Have fun.

Jó szórakozást!

But we knew that human buyers had insights on fashion trends

Ám mi tudtuk, hogy a beszerzők ismerik azokat a divattrendeket,

that could not be found in past data.

amelyek nem lelhetőek fel a múltbeli adatok között.

There started our 70 percent.

Itt kezdődött a mi 70%-unk.

We went for a second test,

A második tesztünk során

where human buyers were reviewing quantities

az MI által javasolt mennyiségeket

suggested by AI

a beszerzők átnézték,

and could correct them if needed.

és szükség esetén korrigálták.

Result?

Eredmény?

Humans using AI ...

Az MI-t használó emberek...

lose.

veszítettek.

Seventy-five percent of the corrections made by a human

Az emberek által javasolt módosítások 75%-a

were reducing accuracy.

rontott a pontosságon.

Was it time to get rid of human buyers?

Eljött-e az idő, hogy kiiktassuk a beszerzőket a képből?

No.

Nem.

It was time to recreate a model

Ám arra igen, hogy olyan modellt alkossunk,

where humans would not try to guess when AI is wrong,

amelyben az emberek nem próbálják meg kitalálni, mikor téved az MI,

but where AI would take real input from human buyers.

hanem az MI dolgozik valós, a beszerzőktől származó adatok alapján.

We fully rebuilt the model

Teljesen átalakítottuk a modellt,

and went away from our initial interface, which was, more or less,

és attól a kezdetleges interfésztől, amely többé-kevésbé annyi volt:

"Hey, human! This is what I forecast,

"Hé, ember! Ez az előrejelzésem,

correct whatever you want,"

javíts ki bármit, amit gondolsz.",

and moved to a much richer one, more like,

eljutottunk egy sokkal értékesebb megoldáshoz, valami ilyesmihez:

"Hey, humans!

"Hé, emberek!

I don't know the trends for next year.

Fogalmam sincs a jövő évi trendekről.

Could you share with me your top creative bets?"

Megosztanák velem legkreatívabb ötleteiket?"

"Hey, humans!

"Hé, emberek!

Could you help me quantify those few big items?

Segítenének számosítani azt a néhány nagy tételt?

I cannot find any good comparables in the past for them."

Nincs semmi a múltban, amit összehasonlítási alapként használhatnék."

Result?

Eredmény?

"Human plus AI" wins,

Az "Ember plusz MI" győzedelmeskedik,

reducing forecast errors by 50 percent.

50%-kal csökkentve az előrejelzési hibákat.

It took one year to finalize the tool.

Egy évbe telt tökéletesíteni a megoldást.

Long, costly and difficult.

Hosszadalmas volt, költséges és nehéz.

But profits and benefits

Ám az évenkénti százmilliós megtakarításon túl

were in excess of 100 million of savings per year for that retailer.

a kiskereskedő további profitra és előnyökre tett szert.

Seventy percent on very sensitive topics

70% igen érzékeny témákban azt is jelenti,

also means human have to decide what is right or wrong

hogy az ember kell döntsön jóról és rosszról,

and define rules for what AI can do or not,

és meghatározza, mit tehet az MI és mit nem,

like setting caps on prices to prevent pricing engines

például limitet beállítani árakra, így akadályozva meg az árazó robotokat,

[from charging] outrageously high prices to uneducated customers

hogy kiemelkedően magas árakat számoljanak fel aluliskolázott vevőknek,

who would accept them.

akik amúgy elfogadnák azt.

Only humans can define those boundaries --

Csak az ember húzhatja meg e határvonalakat –

there is no way AI can find them in past data.

kizárt, hogy ezekre az MI példát találna a múltban.

Some situations are in the gray zone.

Néhány helyzet a szürke tartományba esik.

We worked with a health insurer.

Dolgoztunk egy egészségügyi biztosítóval.

He developed an AI engine to identify, among his clients,

Kifejlesztett egy MI-t, mely azonosította azon klienseit,

people who are just about to go to hospital

akik épp kórházba menetel előtt álltak,

to sell them premium services.

s így prémiumszolgáltatást adhatott el nekik.

And the problem is,

A probléma az,

some prospects were called by the commercial team

hogy néhány lehetséges ügyfelet úgy kerestek meg értékesítők,

while they did not know yet

hogy ők maguk még nem is tudták,

they would have to go to hospital very soon.

hogy hamarosan kórházba kell menniük.

You are the CEO of this company.

Önök e cég ügyvezetői.

Do you stop that program?

Leállítanák a programot?

Not an easy question.

Nem könnyű kérdés.

And to tackle this question, some companies are building teams,

Hogy megbirkózzanak vele, pár cég olyan csapatokat állít fel,

defining ethical rules and standards to help business and tech teams set limits

melyek szabályokkal, alapelvekkel segítik a pénzügyi és műszaki csapatok munkáját,

between personalization and manipulation,

mikor határt szabnak a személyre szabás és a manipuláció,

customization of offers and discrimination,

az ajánlatok vevőre szabása és a diszkrimináció,

targeting and intrusion.

a célba vétel és a túlzó nyomulás között.

I am convinced that in every company,

Meggyőződésem, hogy minden cég számára,

applying AI where it really matters has massive payback.

amely MI-t vet be igazán fontos dolgokban, ez nagymértékben kifizetődő.

Business leaders need to be bold

Az üzletembereknek

and select a few topics,

bátran ki kellene választaniuk pár témát,

and for each of them, mobilize 10, 20, 30 people from their best teams --

majd mindegyikhez mozgósítaniuk a legjobb csapataikból 10, 20, 30 embert –

tech, AI, data science, ethics --

műszaki, etikai, MI-szakembereket, adattudósokat –,

and go through the full 10-, 20-, 70-percent cycle

majd a 10, 20 és 70%-os ciklust is lejátszani

of "Human plus AI,"

az "Ember plusz MI" módszerrel,

if they want to land AI effectively in their teams and processes.

ha szeretnék, hogy az MI hatékony szerepet töltsön be a csapataikban, folyamataikban.

There is no other way.

Másképp ez nem működhet.

Citizens in developed economies already fear algocracy.

A fejlett gazdaságok állampolgárai máris tartanak az "algokrácia" lehetőségétől.

Seven thousand were interviewed in a recent survey.

Hétezer embert kérdeztek meg nemrégiben egy felmérés során.

More than 75 percent expressed real concerns

Több mint 75%-uk valós aggodalmát fejezte ki,

on the impact of AI on the workforce, on privacy,

milyen hatással van az MI a munkaerőre, a privát szférára,

on the risk of a dehumanized society.

milyen kockázatot jelent egy elembertelenedett társadalom.

Pushing algocracy creates a real risk of severe backlash against AI

Az "algorácia" erőltetése komoly kockázat az MI elleni támadás szempontjából,

within companies or in society at large.

mind a cégeken, mind az egész társadalmon belül.

"Human plus AI" is our only option

Az "Ember plusz MI" az egyetlen lehetőség,

to bring the benefits of AI to the real world.

hogy az MI jelentette előnyöket a világ is kiélvezhesse.

And in the end,

Végül:

winning organizations will invest in human knowledge,

a szervezetek megnyerése nemcsak az MI vagy az adatokba való befektetést,

not just AI and data.

hanem az emberi tudás fejlesztését is jelenti.

Recruiting, training, rewarding human experts.

A szakemberek toborzását, képzését, jutalmazását.

Data is said to be the new oil,

Az adat állítólag az új olaj,

but believe me, human knowledge will make the difference,

ám hiszik vagy sem, az emberi tudás fogja az igazi változást hozni,

because it is the only derrick available

mert ez az egyetlen elérhető "fúrótorony",

to pump the oil hidden in the data.

mely kinyerheti az adatban rejlő olajat.

Thank you.

Köszönöm.

(Applause)

(Taps)