How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Kääntäjä: Marja Oilinki Oikolukija: Ulla Vainio

Let me share a paradox.

Kerron teille paradoksista.

For the last 10 years,

Viimeisen kymmenen vuoden ajan

many companies have been trying to become less bureaucratic,

monet yhtiöt ovat yrittäneet vähentää byrokratiaa,

to have fewer central rules and procedures,

luopua monista säännöistä ja ohjeista

more autonomy for their local teams to be more agile.

ja antaa tiimeille mahdollisuuksia vapaasti päättää toiminnastaan.

And now they are pushing artificial intelligence, AI,

Nyt ne haluavat hyödyntää tekoälyä

unaware that cool technology

ymmärtämättä, että teknologia

might make them more bureaucratic than ever.

voi tehdä niistä entistä byrokraattisempia.

Why?

Miksi?

Because AI operates just like bureaucracies.

Tekoäly toimii aivan kuten byrokraattinen systeemi.

The essence of bureaucracy

Byrokratian ytimessä on

is to favor rules and procedures over human judgment.

noudattaa sääntöjä ja proseduureja eikä tehdä inhimillisiä ratkaisuja.

And AI decides solely based on rules.

Tekoäly nojaa yksinomaan sääntöihin.

Many rules inferred from past data

Monet säännöt johdetaan aiemmasta tiedosta,

but only rules.

mutta ne ovat edelleen sääntöjä.

And if human judgment is not kept in the loop,

Jos ihmisen päätöksenteko ei ole mukana prosessissa,

AI will bring a terrifying form of new bureaucracy --

tekoäly tuo mukanaan karmean uuden byrokratian muodon,

I call it "algocracy" --

jota kutsun algokratiaksi;

where AI will take more and more critical decisions by the rules

siinä tekoäly tekee sääntöjen ohjaamana päätöksiä

outside of any human control.

ihmisen kontrolloimatta tulosta.

Is there a real risk?

Onko tämä riski?

Yes.

Kyllä.

I'm leading a team of 800 AI specialists.

Johdan 800 tekoälyammattilaisen tiimiä.

We have deployed over 100 customized AI solutions

Olemme kehittäneet yli 100 tekoälyratkaisua asiakkaillemme,

for large companies around the world.

jotka ovat suuryrityksiä eri puolilla maailmaa.

And I see too many corporate executives behaving like bureaucrats from the past.

Monet yritysjohtajat näyttävät toimivan kuin menneisyyden byrokraatit.

They want to take costly, old-fashioned humans out of the loop

He haluavat irrottaa kalliit, vanhanaikaiset ihmiset prosessista

and rely only upon AI to take decisions.

ja luottaa pelkästään tekoälyyn päätöksissä.

I call this the "human-zero mindset."

Kutsun tätä ihmisnolla-ajatteluksi.

And why is it so tempting?

Miksi se on niin houkuttavaa?

Because the other route, "Human plus AI," is long,

Koska toinen tie, ihminen + tekoäly, on pitkä,

costly and difficult.

kallis ja vaikea.

Business teams, tech teams, data-science teams

Bisnestiimit, tekniset tiimit, ja datatiimit

have to iterate for months

joutuvat kuukausien töihin

to craft exactly how humans and AI can best work together.

saadakseen ihmiset ja tekoälyn toimimaan hyvin yhdessä.

Long, costly and difficult.

Pitkää, kallista, vaikeaa.

But the reward is huge.

Mutta palkkio on huikea.

A recent survey from BCG and MIT

Tuore BCG:n ja MIT:n tutkimus

shows that 18 percent of companies in the world

osoittaa, että vain 18 prosenttia niistä yrityksistä maailmassa,

are pioneering AI,

jotka käyttävät tekoälyä,

making money with it.

rikastuu sillä.

Those companies focus 80 percent of their AI initiatives

Nämä yritykset keskittävät 80 % tekoälyaloitteistaan

on effectiveness and growth,

tehokkuuteen ja kasvuun,

taking better decisions --

tekevät parempia päätöksiä --

not replacing humans with AI to save costs.

eivätkä korvaa ihmisiä tekoälyllä säästääkseen.

Why is it important to keep humans in the loop?

Miksi ihmiset ovat tärkeä osa päätöksentekoa?

Simply because, left alone, AI can do very dumb things.

Yksinkertaisesti siksi, että tekoäly on omillaan hyvin tyhmä.

Sometimes with no consequences, like in this tweet.

Joskus sillä ei ole seurauksia, kuten tämä tviitti:

"Dear Amazon,

"Rakas Amazon,

I bought a toilet seat.

ostin vessanistuimen.

Necessity, not desire.

Välttämättömyydestä, en halusta.

I do not collect them,

En keräile niitä

I'm not a toilet-seat addict.

en ole wc-istuinriippuvainen.

No matter how temptingly you email me,

Kuinka houkuttelevasti markkinoittekaan niitä,

I am not going to think, 'Oh, go on, then,

en tule ajattelemaan: ok, olkoon,

one more toilet seat, I'll treat myself.' "

vielä yksi wc-istuin, ansaitsen sen."

(Laughter)

(naurua)

Sometimes, with more consequence, like in this other tweet.

Joskus seurauksia on enemmän, kuten tämä tviitti osoittaa.

"Had the same situation

"Minulle tapahtui sama,

with my mother's burial urn."

kun ostin äidilleni tuhkauurnan,"

(Laughter)

(naurua)

"For months after her death,

"Sain monta kuukautta hänen

I got messages from Amazon, saying, 'If you liked that ...' "

kuolemansa jälkeen Amazonilta viestejä tyyliin jos pidit tästä...' "

(Laughter)

(naurua)

Sometimes with worse consequences.

Joskus vieläkin pahempia seurauksia.

Take an AI engine rejecting a student application for university.

Kuvittele tekoäly hylkäämässä yliopistoon pyrkivää opiskelijaa.

Why?

Miksi?

Because it has "learned," on past data,

Koska se on "oppinut" aiemmasta datasta

characteristics of students that will pass and fail.

piirteitä, jotka ennustavat, tuleeko opiskelija onnistumaan.

Some are obvious, like GPAs.

Opintomenestys on niistä ilmeinen.

But if, in the past, all students from a given postal code have failed,

Mutta jos aiemmin kaikki opiskelijat tietyltä alueelta ovat keskeyttäneet,

it is very likely that AI will make this a rule

tekoäly laatii säännön, jonka mukaan

and will reject every student with this postal code,

se hylkää kaikki tältä postinumeroalueelta olevat opiskelijat

not giving anyone the opportunity to prove the rule wrong.

antamatta heille mahdollisuutta osoittaa sääntöä vääräksi.

And no one can check all the rules,

Kukaan ei pysty tarkistamaan kaikkia sääntöjä,

because advanced AI is constantly learning.

koska kehittynyt tekoäly oppii koko ajan uutta.

And if humans are kept out of the room,

Jos ihmiset pidetään poissa,

there comes the algocratic nightmare.

tuloksena on algokraattinen painajainen.

Who is accountable for rejecting the student?

Kuka vastaa opiskelijan hylkäämisestä?

No one, AI did.

Ei kukaan, tekoäly teki sen.

Is it fair? Yes.

Onko se reilua? Kyllä.

The same set of objective rules has been applied to everyone.

Samat säännöt koskevat kaikkia sisäänpyrkijöitä.

Could we reconsider for this bright kid with the wrong postal code?

Voisimmeko harkita uudestaan väärältä alueelta tulevaa fiksua nuorta?

No, algos don't change their mind.

Emme, sillä algoritmit eivät ajattele.

We have a choice here.

Me teemme päätöksen.

Carry on with algocracy

Jatkammeko algokratian kanssa

or decide to go to "Human plus AI."

vai päätämmekö lisätä ihmisen yhtälöön.

And to do this,

Sen tehdäksemme

we need to stop thinking tech first,

emme voi ajatella tekniikka edellä

and we need to start applying the secret formula.

ja meidän on sovellettava salaista kaavaa.

To deploy "Human plus AI,"

Jotta päästään tilaan Ihminen plus tekoäly

10 percent of the effort is to code algos;

10 prosenttia työstä menee koodaamiseen,

20 percent to build tech around the algos,

20 prosenttia koodin ympärillä olevaan teknologiaan

collecting data, building UI, integrating into legacy systems;

kuten datankeruuseen, käyttöliittymään, järjestelmien yhteensopivuuteen.

But 70 percent, the bulk of the effort,

Mutta suurin osa, 70 prosenttia urakasta

is about weaving together AI with people and processes

menee tekoälyn liittämiseen ihmisiin ja prosesseihin

to maximize real outcome.

lopputuloksen maksimoimiseksi.

AI fails when cutting short on the 70 percent.

Tekoäly epäonnistuu, kun tämä 70 prosenttia leikataan pois.

The price tag for that can be small,

Hintalappu tälle voi olla pieni,

wasting many, many millions of dollars on useless technology.

mutta se voi myös tuhlata miljoonia hyödyttömään teknologiaan.

Anyone cares?

Välittääkö kukaan?

Or real tragedies:

Se voi johtaa myös tragedioihin.

346 casualties in the recent crashes of two B-737 aircrafts

kuten 346 kuolonuhriin kahdessa B-737 lentokoneen onnettomuudessa,

when pilots could not interact properly

joissa lentäjät eivät voineet vaikuttaa

with a computerized command system.

tietokoneohjaukseen.

For a successful 70 percent,

Onnistuneeseen 70 prosenttiin

the first step is to make sure that algos are coded by data scientists

ensiaskel on varmistaa, että algoritmejä koodatessa mukana ovat

and domain experts together.

sekä datan että kyseisen alan asiantuntijat.

Take health care for example.

Esimerkiksi terveydenhoitoala.

One of our teams worked on a new drug with a slight problem.

Tiimi työskenteli uuden lääkkeen parissa, johon liittyi ongelma.

When taking their first dose,

Ensimmäisen annoksen yhteydessä

some patients, very few, have heart attacks.

jotkut harvat potilaat saivat sydänkohtauksen.

So, all patients, when taking their first dose,

Siksi kaikkien potilaiden oli ensimmäisen annoksen yhteydessä

have to spend one day in hospital,

vietettävä yksi päivä sairaalassa

for monitoring, just in case.

varmuuden vuoksi tarkkailtavana.

Our objective was to identify patients who were at zero risk of heart attacks,

Halusimme tunnistaa potilaat, joiden riski saada sydänkohtaus oli nolla,

who could skip the day in hospital.

jotta säästyttäisiin sairaalapäiviltä.

We used AI to analyze data from clinical trials,

Käytimme tekoälyä analysoimaan kliinisten kokeiden dataa

to correlate ECG signal, blood composition, biomarkers,

ja yhdistämään EKG-signaalin, verenkuvan ja biomarkkerit

with the risk of heart attack.

sydänkohtausriskiin.

In one month,

Kuukaudessa

our model could flag 62 percent of patients at zero risk.

mallimme pystyi merkkaamaan 62 prosenttia potilaista nollariskisiksi

They could skip the day in hospital.

eivätkä he tarvinneet päivää sairaalassa.

Would you be comfortable staying at home for your first dose

Tuntisikto olosi turvalliseksi kotona ensimmäisen annoksen aikaan,

if the algo said so?

jos algoritmi päättäisi siitä?

(Laughter)

(naurua)

Doctors were not.

Lääkärit eivät.

What if we had false negatives,

Mitä jos meillä on vääriä negatiivisia,

meaning people who are told by AI they can stay at home, and die?

eli tekoäly ohjaa heidät koteihin mutta he kuolevat?

(Laughter)

(naurua)

There started our 70 percent.

Tästä alkoi meidän 70 prosenttiamme.

We worked with a team of doctors

Lääkäritiimin kanssa

to check the medical logic of each variable in our model.

tutkimme mallin muuttujia ja niiden lääketieteellistä pohjaa

For instance, we were using the concentration of a liver enzyme

Käytimme esimerkiksi maksan entsyymin pitoisuutta

as a predictor,

ennustajana,

for which the medical logic was not obvious.

mutta lääketieteen logiikka ei ollut ilmeinen.

The statistical signal was quite strong.

Tilastollisesti signaali oli vahva.

But what if it was a bias in our sample?

Mutta entä jos otoksemme oli vinoutunut?

That predictor was taken out of the model.

Tämä muuttuja poistettiin aineistosta.

We also took out predictors for which experts told us

Poistimme myös ennustetietoja, joista asiantuntijat kertoivat,

they cannot be rigorously measured by doctors in real life.

että niiden mittaaminen ei onnistu tarkkaan oikeassa elämässä.

After four months,

Neljän kuukauden päästä meillä

we had a model and a medical protocol.

oli malli ja lääketieteellinen protokolla.

They both got approved

Ne saivat viranomaisilta

my medical authorities in the US last spring,

hyväksynnän viime keväänä Yhdysvalloissa

resulting in far less stress for half of the patients

ja puolet potilaista kokee nyt vähemmän stressiä

and better quality of life.

ja enemmän elämänlaatua.

And an expected upside on sales over 100 million for that drug.

Odotettu kasvu lääkkeen myynnissä ylittää 100 miljoonaa.

Seventy percent weaving AI with team and processes

70 prosenttia tekoälyn, tiimien ja prosessien punomiseen yhteen

also means building powerful interfaces

tarkoittaa siis vahvaa liittoa,

for humans and AI to solve the most difficult problems together.

jossa ihmiset ja tekoäly yhdessä ratkovat vaikeita ongelmia.

Once, we got challenged by a fashion retailer.

Kerran saimme muodin jälleenmyyjältä haasteen.

"We have the best buyers in the world.

"Meillä on maailman parhaat ostajat.

Could you build an AI engine that would beat them at forecasting sales?

Pystyttekö rakentamaan tekoälyn, joka pystyy ennustamaan myyntiä heitä paremmin?

At telling how many high-end, light-green, men XL shirts

Kertomaan, paljonko korkealuokkaisia, vaaleanvihreitä miesten XL-paitoja

we need to buy for next year?

kannattaa hankkia ensi vuodeksi?

At predicting better what will sell or not

Ennustamaan mikä myy ja mikä ei

than our designers."

paremmin kuin suunnittelijamme."

Our team trained a model in a few weeks, on past sales data,

Tiimimme harjoitutti tekoälyllä mallia joitakin viikkoja aiemmalla tiedolla

and the competition was organized with human buyers.

ja järjestettiin kilpailu tekoälyn ja ihmisammattilaisten välillä.

Result?

Tulos?

AI wins, reducing forecasting errors by 25 percent.

Tekoäly voitti vähentäen ennustusvirheitä 25 prosenttia.

Human-zero champions could have tried to implement this initial model

Ihmisnollatyypit olisivat ottaneet käyttöön tämän alkuperäisen mallin

and create a fight with all human buyers.

ja kilpailleet ihmisostajia vastaan.

Have fun.

Pitäkää hauskaa.

But we knew that human buyers had insights on fashion trends

Tiesimme kuitenkin, että ihmisostajilla oli muotitrendeistä ymmärrystä,

that could not be found in past data.

jota ei löydy menneestä myyntitiedosta.

There started our 70 percent.

Alkoi 70 prosentin vaihe.

We went for a second test,

Toisessa testissä

where human buyers were reviewing quantities

ihmisostajat arvioivat tekoälyn

suggested by AI

määrarvioita,

and could correct them if needed.

ja pystyivät korjaamaan niitä.

Result?

Tulos?

Humans using AI ...

Tekoälyä käyttävät ihmiset...

lose.

häviävät.

Seventy-five percent of the corrections made by a human

75 prosenttia ihmisten tekemistä korjauksista

were reducing accuracy.

vähensi niiden tarkkuutta.

Was it time to get rid of human buyers?

Oliko tullut aika päästä ihmisistä alalla?

No.

Ei.

It was time to recreate a model

Oli aika luoda malli,

where humans would not try to guess when AI is wrong,

jossa ihmiset eivät yritä arvata milloin tekoäly on väärässä,

but where AI would take real input from human buyers.

vaan jossa tekoäly saa oikeaa tietoa sisäänostajilta.

We fully rebuilt the model

Muotoilimme mallin uusiksi

and went away from our initial interface, which was, more or less,

ja luovuimme alkuperäisestä ideasta, joka oli enemmän tai vähemmän

"Hey, human! This is what I forecast,

tyyppiä "Ihminen! Tässä ennustukseni,

correct whatever you want,"

korjaa mitä ikinä tahdot,"

and moved to a much richer one, more like,

ja siirryimme rikkaampaan, tyyliin

"Hey, humans!

"Ihmiset!

I don't know the trends for next year.

En tiedä mikä on seuraava trendi,

Could you share with me your top creative bets?"

voisitteko jakaa minulle luovimmat arvauksenne?"

"Hey, humans!

"Ihmiset!

Could you help me quantify those few big items?

Voisitteko auttaa minua näiden isojen lukujen kanssa,

I cannot find any good comparables in the past for them."

en löydä menneestä hyvää vertailuaineistoa niille."

Result?

Tulos?

"Human plus AI" wins,

Ihmiset plus tekoäly voittaa,

reducing forecast errors by 50 percent.

virheiden määrä tippui 50 prosentilla,

It took one year to finalize the tool.

Kesti vuoden saattaa työkalu kuntoon.

Long, costly and difficult.

Pitkä, kallis ja vaikea prosessi.

But profits and benefits

Mutta yrityksen voitot ja hyödyt

were in excess of 100 million of savings per year for that retailer.

kasvoivat yhdessä vuosittaisen 100 miljoonan säästön kanssa.

Seventy percent on very sensitive topics

70 prosentin työ hyvin aroilla alueilla

also means human have to decide what is right or wrong

tarkoittaa myös, että ihmiset tekevät eettiset päätökset

and define rules for what AI can do or not,

ja määrittelevät, mitä tekoäly saa ja ei saa tehdä,

like setting caps on prices to prevent pricing engines

kuten asettavat hintalukot, jotta hinnoittelukoneet

[from charging] outrageously high prices to uneducated customers

eivät aseta järktyttävän korkeita hintoja kouluttamattomille asiakkaille,

who would accept them.

jotka hyväksyisivät ne.

Only humans can define those boundaries --

Vain ihmiset voivat asettaa näitä rajoja,

there is no way AI can find them in past data.

tekoäly ei löydä niitä vanhasta datasta.

Some situations are in the gray zone.

Jotkut tilanteet ovat harmaalla vyöhykkeellä.

We worked with a health insurer.

Eräs asiakkaamme oli terveysvakuuttaja.

He developed an AI engine to identify, among his clients,

Hän kehitti tekoälyohjelmaa, joka tunnistaisi, ketkä asiakkaista

people who are just about to go to hospital

olisivat juuri menossa sairaalaan

to sell them premium services.

myydäkseen heille premium-vakuutuksen.

And the problem is,

Ongelma oli, että

some prospects were called by the commercial team

myyjätiimi soitti joillekin kohderyhmästä,

while they did not know yet

kun he eivät itse edes tienneet,

they would have to go to hospital very soon.

että heitä odotti sairaalakäynti.

You are the CEO of this company.

Tämän fiman toimitusjohtajana

Do you stop that program?

lopettaisitko ohjelman?

Not an easy question.

Kysymys on vaikea.

And to tackle this question, some companies are building teams,

Siksi monet yritykset rakentavat tiimejä,

defining ethical rules and standards to help business and tech teams set limits

jotka määrittävät eettisiä sääntöjä ja stardardeja muille tiimeille

between personalization and manipulation,

kohdentamisesta ja manipulaatiosta,

customization of offers and discrimination,

tarjousten ja syrjinnän kohdentamisesta,

targeting and intrusion.

mainonnasta ja yksityisyydestä.

I am convinced that in every company,

Uskon, että jokainen yritys,

applying AI where it really matters has massive payback.

joka soveltaa tekoälyä tarkoituksenmukaisesti, hyötyy.

Business leaders need to be bold

Yritysjohdon tulee olla rohkeaa

and select a few topics,

ja valita joitakin alueita,

and for each of them, mobilize 10, 20, 30 people from their best teams --

ja niihin kuhunkin saada 10, 20, 30 ihmistä parhaista tiimeistään --

tech, AI, data science, ethics --

teknikkoja, koodareita, eetikkoja --

and go through the full 10-, 20-, 70-percent cycle

ja käydä läpi 10, 20 ja 70 prosentin sykli

of "Human plus AI,"

yhtälöstä "ihminen ja tekoäly,"

if they want to land AI effectively in their teams and processes.

jos he haluavat tekoälystä tehoa tiimeille ja prosesseille.

There is no other way.

Muuta tietä ei ole.

Citizens in developed economies already fear algocracy.

Kehittyneiden maiden kansalaiset pelkäävät jo algokratiaa.

Seven thousand were interviewed in a recent survey.

7000 ihmisen haastattelututkimuksessa

More than 75 percent expressed real concerns

yli 75 prosenttia ilmaisi olevansa huolestunut

on the impact of AI on the workforce, on privacy,

tekoälyn vaikutuksesta työvoimaan, yksityisyyteen,

on the risk of a dehumanized society.

dehumanisoidun yhteiskunnan riskistä.

Pushing algocracy creates a real risk of severe backlash against AI

Algokratian tavoittelu on todellinen riski myös takaiskulle tekoälyn suhteen

within companies or in society at large.

yrityksissä ja yhteiskunnallisesti.

"Human plus AI" is our only option

"Ihminen ja tekoäly" on ainoa mahdollisuus

to bring the benefits of AI to the real world.

tuoda tekoälyn hyödyt oikeaan elämään.

And in the end,

Lopulta

winning organizations will invest in human knowledge,

voittavat organisatiot investoivat inhimilliseen tietoon,

not just AI and data.

ei vain tekoälyyn ja dataan.

Recruiting, training, rewarding human experts.

Värväys, koulutus, asiantuntijoiden palkitseminen.

Data is said to be the new oil,

Vaikka data olisi uutta öljyä,

but believe me, human knowledge will make the difference,

inhimillinen tieto on merkittävä kilpailuetu,

because it is the only derrick available

sillä se on ainoa tapa

to pump the oil hidden in the data.

pumpata esille dataan piilotettu öljy.

Thank you.

Kiitos.

(Applause)

(aplodeja)