How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Çeviri: Cem Turkel Gözden geçirme: Can Boysan

Let me share a paradox.

Size bir çelişkiden bahsedeyim.

For the last 10 years,

Son 10 yıldır

many companies have been trying to become less bureaucratic,

pek çok şirket daha az bürokratik olmaya,

to have fewer central rules and procedures,

merkezi kuralları ve prosedürleri azaltmaya,

more autonomy for their local teams to be more agile.

yerel takımlarını daha verimli kılmak için özerkliklerini artırmaya çalışıyor.

And now they are pushing artificial intelligence, AI,

Fakat şimdilerde yapay zekâyı dayatıyorlar

unaware that cool technology

ve bu havalı teknolojinin

might make them more bureaucratic than ever.

onları hiç olmadığı kadar bürokratik hale getireceğini fark etmiyorlar.

Why?

Neden mi?

Because AI operates just like bureaucracies.

Çünkü yapay zekâ tıpkı bürokrasi gibi işler.

The essence of bureaucracy

Bürokrasinin özü

is to favor rules and procedures over human judgment.

insani yargılar yerine kural ve prosedürleri gözetmektir.

And AI decides solely based on rules.

Yapay zekâ sadece kurallara dayalıdır.

Many rules inferred from past data

Çoğu, geçmiş verilerden çıkarılan kurallardır

but only rules.

fakat yalnızca kurallar.

And if human judgment is not kept in the loop,

İnsani yargılar işin içine katılmadığında,

AI will bring a terrifying form of new bureaucracy --

yapay zekâ, bürokrasinin yeni ve korkunç bir şeklini getirecektir.

I call it "algocracy" --

Yapay zekânın kurallar yoluyla, insan kontrolü olmadan

where AI will take more and more critical decisions by the rules

her geçen gün daha fazla kritik kararlar almasını

outside of any human control.

"algokrasi" olarak tanımlıyorum.

Is there a real risk?

Burada bir risk var mı?

Yes.

Evet var.

I'm leading a team of 800 AI specialists.

800 yapay zekâ uzmanından oluşan bir gruba liderlik ediyorum.

We have deployed over 100 customized AI solutions

Dünyadaki büyük şirketler için

for large companies around the world.

100'ün üzerinde yapay zeka çözümünü hayata geçiriyoruz.

And I see too many corporate executives behaving like bureaucrats from the past.

Geçmişten gelen bürokratlar gibi davranan birçok kurumsal yönetici ile tanışıyorum.

They want to take costly, old-fashioned humans out of the loop

Maliyetli, eski kafalı insanları döngülerden çıkartıp

and rely only upon AI to take decisions.

kararların alınmasını sadece yapay zekâdan bekliyorlar.

I call this the "human-zero mindset."

Bunu "sıfır-insan zihniyeti" olarak adlandırıyorum.

And why is it so tempting?

Kulağa neden bu kadar cezbedici geliyor?

Because the other route, "Human plus AI," is long,

Çünkü diğer istikamet olan "insan artı yapay zekâ"

costly and difficult.

uzun, maliyetli ve zor.

Business teams, tech teams, data-science teams

İş ekipleri, teknoloji ekipleri, ve veri bilimi ekiplerinin

have to iterate for months

insan ve yapay zekânın birlikte en iyi nasıl çalışacağını tasarlamaları

to craft exactly how humans and AI can best work together.

aylarca sürecek çalışmalar gerektirir.

Long, costly and difficult.

Uzun, maliyetli ve zor.

But the reward is huge.

Fakat ödülü çok büyük.

A recent survey from BCG and MIT

BCG ve MIT'nin yeni bir anketine göre

shows that 18 percent of companies in the world

dünyadaki şirketlerin yüzde 18'i

are pioneering AI,

yapay zekâya öncülük edip

making money with it.

onun sayesinde para kazanıyorlar.

Those companies focus 80 percent of their AI initiatives

Bu şirketler yapay zekâ girişimlerinin yüzde 80'ini

on effectiveness and growth,

verimliliğe, büyümeye

taking better decisions --

ve daha iyi kararlar almaya odaklamıştır.

not replacing humans with AI to save costs.

Maliyetleri azaltmak için insanların yerine yapay zekâyı koymaya değil.

Why is it important to keep humans in the loop?

Peki insanları döngüde tutmak neden önemli?

Simply because, left alone, AI can do very dumb things.

Çünkü yapay zeka yalnız bırakıldığında, fazlasıyla aptalca şeyler yapabilir.

Sometimes with no consequences, like in this tweet.

Bazen, bu tweet'teki gibi, sonuçları olmayan şeyler yapar.

"Dear Amazon,

"Sevgili Amazon,

I bought a toilet seat.

bir tuvalet kapağı aldım.

Necessity, not desire.

İhtiyaçtan, istekten değil.

I do not collect them,

Koleksiyonunu yapmıyorum.

I'm not a toilet-seat addict.

Tuvalet kapağı bağımlısı değilim.

No matter how temptingly you email me,

Her ne kadar cezbedici e-postalar atsanız da

I am not going to think, 'Oh, go on, then,

şöyle düşünmeyeceğim:

"Peki o zaman, kendimi bir tuvalet kapağı daha alarak şımartayım."

one more toilet seat, I'll treat myself.' "

(Laughter)

(Kahkahalar)

Sometimes, with more consequence, like in this other tweet.

Bazen ise, şu tweet'teki gibi daha fazla sonuçları olur:

"Had the same situation

"Annemin küllerinin olduğu vazo konusunda

with my mother's burial urn."

bana da aynı şey oldu.

(Laughter)

(Kahkahalar)

"For months after her death,

"Ölümünden aylar sonra,

I got messages from Amazon, saying, 'If you liked that ...' "

Amazon'dan şöyle mesajlar aldım:

"Eğer bunu beğendiyseniz."

(Laughter)

(Kahkahalar)

Sometimes with worse consequences.

Bazen daha kötü sonuçları da olur.

Take an AI engine rejecting a student application for university.

Öğrencilerin üniversite başvurularını reddeden bir yapay zekâ robotu ele alalım.

Why?

Peki neden?

Because it has "learned," on past data,

Çünkü geçmiş verilerden

characteristics of students that will pass and fail.

dersi geçecek ve kalacak öğrencilerin karakteristiklerini "öğrendi".

Some are obvious, like GPAs.

Bazıları not ortalaması gibi bariz olsa da,

But if, in the past, all students from a given postal code have failed,

geçmişte, belli bir posta kodundaki öğrencilerin hepsi dersten kalsaydı

it is very likely that AI will make this a rule

yapay zekânın bunu bir kural haline getirecek

and will reject every student with this postal code,

ve bu posta kodundaki tüm öğrencileri eleyecekti

not giving anyone the opportunity to prove the rule wrong.

ve bu kuralın yanlış olduğunu kimsenin kanıtlamasına fırsat vermeyecekti.

And no one can check all the rules,

Kimse tüm kuralları kontrol edemez.

because advanced AI is constantly learning.

Çünkü gelişmiş bir yapay zekâ sürekli bir öğrenme durumundadır.

And if humans are kept out of the room,

İnsanlar odanın dışında tutulduğunda,

there comes the algocratic nightmare.

algokratik kabus gerçeğe dönüşür.

Who is accountable for rejecting the student?

Bu öğrenciyi reddetmekten kim sorumlu?

No one, AI did.

Hiç kimse, yapay zekâ yaptı.

Is it fair? Yes.

Peki bu adil mi? Evet.

The same set of objective rules has been applied to everyone.

Aynı objektif kurallar kümesi herkese uygulandı.

Could we reconsider for this bright kid with the wrong postal code?

Yanlış posta kodundaki bu parlak çocuğu tekrar değerlendirebilir miyiz?

No, algos don't change their mind.

Hayır, algoritmalar fikirlerini değiştiremez.

We have a choice here.

Burada bir seçim yapmalıyız.

Carry on with algocracy

Algokrasi ile devam etmek

or decide to go to "Human plus AI."

ya da "İnsan artı yapay zekâ" yolundan gitmek.

And to do this,

Bunu yapmamız için

we need to stop thinking tech first,

öncelikle teknolojiyi düşünmekten vazgeçip

and we need to start applying the secret formula.

gizli formülü uygulamaya başlamamız gerekir.

To deploy "Human plus AI,"

"İnsan artı yapay zekâ"yı uygulamamız için

10 percent of the effort is to code algos;

çabanın yüzde 10'unu algoritmaları kodlamaya

20 percent to build tech around the algos,

yüzde 20'sini teknolojiyi algoritmaların etrafında inşa etmeye,

collecting data, building UI, integrating into legacy systems;

veri toplamaya, arayüz inşa etmeye, eski sistemlere entegre etmeye ayıralım.

But 70 percent, the bulk of the effort,

Fakat yüzde 70'ini, yani çabanın büyük bir kısmını

is about weaving together AI with people and processes

yapay zekâyı insanlar ve süreçlerle birlikte dokumaya harcayarak

to maximize real outcome.

gerçek neticeyi en yükseğe çıkartabiliriz.

AI fails when cutting short on the 70 percent.

Yüzde 70'lik kısımdan feragat edildiğinde, yapay zekâ başarısız olur.

The price tag for that can be small,

Bunun maliyeti şu kadar küçük olabilir,

wasting many, many millions of dollars on useless technology.

milyonlarca doları kullanışsız bir teknolojiye yatırmak.

Anyone cares?

Umursayan var mı?

Or real tragedies:

Ya da gerçek trajediler:

346 casualties in the recent crashes of two B-737 aircrafts

Yakın zamanda kaza yapan iki B-737 uçak sonucunda 346 ölü.

when pilots could not interact properly

Bilgisayarlı komut sisteminde

pilotlar düzgünce iletişim kuramadığından kaynaklandı.

with a computerized command system.

For a successful 70 percent,

Başarılı bir yüzde 70 için ilk adım

the first step is to make sure that algos are coded by data scientists

algoritmaların veri bilimciler ve alan uzmanları tarafından

and domain experts together.

birlikte kodlandığından emin olmaktır.

Take health care for example.

Sağlık sektörünü ele alalım.

One of our teams worked on a new drug with a slight problem.

Ekiplerimizden biri, ufak bir sorunu olan bir ilaç üzerinde çalıştı.

When taking their first dose,

İlk dozlarını aldıklarında,

some patients, very few, have heart attacks.

bazı hastaların çok az bir kısmı kalp krizi geçiriyordu.

So, all patients, when taking their first dose,

Bu nedenle ilk dozu alacak tüm hastalar

have to spend one day in hospital,

bir günlerini hastanede geçirmek zorundaydı.

for monitoring, just in case.

Ne olur ne olmaz onları gözlemlemek gerekir.

Our objective was to identify patients who were at zero risk of heart attacks,

Amacımız, sıfır kalp krizi riskine sahip

who could skip the day in hospital.

hastanedeki günü pas geçebilecek hastaları tanımlamaktı.

We used AI to analyze data from clinical trials,

Klinik deneylerin verilerini analiz etmek

to correlate ECG signal, blood composition, biomarkers,

ECG sinyallerini, kan bileşimlerini ve biyobelirteçleri

with the risk of heart attack.

kalp krizi riskiyle ilişkilendirmek için yapay zekâyı kullandık.

In one month,

Bir ay içinde

our model could flag 62 percent of patients at zero risk.

modelimiz sıfır riskte olan hastaların yüzde 62'sini işaretleyebildi.

They could skip the day in hospital.

Hastanedeki günü pas geçebilirlerdi.

Would you be comfortable staying at home for your first dose

Algoritma dedi diye

ilk dozunuzda evde kalmaya razı olur muydunuz?

if the algo said so?

(Laughter)

Doctors were not.

(Kahkahalar)

Doktorlar razı olmadı.

What if we had false negatives,

Ya yanlış negatif hatamız vardıysa?

meaning people who are told by AI they can stay at home, and die?

Yani yapay zekânın evinde kalıp ölmeyi önerdiği insanlar olursa?

(Laughter)

(Kahkahalar)

There started our 70 percent.

Bizim yüzde 70'imiz böyle başladı.

We worked with a team of doctors

Modelimizdeki her değişkenin

to check the medical logic of each variable in our model.

tıbbi mantığını kontrol etmek için bir doktor ekibiyle çalıştık.

For instance, we were using the concentration of a liver enzyme

Örneğin, belirteç olarak bir ciğer enziminin

as a predictor,

yoğunluğunu kullanıyorduk.

for which the medical logic was not obvious.

Bunun tıbbi mantığı çok açık değildi.

The statistical signal was quite strong.

İstatistiksel sinyal oldukça kuvvetliydi.

But what if it was a bias in our sample?

Fakat ya bu, bizim örneğimizdeki bir ön yargıysa?

That predictor was taken out of the model.

O belirteç bizim modelimizden çıkarıldı.

We also took out predictors for which experts told us

Doktorların gerçek hayatta titizlikle ölçemediği belirteçleri de

they cannot be rigorously measured by doctors in real life.

uzmanların uyarısıyla çıkarttık.

After four months,

Dört ay sonra,

we had a model and a medical protocol.

bir modelimiz ve tıbbi bir protokolümüz olmuştu.

They both got approved

Geçtiğimiz ilkbaharda

my medical authorities in the US last spring,

tıbbi otoriteler tarafından ikisi de onay aldı.

resulting in far less stress for half of the patients

Böylece hastaların yarısına daha az stres

and better quality of life.

ve daha iyi yaşam kalitesi sağladık.

And an expected upside on sales over 100 million for that drug.

Bunun dışında, ilacın satışlarında 100 milyonun üzerinde artış bekleniyordu.

Seventy percent weaving AI with team and processes

Yapay zekânın yüzde yetmişini ekipler ve süreçler ile işlemek

also means building powerful interfaces

ayrıca insanların ve yapay zekanın en zor sorunları beraber çözebilmesi için

for humans and AI to solve the most difficult problems together.

güçlü arayüzler inşa etmekti.

Once, we got challenged by a fashion retailer.

Öncelikle bir giyim firması bize meydan okudu.

"We have the best buyers in the world.

"Dünyadaki en iyi satın alma uzmanlarına sahibiz.

Could you build an AI engine that would beat them at forecasting sales?

Satış tahminlerinde onları yenebilecek

bir yapay zekâ motoru inşa edebilir misiniz?

At telling how many high-end, light-green, men XL shirts

Gelecek sene için kaç adet lüks, açık yeşil

we need to buy for next year?

XL erkek tişörtü satın almamız gerekeceğini söyleyebilecek?

At predicting better what will sell or not

Neyin satıp satmayacağını

than our designers."

tasarımcılarımızdan daha iyi öngörebilecek?"

Our team trained a model in a few weeks, on past sales data,

Geçmiş satış verilerini kullanarak ekibimiz birkaç haftada bir modeli eğitti

and the competition was organized with human buyers.

ve yarışma, insan satın almacılar ile beraber organize edildi.

Result?

Peki ya sonuç?

AI wins, reducing forecasting errors by 25 percent.

Tahmin hatalarını yüzde 25 düşürerek yapay zekâ kazandı.

Human-zero champions could have tried to implement this initial model

Sıfır insan savunucuları bu birincil modeli uygulamaya çalışabilirlerdi

and create a fight with all human buyers.

ve tüm insan satın almacılara savaş açabilirlerdi.

Have fun.

İyi eğlenceler.

But we knew that human buyers had insights on fashion trends

Fakat biliyoruz ki insan satın almacıların geçmiş verilerde bulunmayan şekilde

that could not be found in past data.

moda akımları hakkında öngörüleri vardı.

There started our 70 percent.

Yüzde 70'imiz burada başladı.

We went for a second test,

İnsan satın almacıların

where human buyers were reviewing quantities

yapay zekânın önerdiği sayıları incelediği

suggested by AI

ve gerektiğinde düzeltebildiği

and could correct them if needed.

ikinci bir teste gittik.

Result?

Sonuç mu?

Humans using AI ...

İnsanların kullandığı yapay zekâ kaybetti.

lose.

Seventy-five percent of the corrections made by a human

İnsanların yaptığı düzeltmelerin yüzde 75'i

were reducing accuracy.

doğruluk payını azaltıyordu.

Was it time to get rid of human buyers?

İnsan satın almacılardan kurtulmanın vakti gelmiş miydi?

No.

Hayır gelmemişti.

It was time to recreate a model

İnsanların yapay zekânın doğruluğunu sınamayacağı

where humans would not try to guess when AI is wrong,

fakat yapay zekânın insan satın almacılardan

but where AI would take real input from human buyers.

gerçek girdiler alacağı bir model yaratma vaktiydi.

We fully rebuilt the model

Modeli tamamen yeniden inşa ettik

and went away from our initial interface, which was, more or less,

ve "Hey, insan! Tahminlerim şunlar,

"Hey, human! This is what I forecast,

istediğin kısmı düzeltebilirsin."

correct whatever you want,"

diyen birincil arayüzümüzden

and moved to a much richer one, more like,

çok daha zengin bir arayüze geçtik.

"Hey, humans!

"Hey, insanlar!

I don't know the trends for next year.

Önümüzdeki senenin akımlarını bilmiyorum.

Could you share with me your top creative bets?"

En yaratıcı tahminlerinizi benimle paylaşır mısınız?"

"Hey, humans!

"Hey, insanlar!

Could you help me quantify those few big items?

Şu birkaç büyük parçanın miktarını belirlememe yardım eder misiniz?

I cannot find any good comparables in the past for them."

Geçmiş veride karşılaştırabileceğim güzel bir örnek bulamadım."

Result?

Sonuç mu?

"Human plus AI" wins,

Tahmin hatalarını yüzde 50 azaltarak

reducing forecast errors by 50 percent.

"İnsan artı yapay zekâ" kazandı.

It took one year to finalize the tool.

Aracı tamamlamamız bir yılımızı aldı.

Long, costly and difficult.

Uzun, maliyetli ve zor.

But profits and benefits

Fakat kâr ve faydalar

were in excess of 100 million of savings per year for that retailer.

giyim şirketine yıllık 100 milyonun üzerinde bir tasarruf sağladı.

Seventy percent on very sensitive topics

Çok hassas konular üzerine yüzde 70 demek,

also means human have to decide what is right or wrong

aynı zamanda insanların doğru ve yanlışı belirlemesi

and define rules for what AI can do or not,

ve yapay zekânın neyi yapabilip

neyi yapamayacağının kurallarını koyması demekti.

like setting caps on prices to prevent pricing engines

Bunlara örnek; fiyatlandırma motorlarının sunulan fiyatı kabul edecek

[from charging] outrageously high prices to uneducated customers

eğitimsiz müşterilere aşırı yüksek fiyat sunmaması için

who would accept them.

tavan fiyat eklemek olabilir.

Only humans can define those boundaries --

Bu sınırları sadece insanlar tanımlayabilir.

there is no way AI can find them in past data.

Yapay zekânın bunları geçmiş verilerde bulabilmesinin ihtimali yoktur.

Some situations are in the gray zone.

Bazı durumlar gri alanda kalıyordu.

We worked with a health insurer.

Bir sağlık sigortası şirketiyle çalışıyorduk.

He developed an AI engine to identify, among his clients,

Hangi müşterilerinin hastaneye gitmek üzere olduğunu belirleyerek

people who are just about to go to hospital

onlara lüks hizmetler satan

to sell them premium services.

bir yapay zekâ motoru geliştirmişti.

And the problem is,

Sorun şuydu:

some prospects were called by the commercial team

Hastaneye gitmesi gerekebileceğinden

while they did not know yet

henüz haberi olmayan bazı müşteriler

they would have to go to hospital very soon.

satış ekibi tarafından arandılar.

You are the CEO of this company.

Bu şirketin CEO'su sizsiniz.

Do you stop that program?

Bu programı durdurur musunuz?

Not an easy question.

Kolay bir soru değil.

And to tackle this question, some companies are building teams,

Bu soruyu ele almak için bazı şirketler,

defining ethical rules and standards to help business and tech teams set limits

iş ve teknoloji ekiplerini kişiselleştirme ve manipülasyon,

between personalization and manipulation,

kişiye özel teklifler ve ayırımcılık, hedefleme ve ihlal arasında

customization of offers and discrimination,

limitler konulmasına yardımcı olacak takımlar kurup

targeting and intrusion.

etik kurallar ve standartlar tanımlıyorlar.

I am convinced that in every company,

Herhangi bir şirkette gerçekten önemli durumlarda

applying AI where it really matters has massive payback.

yapay zekâ uygulamanın çok büyük getirisi olduğuna ben ikna oldum.

Business leaders need to be bold

İş liderleri yapay zekâyı takım ve süreçlerine

and select a few topics,

verimli bir şekilde uygulamak isterlerse

and for each of them, mobilize 10, 20, 30 people from their best teams --

cesur olmaları,

birkaç konu seçmeleri,

tech, AI, data science, ethics --

her konu için teknoloji, yapay zekâ, veri bilimi, etik gibi

and go through the full 10-, 20-, 70-percent cycle

en iyi takımlarından 10, 20, 30 kişiyi harekete geçirip

"İnsan artı yapay zeka" felsefesinin yüzde 10- 20-70 döngüsünün

of "Human plus AI,"

if they want to land AI effectively in their teams and processes.

tamamının üzerinden gitmeleri gerekir.

There is no other way.

Başka bir yolu yok.

Citizens in developed economies already fear algocracy.

Gelişmiş ekonomilerdeki vatandaşlar algokrasiden hali hazırda korkuyorlar.

Seven thousand were interviewed in a recent survey.

Yeni bir anket kapsamında yedi bin kişiyle görüşüldü.

More than 75 percent expressed real concerns

Bunların yüzde 75'inden fazlası

on the impact of AI on the workforce, on privacy,

yapay zekânın iş gücüne, gizliliğe etkisinden

ve insanlıktan çıkmış bir toplum riskinden cidden endişelendiklerini belirttiler.

on the risk of a dehumanized society.

Pushing algocracy creates a real risk of severe backlash against AI

Algokrasiyi dayatmak şirketlerde ve hatta toplumda

within companies or in society at large.

yapay zekâya karşı ciddi bir ters tepki riski yaratır.

"Human plus AI" is our only option

"İnsan artı yapay zekâ" yapay zekânın faydalarını

to bring the benefits of AI to the real world.

gerçek dünyaya getirmek için tek seçeneğimizdir.

And in the end,

Son olarak

winning organizations will invest in human knowledge,

kazanan kuruluşlar insan bilgisine yatırım yapacaklar.

not just AI and data.

Sadece yapay zekâ ve veriye değil.

Recruiting, training, rewarding human experts.

İnsan uzmanlarını işe almak, eğitmek, ödüllendirmek.

Data is said to be the new oil,

Verinin petrolün yerini aldığı söyleniyor

but believe me, human knowledge will make the difference,

fakat aslında fark yaratan şey insan bilgisi olacak.

because it is the only derrick available

Çünkü veride gizlenmiş petrolü pompalamak için

to pump the oil hidden in the data.

mevcut olan tek vinç odur.

Thank you.

Teşekkürler.

(Applause)

(Alkışlar)