How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Çeviri: Nevaz Mescioğlu Gözden geçirme: Figen Ergürbüz

How many decisions have been made about you today,

Sizce sizin hakkınızda kaç karar alınmıştır,

or this week or this year,

bugün, bu hafta veya bu yıl içinde,

by artificial intelligence?

yapay zekâ tarafından?

I build AI for a living

Benim işim yapay zekâ oluşturmak.

so, full disclosure, I'm kind of a nerd.

Yani, daha da açmak gerekirse bir inek öğrenciyim.

And because I'm kind of a nerd,

Bir inek öğrenci olduğum için de

wherever some new news story comes out

ne zaman yapay zekânın iş imkânlarımızı çalması

about artificial intelligence stealing all our jobs,

or robots getting citizenship of an actual country,

veya robotların gerçek ülkelerden vatandaşlık alması gibi bir haber çıksa

I'm the person my friends and followers message

arkadaşlarımın ve takipçilerimin gelecek kaygısıyla mesaj attığı kişiyim.

freaking out about the future.

We see this everywhere.

Bunu her yerde görüyoruz.

This media panic that our robot overlords are taking over.

Medya, robotlar yönetimi ele geçiriyor diye panik hâlinde.

We could blame Hollywood for that.

Bunun için Hollywood'u suçlayabiliriz.

But in reality, that's not the problem we should be focusing on.

Fakat gerçek şu ki odaklanmamız gereken sorun bu değil.

There is a more pressing danger, a bigger risk with AI,

Yapay zekâyla ilgili düzeltmemiz gereken daha büyük bir tehlike var.

that we need to fix first.

So we are back to this question:

Bu yüzden yine şu soruya dönüyoruz:

How many decisions have been made about you today by AI?

Yapay zekâ bugün sizin hakkınızda kaç karar aldı

And how many of these

ve bunlardan kaç tanesinde cinsiyetiniz, milliyetiniz veya geçmişiniz baz alındı?

were based on your gender, your race or your background?

Algorithms are being used all the time

Kim olduğumuz ve ne istediğimizle ilgili kararlar vermek için

to make decisions about who we are and what we want.

algoritmalar her zaman kullanılıyor.

Some of the women in this room will know what I'm talking about

Buradaki kadınların bir kısmı ne demek istediğimi anlıyorlardır.

if you've been made to sit through those pregnancy test adverts on YouTube

YouTube'da hamilelik testi reklamlarını bin kere sonuna kadar izlediyseniz,

like 1,000 times.

Or you've scrolled past adverts of fertility clinics

Facebook'ta doğum kliniği reklamlarıyla karşılaştıysanız

on your Facebook feed.

veya benim gibi Hint izdivaç servisi reklamlarıyla,

Or in my case, Indian marriage bureaus.

ne dediğimi alıyorsunuzdur.

(Laughter)

(Gülüşmeler)

But AI isn't just being used to make decisions

Fakat yapay zekâ sadece hangi ürünleri almak istediğimize

about what products we want to buy

veya hangi diziyi izlemek istediğimize karar vermek için kullanılmıyor.

or which show we want to binge watch next.

I wonder how you'd feel about someone who thought things like this:

Şöyle düşünen biriyle ilgili ne düşünürdünüz merak ediyorum:

"A black or Latino person

"Siyahi veya Latin birinin, borcunu zamanında ödeme ihtimali

is less likely than a white person to pay off their loan on time."

beyaz birine göre daha düşük."

"A person called John makes a better programmer

"John isimli biri, Mary isimli birinden daha iyi programcılık yapar."

than a person called Mary."

"A black man is more likely to be a repeat offender than a white man."

"Siyahi bir adamın suçlu olma olasılığı beyaz bir adamdan daha fazla."

You're probably thinking,

"Ne kadar da cinsiyetçi ve ırkçı biri." diye düşünüyorsunuz, değil mi?

"Wow, that sounds like a pretty sexist, racist person," right?

These are some real decisions that AI has made very recently,

Bunlar, yakın bir zamanda yapay zekânın ulaştığı gerçek kararlar.

based on the biases it has learned from us,

Kararların dayanağı ise biz insanlardan öğrendiği ön yargı.

from the humans.

AI is being used to help decide whether or not you get that job interview;

Yapay zekâ; iş görüşmenizin başarılı olup olmayacağına,

how much you pay for your car insurance;

trafik sigortasına ne kadar ödeyeceğinize, kredi puanınızın ne kadar iyi olacağına

how good your credit score is;

and even what rating you get in your annual performance review.

ve yıllık performans değerlendirmenizdeki puana karar vermeye yardımcı olur.

But these decisions are all being filtered through

Fakat tüm bu kararlar, yapay zekânın kimliğimiz, ırkımız, cinsiyetimiz

its assumptions about our identity, our race, our gender, our age.

ve yaşımız hakkındaki varsayım filtrelerinden geçiyor.

How is that happening?

Peki bu nasıl gerçekleşiyor?

Now, imagine an AI is helping a hiring manager

Yapay zekânın, bir işe alım müdürünün

find the next tech leader in the company.

şirketin gelecek liderini bulmasına yardım ettiğini düşünün.

So far, the manager has been hiring mostly men.

Şimdiye kadar müdür, çoğunlukla erkekleri işe almış.

So the AI learns men are more likely to be programmers than women.

Böylece yapay zekâ, erkeklerin programcı olmalarının

kadınlara göre daha olası olduğunu öğrenir

And it's a very short leap from there to:

ve şu sonuca ulaşması uzun sürmez: "Erkek, kadından daha iyi programcı olur."

men make better programmers than women.

We have reinforced our own bias into the AI.

Kendi ön yargılarımızı yapay zekâya dayatıyoruz

And now, it's screening out female candidates.

ve artık yapay zekâ kadın adayları eliyor.

Hang on, if a human hiring manager did that,

Bir dakika, eğer işe alım müdürü kadın adayları eleseydi

we'd be outraged, we wouldn't allow it.

haksızlığa uğramış olurduk, buna izin vermezdik.

This kind of gender discrimination is not OK.

Böyle cinsiyet ayrımcılığı kabul edilemez.

And yet somehow, AI has become above the law,

Ama bir şekilde yapay zekâ, yasaların önüne geçti

because a machine made the decision.

çünkü kararı bir makine aldı.

That's not it.

Hayır, öyle değil.

We are also reinforcing our bias in how we interact with AI.

Yapay zekâyla etkileşimimizde ön yargılarımızı güçlendiriyoruz.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

Siri, Alexa veya Cortana gibi asistanları ne sıklıkta kullanıyorsunuz?

They all have two things in common:

Hepsinin iki ortak özelliği var.

one, they can never get my name right,

Birincisi, ismimi hiçbir zaman doğru söyleyemiyorlar.

and second, they are all female.

İkincisi, hepsi kadın.

They are designed to be our obedient servants,

Bizim itaatkâr hizmetçimiz olmak için tasarlanmışlar;

turning your lights on and off, ordering your shopping.

ışığınızı açıp kapatıyor, alışveriş siparişlerinizi veriyorlar.

You get male AIs too, but they tend to be more high-powered,

Tabii erkek yapay zekâlar da var.

Fakat onlar daha güçlüler, örneğin IBM Watson;

like IBM Watson, making business decisions,

şirketler için kararlar veriyorlar, örneğin Satış Kadrosu Einstein;

Salesforce Einstein or ROSS, the robot lawyer.

veya avukatlık yapıyorlar, mesela ROSS.

So poor robots, even they suffer from sexism in the workplace.

Yani zavallı robotlar, onlar bile iş yerinde cinsiyetçilikle karşılaşıyor.

(Laughter)

(Gülüşmeler)

Think about how these two things combine

Bu ikisinin birleşip

and affect a kid growing up in today's world around AI.

günümüz yapay zekâ dünyasında büyüyen çocukları nasıl etkilediğini bir düşünün.

So they're doing some research for a school project

Mesela bir okul ödevi için araştırma yapıyorlar,

and they Google images of CEO.

Google'da CEO görsellerine bakıyorlar

The algorithm shows them results of mostly men.

ve algoritma onlara çoğunlukla erkekleri gösteriyor.

And now, they Google personal assistant.

Sonra, kişisel asistan görsellerine bakıyorlar

As you can guess, it shows them mostly females.

ve tahmin ettiğiniz gibi algoritma çoğunlukla kadınları gösteriyor.

And then they want to put on some music, and maybe order some food,

Daha sonra biraz müzik dinlemek veya yiyecek sipariş etmek istiyorlar

and now, they are barking orders at an obedient female voice assistant.

ve itaatkâr kadın kişisel asistanlarına siparişlerini emrediyorlar.

Some of our brightest minds are creating this technology today.

En parlak zekâlarımızın bazıları günümüzde bu teknolojiyi üretiyor.

Technology that they could have created in any way they wanted.

İstedikleri her türde üretebilecekleri teknolojiyi,

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

1960'ların "Mad Man"daki asistanlar tarzında üretmeyi seçiyorlar.

Yay!

Yaşasın!

But OK, don't worry,

Ama endişelenmeyin,

this is not going to end with me telling you

konuşmamı, cinsiyetçi ve ırkçı makinelerin yönettiği bir dünyaya doğru

that we are all heading towards sexist, racist machines running the world.

ilerlediğimizi söyleyerek bitirmeyeceğim.

The good news about AI is that it is entirely within our control.

İyi haber şu ki

yapay zekâ tümüyle bizim kontrolümüzde.

We get to teach the right values, the right ethics to AI.

Ona, doğru etik değerleri öğretebiliriz.

So there are three things we can do.

Bu konuda yapabileceğimiz üç şey var.

One, we can be aware of our own biases

Birincisi, kendi ön yargılarımızın ve makinelerin ön yargılarının

and the bias in machines around us.

farkında olabiliriz.

Two, we can make sure that diverse teams are building this technology.

İkincisi, bu teknolojiyi çeşitli grupların ürettiğinden emin olabiliriz.

Üçüncüsü, yapay zekânın öğrenmesi için ona çeşitli tecrübeler sunabiliriz.

And three, we have to give it diverse experiences to learn from.

I can talk about the first two from personal experience.

Kişisel tecrübelerime dayanarak ilk ikisi hakkında konuşabilirim.

When you work in technology

Teknolojiyle çalışıyorsanız

and you don't look like a Mark Zuckerberg or Elon Musk,

ve bir Mark Zuckerberg ya da Elon Musk gibi görünmüyorsanız

your life is a little bit difficult, your ability gets questioned.

hayatınız biraz zor olur, yetenekleriniz sorgulanır.

Here's just one example.

Bir örnek vereyim.

Like most developers, I often join online tech forums

Çoğu geliştirici gibi ben de sık sık çevrim içi teknoloji forumlarına katılıp

and share my knowledge to help others.

başkalarına yardımcı olmak için bildiklerimi paylaşırım.

And I've found,

Şunu anladım ki kendi fotoğrafım ve kendi ismimle oturum açtığımda

when I log on as myself, with my own photo, my own name,

I tend to get questions or comments like this:

şu tarz sorular ve yorumlar alıyorum:

"What makes you think you're qualified to talk about AI?"

"Yapay zekâyla ilgili konuşacak vasıfta olduğunu düşündüren şey ne?"

"What makes you think you know about machine learning?"

"Makine öğrenimi hakkında bilgili olduğunu düşünmeni sağlayan ne?"

So, as you do, I made a new profile,

Sonra, kendime yeni bir profil oluşturdum, kendi fotoğrafım yerine

and this time, instead of my own picture, I chose a cat with a jet pack on it.

sırtında roket olan bir kedi fotoğrafı koydum

And I chose a name that did not reveal my gender.

ve cinsiyetimi belli etmeyen bir isim seçtim.

You can probably guess where this is going, right?

Bu işin nereye gittiğini tahmin ettiniz değil mi?

So, this time, I didn't get any of those patronizing comments about my ability

Bu sefer yeteneğim hakkında küçümseyici yorumlar almadım

and I was able to actually get some work done.

ve işe yarar bir şeyler yapabildim.

And it sucks, guys.

Bu berbat bir durum.

I've been building robots since I was 15,

15 yaşından beri robot yapıyorum, birkaç bilgisayar bilimi derecem var

I have a few degrees in computer science,

and yet, I had to hide my gender

ama yine de işimin ciddiye alınması için cinsiyetimi gizlemek zorundayım.

in order for my work to be taken seriously.

So, what's going on here?

Bu ne demek oluyor?

Are men just better at technology than women?

Teknolojide erkekler kadınlardan daha mı iyi?

Another study found

Bir araştırmada, kadın kodlayıcılar benim gibi cinsiyetlerini gizlediklerinde

that when women coders on one platform hid their gender, like myself,

their code was accepted four percent more than men.

kodlarının erkeklere oranla yüzde dört daha fazla kabul edildiği bulunmuş.

So this is not about the talent.

Yani bunun yetenekle ilgisi yok.

This is about an elitism in AI

Bu, bir programcının belirli bir kişi gibi görünmesi gerektiğini söyleyen

that says a programmer needs to look like a certain person.

yapay zekânın elitliği.

What we really need to do to make AI better

Yapay zekâyı geliştirmek için yapmamız gereken şey

is bring people from all kinds of backgrounds.

her türden geçmişe sahip insanları bir araya getirmek.

We need people who can write and tell stories

Yapay zekâ kişilikleri oluşturmamıza yardım edecek hikâyeler yazıp anlatabilen,

to help us create personalities of AI.

We need people who can solve problems.

problem çözebilen, farklı zorluklarla yüzleşebilen,

We need people who face different challenges

and we need people who can tell us what are the real issues that need fixing

çözülmesi gereken gerçek sorunların neler olduğunu söyleyebilen

and help us find ways that technology can actually fix it.

ve bu sorunları teknolojinin çözmesi için yöntemler öneren kişilere ihtiyacımız var.

Because, when people from diverse backgrounds come together,

Çünkü çeşitli geçmişe sahip insanlar bir araya geldiğine,

when we build things in the right way,

yapılanı olması gerektiği gibi yaptığında imkânlar sınırsız olur.

the possibilities are limitless.

And that's what I want to end by talking to you about.

İşte bunun hakkında konuşmak istiyorum.

Daha az ırkçı robotlar, işimizi elimizden alacak daha az makine

Less racist robots, less machines that are going to take our jobs --

and more about what technology can actually achieve.

ve teknolojinin aslında neler başarabileceği hakkında daha fazla şey.

So, yes, some of the energy in the world of AI,

Yani evet, yapay zekâ dünyasında, teknoloji dünyasında enerjinin bir kısmı

in the world of technology

is going to be about what ads you see on your stream.

yayın akışınızda hangi reklamları gördüğünüzle ilgili olacak.

But a lot of it is going towards making the world so much better.

Ama birçoğu, dünyayı daha iyi bir yer yapmak için harcanacak.

Think about a pregnant woman in the Democratic Republic of Congo,

Demokratik Kongo Cumhuriyeti'nde hamile bir kadın düşünün.

who has to walk 17 hours to her nearest rural prenatal clinic

Kontrole gitmek için en yakın doğum kliniğine 17 saat yürümek zorunda.

to get a checkup.

What if she could get diagnosis on her phone, instead?

Bunun yerine telefonundan tanı konulabilseydi?

Or think about what AI could do

Her üç kadından birinin aile içi şiddete maruz kaldığı Güney Afrika'yı

for those one in three women in South Africa

ve yapay zekânın bu kadınlar için yapabileceklerini bir düşünün.

who face domestic violence.

Buna karşı ses çıkarmaları güvenli değilse

If it wasn't safe to talk out loud,

they could get an AI service to raise alarm,

tehlikeye dikkat çekmek ve finansal ve hukuki destek almak için

get financial and legal advice.

bir yapay zekâ hizmeti edinebilirler.

These are all real examples of projects that people, including myself,

Bunların hepsi ben de dahil insanların, üzerinde çalıştığı gerçek projeler.

are working on right now, using AI.

So, I'm sure in the next couple of days there will be yet another news story

Eminim ki birkaç gün içinde varoluşsal tehlikeyle ilgili

about the existential risk,

veya robotların işlerinizi elinizden alacağı hakkında yeni haberler çıkacak.

robots taking over and coming for your jobs.

(Laughter)

(Gülüşmeler)

And when something like that happens,

Böyle bir şey olduğunda

I know I'll get the same messages worrying about the future.

gelecekle ilgili endişelenenlerden yine aynı mesajları alacağım.

But I feel incredibly positive about this technology.

Ama ben teknoloji hakkında son derece olumlu hissediyorum.

This is our chance to remake the world into a much more equal place.

Bu, dünyayı çok daha eşit bir yer yapabilmemiz için bir şans.

But to do that, we need to build it the right way from the get go.

Fakat bunu yapabilmek için en temelden itibaren doğru inşa etmemiz gerekiyor.

We need people of different genders, races, sexualities and backgrounds.

Farklı cinsiyet, ırk, cinsel yönelim ve geçmişlerden insana ihtiyacımız var.

We need women to be the makers

Sadece sahibinin emrini yerine getiren kadın makinelere değil

and not just the machines who do the makers' bidding.

üretici olan kadınlara ihtiyacımız var.

We need to think very carefully what we teach machines,

Makinelere ne öğrettiğimize ve hangi verileri verdiğimize

what data we give them,

so they don't just repeat our own past mistakes.

çok dikkat etmeliyiz ki geçmiş hatalarımızı tekrarlamasınlar.

So I hope I leave you thinking about two things.

Umarım iki şey hakkında düşünerek buradan ayrılırsınız.

First, I hope you leave thinking about bias today.

Birincisi, ön yargılar.

Doğum kliniklerine veya bahis sitelerine ilgi duyduğunuzu varsayan

And that the next time you scroll past an advert

that assumes you are interested in fertility clinics

or online betting websites,

bir reklamla karşılaştığınızda umarım düşünüp hatırlarsınız ki

that you think and remember

that the same technology is assuming that a black man will reoffend.

aynı teknoloji, siyahi bir adamın tekrar suç işleyeceğini varsayıyor,

Or that a woman is more likely to be a personal assistant than a CEO.

bir kadının, kişisel asistan olmasının, CEO olmasından olası olduğunu varsayıyor.

And I hope that reminds you that we need to do something about it.

Umarım bu, size bir şeyler yapmamız gerektiğini hatırlatır.

And second,

İkincisi,

I hope you think about the fact

geleceğimiz için olağanüstü bir güç olacak yapay zekâ oluşturmak için

that you don't need to look a certain way

or have a certain background in engineering or technology

belli bir şekilde görünmenize

to create AI,

veya mühendislik ya da teknoloji geçmişinizin olmasına gerek yok.

which is going to be a phenomenal force for our future.

You don't need to look like a Mark Zuckerberg,

Mark Zuckerberg gibi görünmenize gerek yok,

you can look like me.

benim gibi görünebilirsiniz.

And it is up to all of us in this room

En uç durumlar da dahil herkes için yapay zekâ oluşturması için

to convince the governments and the corporations

to build AI technology for everyone,

devleti ve şirketleri iknâ etmek

including the edge cases.

And for us all to get education

ve geleceğin olağanüstü teknolojisiyle ilgili eğitim almak hepimizin görevi.

about this phenomenal technology in the future.

Because if we do that,

Çünkü bunu yaptığımızda

then we've only just scratched the surface of what we can achieve with AI.

yapay zekâyla yapabileceklerimizin için ilk adımı atmış olacağız.

Thank you.

Teşekkürler.

(Applause)

(Alkışlar)