How I'm fighting bias in algorithms | Joy Buolamwini

Çeviri: esra alantepe Gözden geçirme: Suleyman Cengiz

Hello, I'm Joy, a poet of code,

Merhaba ben kodlar şairi Joy

on a mission to stop an unseen force that's rising,

görünmez bir gücün yükselişini durdurma görevindeyim,

a force that I called "the coded gaze,"

algoritmik yanlılık için kullandığım

my term for algorithmic bias.

"kodlu bakış" adını verdiğim bir güç.

Algorithmic bias, like human bias, results in unfairness.

Algoritmik yanlılık, insan yanlılığı gibi, adaletsizlikle sonuçlanır.

However, algorithms, like viruses, can spread bias on a massive scale

Ama algoritmalar virüsler gibi büyük çapta

at a rapid pace.

ve hızda yanlılığı yayabilirler.

Algorithmic bias can also lead to exclusionary experiences

Algoritmik yanlılık dışlayıcı deneyimlere

and discriminatory practices.

ve ayrımcı uygulamalara yol açabilir.

Let me show you what I mean.

Ne demek istediğimi göstereyim.

(Video) Joy Buolamwini: Hi, camera. I've got a face.

(Video) Joy Boulamwini: Selam kamera. Bir yüzüm var.

Can you see my face?

Yüzümü görebiliyor musunuz?

No-glasses face?

Gözlüksüz yüzüm?

You can see her face.

Onun yüzünü görebilirsin.

What about my face?

Ya benimkini?

I've got a mask. Can you see my mask?

Maskem var. Maskemi görebiliyor musun?

Joy Buolamwini: So how did this happen?

Joy Boulamwini: Bu nasıl oldu?

Why am I sitting in front of a computer

Neden bilgisayarın önünde bir beyaz maske

in a white mask,

ile oturuyor ve ucuz bir kamera

trying to be detected by a cheap webcam?

tarafından algılanmaya çalışıyorum?

Well, when I'm not fighting the coded gaze

Kod şairi olarak kodlu bakış ile

as a poet of code,

savaşmadığımda

I'm a graduate student at the MIT Media Lab,

MIT Medya Lab'ında lisanüstü öğrencisiyim

and there I have the opportunity to work on all sorts of whimsical projects,

ve her tür garip projede çalışma şansım var.

including the Aspire Mirror,

Buna yaptığım Aspire Mirror da dâhil.

a project I did so I could project digital masks onto my reflection.

Sayesinde yansımamın üzerine dijital maskeler tasarlayabilirim.

So in the morning, if I wanted to feel powerful,

Sabah eğer güçlü hissetmek istersem,

I could put on a lion.

bir aslanı takabilirim.

If I wanted to be uplifted, I might have a quote.

Sevinçli olmak istiyorsam, bir alıntı yapabilirim.

So I used generic facial recognition software

Sistemi oluşturmak için genel yüz tanıma

to build the system,

yazılımını kullandım.

but found it was really hard to test it unless I wore a white mask.

Ama beyaz bir maske takmadıkça sistemi test etmek gerçekten zordu.

Unfortunately, I've run into this issue before.

Maalesef bu sorunla daha önce karşılaştım.

When I was an undergraduate at Georgia Tech studying computer science,

Georgia Tech de bilgisayar bilimleri okurken,

I used to work on social robots,

sosyal robotlar üzerinde çalıştım

and one of my tasks was to get a robot to play peek-a-boo,

ve görevlerimden biri ce-ee oynayan bir robot yapmaktı.

a simple turn-taking game

Partnerlerinizin yüzlerini kapayıp

where partners cover their face and then uncover it saying, "Peek-a-boo!"

sonra açıp ce-ee dedikleri bir oyun.

The problem is, peek-a-boo doesn't really work if I can't see you,

Problem şu ki sizi göremezsem ce-ee işe yaramaz

and my robot couldn't see me.

ve robotum beni göremiyordu.

But I borrowed my roommate's face to get the project done,

Projeyi tamamlamak için arkadaşımın yüzünü ödünç aldım,

submitted the assignment,

ödevimi sundum ve bu sorunu

and figured, you know what, somebody else will solve this problem.

başkasının çözeceğini varsaydım.

Not too long after,

Daha sonra Hong Kong'da

I was in Hong Kong for an entrepreneurship competition.

bir girişimcilik yarışmasına katıldım.

The organizers decided to take participants

Organizatörler yarışmacıların başlangıç

on a tour of local start-ups.

turuna katılmasına karar verdi.

One of the start-ups had a social robot,

Yarışmacılardan birinin sosyal robotu vardı

and they decided to do a demo.

ve demo yapmaya karar verdi.

The demo worked on everybody until it got to me,

Demo bana gelene kadar işe yaradı

and you can probably guess it.

ve ne olduğunu tahmin edebilirsiniz.

It couldn't detect my face.

Robot yüzümü algılayamadı.

I asked the developers what was going on,

Geliştiricisine ne olduğunu sordum

and it turned out we had used the same generic facial recognition software.

ve fark ettik ki aynı genel yüz tanıma yazılımını kullanıyormuşuz.

Halfway around the world,

Dünyanın öbür ucunda

I learned that algorithmic bias can travel as quickly

algoritmik yanlılığın internetten dosya indirmek kadar

as it takes to download some files off of the internet.

hızlı yolculuk yaptığını öğrendim.

So what's going on? Why isn't my face being detected?

Yani ne oluyor? Neden beni algılamıyor?

Well, we have to look at how we give machines sight.

Makinelere nasıl görme yetisi verdiğimize göz atmalıyız.

Computer vision uses machine learning techniques

Bilgisayar görüşü yüzü tanımlamak için

to do facial recognition.

makine öğrenme tekniklerini kullanır.

So how this works is, you create a training set with examples of faces.

Bunun çalışma şekli sizin yüz örnekleriyle eğitim seti oluşturmanızdır.

This is a face. This is a face. This is not a face.

Bu bir yüz. Bu bir yüz. Bu bir yüz değil.

And over time, you can teach a computer how to recognize other faces.

Zamanla bilgisayara diğer yüzleri nasıl tanımlayacağını öğretirsiniz.

However, if the training sets aren't really that diverse,

Fakat eğitim seti kapsamlı değilse

any face that deviates too much from the established norm

sabit normdan çok fazla sapan bir yüzü

will be harder to detect,

tanımlamak zor olacaktır.

which is what was happening to me.

Bana olduğu gibi.

But don't worry -- there's some good news.

Ama merak etmeyin - iyi haberlerim var.

Training sets don't just materialize out of nowhere.

Eğitim setleri bir anda ortaya çıkmaz.

We actually can create them.

Aslında biz onları yaratabiliriz.

So there's an opportunity to create full-spectrum training sets

Yani insanlığın daha zengin portresini

that reflect a richer portrait of humanity.

çıkaran tam spektrumlu eğitim seti oluşturabiliriz.

Now you've seen in my examples

Şimdi örneklerimde sosyal robotlar

how social robots

sayesinde algoritmik dışlanmayı

was how I found out about exclusion with algorithmic bias.

nasıl ortaya çıkardığımı gördünüz.

But algorithmic bias can also lead to discriminatory practices.

Ama algoritmik yanlılık ayrımcı uygulamalara da yol açabilir.

Across the US,

ABD çapında, polis merkezleri

police departments are starting to use facial recognition software

suçla mücadele cephaneliklerinde

in their crime-fighting arsenal.

yüz tanıma yazılımını kullanmaya başladı.

Georgetown Law published a report

Georgetown Yasası ABD'de iki yetişkinden

showing that one in two adults in the US -- that's 117 million people --

birinin - 117 milyon insanın- yüz tanıma

have their faces in facial recognition networks.

ağında yüzlerinin bulunduğunu açıkladı.

Police departments can currently look at these networks unregulated,

Polis merkezleri doğrulukları denetlenmemiş

using algorithms that have not been audited for accuracy.

algoritmalar kullanarak bu ağları izinsiz görebilir.

Yet we know facial recognition is not fail proof,

Biliyoruz ki yüz tanıma yanılmaz değil

and labeling faces consistently remains a challenge.

ve yüzlerin tutarlı etiketlenmesi hâlâ bir sorun.

You might have seen this on Facebook.

Bunu Facebook da görmüş olabilirsiniz.

My friends and I laugh all the time when we see other people

Arkadaşlarımla diğer insanların yanlış

mislabeled in our photos.

etiketlendiğini gördüğümüzde gülüyoruz.

But misidentifying a suspected criminal is no laughing matter,

Şüpheli bir suçluyu yanlış tanımlamak gülünç bir mesele

nor is breaching civil liberties.

veya sivil özgürlükleri ihlal değil.

Machine learning is being used for facial recognition,

Makine öğrenme yüz tanımada kullanılır

but it's also extending beyond the realm of computer vision.

ama bilgisayar görüş alanının ötesine de uzanıyor.

In her book, "Weapons of Math Destruction,"

Veri bilimcisi Cathy O'Neil

data scientist Cathy O'Neil talks about the rising new WMDs --

"Matemetiksel İmha Silahları" kitabında, hayatımızın

widespread, mysterious and destructive algorithms

daha çok boyutunu etkileyen kararlar

that are increasingly being used to make decisions

almak için kullanılan yaygın, gizemli ve yıkıcı

that impact more aspects of our lives.

algoritmalarla KİS'lerden bahsediyor.

So who gets hired or fired?

Peki işe alınan ya da kovulan kim?

Do you get that loan? Do you get insurance?

O krediyi alıyor musun? Sigortan var mı?

Are you admitted into the college you wanted to get into?

Girmek istediğin üniversiteye kabul edildin mi?

Do you and I pay the same price for the same product

Aynı platformda satın alınan aynı ürün için

purchased on the same platform?

sen ve ben aynı fiyatı mı ödüyoruz?

Law enforcement is also starting to use machine learning

Güvenlik polisi öngörücü polislik için

for predictive policing.

otomatik öğrenmeyi kullanmaya başlıyor.

Some judges use machine-generated risk scores to determine

Bazı hakimler hapis cezasını

how long an individual is going to spend in prison.

belirlemek için makine üretimli risk puanlarını kullanıyor.

So we really have to think about these decisions.

Bu kararları gerçekten düşünmek zorundayız.

Are they fair?

Adiller mi?

And we've seen that algorithmic bias

Gördük ki algoritmik yanlılık her zaman

doesn't necessarily always lead to fair outcomes.

adil sonuçlar getirmez.

So what can we do about it?

Peki biz ne yapabiliriz?

Well, we can start thinking about how we create more inclusive code

Daha kapsamlı kod oluşturup kapsamlı kod uygulamalarını

and employ inclusive coding practices.

nasıl kullandığımızı düşünebiliriz.

It really starts with people.

Bu, insanlarla başlar.

So who codes matters.

Yani kimin kodladığı önemlidir.

Are we creating full-spectrum teams with diverse individuals

Birbirlerinin kör noktalarını görebilen farklı kişilerle tam spektrumlu

who can check each other's blind spots?

takımlar oluşturabiliyor muyuz?

On the technical side, how we code matters.

Teknik olarak, nasıl kodladığımız önemli.

Are we factoring in fairness as we're developing systems?

Sistemi geliştirirken adaletle mi oluşturuyoruz?

And finally, why we code matters.

Son olarak niçin kodladığımız önemlidir.

We've used tools of computational creation to unlock immense wealth.

Harika zenginliğin kilidini açmak için işlemsel yaratma araçlarını kullandık.

We now have the opportunity to unlock even greater equality

Sosyal değişimi sonraki düşünce değil,

if we make social change a priority

öncelik hâline getirirsek daha geniş

and not an afterthought.

eşitliği açma fırsatımız olur.

And so these are the three tenets that will make up the "incoding" movement.

"Incoding" hareketini oluşturan gerekli üç ilke var:

Who codes matters,

Kimin kodladığı,

how we code matters

nasıl kodladığı

and why we code matters.

ve niçin kodladığı.

So to go towards incoding, we can start thinking about

Incoding'e yönelmek için benim paylaştıklarım

building platforms that can identify bias

gibi insanların deneyimlerini toplayarak

by collecting people's experiences like the ones I shared,

yanlılığı belirleyen ve var olan yazılımı

but also auditing existing software.

denetleyen platformlar oluşturmayı düşünmeye başlayabiliriz.

We can also start to create more inclusive training sets.

Ayrıca daha kapsamlı eğitim setleri hazırlayabiliriz.

Imagine a "Selfies for Inclusion" campaign

Geliştiricilerin daha kapsamlı eğitim setleri oluşturmasına

where you and I can help developers test and create

ve deneyebilmesine yardım ettiğimiz "Kaynaşmak için Özçekimler"

more inclusive training sets.

kampanyasını düşünün.

And we can also start thinking more conscientiously

Ve şu an geliştirdiğimiz teknolojinin toplumsal etkileri

about the social impact of the technology that we're developing.

konusunda daha vicdani düşünmeye başlayabiliriz.

To get the incoding movement started,

Incoding hareketini başlatmak için

I've launched the Algorithmic Justice League,

adaletle ilgilenen birinin kodlu bakışla savaşabileceği

where anyone who cares about fairness can help fight the coded gaze.

Algoritmik Adalet Ligi'ni başlattım.

On codedgaze.com, you can report bias,

codedgaze.com'da yanlılığı bildirebilir,

request audits, become a tester

denetleme isteyebilir, deneyen olabilir,

and join the ongoing conversation,

süren tartışmalara katılabilirsiniz,

#codedgaze.

#codedgaze

So I invite you to join me

Sizi dâhil olmaya ve merkez sosyal değişime

değer verdiğimiz ve teknolojinin sadece bir kısım için değil,

in creating a world where technology works for all of us,

not just some of us,

herkes için işe yaradığı

a world where we value inclusion and center social change.

bir dünyaya davet ediyorum.

Thank you.

Teşekkürler.

(Applause)

(Alkış)

But I have one question:

Bir sorum var.

Will you join me in the fight?

Bu savaşta benimle misiniz?

(Laughter)

(Gülüşmeler)

(Applause)

(Alkış)