The moral bias behind your search results | Andreas Ekström

Çeviri: fatih ozciftci Gözden geçirme: Ahmet Yükseltürk

So whenever I visit a school and talk to students,

Ne zaman bir okula gidip, öğrencilerle konuşsam,

I always ask them the same thing:

onlara hep aynı şeyi sorarım:

Why do you Google?

neden Google-larsınız?

Why is Google the search engine of choice for you?

Arama motoru olarak tercihiniz neden Google'dır?

Strangely enough, I always get the same three answers.

Garip belki ama sürekli aynı üç cevap verilir.

One, "Because it works,"

İlki, “işe yarıyor”,

which is a great answer; that's why I Google, too.

güzel bir cevap, benim de Google’ı tercih sebebim.

Two, somebody will say,

İkincisi, bazıları,

"I really don't know of any alternatives."

“gerçekten alternatifini bilmiyorum.” der.

It's not an equally great answer and my reply to that is usually,

Bu o kadar güzel bir cevap sayılmaz, onlara genellikle cevabım

"Try to Google the word 'search engine,'

"Google’a 'arama motoru' yazmayı denersen,

you may find a couple of interesting alternatives."

birkaç ilginç alternatif bulabilirsin.” olur.

And last but not least, thirdly,

Sonuncusu ise,

inevitably, one student will raise her or his hand and say,

kaçınılmaz bir şekilde, bir öğrenci parmak kaldırıp

"With Google, I'm certain to always get the best, unbiased search result."

“Google'la kesin olarak, hep en iyi ve önyargısız arama sonucuna ulaşırım.” der.

Certain to always get the best, unbiased search result.

En iyi ve önyargısız arama sonucuna kesin olarak, hep ulaşmak.

Now, as a man of the humanities,

Bir beşeri bilim insanı olarak,

albeit a digital humanities man,

hatta dijital insani bilim insanı olarak,

that just makes my skin curl,

bu durum beni ürpertiyor,

even if I, too, realize that that trust, that idea of the unbiased search result

bu önyargısız arama sonucuna güvenin, Google’a olan ortak sevgimizin ve

is a cornerstone in our collective love for and appreciation of Google.

ve Google'ı takdirimizin köşetaşı olmasını anlayabilsem bile.

I will show you why that, philosophically, is almost an impossibility.

Size bunun felsefi açıdan neden neredeyse imkansız olduğunu göstereceğim.

But let me first elaborate, just a little bit, on a basic principle

Ancak ilkin, her sorgumuzun ardındaki, bazen görmeyi unuttuğumuz

behind each search query that we sometimes seem to forget.

temel kuralı kısaca açıklamama izin verin.

So whenever you set out to Google something,

Google’a bir şey yazdığınız zaman,

start by asking yourself this: "Am I looking for an isolated fact?"

kendinize şunu sorun: “kesin bir gerçekliği mi arıyorum?"

What is the capital of France?

Fransa’nın başkenti neresidir?

What are the building blocks of a water molecule?

Su molekülünün yapıtaşları nelerdir?

Great -- Google away.

Harika, hemen Google-layın.

There's not a group of scientists who are this close to proving

Cevapların Londra ve H3O olduğunu

that it's actually London and H30.

ispatlamaya çalışan bilim insanları yoktur.

You don't see a big conspiracy among those things.

Bu tür şeylerde büyük komplolara rastlamazsınız.

We agree, on a global scale,

Küresel ölçekli

what the answers are to these isolated facts.

kesin gerçekliklerin cevabı ne ise , hepimiz kabul ederiz.

But if you complicate your question just a little bit and ask something like,

Ancak sorunuzu biraz daha karmaşıklaştırırsanız:

"Why is there an Israeli-Palestine conflict?"

“Neden İsrail – Filistin çatışması var?” gibi,

You're not exactly looking for a singular fact anymore,

artık kesin kabul görmüş bir gerçeklik aramıyorsunuz,

you're looking for knowledge,

bir bilgiyi araştırıyorsunuz,

which is something way more complicated and delicate.

ki bu daha karmaşık ve hassas bir şeydir.

And to get to knowledge,

Bu bilgiye ulaşmak için,

you have to bring 10 or 20 or 100 facts to the table

masaya 10 veya 20 veya 100 gerçeklik getirmek,

and acknowledge them and say, "Yes, these are all true."

onları kabul etmek ve “Bunların hepsi doğru.” demelisiniz.

But because of who I am,

Fakat kim olduğuma göre,

young or old, black or white, gay or straight,

genç, yaşlı, siyah, beyaz, eşcinsel ya da değil,

I will value them differently.

her birini farklı değerlendireceğim.

And I will say, "Yes, this is true,

“Evet bu doğru, ancak

but this is more important to me than that."

diğeri benim için daha önemli.” diyeceğim.

And this is where it becomes interesting,

İşin ilginç tarafı tam burası,

because this is where we become human.

çünkü bizi insan yapan şey de bu.

This is when we start to argue, to form society.

Toplumu şekillendirmek için tartışmaya başladığımız yer burası.

And to really get somewhere, we need to filter all our facts here,

Bir yerlere varmak için gerçeklerimizi filtrelememiz gerekir.

through friends and neighbors and parents and children

Arkadaşlar, komşular, aileler, çocuklar,

and coworkers and newspapers and magazines,

iş arkadaşları, gazeteler, dergiler yardımıyla.

to finally be grounded in real knowledge,

Sonuçta gerçek bilgiye ulaşmak için,

which is something that a search engine is a poor help to achieve.

bir arama motorunun bunu başarmanızda çok az yardımı olabilecektir.

So, I promised you an example just to show you why it's so hard

Doğru, açık ve tarafsız bilgiyi elde etmenin neden

to get to the point of true, clean, objective knowledge --

bu kadar zor olduğunu bir örnekle size göstermek istiyorum.

as food for thought.

Konu üzerinde düşünmek için.

I will conduct a couple of simple queries, search queries.

Bazı basit arama sorguları yapacağım.

We'll start with "Michelle Obama,"

"Michelle Obama" ile başlayacağız.

the First Lady of the United States.

ABD'nin first lady’si.

And we'll click for pictures.

Görsellere tıklayacağız.

It works really well, as you can see.

Gördüğünüz üzere oldukça iyi çalışıyor.

It's a perfect search result, more or less.

Neredeyse mükemmel bir arama sonucu.

It's just her in the picture, not even the President.

Resimde sadece o var, başkan bile yok.

How does this work?

Nasıl çalışıyor?

Quite simple.

Oldukça basit.

Google uses a lot of smartness to achieve this, but quite simply,

Bir çok akıllıca yöntem kullanılıyor, ama basitleştirirsek,

they look at two things more than anything.

iki şeye diğerlerinden daha çok bakıyor.

First, what does it say in the caption under the picture on each website?

İlki, her bir internet sitesinde resmin altında ne yazdığı.

Does it say "Michelle Obama" under the picture?

Resmin altında "Michelle Obama" mı yazıyor?

Pretty good indication it's actually her on there.

Gerçekten onun olduğuna dair iyi bir gösterge.

Second, Google looks at the picture file,

İkinci olarak Google internet sitesine

the name of the file as such uploaded to the website.

yüklenen resim dosyasının adına bakıyor.

Again, is it called "MichelleObama.jpeg"?

"Michelle Obama.jpeg” mi denmiş?

Pretty good indication it's not Clint Eastwood in the picture.

Resimde Clint Eastwood olmadığına dair iyi bir gösterge.

So, you've got those two and you get a search result like this -- almost.

Böylece bu iki yöntemle böyle bir arama sonucuna ulaştınız -- neredeyse.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Michelle Obama 2009 yılında arama sonuçları üzerinden

ona hakaret etmek üzere ayarlanmış ırkçı bir kampanyanın mağduruydu.

where people set out to insult her through her search results.

There was a picture distributed widely over the Internet

İnternette yaygın olarak paylaşılan,

where her face was distorted to look like a monkey.

yüzünün maymuna benzetildiği, oynanmış bir resim vardı.

And that picture was published all over.

Bu resim her yerde yayınlandı.

And people published it very, very purposefully,

İnsanlar bilinçli bir şekilde,

o resmin arama sonuçlarında çıkması için uğraştılar.

to get it up there in the search results.

They made sure to write "Michelle Obama" in the caption

Resmin başlığına “Michelle Obama” yazdılar

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

ve resmi "MichelleObama.jpeg” veya benzer bir dosya adıyla yüklediler.

You get why -- to manipulate the search result.

Neden olduğunu anladınız, arama sonuçlarını manipüle etmek için.

And it worked, too.

İşe de yaradı.

So when you picture-Googled for "Michelle Obama" in 2009,

2009'da Google görsellerinde “Michelle Obama” aratıldığında,

that distorted monkey picture showed up among the first results.

üzerinde oynanmış o maymun resmi ilk sonuçlar arasında çıkıyordu.

Now, the results are self-cleansing,

Sonuçlar kendini yeniliyor

and that's sort of the beauty of it,

ve bu işin güzel tarafı,

because Google measures relevance every hour, every day.

çünkü Google her saat, her gün sonuçların uygunluğunu ölçmektedir.

However, Google didn't settle for that this time,

Ancak bu sefer Google bununla yetinmedi,

they just thought, "That's racist and it's a bad search result

şöyle düşündüler; “bu ırkçı ve kötü bir arama sonucu,

and we're going to go back and clean that up manually.

geriye dönüp bunu elle düzelteceğiz.

We are going to write some code and fix it,"

Bazı kodlar yazıp bunu düzelteceğiz.”,

which they did.

ki yaptılar da.

And I don't think anyone in this room thinks that was a bad idea.

Salonda hiç kimsenin bunun kötü bir fikir olduğunu düşündüğünü sanmıyorum.

Me neither.

Ben de dahil.

But then, a couple of years go by,

Ancak birkaç yıl sonra,

and the world's most-Googled Anders,

dünyanın en çok Google-lanan Anders’i,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

yapacağını yaptı.

This is July 22 in 2011,

22 Temmuz 2011’de

and a terrible day in Norwegian history.

Norveç tarihinin korkunç günlerinden biri.

This man, a terrorist, blew up a couple of government buildings

Terörist olan bu adam Oslo, Norveç'te şu an bulunduğumuz yere

walking distance from where we are right now in Oslo, Norway

yürüme mesafesinde olan bazı devlet binalarını havaya uçurdu;

and then he traveled to the island of Utøya

ve sonra Utøya Adasına gitti,

and shot and killed a group of kids.

bir grup çocuğa ateş etti ve onları öldürdü.

Almost 80 people died that day.

80'e yakın kişi o gün öldü.

And a lot of people would describe this act of terror as two steps,

Birçok insan bu terör hadisesini iki aşamalı tasvir ediyor,

that he did two things: he blew up the buildings and he shot those kids.

binaları patlattı ve o çocukları öldürdü.

It's not true.

Bu doğru değil.

It was three steps.

Üç aşamalı idi.

He blew up those buildings, he shot those kids,

O binaları patlattı, o çocukları öldürdü

and he sat down and waited for the world to Google him.

ve oturup dünyanın onu Google-lamasını bekledi.

And he prepared all three steps equally well.

Üç aşamayı da oldukça iyi hazırladı.

And if there was somebody who immediately understood this,

Eğer bunu hemen anlayan biri varsa,

it was a Swedish web developer,

o da İsveçli internet tasarımcısı,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

Stockholm’de arama motoru optimizasyonu uzmanı olan Nikke Lindqvist'tir.

He's also a very political guy

Aynı zamanda oldukça siyasi birisiydi.

and he was right out there in social media, on his blog and Facebook.

sosyal medyada bloğunu ve Facebook'u aktif kullanan biriydi.

And he told everybody,

Herkese şunu dedi:

"If there's something that this guy wants right now,

“Şu anda bu adamın yapmak istediği bir şey varsa,

it's to control the image of himself.

o da kendi imajını kontrol etmektir.

Let's see if we can distort that.

Bunu değiştirebilecek miyiz görelim.

Let's see if we, in the civilized world, can protest against what he did

Bakalım yaptığı eylemi medeni dünya olarak kendi arama sonuçlarında

through insulting him in his search results."

ona hakaret ederek protesto edebilecek miyiz?”

And how?

Peki nasıl?

He told all of his readers the following,

Tüm okurlarına şunları dedi,

"Go out there on the Internet,

“İnternete girin,

find pictures of dog poop on sidewalks --

kaldırım üzerinde köpek dışkısı resimleri bulun --

find pictures of dog poop on sidewalks --

kaldırım üzerinde köpek dışkısı resimleri bulun --

publish them in your feeds, on your websites, on your blogs.

yayınlarınızda, internet sitelerinizde ve bloglarınızda bunu yayınlayın.

Make sure to write the terrorist's name in the caption,

Resmin altına teröristin ismini yazdığınızdan emin olun,

make sure to name the picture file "Breivik.jpeg."

resim dosyasının adının “Breivik.jpeg” olduğundan emin olun.

Let's teach Google that that's the face of the terrorist."

Google’a teröristin yüzünün bu olduğunu öğretelim.”

And it worked.

Ve işe yaradı.

Two years after that campaign against Michelle Obama,

Michelle Obama’ya karşı yürütülen kampanyadan iki yıl sonra,

this manipulation campaign against Anders Behring Breivik worked.

Anders Behring Breivik'e karşı manipülasyon kampanyası işe yaradı.

If you picture-Googled for him weeks after the July 22 events from Sweden,

22 Temmuz'dan bir süre sonra İsveç’ten Google görsellerinde onu aratsaydınız,

you'd see that picture of dog poop high up in the search results,

arama sonuçlarının üst kısımlarında köpek dışkısı resmini görebilirdiniz,

as a little protest.

küçük bir protesto olarak.

Strangely enough, Google didn't intervene this time.

Garip bir şekilde Google bu kez müdahale etmedi.

They did not step in and manually clean those search results up.

Devreye girip arama sonuçlarını elle düzeltmediler.

So the million-dollar question,

Şimdi milyon dolarlık soru,

is there anything different between these two happenings here?

bu iki hadise arasında fark var mı?

Is there anything different between what happened to Michelle Obama

Michelle Obama’ya yapılan ile Anders Behring Breivik’e yapılan

and what happened to Anders Behring Breivik?

eylem arasında bir fark var mı?

Of course not.

Elbetteki yok.

It's the exact same thing,

Kesinlikle aynı şey

yet Google intervened in one case and not in the other.

ama bir durumda Google müdahale etti, diğerinde ise etmedi.

Why?

Neden?

Because Michelle Obama is an honorable person, that's why,

Çünkü Michelle Obama saygıdeğer bir insan, sebep bu

and Anders Behring Breivik is a despicable person.

ve Anders Breivik ise aşağılık bir insan.

See what happens there?

Ne olduğunu anlıyor musunuz?

An evaluation of a person takes place

Bir kişi değerlendiriliyor

and there's only one power-player in the world

ve dünya üzerinde kimin kim olduğunu

with the authority to say who's who.

söyleme otoritesine sahip tek bir güç var.

"We like you, we dislike you.

"Seni seviyoruz. Seni sevmiyoruz.

We believe in you, we don't believe in you.

Sana inanıyoruz. Sana inanmıyoruz.

You're right, you're wrong. You're true, you're false.

Haklısın. Haksızsın. Doğrusun. Yanlışsın.

Obama'sın. Breivik'sin.”

You're Obama, and you're Breivik."

That's power if I ever saw it.

Bu, eğer şu ana kadar gördüysem, gücün kendisidir.

So I'm asking you to remember that behind every algorithm

Sizden şunu hatırlamanızı rica ediyorum: her algoritmanın ardında

is always a person,

her zaman bir insan vardır.

a person with a set of personal beliefs

Hiçbir kodun tamamen yok edemeyeceği

that no code can ever completely eradicate.

bir takım kişisel değerleri olan birisi.

And my message goes out not only to Google,

Mesajım sadece Google’a değil,

but to all believers in the faith of code around the world.

aynı zamanda kodların doğruluğuna inananlaradır.

You need to identify your own personal bias.

Kişisel önyargılarınızı belirlemek zorundasınız.

You need to understand that you are human

İnsan olduğunuzu anlamanız

and take responsibility accordingly.

ve sorumluluğu ona göre almanız gerekiyor.

And I say this because I believe we've reached a point in time

Bunu şunun için söylüyorum: öyle bir noktaya geldik ki

when it's absolutely imperative

kesinlikle şu iki şeyi

that we tie those bonds together again, tighter:

sıkı bir şekilde tekrar bağlamak zorundayız, daha sıkı bir şekilde:

the humanities and the technology.

beşeri bilim ve teknolojiyi.

Tighter than ever.

Şimdiye kadarkinden daha da sıkı.

And, if nothing else, to remind us that that wonderfully seductive idea

Bir de muhteşem bir şekilde cezbediciliği olan

of the unbiased, clean search result

önyargısız, temiz arama sonucu fikrinin bir efsane olduğunu

is, and is likely to remain, a myth.

hatırlatmak istiyorum.

Thank you for your time.

Zamanınızı ayırdığınız için teşekkürler.

(Applause)

(Alkış)