The moral bias behind your search results | Andreas Ekström

Translator: Abe Felisa Reviewer: Dewi Barnas

So whenever I visit a school and talk to students,

Setiap kali saya mengunjungi sekolah dan bicara dengan pelajar,

I always ask them the same thing:

saya selalu bertanya hal yang sama pada mereka:

Why do you Google?

mengapa kamu meng-Google?

Why is Google the search engine of choice for you?

Mengapa mesin pencarian Google menjadi pilihanmu?

Strangely enough, I always get the same three answers.

Anehnya, saya selalu mendapat tiga jawaban sama.

One, "Because it works,"

Pertama, "Karena selalu berhasil,"

which is a great answer; that's why I Google, too.

yang mana itu jawaban bagus; itu juga kenapa saya meng-Google.

Two, somebody will say,

Kedua, akan ada yang bilang,

"I really don't know of any alternatives."

"Aku tak tahu alternatif lainnya."

It's not an equally great answer and my reply to that is usually,

Tidak sebagus jawaban sebelumnya, dan biasanya saya jawab

"Try to Google the word 'search engine,'

"Coba meng-Google kata 'mesin pencari,'

you may find a couple of interesting alternatives."

mungkin kamu bisa menemukan beberapa alternatif menarik."

And last but not least, thirdly,

Dan yang ketiga, dan selalu terjadi,

inevitably, one student will raise her or his hand and say,

seorang pelajar akan mengacungkan tangan dan berkata,

"With Google, I'm certain to always get the best, unbiased search result."

"Dengan Google, saya yakin

akan selalu mendapat hasil pencarian yang terbaik dan tak menyimpang."

Certain to always get the best, unbiased search result.

Yakin akan selalu mendapat hasil pencarian yang terbaik dan tak menyimpang.

Now, as a man of the humanities,

Nah, sebagai makhluk dengan kemanusiaan,

albeit a digital humanities man,

meskipun juga sebagai manusia digital,

that just makes my skin curl,

jawaban itu membuat saya miris,

even if I, too, realize that that trust, that idea of the unbiased search result

walau saya juga sadar bahwa pemikiran akan hasil pencarian yang tidak bias

is a cornerstone in our collective love for and appreciation of Google.

adalah dasar kecintaan dan penghargaan kita bersama pada Google.

I will show you why that, philosophically, is almost an impossibility.

Saya akan menunjukkan mengapa hal itu hampir tak mungkin secara filosofis.

But let me first elaborate, just a little bit, on a basic principle

Tapi mari saya jelaskan dulu sedikit,

prinsip dasar di balik setiap permintaan pencarian yang kadang kita lupakan.

behind each search query that we sometimes seem to forget.

So whenever you set out to Google something,

Setiap kali Anda akan meng-Google sesuatu,

start by asking yourself this: "Am I looking for an isolated fact?"

tanyakanlah pada diri Anda, "Apakah saya mencari fakta yang sudah pasti?"

What is the capital of France?

Apa ibu kota Perancis?

What are the building blocks of a water molecule?

Apa komponen pembangun molekul air?

Great -- Google away.

Bagus -- silahkan meng-Google.

There's not a group of scientists who are this close to proving

Tak ada ilmuwan yang mencoba membuktikan

that it's actually London and H30.

bahwa jawabannya adalah London dan H3O.

You don't see a big conspiracy among those things.

Tak ada konspirasi besar tentangnya.

We agree, on a global scale,

Kita setuju, secara global,

what the answers are to these isolated facts.

jawaban akan fakta yang sudah pasti tersebut.

But if you complicate your question just a little bit and ask something like,

Tapi jika Anda membuat pertanyaan yang sedikit lebih kompleks, seperti

"Why is there an Israeli-Palestine conflict?"

"Mengapa terjadi konflik Israel-Palestina?"

You're not exactly looking for a singular fact anymore,

Anda tak lagi mencari fakta tunggal,

you're looking for knowledge,

Anda mencari pengetahuan,

which is something way more complicated and delicate.

yang merupakan sesuatu yang lebih rumit dan pelik.

And to get to knowledge,

Dan untuk mencapai pengetahuan,

you have to bring 10 or 20 or 100 facts to the table

Anda harus menghadirkan 10, 20, bahkan 100 fakta,

and acknowledge them and say, "Yes, these are all true."

melihat semuanya dan berkata, "Ya, semua ini benar."

But because of who I am,

Tapi karena siapa saya,

young or old, black or white, gay or straight,

muda atau tua, hitam atau putih, homo atau tidak,

I will value them differently.

cara pandang saya akan berbeda.

And I will say, "Yes, this is true,

Dan saya akan bilang, "Ya, ini benar,

but this is more important to me than that."

tapi bagi saya, ini lebih penting dari itu."

And this is where it becomes interesting,

Di sinilah ini menjadi menarik,

because this is where we become human.

karena di sinilah kita menjadi manusia.

This is when we start to argue, to form society.

Di sinilah kita mulai berargumen, membentuk masyarakat.

And to really get somewhere, we need to filter all our facts here,

Dan untuk mencapai sesuatu, kita harus menyaring semua fakta,

through friends and neighbors and parents and children

lewat teman, tetangga, orangtua, anak-anak

and coworkers and newspapers and magazines,

rekan kerja, koran, dan majalah,

to finally be grounded in real knowledge,

sampai akhirnya mendapatkan pengetahuan yang sebenarnya,

yang mana mesin pencari tak bisa membantu kita.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Jadi, saya menjanjikan Anda contoh untuk menunjukkan mengapa sangat sulit

to get to the point of true, clean, objective knowledge --

mendapatkan pengetahuan yang benar, bersih, dan objektif --

as food for thought.

sebagai asupan untuk otak.

I will conduct a couple of simple queries, search queries.

Saya akan melakukan beberapa permintaan pencarian sederhana.

We'll start with "Michelle Obama,"

Kita mulai dengan "Michelle Obama,"

the First Lady of the United States.

Ibu Negara Amerika Serikat.

And we'll click for pictures.

Dan kita klik gambar.

It works really well, as you can see.

Berhasil, seperti yang Anda lihat.

It's a perfect search result, more or less.

Ini adalah hasil pencarian yang sempurna, kurang lebih.

It's just her in the picture, not even the President.

Hanya fotonya sendiri, bahkan tak ada yang dengan Presiden.

How does this work?

Bagaimana cara kerjanya?

Quite simple.

Sederhana saja.

Google uses a lot of smartness to achieve this, but quite simply,

Google sangat pintar untuk sampai ke sini, tapi sederhananya,

they look at two things more than anything.

Google melihat pada dua hal utama.

First, what does it say in the caption under the picture on each website?

Pertama, apa kata teks di bawah gambar pada setiap situs?

Does it say "Michelle Obama" under the picture?

Apakah tertulis "Michelle Obama" di bawah gambar?

Pretty good indication it's actually her on there.

Indikasi yang cukup bagus, ini betul gambarnya.

Second, Google looks at the picture file,

Kedua, Google melihat pada file gambar,

the name of the file as such uploaded to the website.

nama file yang diunggah di situs.

Again, is it called "MichelleObama.jpeg"?

Sekali lagi, apakah namanya "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Indikasi yang cukup bagus, ini bukan gambar Clint Eastwood.

So, you've got those two and you get a search result like this -- almost.

Jadi dengan kedua hal itu,

Anda akan mendapat hasil pencarian seperti ini -- hampir selalu.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Nah, di tahun 2009, Michelle Obama menjadi korban kampanye rasial,

where people set out to insult her through her search results.

di mana ada orang-orang yang ingin menghinanya lewat hasil pencarian.

There was a picture distributed widely over the Internet

Ada gambar yang disebarluaskan di Internet

where her face was distorted to look like a monkey.

di mana wajahnya diubah menjadi seperti monyet.

And that picture was published all over.

Dan gambar itu disebarkan di mana-mana.

Dan orang menyebarkannya secara sengaja,

And people published it very, very purposefully,

to get it up there in the search results.

agar muncul di hasil pencarian.

They made sure to write "Michelle Obama" in the caption

Mereka memastikan, judul gambarnya tertulis "Michelle Obama"

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

dan mengunggah gambarnya sebagai "MichelleObama.jpeg," atau semacamnya.

You get why -- to manipulate the search result.

Anda tahu mengapa -- untuk memanipulasi hasil pencarian.

And it worked, too.

Dan berhasil.

So when you picture-Googled for "Michelle Obama" in 2009,

Jadi ketika meng-Google gambar "Michelle Obama" tahun 2009,

that distorted monkey picture showed up among the first results.

gambar monyet terdistorsi itu muncul di antara hasil utama.

Now, the results are self-cleansing,

Nah, hasilnya bersih sendiri,

and that's sort of the beauty of it,

dan di situlah keindahannya,

because Google measures relevance every hour, every day.

karena Google mengecek relevansi setiap jam, setiap hari.

However, Google didn't settle for that this time,

Tapi, Google tak menggunakannya kali ini,

they just thought, "That's racist and it's a bad search result

mereka berpikir, "Ini rasis dan hasil pencarian yang buruk

and we're going to go back and clean that up manually.

dan kami akan mengembalikan dan membersihkannya secara manual.

We are going to write some code and fix it,"

Kami akan menulis kode dan memperbaikinya,"

which they did.

dan mereka melakukannya.

And I don't think anyone in this room thinks that was a bad idea.

Dan saya rasa tak seorangpun di sini berpendapat itu ide yang buruk.

Me neither.

Saya juga tidak.

But then, a couple of years go by,

Tapi kemudian, beberapa tahun berlalu,

and the world's most-Googled Anders,

dan Anders yang paling sering di-Google di dunia,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

melakukan suatu hal.

This is July 22 in 2011,

Ini 22 Juli 2011

and a terrible day in Norwegian history.

dan suatu hari yang buruk dalam sejarah Norwegia.

This man, a terrorist, blew up a couple of government buildings

Pria ini, seorang teroris, mengebom beberapa bangungan pemerintah

walking distance from where we are right now in Oslo, Norway

tak jauh dari tempat kita berada saat ini di Oslo, Norwegia

and then he traveled to the island of Utøya

lalu ia pergi ke Pulau Utøya

and shot and killed a group of kids.

dan menembak dan membunuh sekelompok anak.

Almost 80 people died that day.

Hampir 80 orang tewas pada hari itu.

And a lot of people would describe this act of terror as two steps,

Dan banyak orang menggambarkan aksi teror ini sebagai dua langkah,

that he did two things: he blew up the buildings and he shot those kids.

bahwa ia melakukan dua hal: meledakkan gedung dan menembak anak-anak.

It's not true.

Itu tak benar.

It was three steps.

Ada tiga langkah.

He blew up those buildings, he shot those kids,

Ia meledakkan gedung, menembak anak-anak,

and he sat down and waited for the world to Google him.

dan ia duduk dan menunggu dunia meng-Googlenya

And he prepared all three steps equally well.

Dan ia mempersiapkan ketiga langkah ini sama baiknya.

And if there was somebody who immediately understood this,

Dan jika ada yang cepat memahami hal ini,

ia adalah pengembang situs Swedia,

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

ahli optimasi mesin pencari di Stockholm, yang bernama Nikke Lindqvist.

He's also a very political guy

Ia juga orang yang amat gemar politik

and he was right out there in social media, on his blog and Facebook.

dan ia ada di media sosial, di blognya dan Facebook.

And he told everybody,

Dia bilang ke semua orang,

"If there's something that this guy wants right now,

"Jika ada sesuatu yang diinginkan orang ini sekarang,

it's to control the image of himself.

itu adalah mengendalikan citra dirinya.

Let's see if we can distort that.

Mari lihat, apakah kita dapat mengubahnya.

Let's see if we, in the civilized world, can protest against what he did

Mari lihat, apakah kita di dunia beradab, bisa memprotes tindakannya

through insulting him in his search results."

dengan menghinanya pada hasil pencariannya."

And how?

Dan bagaimana caranya?

He told all of his readers the following,

Ia mengatakan pada seluruh pembacanya,

"Go out there on the Internet,

"Bukalah Internet,

find pictures of dog poop on sidewalks --

cari gambar kotoran anjing di pinggir jalan --

find pictures of dog poop on sidewalks --

cari gambar kotoran anjing di pinggir jalan --

publish them in your feeds, on your websites, on your blogs.

sebarkan di feed Anda, situs web Anda, di blog Anda.

Make sure to write the terrorist's name in the caption,

Pastikan nama si teroris tertulis pada teksnya,

make sure to name the picture file "Breivik.jpeg."

pastikan untuk menamai gambarnya "Breivik.jpeg."

Let's teach Google that that's the face of the terrorist."

Mari kita ajarkan pada Google, itulah wajah si "teroris."

And it worked.

Dan berhasil.

Two years after that campaign against Michelle Obama,

Dua tahun setelah kampanye terhadap Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

kampanye manipulasi terhadap Anders Behring Breivik berhasil.

Jika Anda meng-Google gambarnya

If you picture-Googled for him weeks after the July 22 events from Sweden,

beberapa minggu setelah kejadian 22 Juli dari Swedia,

you'd see that picture of dog poop high up in the search results,

Anda akan melihat gambar kotoran anjing muncul di hasil pencarian,

as a little protest.

sebagai protes kecil.

Strangely enough, Google didn't intervene this time.

Anehnya, Google tak ikut campur kali ini.

They did not step in and manually clean those search results up.

Mereka tak bergerak dan membersihkan hasil pencariannya secara manual.

So the million-dollar question,

Jadi pertanyaan besarnya,

is there anything different between these two happenings here?

apakah ada yang berbeda antara kedua kejadian ini?

Is there anything different between what happened to Michelle Obama

Apakah ada yang berbeda antara yang terjadi pada Michelle Obama

and what happened to Anders Behring Breivik?

dengan Anders Behring Breivik?

Of course not.

Tentu tidak.

It's the exact same thing,

Keduanya sama saja,

yet Google intervened in one case and not in the other.

tapi Google ikut campur di satu kasus dan membiarkan yang satunya.

Why?

Mengapa?

Because Michelle Obama is an honorable person, that's why,

Karena Michelle Obama adalah orang terhormat, itu sebabnya,

and Anders Behring Breivik is a despicable person.

dan Anders Behring Breivik adalah orang yang keji.

See what happens there?

Lihat yang terjadi di sini?

An evaluation of a person takes place

Evaluasi terhadap seseorang terjadi

and there's only one power-player in the world

dan hanya ada satu pemain berkuasa di dunia

with the authority to say who's who.

yang memiliki otoritas untuk mengatakan siapa yang mana.

"We like you, we dislike you.

"Kami suka Anda, kami tak suka Anda.

We believe in you, we don't believe in you.

Kami percaya Anda, kami tak percaya Anda.

You're right, you're wrong. You're true, you're false.

Anda benar, Anda salah. Anda jujur, Anda bohong.

Anda Obama, dan Anda Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Itulah kekuasaan dari sudut pandang saya.

So I'm asking you to remember that behind every algorithm

Jadi saya meminta Anda untuk mengingat bahwa di balik setiap algoritma

is always a person,

selalu ada seorang manusia,

a person with a set of personal beliefs

seseorang dengan sepaket keyakinan pribadi

that no code can ever completely eradicate.

yang tak bisa benar-benar dihapus oleh kode apapun.

And my message goes out not only to Google,

Dan pesan saya, tak hanya pada Google,

tapi pada semua orang yang beriman pada kode di seluruh dunia.

but to all believers in the faith of code around the world.

You need to identify your own personal bias.

Anda perlu mengidentifikasi penyimpangan Anda sendiri.

You need to understand that you are human

Anda perlu memahami bahwa Anda manusia

and take responsibility accordingly.

dan bertanggung jawab atasnya.

And I say this because I believe we've reached a point in time

Dan saya mengatakannya karena saya percaya kita telah sampai

when it's absolutely imperative

pada saat yang sangat mendesak

that we tie those bonds together again, tighter:

untuk menyatukan ikatan kita bersama sekali lagi, lebih erat:

the humanities and the technology.

kemanusiaan dan teknologi.

Tighter than ever.

Lebih erat lagi.

And, if nothing else, to remind us that that wonderfully seductive idea

Dan jika tak ada yang mengingatkan kita

akan ide menarik mengenai hasil pencarian yang bersih dan tak menyimpang,

of the unbiased, clean search result

is, and is likely to remain, a myth.

maka ia sepertinya akan tetap menjadi suatu mitos.

Thank you for your time.

Terima kasih atas waktu Anda.

(Applause)

(Tepuk tangan)