The moral bias behind your search results | Andreas Ekström

Translator: sayed ali hesamzadeh Reviewer: Leila Ataei

So whenever I visit a school and talk to students,

من هر موقع به مدرسه‌ای می‌روم و با دانش‌آموزها حرف میزنم

I always ask them the same thing:

همیشه یک سوال را می‌پرسم:

چرا از گوگل استفاده می‌کنید؟

Why do you Google?

Why is Google the search engine of choice for you?

چرا گوگل، موتور جستجوگر انتخابی شماست؟

عجیب است که هر دفعه ۳ جواب مشابه می‌گیرم.

Strangely enough, I always get the same three answers.

یک، "چون جواب می‌ده"

One, "Because it works,"

که خیلی جواب خوبیه ؛ من هم به همین دلیل از گوگل استفاده می‌کنم

which is a great answer; that's why I Google, too.

دوم، یک نفر خواهد گفت،

Two, somebody will say,

"I really don't know of any alternatives."

"من واقعاً گزینۀ دیگه‌ای نمی‌شناسم".

که خیلی پاسخ خوبی نیست و من معمولا اینطور جواب می‌دم که :

It's not an equally great answer and my reply to that is usually,

"Try to Google the word 'search engine,'

"سعی کن کلمۀ «موتور جستجو» رو گوگل کنی،

you may find a couple of interesting alternatives."

ممکنه جایگزین‌های جالبی پیدا کنی"

و سومی که آخرین اما بی‌اهمیت‌ترین نیست،

And last but not least, thirdly,

دانش‌آموزی دستش رو بلند می‌کنه و میگه،

inevitably, one student will raise her or his hand and say,

"با گوگل، همیشه مطمئنم که بهترین نتیجه بی‌طرفانه رو می‌گیرم"

"With Google, I'm certain to always get the best, unbiased search result."

همیشه مطمئن‎ترین راه برای یافتن بهترین نتیجۀ بی‌طرفانه است.

Certain to always get the best, unbiased search result.

Now, as a man of the humanities,

حالا، به عنوان فرد متخصص در علوم انسانی

albeit a digital humanities man,

البته متخصص در علوم انسانی دیجیتالی،

that just makes my skin curl,

این جواب از وحشت من رو مورمور می‌کنه،

even if I, too, realize that that trust, that idea of the unbiased search result

حتی اگه این رو بفهمم که آن اطمینان و ایدۀ بی طرفانه بودن نتایج

برای نشان دادن علاقه و قدردانی ما به گوگل خیلی مهمه.

is a cornerstone in our collective love for and appreciation of Google.

I will show you why that, philosophically, is almost an impossibility.

می‎تونم بهتون نشون بدم که به طور منطقی تقریباً غیر ممکنه.

But let me first elaborate, just a little bit, on a basic principle

اما اجازه بدید اول توضیح بیشتری بدم راجع به اصول اولیه‎ای

behind each search query that we sometimes seem to forget.

که پشت هر درخواست جستجو وجود داره و ما گاهی اونها رو فراموش می‎کنیم.

So whenever you set out to Google something,

خب هر موقع که شما شروع به جستجو چیزی در گوگل می‎کنید،

start by asking yourself this: "Am I looking for an isolated fact?"

اول از خودتون بپرسید: «آیا من دنبال یک حقیقت ثابت هستم"

What is the capital of France?

پایتخت فرانسه کجاست؟

What are the building blocks of a water molecule?

ساختار مولکولی آب چیست؟

Great -- Google away.

عالیه -- به گوگل کردن ادامه بدید.

There's not a group of scientists who are this close to proving

گروه‎ای از دانشمندان نیستند که

پی ثابت کردن این باشند که لندن و H30 است.

that it's actually London and H30.

در این مسائل زد و بندی وجود نداره.

You don't see a big conspiracy among those things.

We agree, on a global scale,

ما در همه جای دنیا قبول داریم

what the answers are to these isolated facts.

که جواب این مدل واقعیتهای ثابت چیه.

But if you complicate your question just a little bit and ask something like,

اما اگه یه مقدار سوال رو پیچیده کنید وچیزی مثل این بپرسید،

"Why is there an Israeli-Palestine conflict?"

"درگیری اسراییل و فلسطین برای چیست؟"

You're not exactly looking for a singular fact anymore,

شما دیگه دنبال یک جواب ثابت نیستید،

you're looking for knowledge,

شما اطلاعاتی می خواهید که

which is something way more complicated and delicate.

یک جورایی پیچیده‎تر و ریزبینانه‎تره.

And to get to knowledge,

و برای رسیدن به این دانش،

you have to bring 10 or 20 or 100 facts to the table

شما باید ۱۰ یا ۲۰ یا ۱۰۰ مدل حقیقت رو بررسی کنید

و درستی آنها رو قبول کنید و بگید، "آره، همۀ اینا درسته."

and acknowledge them and say, "Yes, these are all true."

اما نسبت به اینکه من چه کسی هستم

But because of who I am,

young or old, black or white, gay or straight,

جوان یا پیر، سفید یا سیاه، همجنسباز یا دگرجنسخواه،

I will value them differently.

آنها رو متفاوت ارزشگذاری می‎کنم.

And I will say, "Yes, this is true,

واینطور خواهم گفت،"بله،این درسته،

but this is more important to me than that."

اما این از آن برام مهم‎تره"

And this is where it becomes interesting,

و اینجاست که موضوع جالب می‎شه،

because this is where we become human.

چون اینجاست که ما تبدیل به انسان می‎شویم.

This is when we start to argue, to form society.

اینجا ما بحث کردن رو شروع می‎کنیم تا اجتماعی روشکل دهیم.

And to really get somewhere, we need to filter all our facts here,

و اگر واقعا بخواهیم به نتیجه‎ای برسیم لازمه همینجا همه حقایق رو فیلتر کنیم‎،

through friends and neighbors and parents and children

از طریق دوستان، همسایه‎ها والدین و بچه‎ها

and coworkers and newspapers and magazines,

و همکاران و روزنامه‎ها و مجله‎ها،

to finally be grounded in real knowledge,

تا بالاخره به آن دانش واقعی برسیم.

which is something that a search engine is a poor help to achieve.

دانشی که یه موتور جستجو کمک خیلی کمی برای رسیدن بهش می کنه.

So, I promised you an example just to show you why it's so hard

خب، من قول دادم یک مثال بزنم تا نشان بدم چرا اینقدر سخته که

to get to the point of true, clean, objective knowledge --

به یک دانش حقیقی، پاک و عملی برسیم--

as food for thought.

بعنوان غذای برای روح.

I will conduct a couple of simple queries, search queries.

چندتایی موضوع ساده را برای جستجو طرح می کنم.

We'll start with "Michelle Obama,"

با " میشل اوباما " شروع می کنیم،

the First Lady of the United States.

بانوی اول ایالات متحده آمریکا.

And we'll click for pictures.

بر روی قسمت عکسها کلیک می‎کنیم.

همانطور که می‎بینید همه چی خوبه.

It works really well, as you can see.

It's a perfect search result, more or less.

این کم و بیش نتیجه‎ای عالی برای جستجوست.

It's just her in the picture, not even the President.

فقط و فقط عکسهای میشل اوباما، حتی بدون رئیس جمهور.

How does this work?

این چطوری کار می کنه؟

Quite simple.

خیلی ساده است.

Google uses a lot of smartness to achieve this, but quite simply,

گوگل برای این کار از هوش زیادی استفاده می‎کنه ولی خیلی ساده است،

they look at two things more than anything.

آنها به دو چیز بیشتر از هر چیز دیگه نگاه می‎کنند.

First, what does it say in the caption under the picture on each website?

اول، در هر وبسایتی چه چیزی در توضیح زیر عکس نوشته شده؟

آیا کلمۀ "میشل اوباما" زیر عکس آورده شده؟

Does it say "Michelle Obama" under the picture?

Pretty good indication it's actually her on there.

معیار خیلی خوبی که نشون می‎ده واقعاً خود او تو این عکسهاست.

Second, Google looks at the picture file,

دوم، گوگل به فایل عکس نگاه می‎کنه،

the name of the file as such uploaded to the website.

نام فایل همونطور که در سایت آپلود شده.

Again, is it called "MichelleObama.jpeg"?

دوباره، آیا نام فایل «MichelleObama.jpeg»هست؟

Pretty good indication it's not Clint Eastwood in the picture.

نشانه خوبیه که این عکس کلینت ایستوود نیست.

So, you've got those two and you get a search result like this -- almost.

پس، شما با این دو تا به جواب جستجوی خود می‎رسید-- تقریباً.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

حالا، در سال ۲۰۰۹، میشل اوباما قربانی یک کمپین نژادپرستانه شد،

where people set out to insult her through her search results.

و مردم ازطریق نتایج جستجوی اسمش توهین به او رو شروع کردند.

There was a picture distributed widely over the Internet

یه عکسی به طور گسترده در اینترنت پخش شد که

where her face was distorted to look like a monkey.

چهره او به صورت میمون درست شده بود.

And that picture was published all over.

و آن عکس همه جا منتشر شد.

And people published it very, very purposefully,

و مردم خیلی هدفمند آن رو منتشر کردند،

to get it up there in the search results.

که در نتایج جستجو دیده بشه.

They made sure to write "Michelle Obama" in the caption

آنها از این مطمئن شدن که در موضوع عکس "میشل اوباما" نوشته شده

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

و اینکه عکس رو با فایل "MichelleObama.jpeg" یا چیزی شبیه به این آپلود کنند.

You get why -- to manipulate the search result.

شما دلیلش رو می‎دونید -- که نتایج سرچ رو دستکاری کنند.

And it worked, too.

که عملی هم شد.

So when you picture-Googled for "Michelle Obama" in 2009,

پس وفتی عکس میشل اوباما رو درسال ۲۰۰۹ گوگل می‎کردی،

that distorted monkey picture showed up among the first results.

عکس اون میمون دستکاری شده جزء اولین نتایج جستجو بود.

Now, the results are self-cleansing,

حالا، نتایج خود به خود پاکسازی می‎شوند،

and that's sort of the beauty of it,

و این یک جورایی زیبایی قضیه است،

because Google measures relevance every hour, every day.

چون گوگل هر روز و هر ساعت روابط رو می سنجه.

However, Google didn't settle for that this time,

به هر حال، گوگل اینبار بیکار نماند،

they just thought, "That's racist and it's a bad search result

آنها فکر کردند، "این قضیه نژاد‎پرستی است، پس این نتایج جستجو خوب نیستند،

and we're going to go back and clean that up manually.

و آنها رو باید به صورت دستی پاک کنیم.

We are going to write some code and fix it,"

ما یک سری کدها رو می‎نویسیم و آن رو درستش می‎کنیم"

which they did.

و این کارو کردن

And I don't think anyone in this room thinks that was a bad idea.

و فکر نمی‎کنم کسی تو این اتاق فکر کنه که ایدۀ بدی بوده.

Me neither.

منم فکر نمی‎کنم.

But then, a couple of years go by,

اما بعدها، چندین سال که می‎گذره،

and the world's most-Googled Anders,

و آندرس، بیشترین اسم گوگل شده در جهان،

Anders Behring Breivik,

آندرس برینگ بریویک،

did what he did.

این کار رو انجام داد.

This is July 22 in 2011,

۲۲ ژوئیه ۲۰۱۱،

and a terrible day in Norwegian history.

یه روز وحشتناک در تاریخ نروژه.

This man, a terrorist, blew up a couple of government buildings

این مرد تروریست، چندین ساختمان دولتی رو منفجر کرد

walking distance from where we are right now in Oslo, Norway

که از جایی که ما الان هستیم، اسلو، نروژ فاصله ای ندارد.

and then he traveled to the island of Utøya

و بعدش به جزیره اوتوئیا می‎ره

and shot and killed a group of kids.

و به گروهی از کودکان تیرانداری می‎کنه و آنها رو می‎کشه.

Almost 80 people died that day.

.نزدیک به ۸۰ نفر آن روز مردند.

And a lot of people would describe this act of terror as two steps,

خیلی‎ها این حرکت تروریستی رو در دو مرحله تشریح کردند،

that he did two things: he blew up the buildings and he shot those kids.

او دو کار انجام داد: ساختمان ها رو منفجرکرد و به اون بچه ها شلیک کرد.

It's not true.

این درست نیست.

It was three steps.

سه مرحله وجود داشت.

He blew up those buildings, he shot those kids,

او ساختمانها رو منفجر کرد، به آن بچه‎ها شلیک کرد،

and he sat down and waited for the world to Google him.

و نشست و منتظر ماند تا دنیا در گوگل جستجوش کنه.

و آن هر سه مرحله رو به خوبی انجام داد.

And he prepared all three steps equally well.

And if there was somebody who immediately understood this,

و اگر کسی بود که این رو به سرعت متوجه شه،

it was a Swedish web developer,

یک سازنده وب سوئدی بود،

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

یک متخصص بهینه‎ساز وب در استکهلم، به نام Nikke Lindqvist.

He's also a very political guy

علاوه بر این او بسیار سیاستمدار بود

and he was right out there in social media, on his blog and Facebook.

و او به درستی در رسانه‎های اجتماعی، در وب سایت خودش و فیس بوک حضور داشت،

And he told everybody,

و به همه گفت

"If there's something that this guy wants right now,

«اگر چیزی باشد که این شخص همین الان آن رو بخواهد،

it's to control the image of himself.

کنترل وجهه شخصیش هست.

Let's see if we can distort that.

بگذارید اگر می‎تونیم او رو خراب کنیم

Let's see if we, in the civilized world, can protest against what he did

بگذارید اگر می‎تونیم در این جهان متمدن، اعتراض خود رو نسبت به اعمالش اعلام کنیم

از طریق توهین کردن به نتایج جستجوی نامش.»

through insulting him in his search results."

And how?

و چطور ممکن بود؟

He told all of his readers the following,

او به همه خوانندگانش این مطالب رو گفته،

"Go out there on the Internet,

« به اینترنت بروید،

find pictures of dog poop on sidewalks --

تصاویر کثافت کاری سگ در پیاده روها رو پیدا کنید--

find pictures of dog poop on sidewalks --

تصاویر کثافت کاری سگ در پیاده روها رو پیدا کنید--

publish them in your feeds, on your websites, on your blogs.

و آن رو در وب سایتها و بلاگها منتشر کنید.

Make sure to write the terrorist's name in the caption,

مطمئن شوید که نام تروریست رو در عنوان بنویسید،

make sure to name the picture file "Breivik.jpeg."

مطمئن شوید که نام فایل تصویر "Breivik.jpeg" هست

Let's teach Google that that's the face of the terrorist."

بزارید به گوگل بفهمانیم که این تصویر تروریست است.»

And it worked.

و این جواب میده.

Two years after that campaign against Michelle Obama,

دو سال بعد از آن کمپین علیه میشل اوباما،

this manipulation campaign against Anders Behring Breivik worked.

این کمپین علیه آندرس برینگ بریویک، جواب داد.

If you picture-Googled for him weeks after the July 22 events from Sweden,

اگر شما تصویر او رو برای اتفاق ۲۲ ژوئیه سوئد جستجو کنید

you'd see that picture of dog poop high up in the search results,

خواهید دید که تصاویر کثافت کاری سگها تعداد زیادی از نتایج را شامل می‎شود،

as a little protest.

به همراه کمی اعتراض.

Strangely enough, Google didn't intervene this time.

و اتفاقا گوگل این بار مداخله نکرده است.

They did not step in and manually clean those search results up.

آنها مداخله نکردند و به صورت دستی نتایج جستجو رو پاک نکردند.

So the million-dollar question,

خب سوال با ارزشی که مطرح میشه،

is there anything different between these two happenings here?

آیا واقعا تفاوتی بین این دو اتفاق وجود دارد؟

Is there anything different between what happened to Michelle Obama

آیا تفاوتی بین آنچه برای میشل اوباما

and what happened to Anders Behring Breivik?

و آندرس برینگ بریویک، اتفاق افتاد وجود دارد

Of course not.

مسلما نه

It's the exact same thing,

انها کاملا یکسان بودند

yet Google intervened in one case and not in the other.

در حالی که گوگل در یکی مداخله کرد و در دیگری نه

Why?

چرا؟

Because Michelle Obama is an honorable person, that's why,

چون میشل اوباما شخص قابل احترامی است،

and Anders Behring Breivik is a despicable person.

و آندرس برینگ بریویک شخصی‎ نفرت‎انگیز.

ببینید آنجا چه اتفاقی افتاد.

See what happens there?

An evaluation of a person takes place

ارزیابی یک شخص اتفاق می‎افتد

and there's only one power-player in the world

و فقط یک بازیگر قدرتمند در جهان وجود دارد

with the authority to say who's who.

با این مرجعیت که بگوید کی به کیست.

"We like you, we dislike you.

«ما شما رو دوست داریم، ما شما رو دوست نداریم.

We believe in you, we don't believe in you.

ما به شما اعتقاد داریم، ما به شما اعتقاد نداریم.

You're right, you're wrong. You're true, you're false.

حق با شماست، حق با شما نیست. شما اشتباه می‎کنید یا درست می‎گویید.

شما اوباما هستید، و شما بریویک.»

You're Obama, and you're Breivik."

That's power if I ever saw it.

این قدرت است اگر قادر به دیدنش باشیم.

So I'm asking you to remember that behind every algorithm

حالا از شما میخوام که این رو بخاطر بسپرید که پشت هر الگوریتمی

is always a person,

همیشه یک شخصی هست،

a person with a set of personal beliefs

شخصی با یک سری اعتقادات فردی

that no code can ever completely eradicate.

که هیچ کدی توان حذف کردن آن رو نداره.

And my message goes out not only to Google,

و پیام من نه تنها برای گوگل هست

but to all believers in the faith of code around the world.

بلکه برای تمام باورمندان آن کد در سراسر جهان است.

You need to identify your own personal bias.

شما باید تمایلات خودتون رو مشخص کنید.

You need to understand that you are human

شما باید بدونید که یک انسان هستید

and take responsibility accordingly.

و متعاقبا مسئولیتش رو قبول کنید

And I say this because I believe we've reached a point in time

و به این دلیل این رو میگم چون باور دارم به این خواهم رسید.

when it's absolutely imperative

زمانی که کاملا ضروریه

that we tie those bonds together again, tighter:

و ما این پیوندها را محکم‎تر از قبل کردیم:

the humanities and the technology.

انسانیت و فناوری.

Tighter than ever.

محکمتر از همیشه.

And, if nothing else, to remind us that that wonderfully seductive idea

و اگر هیچ چیز دیگر نباشد برای یادآوری این ایدهاغوا کننده

of the unbiased, clean search result

برای داشتن جستجویی بدون جهت‎گیری و پاک

is, and is likely to remain, a myth.

و احتمالا برای یاداوری این که یک افسانه است.

Thank you for your time.

ممنون از وقت شما.

(Applause)

(تشویق)