The moral bias behind your search results | Andreas Ekström

Prevodilac: Tijana Mihajlović Lektor: Ivana Krivokuća

Када год посетим школу и причам са ученицима,

So whenever I visit a school and talk to students,

I always ask them the same thing:

увек их питам исту ствар:

Why do you Google?

зашто гуглате?

Why is Google the search engine of choice for you?

Зашто је Гугл претраживач који сте изабрали?

Strangely enough, I always get the same three answers.

Зачудо, увек добијем три иста одговора.

One, "Because it works,"

Један је: „Зато што функционише“,

which is a great answer; that's why I Google, too.

што је сјајан одговор; због тога и сам гуглам.

Two, somebody will say,

Као други одговор, неко ће рећи:

"I really don't know of any alternatives."

„Заиста не знам за другу могућност.“

It's not an equally great answer and my reply to that is usually,

То није једнако добар одговор и обично на то одговорим:

"Try to Google the word 'search engine,'

„Покушајте да изгуглате реч ’претраживач’.

you may find a couple of interesting alternatives."

Можда пронађете пар интересантних опција.“

And last but not least, thirdly,

Као последњи, али не и најмање важан,

трећи одговор - неизбежно се јави један од ученика и каже:

inevitably, one student will raise her or his hand and say,

"With Google, I'm certain to always get the best, unbiased search result."

„Уз Гугл сам сигуран да ћу увек добити најбоље, непристрасне резултате претраге.“

Certain to always get the best, unbiased search result.

Сигуран сам да ћу увек добити најбоље, непристрасне резултате претраге.

Now, as a man of the humanities,

Пошто сам човек који се бави хуманистичким наукама,

albeit a digital humanities man,

додуше, дигиталним хуманистичким наукама,

that just makes my skin curl,

од тога се просто јежим,

even if I, too, realize that that trust, that idea of the unbiased search result

иако и сам схватам да је поверење,

идеја о непристрасним резултатима претраге,

is a cornerstone in our collective love for and appreciation of Google.

камен темељац наше колективне љубави и уважавања Гугла.

I will show you why that, philosophically, is almost an impossibility.

Показаћу вам због чега то, филозофски гледано, скоро да није могуће.

But let me first elaborate, just a little bit, on a basic principle

Дозволите ми да, пре свега, укратко изложим основни принцип

behind each search query that we sometimes seem to forget.

који стоји иза сваког упита за претрагу, а који изгледа понекад заборављамо.

So whenever you set out to Google something,

Дакле, када год почнете да гуглате нешто,

start by asking yourself this: "Am I looking for an isolated fact?"

започните тако што ћете се запитати: „Да ли тражим изоловану чињеницу?“

What is the capital of France?

Који је главни град Француске?

What are the building blocks of a water molecule?

Шта су градивне јединице молекула воде?

Great -- Google away.

Сјајно. Изгуглајте то.

There's not a group of scientists who are this close to proving

Не постоји група научника која је на корак од доказивања

that it's actually London and H30.

да су то заправо Лондон или H3O.

You don't see a big conspiracy among those things.

Не видите велику заверу међу овим стварима.

We agree, on a global scale,

У глобалу се слажемо

what the answers are to these isolated facts.

који су одговори на ове изоловане чињенице.

But if you complicate your question just a little bit and ask something like,

Међутим, ако мало закомпликујете питање и упитате нешто као што је:

"Why is there an Israeli-Palestine conflict?"

„Зашто постоји израелско-палестински конфликт?“,

You're not exactly looking for a singular fact anymore,

више не тражите појединачну, изоловану чињеницу;

you're looking for knowledge,

тражите знање, а то је нешто много компликованије и деликатније.

which is something way more complicated and delicate.

And to get to knowledge,

Да бисте стигли до знања, међутим,

you have to bring 10 or 20 or 100 facts to the table

морате да прикупите 10, 20 или 100 чињеница,

and acknowledge them and say, "Yes, these are all true."

да их потврдите и кажете: „Да, све су оне истините.“

But because of who I am,

Међутим, због онога ко сам -

young or old, black or white, gay or straight,

млад или стар, црн или бео, хомосексуалац или хетеросексуалац -

I will value them differently.

различито ћу их вредновати

And I will say, "Yes, this is true,

и рећи: „Да, ово је тачно, али ми је ово важније од тога.“

but this is more important to me than that."

And this is where it becomes interesting,

Овде ствари постају интересантне

because this is where we become human.

јер на овом месту постајемо људска бића.

This is when we start to argue, to form society.

У овом тренутку започињемо неслагања, формирање друштва,

And to really get somewhere, we need to filter all our facts here,

а да бисмо заиста напредовали, треба да профилтрирамо чињенице овде,

through friends and neighbors and parents and children

кроз пријатеље, суседе, родитеље, децу,

and coworkers and newspapers and magazines,

колеге, новине и часописе,

to finally be grounded in real knowledge,

да бисмо коначно били утемељени у истинском знању,

за које су нам претраживачи од мале користи.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Па, обећао сам вам пример

само да бих вам показао зашто је толико тешко

to get to the point of true, clean, objective knowledge --

стићи до правог, чистог, објективног знања -

као храна за мисли.

as food for thought.

I will conduct a couple of simple queries, search queries.

Спровешћу неколико једноставних упита.

We'll start with "Michelle Obama,"

Започећемо са „Мишел Обамом“,

the First Lady of the United States.

првом дамом Сједињених Држава.

And we'll click for pictures.

Кликнућемо на претрагу слика.

It works really well, as you can see.

Функционише добро, као што видите.

It's a perfect search result, more or less.

Ово је мање-више савршени резултат претраге.

It's just her in the picture, not even the President.

Само је она на слици; нема чак ни председника.

How does this work?

Како ово функционише?

Quite simple.

Прилично једноставно.

Google uses a lot of smartness to achieve this, but quite simply,

Гугл користи приличну виспреност да би постигао ово,

али прилично једноставно - примећују две ствари више него остале.

they look at two things more than anything.

First, what does it say in the caption under the picture on each website?

Као прво, како гласи наслов испод сваке слике на сваком вебсајту?

Does it say "Michelle Obama" under the picture?

Да ли садржи име „Мишел Обама“ испод слике?

Pretty good indication it's actually her on there.

Прилично добар наговештај да је она на слици.

Као друго, Гугл узима у обзир фајл слике,

Second, Google looks at the picture file,

the name of the file as such uploaded to the website.

име фајла који је постављен на вебсајт.

Again, is it called "MichelleObama.jpeg"?

Поново, да ли је насловљен „МишелОбама.jpeg“?

Pretty good indication it's not Clint Eastwood in the picture.

Прилично добар показатељ да на слици није Клинт Иствуд.

So, you've got those two and you get a search result like this -- almost.

Дакле, имате ова два и добијете резултате претраге попут ових... скоро.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Е, сад, 2009. године, Мишел Обама је била жртва расистичке кампање,

where people set out to insult her through her search results.

када су људи кренули да је вређају

кроз резултате претраге који су је помињали.

There was a picture distributed widely over the Internet

Постојала је слика која се често делила по интернету,

на којој је њено лице изобличено да би изгледала као мајмун,

where her face was distorted to look like a monkey.

And that picture was published all over.

а та слика је објављивана свуда.

Људи су је објављивали врло промишљено

And people published it very, very purposefully,

to get it up there in the search results.

да би је поставили међу прве резултате претраге.

They made sure to write "Michelle Obama" in the caption

Побринули би се за то да напишу „Мишел Обама“ у наслову

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

и да поставе слику на интернет као „Мишел Обама.jpeg“ или слично томе.

You get why -- to manipulate the search result.

Схватате због чега - да манипулишу резултатима претраге,

And it worked, too.

а то је функционисало.

So when you picture-Googled for "Michelle Obama" in 2009,

Ако бисте на Гуглу тражили слике за „Мишел Обама“ из 2009. године,

that distorted monkey picture showed up among the first results.

та изобличена слика мајмуна појављивала се међу првим резултатима.

Now, the results are self-cleansing,

Е, сад, резултати се сами прочишћавају

and that's sort of the beauty of it,

и у томе је лепота тога,

јер Гугл процењује важност сваког сата, сваког дана.

because Google measures relevance every hour, every day.

However, Google didn't settle for that this time,

Овога пута, међутим, Гугл није хтео да пристане на то.

they just thought, "That's racist and it's a bad search result

Мислили су: „То је расистички и то су лоши резултати претраге,

and we're going to go back and clean that up manually.

па ћемо се вратити и рашчистити то ручно.

We are going to write some code and fix it,"

Написаћемо неки код и средити то“,

which they did.

што су и урадили,

And I don't think anyone in this room thinks that was a bad idea.

а не мислим да ико у овој соби мисли да је то била лоша идеја.

Me neither.

Ни ја не мислим тако.

But then, a couple of years go by,

Затим је прошло пар година,

and the world's most-Googled Anders,

а најтраженији човек на нету под презименом Андерс,

Anders Behring Breivik,

Андерс Беринг Брејвик,

урадио је оно што је урадио.

did what he did.

This is July 22 in 2011,

Ово је 22. јул 2011. године,

and a terrible day in Norwegian history.

грозан дан у норвешкој историји.

This man, a terrorist, blew up a couple of government buildings

Овај човек, терориста, дигао је у ваздух неколико владиних зграда,

walking distance from where we are right now in Oslo, Norway

у самој близини места на ком смо у Ослу у Норвешкој,

а затим је отпутовао до острва Утеје и упуцао на смрт групу деце.

and then he traveled to the island of Utøya

and shot and killed a group of kids.

Скоро 80 људи је погинуло тог дана.

Almost 80 people died that day.

And a lot of people would describe this act of terror as two steps,

Много људи би описало ову страхоту као чин из два корака,

that he did two things: he blew up the buildings and he shot those kids.

да је урадио две ствари - разнео је зграде и упуцао децу.

То није тачно.

It's not true.

It was three steps.

Било је три корака.

He blew up those buildings, he shot those kids,

Разнео је зграде, упуцао децу,

and he sat down and waited for the world to Google him.

а затим је сео и чекао да свет почне да га тражи преко Гугла,

And he prepared all three steps equally well.

а сва три корака је припремио подједнако добро.

And if there was somebody who immediately understood this,

Ако је ико ово разумео истог тренутка,

био је то шведски веб-дизајнер,

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

стручњак за оптимизацију претраживача у Стокхолму, под именом Нике Линдквист.

He's also a very political guy

Он је веома заинтересован и за политику

and he was right out there in social media, on his blog and Facebook.

и одмах се појавио на друштвеним медијима, на свом блогу и Фејсбуку

And he told everybody,

и свима рекао:

"If there's something that this guy wants right now,

„Ако постоји нешто што овај тип жели у овом тренутку,

it's to control the image of himself.

то је да контролише слику о себи.“

Let's see if we can distort that.

Хајде да видимо да ли можемо да је искривимо.

Let's see if we, in the civilized world, can protest against what he did

Хајде да видимо да ли ми у цивилизованом свету

можемо да устанемо против његовог чина

through insulting him in his search results."

тако што ћемо га увредити кроз резултате претраге који га помињу.“

And how?

Како?

He told all of his readers the following,

Свим својим читаоцима је рекао следеће:

"Go out there on the Internet,

„Идите на интернет,

find pictures of dog poop on sidewalks --

нађите слике псеће каке на плочнику -

find pictures of dog poop on sidewalks --

нађите слике псеће каке на плочнику -

publish them in your feeds, on your websites, on your blogs.

поставите их у својим објавама, на својим вебсајтовима и блоговима.

Make sure to write the terrorist's name in the caption,

Побрините се да напишете име терористе у наслову,

make sure to name the picture file "Breivik.jpeg."

осигурајте да се слика зове ‘Брејвик.jpeg.’

Let's teach Google that that's the face of the terrorist."

Хајде да научимо Гугл да је то лице терористе.“

And it worked.

Упалило је.

Two years after that campaign against Michelle Obama,

Две године после кампање уперене против Мишел Обаме,

this manipulation campaign against Anders Behring Breivik worked.

ова манипулативна кампања против Андерса Беринга Брејвика

је упалила.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Ако бисте тражили његове слике

недељама после догађаја који су се одиграли 22. јула у Шведској,

you'd see that picture of dog poop high up in the search results,

видели бисте псећу каку међу првим резултатима,

as a little protest.

као знак малог протеста.

Strangely enough, Google didn't intervene this time.

Чудно, али Гугл није реаговао овог пута.

They did not step in and manually clean those search results up.

Нису се умешали и ручно средили ове резултате претраге.

So the million-dollar question,

Тако је питање које вреди милион долара -

is there anything different between these two happenings here?

каква је разлика између ова два догађаја?

Is there anything different between what happened to Michelle Obama

По чему се оно што се десило Мишел Обами

разликује од онога што се десило Андерсу Берингу Брејвику?

and what happened to Anders Behring Breivik?

Of course not.

Ни по чему, наравно.

It's the exact same thing,

То је потпуно иста ствар,

yet Google intervened in one case and not in the other.

а ипак, Гугл се умешао у један случај, а није и у други.

Why?

Зашто?

Because Michelle Obama is an honorable person, that's why,

Зато што је Мишел Обама особа вредна поштовања, зато,

and Anders Behring Breivik is a despicable person.

а Андерс Беринг Брејвик је особа вредна презира.

See what happens there?

Видите шта се овде дешава?

An evaluation of a person takes place

Дешава се процена особе,

and there's only one power-player in the world

а постоји само један моћни актер на свету

with the authority to say who's who.

са овлашћењем да каже ко је ко.

"We like you, we dislike you.

„Свиђате нам се, не свиђате нам се.

We believe in you, we don't believe in you.

Верујемо у вас, у вас не верујемо.

You're right, you're wrong. You're true, you're false.

Ви сте у праву, ви нисте. Ви сте прави, ви сте лажни.

Ви сте Обама, а ви сте Брејвик.“

You're Obama, and you're Breivik."

That's power if I ever saw it.

Ако постоји моћ, онда је то - то.

So I'm asking you to remember that behind every algorithm

Дакле, тражим од вас да запамтите да је иза сваког алгоритма

is always a person,

увек особа,

a person with a set of personal beliefs

која има низ личних уверења,

that no code can ever completely eradicate.

а која ниједан код никада не може потпуно да искорени.

And my message goes out not only to Google,

Шаљем своју поруку не само Гуглу,

but to all believers in the faith of code around the world.

већ свима онима широм света који верују у код.

Треба да идентификујете сопствену пристрасност.

You need to identify your own personal bias.

Треба да разумете да сте људско биће

You need to understand that you are human

и да, сходно томе, прихватите и одговорност.

and take responsibility accordingly.

And I say this because I believe we've reached a point in time

Кажем ово јер верујем да смо достигли тачку

when it's absolutely imperative

када је апсолутно нужно

that we tie those bonds together again, tighter:

да ове везе учврстимо, јаче,

the humanities and the technology.

хуманистичке и технолошке,

Tighter than ever.

јаче него икада,

And, if nothing else, to remind us that that wonderfully seductive idea

ако ништа друго, да нас подсећају да дивна, примамљива идеја

of the unbiased, clean search result

о непристрасним, чистим резултатима претраге

is, and is likely to remain, a myth.

јесте, а највероватније ће и остати, мит.

Thank you for your time.

Хвала вам на издвојеном времену.

(Applause)

(Аплауз)