The moral bias behind your search results | Andreas Ekström

Translator: Julia Kalaputi Reviewer: Zoran Blazevski

Кога посетувам училишта и зборувам со учениците,

So whenever I visit a school and talk to students,

I always ask them the same thing:

секогаш го поставувам истото прашање:

Why do you Google?

Зошто гуглате?

Why is Google the search engine of choice for you?

Зошто токму Гугл го користите како пребарувач?

Strangely enough, I always get the same three answers.

За чудо, секогаш добивам три исти одговори.

One, "Because it works,"

Прво, „Бидејќи функционира.“

which is a great answer; that's why I Google, too.

што е одличен одговор, затоа и јас гуглам.

Two, somebody will say,

Второ, некој ќе рече:

"I really don't know of any alternatives."

„Не знам за други алтернативи“,

It's not an equally great answer and my reply to that is usually,

што не е толку добар одговор и јас обично им велам,

"Try to Google the word 'search engine,'

„Обидете се да изгуглате 'интернет пребарувач'

you may find a couple of interesting alternatives."

и ќе најдете неколку други алтернативи.“

And last but not least, thirdly,

И трето, но не и последно,

inevitably, one student will raise her or his hand and say,

на крај некој ќе крене рака и ќе рече:

"With Google, I'm certain to always get the best, unbiased search result."

„Со Гугл сум сигурен дека ќе го добијам најдобриот и најобјективниот одговор.“

Certain to always get the best, unbiased search result.

Уверени се дека секогаш ќе го добијат најдобриот и најобјективен одговор.

Now, as a man of the humanities,

Како човек од хуманитарните науки,

albeit a digital humanities man,

т.е. човек од дигиталните хуманитарни науки,

that just makes my skin curl,

тоа ме вади од кожа,

even if I, too, realize that that trust, that idea of the unbiased search result

иако и јас сфаќам дека таа доверба, идејата за објективни одговори

is a cornerstone in our collective love for and appreciation of Google.

е темелот на нашата колективна љубов кон Гугл.

I will show you why that, philosophically, is almost an impossibility.

Ќе ви покажам зошто ова филозофски е речиси невозможно.

But let me first elaborate, just a little bit, on a basic principle

Но, дозволете прво да разјаснам нешто околу основниот принцип

behind each search query that we sometimes seem to forget.

на сите пребарувања, кое понекогаш го забораваме.

So whenever you set out to Google something,

Кога ќе сакате да изгуглате нешто,

start by asking yourself this: "Am I looking for an isolated fact?"

прво запрашајте се: „Дали барам изолиран факт?“

What is the capital of France?

Кој е главен град на Франција?

What are the building blocks of a water molecule?

Кои се составните делови на молекулот на водата?

Great -- Google away.

Одлично-Гугл настрана.

There's not a group of scientists who are this close to proving

Никој не се обидува да докаже дека тоа

that it's actually London and H30.

е Лондон и Н3О.

You don't see a big conspiracy among those things.

Нема голема дебата околу овие нешта.

We agree, on a global scale,

Се согласуваме на глобално ниво,

what the answers are to these isolated facts.

за одговорите на овие изолирани факти.

But if you complicate your question just a little bit and ask something like,

Но, ако поставите сложено прашање и прашате, на пример,

"Why is there an Israeli-Palestine conflict?"

„Зошто постои Израелско-Палестинскиот конфликт?“

You're not exactly looking for a singular fact anymore,

Веќе не барате изолиран факт,

you're looking for knowledge,

туку барате знаење,

which is something way more complicated and delicate.

кое е многу посложено и деликатно.

And to get to knowledge,

а за да добиете знаење,

you have to bring 10 or 20 or 100 facts to the table

треба да извадите 10, 20 или 100 факти пред себе,

and acknowledge them and say, "Yes, these are all true."

да ги потврдите и речете: „Да, сите се точни.“

But because of who I am,

Но, бидејќи јас сум тоа што сум,

young or old, black or white, gay or straight,

млад или стар, црн или бел, геј или стрејт

I will value them differently.

јас ќе ги вреднувам различно.

And I will say, "Yes, this is true,

И ќе речам:„Ова е точно,

but this is more important to me than that."

но ова ми е поважно од другото."

And this is where it becomes interesting,

И тука станува интересно,

because this is where we become human.

бидејќи тука стануваме луѓе.

This is when we start to argue, to form society.

Тука почнуваме да се расправаме, да заземаме страни.

And to really get somewhere, we need to filter all our facts here,

И за да стигнеме некаде, треба да ги филтрираме фактите,

through friends and neighbors and parents and children

преку пријателите, соседите родителите и децата,

and coworkers and newspapers and magazines,

колегите, весниците и списанијата,

to finally be grounded in real knowledge,

за да на крај дојдеме до вистинското знаење,

which is something that a search engine is a poor help to achieve.

за кое ниту еден пребарувач не може да ни помогне.

So, I promised you an example just to show you why it's so hard

Ќе ви дадам пример за да ви покажам зошто е тешко

to get to the point of true, clean, objective knowledge --

да се дојде до моментот на чистата, објективна вистина-

as food for thought.

вреди да се размисли.

I will conduct a couple of simple queries, search queries.

Сега ќе направам неколку едноставни пребарувања.

We'll start with "Michelle Obama,"

Ќе започнам со "Мишел Обама",

the First Lady of the United States.

првата дама на Соединетите Држави.

And we'll click for pictures.

Ќе кликнеме за слики.

It works really well, as you can see.

Функционира добро, како што гледате.

It's a perfect search result, more or less.

Совршен одговор, повеќе или помалку.

It's just her in the picture, not even the President.

Таа е на сликите, дури го нема ни претседателот.

How does this work?

Како функционира ова?

Quite simple.

Многу едноставно.

Google uses a lot of smartness to achieve this, but quite simply,

Гугл паметно работи да го постигне ова, но е прилично едноставно.

they look at two things more than anything.

Две основни работи се земаат предвид.

First, what does it say in the caption under the picture on each website?

Прво, што пишува под секоја слика на интернет страните?

Does it say "Michelle Obama" under the picture?

Пишува “Мишел Обама“ под сликата?

Pretty good indication it's actually her on there.

Добар показател, значи на сликите е таа.

Second, Google looks at the picture file,

Второ, Гугл го чита фајлот на сликата,

the name of the file as such uploaded to the website.

името на фајлот кој е поставен на веб страната.

Again, is it called "MichelleObama.jpeg"?

Тој е наречен "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Добар показател пак- секако не е Клинт Иствуд на сликите.

So, you've got those two and you get a search result like this -- almost.

Значи, овие две работи и ги добивате овие резултати.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Во 2009 Мишел Обама беше жртва на расистичка кампања,

where people set out to insult her through her search results.

кога луѓето почнаа да ја навредуваат преку пребарувањата.

There was a picture distributed widely over the Internet

Имаше една слика широко распространета низ интернет,

where her face was distorted to look like a monkey.

каде лицето и беше изобличено како на мајмун.

And that picture was published all over.

И сликата беше објавена насекаде.

And people published it very, very purposefully,

И луѓето ја објавија со јасна намера

to get it up there in the search results.

за да ја има во пребарувањата.

They made sure to write "Michelle Obama" in the caption

Не заборавиле да напишат „Мишел Обама“ на сликите

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

и ја објавија сликата како "MichelleObama.jpeg или слично.

You get why -- to manipulate the search result.

Јасно е зошто - за да манипулираат со пребарувањата.

And it worked, too.

И тоа функционираше.

So when you picture-Googled for "Michelle Obama" in 2009,

Ако сте барале слика на Гугл за Мишел Обама во 2009,

that distorted monkey picture showed up among the first results.

изобличената слика на мајмун се појавуваше меѓу првите.

Now, the results are self-cleansing,

Резултатите од пребарувањата сами се чистат

and that's sort of the beauty of it,

и тоа е убавата страна кај нив,

because Google measures relevance every hour, every day.

бидејќи Гугл ја мери веродостојноста секој час, секој ден.

However, Google didn't settle for that this time,

Но, Гугл овојпат не се согласи,

they just thought, "That's racist and it's a bad search result

помислија:„ Расистички е и лошо пребарување.

and we're going to go back and clean that up manually.

затоа ќе се вратиме и ќе го исчистиме рачно.

We are going to write some code and fix it,"

Ќе напишеме некоја шифра и ќе средиме.

which they did.

И го сторија тоа.

And I don't think anyone in this room thinks that was a bad idea.

И сигурно никој овде не мисли дека тоа беше лоша замисла.

Me neither.

Ниту јас.

But then, a couple of years go by,

Така, поминаа неколку години,

and the world's most-Googled Anders,

и најгугланиот на светот-Андерс,

Anders Behring Breivik,

Андерс Беринг Брејвик,

did what he did.

го направи тоа што го направи.

This is July 22 in 2011,

на 22 јули во 2011,

and a terrible day in Norwegian history.

ужасниот ден во историјата на Норвешка.

This man, a terrorist, blew up a couple of government buildings

Овој човек, терорист, крена во воздух неколку владини згради

walking distance from where we are right now in Oslo, Norway

блиску до местото каде сме сега во Осло, Норвешка

and then he traveled to the island of Utøya

и замина на островот Утоја

and shot and killed a group of kids.

и застрела, уби група на деца.

Almost 80 people died that day.

Речиси 80 луѓе загинаа тој ден.

And a lot of people would describe this act of terror as two steps,

Многумина ќе го опишат овој ужасен акт во два чекора,

that he did two things: he blew up the buildings and he shot those kids.

дека направи две работи: ги крена во воздух зградите и ги уби децата.

It's not true.

Не е вистина.

It was three steps.

Имаше три чекори.

He blew up those buildings, he shot those kids,

Ги крена во воздух зградите, ги уби децата

and he sat down and waited for the world to Google him.

а потоа седна и чекаше светот да го пребарува на интернет.

And he prepared all three steps equally well.

Секој од овие три чекори еднакво добро ги осмисли.

And if there was somebody who immediately understood this,

Ова веднаш го свати

it was a Swedish web developer,

Шведскиот веб дивелопер,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

Нике Линдквист, стручњак за оптимизирање на пребарувачи од Стокхолм.

He's also a very political guy

Тој се занимава и со политика

and he was right out there in social media, on his blog and Facebook.

и беше таму во социјалните медиуми, на неговиот блог и на Фејсбук.

And he told everybody,

Тој им кажа на сите,

"If there's something that this guy wants right now,

„Типот во моментов сака

it's to control the image of himself.

да има контрола над својот имиџ.

Let's see if we can distort that.

Ајде да го разобличиме тоа.

Let's see if we, in the civilized world, can protest against what he did

Дали ние, во цивилизираниот свет можеме да протестираме против тоа што го направи

through insulting him in his search results."

така што ќе го навредуваме преку пребарувањата.

And how?

И како?

He told all of his readers the following,

На своите читатели им го кажа следново:

"Go out there on the Internet,

„Одете на интернет,

find pictures of dog poop on sidewalks --

најдете слики од кучиња кои вршат нужда по тротоари-

find pictures of dog poop on sidewalks --

најдете такви слики со кучиња

publish them in your feeds, on your websites, on your blogs.

објавете ги на вашите веб страни, блогови, социјални мрежи.

Make sure to write the terrorist's name in the caption,

Не заборавајте да го ставите името на терористот под сликите,

make sure to name the picture file "Breivik.jpeg."

обележете ги сликите како фајл "Breivik.jpeg."

Let's teach Google that that's the face of the terrorist."

Да го подучиме Гугл дека тоа е ликот на еден терорист.

And it worked.

И тоа успеа.

Two years after that campaign against Michelle Obama,

Две години после кампањата против Мишел Обама,

this manipulation campaign against Anders Behring Breivik worked.

оваа манипулациска кампања против Брејвик успеа.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Ако побарате негова слика на Гугл од Шведска, по настаните од 22 јули

you'd see that picture of dog poop high up in the search results,

меѓу првите слики ќе се појават оние со кучиња кои вршат нужда,

as a little protest.

како мал знак на протест.

Strangely enough, Google didn't intervene this time.

За чудо, Гугл не интервенираше овојпат.

They did not step in and manually clean those search results up.

Тие не ги чистеа рачно резултатите од пребарувањата.

So the million-dollar question,

Па, еве го прашањето за милион долари:

is there anything different between these two happenings here?

Дали има разлика помеѓу овие две случувања тука?

Is there anything different between what happened to Michelle Obama

Дали е различно тоа што ѝ се случи на Мишел Обама

and what happened to Anders Behring Breivik?

од она што му се случи на Беринг Брејвик?

Of course not.

Секако дека нема.

It's the exact same thing,

Сосема е исто,

yet Google intervened in one case and not in the other.

но, Гугл интервенираше во едниот случај, а во другиот не.

Why?

Зошто?

Because Michelle Obama is an honorable person, that's why,

Бидејќи Мишел Обама е ценета личност, ете зошто,

and Anders Behring Breivik is a despicable person.

а Беринг Брејвик е омразена личност.

See what happens there?

Гледате што се случува овде?

An evaluation of a person takes place

Имаме вреднување на личноста

and there's only one power-player in the world

и има само еден кој ја има моќта во светот

with the authority to say who's who.

со авторитет да каже кој е кој.

"We like you, we dislike you.

„Ни се допаѓаш, не ни се допаѓаш.

We believe in you, we don't believe in you.

Ти веруваме, не ти веруваме.

You're right, you're wrong. You're true, you're false.

Ти си во право; Ти не си во право,

You're Obama, and you're Breivik."

Ти си Обама, а ти си Брејвик.

That's power if I ever saw it.

Тоа е моќта, ако некогаш ја имам видено.

So I'm asking you to remember that behind every algorithm

Затоа, ве молам имајте на ум дека зад секој алгоритам

is always a person,

стои секогаш човекот,

a person with a set of personal beliefs

со своите лични убедувања

that no code can ever completely eradicate.

кои ниту една шифра не може да ги искорени.

And my message goes out not only to Google,

Мојата порака не е упатена само до Гугл,

but to all believers in the faith of code around the world.

туку кон сите оние во светот кои веруваат во кодирањето.

You need to identify your own personal bias.

Треба ди ги идентификувате вашите лични убедувања,

You need to understand that you are human

да разберете дека сте човечко суштество

and take responsibility accordingly.

и соодветно на тоа преземете одговорност.

And I say this because I believe we've reached a point in time

Ова го велам зашто верувам дека го достигнавме моментот

when it's absolutely imperative

кога е неопходно

that we tie those bonds together again, tighter:

уште посилно да ги соединиме двете врски:

the humanities and the technology.

хуманистичките науки и технологијата.

Tighter than ever.

Посилно од било кога досега.

And, if nothing else, to remind us that that wonderfully seductive idea

Ако ништо друго, да нé потсетува дека привлечната идеја

of the unbiased, clean search result

за објективните резултати од пребарувањата

is, and is likely to remain, a myth.

е, и веројатно ќе остане само мит.

Thank you for your time.

Ви благодарам !

(Applause)

(аплауз)