The moral bias behind your search results | Andreas Ekström

Translator: Angel Hristov Reviewer: Darina Stoyanova

So whenever I visit a school and talk to students,

И така, когато посетя училище и говоря пред студенти,

I always ask them the same thing:

винаги им задавам следния въпрос:

Why do you Google?

Защо използвате Гугъл?

Why is Google the search engine of choice for you?

Защо предпочитате да използвате търсачката Гугъл?

Strangely enough, I always get the same three answers.

За моя изненада, винаги получавам три отговора.

One, "Because it works,"

Първият, "Защото работи,"

which is a great answer; that's why I Google, too.

което е страхотен отговор; затова и аз го използвам.

Two, somebody will say,

Второ, някой ще каже,

"I really don't know of any alternatives."

"Не зная да има алтернативи."

It's not an equally great answer and my reply to that is usually,

Това не е толкова добър отговор и моят отговор обикновено е,

"Try to Google the word 'search engine,'

"Потърси в Гугъл с думата 'търсачка',

you may find a couple of interesting alternatives."

може да откриеш няколко интересни алтернативи."

And last but not least, thirdly,

И последно, но не и по значение,

inevitably, one student will raise her or his hand and say,

Неминуемо някой от студентите ще вдигне ръка и ще каже:

"With Google, I'm certain to always get the best, unbiased search result."

"Използвайки Гугъл съм сигурен, че винаги имам най-добрия, безпристрастен резултат."

Certain to always get the best, unbiased search result.

Сигурен, че винаги получавам най-добрия, безпристрастен резултат при търсенето.

Now, as a man of the humanities,

Сега, като човек на хуманитарните науки,

albeit a digital humanities man,

макар и на дигиталните хуманитарни науки,

that just makes my skin curl,

този отговор ме кара да настръхна,

even if I, too, realize that that trust, that idea of the unbiased search result

въпреки че и аз осъзнавам, че доверието и идеята за безпристрастния резултат

is a cornerstone in our collective love for and appreciation of Google.

е в основата на нашата всеобща любов и признателност към Гугъл.

I will show you why that, philosophically, is almost an impossibility.

Ще ви покажа защо това от философска гледна точка е почти невъзможно.

But let me first elaborate, just a little bit, on a basic principle

Позвотеле ми първо да внеса малко яснота по един основен принцип

behind each search query that we sometimes seem to forget.

зад всяка заявка за търсене, коeто понякога изглежда забравяме.

So whenever you set out to Google something,

И така, винаги когато търсиш нещо в Гугъл

start by asking yourself this: "Am I looking for an isolated fact?"

започни задавайки си следния въпрос: "Отделен факт ли търся?"

What is the capital of France?

Коя е столицата на Франция?

What are the building blocks of a water molecule?

От какво се състои молекулата на водата?

Great -- Google away.

Страхотно - търсете чрез Гугъл.

There's not a group of scientists who are this close to proving

Не съществува група учени които да докажат, че

that it's actually London and H30.

всъщност Лондон и H3O са отговорите.

You don't see a big conspiracy among those things.

Няма голяма конспирация сред тези факти.

We agree, on a global scale,

Съгласни сме като цяло

what the answers are to these isolated facts.

какви са отговорите на тези отделни факти.

But if you complicate your question just a little bit and ask something like,

Но ако усложните въпроса си съвсем малко и търсите нещо като:

"Why is there an Israeli-Palestine conflict?"

"Защо съществува Изрaелско-Палестински конфликт?"

You're not exactly looking for a singular fact anymore,

Вие всъщност не търсите отделен факт.

you're looking for knowledge,

Вие търсите познание,

which is something way more complicated and delicate.

което е много по-сложно и деликатно.

And to get to knowledge,

И за да стигнете до познанието,

you have to bring 10 or 20 or 100 facts to the table

вие трябва да поставите на масата 10, 20 или 100 факта и

and acknowledge them and say, "Yes, these are all true."

да ги оцените и да кажете: "Да, всички те са истина."

But because of who I am,

Но заради това кой съм аз,

young or old, black or white, gay or straight,

млад или стар, черен или бял, гей или хетеро,

I will value them differently.

аз ще ги оценя различно.

And I will say, "Yes, this is true,

И ще кажа: "Да, това е истина,

but this is more important to me than that."

но това е по-важно за мен от другото."

And this is where it becomes interesting,

И тук е мястото където става интересно,

because this is where we become human.

защото тук ние ставаме хора.

This is when we start to argue, to form society.

Тук започваме да спорим и да формираме общност.

And to really get somewhere, we need to filter all our facts here,

И за да стигнем до някъде, трябва да пречупим всички наши факти

through friends and neighbors and parents and children

през приятелите и съседите, нашите родители и деца,

and coworkers and newspapers and magazines,

колегите, вестниците и списания,

to finally be grounded in real knowledge,

за да се трансформират фактите в истинско познание.

which is something that a search engine is a poor help to achieve.

Това трудно може да се постигне с помощта на търсачка.

So, I promised you an example just to show you why it's so hard

И така, обещах ви пример за да ви покажа защо е толкова трудно

to get to the point of true, clean, objective knowledge --

да се достигне до истинско, чисто обективно познание --

as food for thought.

за да има над какво да мислите.

I will conduct a couple of simple queries, search queries.

Ще потърся няколко прости неща.

We'll start with "Michelle Obama,"

Ще започнем с "Мишел Обама,"

the First Lady of the United States.

първата дама на САЩ.

And we'll click for pictures.

И ще натиснем на снимки.

It works really well, as you can see.

Както виждате работи много добре.

It's a perfect search result, more or less.

Резултата е почти перфектен.

It's just her in the picture, not even the President.

На снимките е само тя, дори президента го няма.

How does this work?

Как става това?

Quite simple.

Много просто.

Google uses a lot of smartness to achieve this, but quite simply,

Гугъл използва много интелект за да го постигне, но обикновено

they look at two things more than anything.

те проверяват преди всичко за две неща.

First, what does it say in the caption under the picture on each website?

Първото, какво пише в коментара под снимката на всеки уебсайт?

Does it say "Michelle Obama" under the picture?

Пише ли "Мишел Обама" под снимката?

Pretty good indication it's actually her on there.

Много добра индикация, че това всъщност е тя.

Second, Google looks at the picture file,

Второто, Гугъл гледа самия файл,

the name of the file as such uploaded to the website.

името с което е качен в сайта.

Again, is it called "MichelleObama.jpeg"?

И отновно, казва ли се "МишелОбама.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Много добра индикация, че това не е Клинт Истууд на снимката.

So, you've got those two and you get a search result like this -- almost.

И така, вземаш тези два критерия и получаваш търсеното - почти.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

През 2009 Мишел Обама стана жертва на расистка кампания,

where people set out to insult her through her search results.

при която се опитаха да я обидят чрез резултатите от търсенето.

There was a picture distributed widely over the Internet

Имаше една снимка разпространена широко в интернет,

where her face was distorted to look like a monkey.

на която лицето и беше променено да прилича на маймуна.

And that picture was published all over.

И снимката беше качена навсякъде.

And people published it very, very purposefully,

И хората я публикуваха с ясната цел

to get it up there in the search results.

за да се появява при търсенето.

They made sure to write "Michelle Obama" in the caption

Те написаха "Мишел Обама" в коментара

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

и се увериха, че името на файла е "МишелОбама.jpeg.

You get why -- to manipulate the search result.

Разбирате защо - за да манипулират резултатите

And it worked, too.

И това проработи.

So when you picture-Googled for "Michelle Obama" in 2009,

Когато търсите по снимка "Мишел Обама" през 2009,

that distorted monkey picture showed up among the first results.

променената снимка с лице на маймуна се появи най-отгоре при търсенето.

Now, the results are self-cleansing,

Сега тези резултати са самопочистващи се,

and that's sort of the beauty of it,

и в това се изразява красотата,

because Google measures relevance every hour, every day.

защото Гугъл измерва съпоставимост всеки час, всеки ден.

However, Google didn't settle for that this time,

Но този път беше различно,

they just thought, "That's racist and it's a bad search result

те мислеха, "Това е расистко и е неподходящ резултат от търсенето

and we're going to go back and clean that up manually.

и ние ще се върнем и изчистим ръчно това, което се появява.

We are going to write some code and fix it,"

Ще напишем код, който да почисти,"

which they did.

което и направиха.

And I don't think anyone in this room thinks that was a bad idea.

Не мисля, че има някой в тази зала, който счита това за лоша идея.

Me neither.

Аз също.

But then, a couple of years go by,

Но, минаха няколко години...

and the world's most-Googled Anders,

и най-търсения в Гугъл Андерс,

Anders Behring Breivik,

Андерс Бейринг Брейвик,

did what he did.

направи каквото направи.

This is July 22 in 2011,

22 юли 2011 е,

and a terrible day in Norwegian history.

трагичен ден за историята на Норвегия.

This man, a terrorist, blew up a couple of government buildings

Този мъж, терорист, взриви няколко правителствени сгради

walking distance from where we are right now in Oslo, Norway

на малко разстояние от мястото, на което се намираме в Осло.

and then he traveled to the island of Utøya

след това той отиде на остров Утоя

and shot and killed a group of kids.

и стреля по и уби група деца.

Almost 80 people died that day.

Почти 80 човека бяха убити него ден.

And a lot of people would describe this act of terror as two steps,

Много хора биха описали този акт на терор

that he did two things: he blew up the buildings and he shot those kids.

че е направил две неща: взривил е сградата и е застрелял децата.

It's not true.

Не е истина.

It was three steps.

Стъпките бяха три.

He blew up those buildings, he shot those kids,

Взриви тези сгради, застреля децата,

and he sat down and waited for the world to Google him.

и започна да чака света да го търси в Гугъл.

And he prepared all three steps equally well.

И той подготви еднакво добре и трите стъпки.

And if there was somebody who immediately understood this,

И ако имаше някой, който на момента разбра всичко,

it was a Swedish web developer,

това беше програмист от Швеция,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

който се занимава с оптимизирането на търсачките в Стокхолм, Ники Линдявист.

He's also a very political guy

Той се интересува и от политика

and he was right out there in social media, on his blog and Facebook.

и в онзи момент беше в социалните медии, в своя блог и в Фейсбук.

And he told everybody,

Той каза на всички,

"If there's something that this guy wants right now,

"Ако има нещо, което този човек иска в момента,

it's to control the image of himself.

то е да контролира своя имидж.

Let's see if we can distort that.

Нека се опитаме да попречим на това.

Let's see if we, in the civilized world, can protest against what he did

Да видим ние, в цивилизования свят, можем ли да протестираме

through insulting him in his search results."

като го изобличим в резултатите при търсене за него."

And how?

Как?

He told all of his readers the following,

Той каза на всички свои читатели,

"Go out there on the Internet,

"Отидете в Интернет,

find pictures of dog poop on sidewalks --

намерете снимки

find pictures of dog poop on sidewalks --

на кучешко ако на тротоара --

publish them in your feeds, on your websites, on your blogs.

публикувайте ги във вашите блогове, на сайтовете си.

Make sure to write the terrorist's name in the caption,

Уверете се, че сте написали името на терориста в коментара,

make sure to name the picture file "Breivik.jpeg."

уверете се също че името на файла е "Брейвик.jpeg"

Let's teach Google that that's the face of the terrorist."

Нека научим Гугъл, че това е лицето на терориста."

And it worked.

И това проработи.

Two years after that campaign against Michelle Obama,

Две години след кампанията срещу Мишел Обама,

this manipulation campaign against Anders Behring Breivik worked.

тази манипулационна кампания срещу Андерс Бейринг Брейвик проработи.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Ако търсите негова снимка в Гугъл седмици след събитията от 22 юли в Швеция,

you'd see that picture of dog poop high up in the search results,

вие ще видите тази снимка на кучешко ако в началото на резултатите от търсенето.

as a little protest.

като форма на протест.

Strangely enough, Google didn't intervene this time.

За моя изненада Гугъл този път не се намеси.

They did not step in and manually clean those search results up.

Те не направиха ръчно почистване на тези резултати.

So the million-dollar question,

Въпросът за милиони е

is there anything different between these two happenings here?

има ли нещо различно между тези две събития?

Is there anything different between what happened to Michelle Obama

Има ли нещо различно между това, което се случи с Мишел Обама

and what happened to Anders Behring Breivik?

и това с Андерс Бейринг Брейвик?

Of course not.

Разбира се че няма.

It's the exact same thing,

Едно и също нещо е,

yet Google intervened in one case and not in the other.

Гугъл обаче се намеси в единия но не и в другия случай.

Why?

Защо?

Because Michelle Obama is an honorable person, that's why,

Защото Мишел Обама е уважаван човек, ето защо,

and Anders Behring Breivik is a despicable person.

а Андерс Бейринг Брейвик е ужасен човек.

See what happens there?

Виждате ли какво става?

An evaluation of a person takes place

Случва се оценяване на човека

and there's only one power-player in the world

и има само един силен играч в света

with the authority to say who's who.

с власт да каже кой какъв е.

"We like you, we dislike you.

"Ние те харесваме, ние не те харесваме.

We believe in you, we don't believe in you.

Ние вярваме или не вярваме в теб.

You're right, you're wrong. You're true, you're false.

Ти си прав, ти не си, Ти си истински, ти не си.

You're Obama, and you're Breivik."

Ти си Обама, а ти си Брейвик."

That's power if I ever saw it.

Ако правилно разбирам това е власт.

So I'm asking you to remember that behind every algorithm

И така, моля ви да запомните че зад всеки алгоритъм

is always a person,

стой човек,

a person with a set of personal beliefs

човек с лични убеждения

that no code can ever completely eradicate.

които никой код не може да изкорени напълно.

And my message goes out not only to Google,

И моето послание е не само към Гугъл

but to all believers in the faith of code around the world.

но и към всички, които вярват в истиността на кода.

You need to identify your own personal bias.

Трябва да идентифицирате вашите собствени предразсъдъци.

You need to understand that you are human

Трябва да разбере, че сте хора

and take responsibility accordingly.

и да поемете отговорност.

And I say this because I believe we've reached a point in time

Казвам това защото вярвам, че сме достигнали момента

when it's absolutely imperative

когато е абсолютно задължително

that we tie those bonds together again, tighter:

по-здраво да свържем двата края

the humanities and the technology.

на човешкото начало и на технологията

Tighter than ever.

По-силно от всякога.

And, if nothing else, to remind us that that wonderfully seductive idea

И ако не друго, то поне да си напомняме, че тази чудесна

of the unbiased, clean search result

идея за неподправения, чист резултат

is, and is likely to remain, a myth.

е, и вероятно ще остане мит.

Thank you for your time.

Благодаря за вниманието!

(Applause)

(Аплодисменти)