The moral bias behind your search results | Andreas Ekström

Переводчик: Nargiz Lineker Редактор: Maxim Averin

So whenever I visit a school and talk to students,

Когда я посещаю школы и общаюсь со студентами,

I always ask them the same thing:

я всегда у них спрашиваю:

Why do you Google?

«Почему вы гуглите?

Why is Google the search engine of choice for you?

Почему вы выбираете Гугл из всех поисковиков?»

Strangely enough, I always get the same three answers.

Как ни странно, я всегда получаю три одинаковых ответа.

One, "Because it works,"

Первый: «Потому что он работает»,

which is a great answer; that's why I Google, too.

и это прекрасный ответ, я тоже гуглю по этой же причине.

Two, somebody will say,

Второй будет озвучен как-то так:

"I really don't know of any alternatives."

«А разве есть другие альтернативы?»

It's not an equally great answer and my reply to that is usually,

Это не такой же прекрасный ответ, и я обычно на это отвечаю:

"Try to Google the word 'search engine,'

«Попробуйте погуглить слово «поисковик»,

you may find a couple of interesting alternatives."

и вы сможете найти несколько интересных альтернатив».

And last but not least, thirdly,

И, наконец, третий, не менее значимый ответ.

inevitably, one student will raise her or his hand and say,

В итоге кто-то из студентов поднимет руку и скажет:

"With Google, I'm certain to always get the best, unbiased search result."

«С Гуглом я уверен, что всегда получу лучший и наименее предвзятый результат».

Certain to always get the best, unbiased search result.

Уверен, что всегда получу лучший и наименее предвзятый результат.

Now, as a man of the humanities,

Поскольку я гуманитарий,

albeit a digital humanities man,

пусть и «цифровой» гуманитарий,

that just makes my skin curl,

меня такой ответ приводит в замешательство,

even if I, too, realize that that trust, that idea of the unbiased search result

даже если я тоже осознаю, что эта вера в непредвзятый результат поиска

is a cornerstone in our collective love for and appreciation of Google.

является основой нашей общей любви и признательности Гуглу.

I will show you why that, philosophically, is almost an impossibility.

Я покажу вам, почему с философской точки зрения это почти невозможно.

But let me first elaborate, just a little bit, on a basic principle

Но сначала позвольте мне рассказать немного подробнее

об основном часто забываемом принципе работы поисковой системы.

behind each search query that we sometimes seem to forget.

So whenever you set out to Google something,

Каждый раз, когда вы гуглите что-то,

start by asking yourself this: "Am I looking for an isolated fact?"

сначала спросите себя: «Ищу ли я единичный факт?»

What is the capital of France?

Например: «Какая столица Франции?»

What are the building blocks of a water molecule?

«Как в химии обозначают молекулу воды?»

Great -- Google away.

Если так, замечательно. Спокойно гуглите.

There's not a group of scientists who are this close to proving

Нет такой группы учёных, которая скоро докажет,

that it's actually London and H30.

что это на самом деле Лондон и Н3O.

You don't see a big conspiracy among those things.

Здесь вы не увидите теории заговора.

We agree, on a global scale,

Мы договорились на глобальном уровне

what the answers are to these isolated facts.

о ряде фактов, с которыми согласны все.

But if you complicate your question just a little bit and ask something like,

Но если вы немного усложните вопрос и спросите, например:

"Why is there an Israeli-Palestine conflict?"

«Почему начался конфликт между Израилем и Палестиной?»

You're not exactly looking for a singular fact anymore,

Вы уже не ищете обособленный факт,

you're looking for knowledge,

вы ищете знание,

which is something way more complicated and delicate.

которое намного сложнее и деликатней.

And to get to knowledge,

И чтобы получить знание,

you have to bring 10 or 20 or 100 facts to the table

сперва нужно изучить 10, 20 или 100 фактов,

and acknowledge them and say, "Yes, these are all true."

утвердить их и сказать: «Да, они все отражают реальность».

But because of who I am,

Но в зависимости от того, какой я,

young or old, black or white, gay or straight,

молодой или старый, чёрный или белый, гей или нет,

I will value them differently.

я оценю их по-разному.

And I will say, "Yes, this is true,

И я скажу: «Да, это правда,

but this is more important to me than that."

но вот это для меня важнее, чем это».

And this is where it becomes interesting,

Именно в этом кроется любопытная деталь,

because this is where we become human.

потому что мы начинаем думать как люди.

This is when we start to argue, to form society.

Поэтому мы начинаем спорить и формировать общество.

And to really get somewhere, we need to filter all our facts here,

И чтобы до чего-то дойти, нам нужно отфильтровать все факты

through friends and neighbors and parents and children

через взгляды друзей и соседей, родителей и детей,

and coworkers and newspapers and magazines,

коллег, газет и журналов,

to finally be grounded in real knowledge,

чтобы в конце прийти к настоящему знанию,

which is something that a search engine is a poor help to achieve.

в чём поисковик нам вряд ли поможет.

So, I promised you an example just to show you why it's so hard

Я обещал вам пример, чтобы объяснить,

как непросто прийти к верному и объективному знанию,

to get to the point of true, clean, objective knowledge --

просто чтобы вы задумались об этом.

as food for thought.

I will conduct a couple of simple queries, search queries.

Я сделаю несколько поисковых запросов.

We'll start with "Michelle Obama,"

Сперва попробуем набрать «Мишель Обама»,

the First Lady of the United States.

первая леди США.

And we'll click for pictures.

Найдём её изображения.

It works really well, as you can see.

Видно, что поиск работает хорошо.

It's a perfect search result, more or less.

Это идеальный результат, более или менее.

It's just her in the picture, not even the President.

На изображениях только она, без появления президента.

How does this work?

Как это работает?

Quite simple.

Очень просто.

Google uses a lot of smartness to achieve this, but quite simply,

Гугл использует много инструментов для лучших результатов,

they look at two things more than anything.

но в целом важны две составляющие.

First, what does it say in the caption under the picture on each website?

Первое — как фотографию подписывают на разных сайтах.

Does it say "Michelle Obama" under the picture?

Есть ли в подписи «Мишель Обама»?

Pretty good indication it's actually her on there.

Это верный показатель, что это она на изображении.

Second, Google looks at the picture file,

Второе — Гугл смотрит на сам файл изображения,

the name of the file as such uploaded to the website.

на имя самого файла, загруженного на сайт.

Again, is it called "MichelleObama.jpeg"?

Тот же принцип, назван ли файл «МишельОбама.jpeg»?

Pretty good indication it's not Clint Eastwood in the picture.

Это ещё один верный признак, что на нём нет Клинта Иствуда.

So, you've got those two and you get a search result like this -- almost.

На этих двух пунктах базируется результат, похожий на тот, что я показал.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

В 2009 году Мишель Обама стала жертвой расистской агитации,

where people set out to insult her through her search results.

когда люди хотели оскорбить её с помощью поисковых результатов.

There was a picture distributed widely over the Internet

В интернете широко распространяли фотографию,

на которой из-за изменённого лица она выглядела как обезьяна.

where her face was distorted to look like a monkey.

And that picture was published all over.

И фото было опубликовано везде.

And people published it very, very purposefully,

Люди намеренно его публиковали,

to get it up there in the search results.

чтобы оно было одним из первых результатов поиска.

They made sure to write "Michelle Obama" in the caption

Они писали «Мишель Обама» в описании

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

и называли загружаемый файл «МишельОбама.jpeg».

You get why -- to manipulate the search result.

Очевидно, для влияния на результаты поиска.

And it worked, too.

И это сработало.

So when you picture-Googled for "Michelle Obama" in 2009,

Если в 2009 году вы бы погуглили фото «Мишель Обама»,

that distorted monkey picture showed up among the first results.

то переделанное фото обезьяны появлялось одним из первых.

Now, the results are self-cleansing,

Теперь результаты самообновляемые,

and that's sort of the beauty of it,

в чём и состоит красота процесса,

because Google measures relevance every hour, every day.

потому что Гугл проверяет правильность каждый час и каждый день.

However, Google didn't settle for that this time,

Но Гуглу показалось этого мало,

they just thought, "That's racist and it's a bad search result

и разработчики сказали: «Это расистский и плохой результат поиска,

and we're going to go back and clean that up manually.

нужно почистить его вручную.

We are going to write some code and fix it,"

Мы напишем код для обновления результатов этого поиска».

which they did.

Это было сделано.

And I don't think anyone in this room thinks that was a bad idea.

Не думаю, что кто-то может подумать, что это была плохая идея.

Me neither.

И я так не думаю.

But then, a couple of years go by,

Но потом, через несколько лет,

and the world's most-Googled Anders,

самый востребованый в поисковых запросах человек по имени Андерс,

Anders Behring Breivik,

Андерс Беринг Брейвик,

did what he did.

сделал то, что он сделал.

This is July 22 in 2011,

22 июля 2011 года

and a terrible day in Norwegian history.

навсегда стало ужасным днём в истории Норвегии.

This man, a terrorist, blew up a couple of government buildings

Этот мужчина, террорист, взорвал несколько государственных зданий,

walking distance from where we are right now in Oslo, Norway

в пешей доступности отсюда в Осло, Норвегия,

and then he traveled to the island of Utøya

поехав затем на остров Утойя,

and shot and killed a group of kids.

где застрелил целую группу подростков.

Almost 80 people died that day.

Почти 80 человек погибли в тот день.

And a lot of people would describe this act of terror as two steps,

Многие люди опишут этот ужасный поступок в два этапа,

that he did two things: he blew up the buildings and he shot those kids.

то есть он сделал две вещи: взорвал здания и застрелил подростков.

It's not true.

Это не так.

It was three steps.

На самом деле было три этапа.

He blew up those buildings, he shot those kids,

Он взорвал здания, он застрелил подростков,

and he sat down and waited for the world to Google him.

и он сел ждать, когда мир начнет гуглить его.

And he prepared all three steps equally well.

И все эти этапы были одинаково хорошо подготовлены.

And if there was somebody who immediately understood this,

И если и был кто-то, кто сразу это понял,

it was a Swedish web developer,

это был веб-разработчик из Швеции,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

эксперт по оптимизации веб-поиска из Стокгольма, Ник Линдквист.

He's also a very political guy

Он также общественный активист,

and he was right out there in social media, on his blog and Facebook.

использующий социальные сети в блогосфере и на Фейсбуке.

And he told everybody,

И он сказал всем:

"If there's something that this guy wants right now,

«Если и есть что-то такое, что этот парень сейчас хочет,

it's to control the image of himself.

так это управлять своим имиджем.

Let's see if we can distort that.

Давайте попробуем видоизменить его образ.

Let's see if we, in the civilized world, can protest against what he did

Давайте попробуем в цивилизованном мире выразить протест против его поступка,

through insulting him in his search results."

оскорбив его в результатах поиска».

And how?

Каким образом?

He told all of his readers the following,

Он написал своим читателям следующее:

"Go out there on the Internet,

«Зайдите в Интернет,

find pictures of dog poop on sidewalks --

найдите фотографии собачьих экскрементов на дороге,

find pictures of dog poop on sidewalks --

найдите фотографии собачьих экскрементов на дороге

publish them in your feeds, on your websites, on your blogs.

и опубликуйте их на ваших сайтах и блогах.

Make sure to write the terrorist's name in the caption,

Не забудьте написать имя террориста в описании фото

make sure to name the picture file "Breivik.jpeg."

и назовите файл «Брейвик.jpeg».

Let's teach Google that that's the face of the terrorist."

Давайте покажем Гуглу лицо террориста».

And it worked.

И это сработало.

Two years after that campaign against Michelle Obama,

Спустя два года после расизма в отношении Мишель Обамы

this manipulation campaign against Anders Behring Breivik worked.

агитация против Брейвика сработала.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Если бы вы прогуглили его фото через несколько недель после 22 июля из Швеции,

you'd see that picture of dog poop high up in the search results,

вы бы увидели фото собачьих экскрементов высоко в поиске

as a little protest.

в качестве небольшого протеста.

Strangely enough, Google didn't intervene this time.

Как ни странно, Гугл не вмешался в этот раз.

They did not step in and manually clean those search results up.

Они не стали вручную чистить результаты.

So the million-dollar question,

Поэтому вопрос на миллион:

is there anything different between these two happenings here?

есть ли различия между двумя ситуациями?

Is there anything different between what happened to Michelle Obama

Есть ли различия между способами оскорбления Мишель Обамы

и Андерса Брейвика?

and what happened to Anders Behring Breivik?

Of course not.

Конечно нет.

It's the exact same thing,

Способ абсолютно одинаковый,

yet Google intervened in one case and not in the other.

но Гугл решил вмешаться только в одном случае из двух.

Why?

Почему?

Because Michelle Obama is an honorable person, that's why,

Из-за того, что Мишель Обама — это уважаемая личность,

and Anders Behring Breivik is a despicable person.

а Андерс Беринг Брейвик — ужасный человек.

See what happens there?

Вы понимаете, что произошло?

An evaluation of a person takes place

Оценка человека,

and there's only one power-player in the world

и есть только одна сила в мире

with the authority to say who's who.

с авторитетом сказать, кто есть кто.

"We like you, we dislike you.

«Ты нам нравишься, ты нам не нравишься.

We believe in you, we don't believe in you.

Мы верим тебе, мы не верим тебе.

You're right, you're wrong. You're true, you're false.

Ты прав, ты не прав.

Ты Обама, а ты Брейвик».

You're Obama, and you're Breivik."

That's power if I ever saw it.

Это власть как я её вижу.

So I'm asking you to remember that behind every algorithm

Поэтому я прошу вас запомнить, что за каждым алгоритмом

is always a person,

всегда стоит человек,

a person with a set of personal beliefs

человек с личным набором убеждений,

that no code can ever completely eradicate.

от которых не сможет полностью избавиться ни один код.

And my message goes out not only to Google,

И моё обращение направлено не только к Гуглу,

but to all believers in the faith of code around the world.

но и ко всем верующим в силу кода в мире.

You need to identify your own personal bias.

Вам нужно идентифицировать ваши собственные предубеждения.

You need to understand that you are human

Вам нужно понимать, что вы человек,

and take responsibility accordingly.

и нести подобающую ответственность.

And I say this because I believe we've reached a point in time

Я говорю это, потому что считаю, что мы достигли точки во времени,

when it's absolutely imperative

когда крайне важно

that we tie those bonds together again, tighter:

снова связать вместе два направления как можно крепче —

the humanities and the technology.

гуманитарные науки и технологии.

Tighter than ever.

Крепче, чем когда-либо.

And, if nothing else, to remind us that that wonderfully seductive idea

Время по крайней мере напомнить себе, что соблазнительная идея о том,

of the unbiased, clean search result

что может существовать непредвзятый результат поиска,

is, and is likely to remain, a myth.

является и, скорее всего, останется мифом.

Thank you for your time.

Спасибо за ваше время.

(Applause)

(Аплодисменты)