The moral bias behind your search results | Andreas Ekström

Tłumaczenie: Robert Jeżyk Korekta: Rysia Wand

Ilekroć odwiedzam szkołę i rozmawiam ze studentami,

So whenever I visit a school and talk to students,

I always ask them the same thing:

zawsze zadaję im to samo pytanie:

Why do you Google?

"Dlaczego googlujesz?

Why is Google the search engine of choice for you?

Dlaczego wybierasz wyszukiwarkę Google?".

Strangely enough, I always get the same three answers.

O dziwo, zawsze dostaję te same trzy odpowiedzi.

One, "Because it works,"

Raz: "Bo działa", co jest świetną odpowiedzią.

which is a great answer; that's why I Google, too.

Z tego samego powodu ja też z niej korzystam.

Two, somebody will say,

Dwa, ktoś powie:

"I really don't know of any alternatives."

"Nie znam żadnej alternatywy".

It's not an equally great answer and my reply to that is usually,

To nie jest równie świetna odpowiedź i zazwyczaj odpowiadam:

"Try to Google the word 'search engine,'

"Spróbuj wygooglować słowo 'wyszukiwarka internetowa'.

you may find a couple of interesting alternatives."

Możesz znaleźć jakąś ciekawą alternatywę".

And last but not least, thirdly,

I ostatnia, ale nie najgorsza, trzecia:

inevitably, one student will raise her or his hand and say,

Nieuchronnie jeden student podniesie rękę i powie:

"With Google, I'm certain to always get the best, unbiased search result."

"Bo jestem pewien, że zawsze dostaję najlepszy, obiektywny wynik wyszukiwania".

Pewność, że zawsze dostanę najlepszy, obiektywny wynik.

Certain to always get the best, unbiased search result.

Jako humanista,

Now, as a man of the humanities,

albeit a digital humanities man,

aczkolwiek humanista cyfrowy,

that just makes my skin curl,

odczuwam na te słowa dreszcze,

even if I, too, realize that that trust, that idea of the unbiased search result

nawet jeśli sam zdaję sobie sprawę, że to zaufanie, ta idea obiektywności,

is a cornerstone in our collective love for and appreciation of Google.

jest kluczem do zrozumienia, dlaczego tak kochamy i cenimy Google.

I will show you why that, philosophically, is almost an impossibility.

Pokażę wam dlaczego, filozoficznie, jest to prawie niemożliwe.

But let me first elaborate, just a little bit, on a basic principle

Ale najpierw opowiem trochę o podstawowych zasadach,

behind each search query that we sometimes seem to forget.

o których czasem zapominamy, które stoją za każdym wyszukiwaniem.

So whenever you set out to Google something,

Ilekroć chcesz coś wygooglować,

start by asking yourself this: "Am I looking for an isolated fact?"

zadaj sobie pytanie: "Czy szukam bezdyskusyjnej odpowiedzi?".

What is the capital of France?

Jaka jest stolica Francji?

What are the building blocks of a water molecule?

Co jest budulcem cząsteczki wody?

Great -- Google away.

Super. Google znajdzie.

There's not a group of scientists who are this close to proving

Żadna grupa naukowców nie udowodni,

that it's actually London and H30.

że tak chodzi o Londyn oraz H3O.

You don't see a big conspiracy among those things.

Nie ma w tym wielkiej konspiracji.

We agree, on a global scale,

Zgadzamy się,

what the answers are to these isolated facts.

jakie są odpowiedzi na te niezaprzeczalne fakty.

But if you complicate your question just a little bit and ask something like,

Ale jeśli choć trochę skomplikujesz pytanie, jak na przykład:

"Why is there an Israeli-Palestine conflict?"

"Z czego wynika konflikt izraelsko-palestyński?",

You're not exactly looking for a singular fact anymore,

nie szukasz pojedynczego faktu,

you're looking for knowledge,

szukasz wiedzy,

which is something way more complicated and delicate.

czyli czegoś o wiele bardziej skomplikowanego i delikatnego.

And to get to knowledge,

Aby zdobyć wiedzę,

musisz zebrać 10, 20 lub 100 faktów,

you have to bring 10 or 20 or 100 facts to the table

and acknowledge them and say, "Yes, these are all true."

połączyć je i powiedzieć, "Tak, wszystkie są prawdziwe".

But because of who I am,

Ale z racji tego, kim jestem,

young or old, black or white, gay or straight,

młody czy stary, czarny czy biały, homo- czy heteroseksualny,

I will value them differently.

ocenię je inaczej.

And I will say, "Yes, this is true,

"Tak, to prawda,

but this is more important to me than that."

ale to jest dla mnie bardziej istotne".

And this is where it becomes interesting,

Tutaj zaczyna być interesująco,

because this is where we become human.

bo w tym momencie stajemy się człowiekiem.

This is when we start to argue, to form society.

To jest moment, gdzie zaczynamy spierać się, formując społeczeństwo.

And to really get somewhere, we need to filter all our facts here,

Aby naprawdę dojść do jakichś wniosków, musimy zweryfikować wszystkie fakty

through friends and neighbors and parents and children

przez przyjaciół, sąsiadów, rodziców, dzieci,

and coworkers and newspapers and magazines,

współpracowników, gazety i magazyny,

to finally be grounded in real knowledge,

by ostatecznie utwierdzić się w wiedzy,

a tego wyszukiwarka nie potrafi.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Obiecałem podać przykład, dlaczego tak trudno

to get to the point of true, clean, objective knowledge --

przejść do sedna prawdziwej, czystej, obiektywnej wiedzy,

jako materiał do przemyśleń.

as food for thought.

I will conduct a couple of simple queries, search queries.

Przeprowadzę kilka prostych zapytań.

We'll start with "Michelle Obama,"

Zacznijmy od Michelle Obamy,

the First Lady of the United States.

Pierwszej Damy USA.

And we'll click for pictures.

Wybierzemy zdjęcia.

Jak widzicie, działa całkiem nieźle.

It works really well, as you can see.

It's a perfect search result, more or less.

Idealny wynik wyszukiwania, mniej więcej.

It's just her in the picture, not even the President.

Są tylko jej zdjęcia, nawet żadnego prezydenta.

How does this work?

Jak to działa?

Quite simple.

Całkiem prosto.

Google uses a lot of smartness to achieve this, but quite simply,

Google używa sprytu, aby to osiągnąć, ale to całkiem proste.

they look at two things more than anything.

Zwracają przede wszystkim uwagę na dwie rzeczy,

First, what does it say in the caption under the picture on each website?

Po pierwsze podpis pod obrazkiem na każdej stronie internetowej.

Does it say "Michelle Obama" under the picture?

Czy napisane jest "Michelle Obama"?

Pretty good indication it's actually her on there.

Całkiem niezła wskazówka.

Second, Google looks at the picture file,

Druga to nazwa pliku,

the name of the file as such uploaded to the website.

jaki załadowano na stronę.

Again, is it called "MichelleObama.jpeg"?

Czy nazywa się "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Niezła wskazówka, że na zdjęciu nie ma Clinta Eastwooda.

So, you've got those two and you get a search result like this -- almost.

Wiedząc te dwie rzeczy, otrzymasz taki właśnie rezultat - prawie.

W 2009 roku Michelle Obama padła ofiarą rasistowskiej kampanii,

Now, in 2009, Michelle Obama was the victim of a racist campaign,

where people set out to insult her through her search results.

gdy ludzie postanowili ją znieważyć przez wynik wyszukiwania.

There was a picture distributed widely over the Internet

W sieci rozpowszechniono zdjęcie

na którym jej twarz zniekształcono, aby przypominała małpę.

where her face was distorted to look like a monkey.

And that picture was published all over.

Opublikowano je wszędzie.

Ludzie robili to celowo,

And people published it very, very purposefully,

to get it up there in the search results.

aby znalazło się w wynikach wyszukiwania.

They made sure to write "Michelle Obama" in the caption

Pamiętali o podpisie "Michelle Obama" pod zdjęciem

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

i o nazwaniu pliku w stylu "MichelleObama.jpeg".

You get why -- to manipulate the search result.

Domyślacie się, dlaczego - aby zmanipulować wyniki.

And it worked, too.

I to zadziałało.

So when you picture-Googled for "Michelle Obama" in 2009,

Zatem w 2009 roku szukanie zdjęć MIchelle Obamy

that distorted monkey picture showed up among the first results.

dawało na pierwszym miejscu zdjęcie małpy.

Now, the results are self-cleansing,

Wyniki wyszukiwania czyszczą się same.

and that's sort of the beauty of it,

Na tym polega ich urok,

bo Google mierzy ważność co godzinę, każdego dnia.

because Google measures relevance every hour, every day.

However, Google didn't settle for that this time,

Ale wtedy w Google na tym nie poprzestano.

they just thought, "That's racist and it's a bad search result

Stwierdzono "To rasistowski i niewłaściwy wynik wyszukiwania,

and we're going to go back and clean that up manually.

zatem wrócimy do tego i zrobimy porządek.

We are going to write some code and fix it,"

Napiszemy kod i naprawimy to".

which they did.

Tak też zrobili.

And I don't think anyone in this room thinks that was a bad idea.

Nie sądzę, żeby ktoś na tej sali uznał to za zły pomysł.

Me neither.

Ja też nie.

But then, a couple of years go by,

Ale kilka lat temu

and the world's most-Googled Anders,

najbardziej googlowany Anders,

Anders Behring Breivik,

Anders Behring Breivik,

zrobił, co zrobił.

did what he did.

This is July 22 in 2011,

22 lipca 2011 roku,

and a terrible day in Norwegian history.

straszny dzień w historii Norwegii.

This man, a terrorist, blew up a couple of government buildings

Ten człowiek, terrorysta, wysadził kilka rządowych budynków

walking distance from where we are right now in Oslo, Norway

niedaleko miejsca, w którym się znajdujemy, w Oslo w Norwegii.

and then he traveled to the island of Utøya

Następnie dostał się na wyspę Utoya,

and shot and killed a group of kids.

gdzie zastrzelił grupę dzieci.

Tamtego dnia zginęło prawie 80 osób.

Almost 80 people died that day.

And a lot of people would describe this act of terror as two steps,

Wielu ludzi opisałoby ten akt terroryzmu w dwóch etapach,

that he did two things: he blew up the buildings and he shot those kids.

zrobił dwie rzeczy: wysadził budynki i zastrzelił dzieci.

It's not true.

To nieprawda.

It was three steps.

To były trzy etapy.

He blew up those buildings, he shot those kids,

Wysadził budynki, zabił dzieci,

and he sat down and waited for the world to Google him.

po czym usiadł i czekał, aż świat go wygoogluje.

And he prepared all three steps equally well.

Każdy etap przygotował równie dobrze.

And if there was somebody who immediately understood this,

Znalazł się wtedy ktoś, kto natychmiast to zrozumiał.

it was a Swedish web developer,

Był to szwedzki programista,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

ekspert w optymalizacji wyszukiwarek, Nikke Lindqvist ze Sztokholmu.

He's also a very political guy

Jest facetem związanym z polityką

był na miejscu, w społecznych mediach, na swoim blogu i Facebooku.

and he was right out there in social media, on his blog and Facebook.

And he told everybody,

Powiedział wszystkim:

"If there's something that this guy wants right now,

"Ten facet chce teraz przede wszystkim

kontrolować swój wizerunek w sieci.

it's to control the image of himself.

Let's see if we can distort that.

Zobaczmy, czy uda nam się to zniszczyć,

Let's see if we, in the civilized world, can protest against what he did

Zobaczmy, czy w cywilizowanym świecie, jesteśmy w stanie zaprotestować

through insulting him in his search results."

przez obrażenie go w wyszukiwarce".

And how?

Jak to zrobić?

He told all of his readers the following,

Powiedział wszystkim czytelnikom:

"Go out there on the Internet,

"Zajrzyjcie do internetu,

find pictures of dog poop on sidewalks --

znajdźcie zdjęcia psich kup na chodniku

find pictures of dog poop on sidewalks --

publish them in your feeds, on your websites, on your blogs.

opublikujcie je na swoich stronach, blogach.

Make sure to write the terrorist's name in the caption,

Koniecznie podpiszcie zdjęcie nazwiskiem terrorysty

make sure to name the picture file "Breivik.jpeg."

i nazwijcie plik ze zdjęciem "Breivik.jpeg".

Let's teach Google that that's the face of the terrorist."

Nauczmy Google, że to jest twarz terrorysty.

And it worked.

To zadziałało.

Two years after that campaign against Michelle Obama,

Dwa lata po kampanii przeciwko Michelle Obamie

this manipulation campaign against Anders Behring Breivik worked.

manipulacja przeciwko Andersowi Breivikowi zadziałała.

Googlowanie jego zdjęcia po wydarzeniach 22 lipca

If you picture-Googled for him weeks after the July 22 events from Sweden,

you'd see that picture of dog poop high up in the search results,

dawało przez tydzień zdjęcia psiej kupy

as a little protest.

w ramach małego protestu.

Strangely enough, Google didn't intervene this time.

Co najdziwniejsze, Google tym razem nie interweniował.

They did not step in and manually clean those search results up.

Nie wkroczyli i nie usunęli ręcznie tych wyników.

So the million-dollar question,

Pytanie za milion dolarów.

is there anything different between these two happenings here?

Czy jest jakaś różnica między tymi dwoma zdarzeniami?

Czy jest jakaś różnica między tym, co spotkało Michelle Obamę

Is there anything different between what happened to Michelle Obama

i Andersa Behringa Breivika?

and what happened to Anders Behring Breivik?

Of course not.

Oczywiście nie.

It's the exact same thing,

Jest to dokładnie to samo.

yet Google intervened in one case and not in the other.

Ale Google interweniował tylko raz.

Why?

Dlaczego?

Because Michelle Obama is an honorable person, that's why,

Ponieważ Michelle Obama jest osobą czcigodną,

and Anders Behring Breivik is a despicable person.

a Anders Behring Breivik - nikczemną.

Widzicie, jak to działa?

See what happens there?

An evaluation of a person takes place

Mamy doczynienia z oceną osoby

and there's only one power-player in the world

i na świecie jest tylko jeden silny gracz,

with the authority to say who's who.

którego autorytet mówi nam, kto jest kim.

"We like you, we dislike you.

"Ciebie lubimy, ciebie nie lubimy.

We believe in you, we don't believe in you.

W ciebie wierzymy, w ciebie nie wierzymy.

You're right, you're wrong. You're true, you're false.

Ty masz rację , a ty nie. Ty mówisz prawdę, ty nie.

Ty jesteś Obama, a ty Breivik".

You're Obama, and you're Breivik."

That's power if I ever saw it.

To jest niespotykana moc.

So I'm asking you to remember that behind every algorithm

Pamiętajcie więc, że za każdym algorytmem

is always a person,

zawsze stoi człowiek,

a person with a set of personal beliefs

człowiek z osobistymi poglądami,

that no code can ever completely eradicate.

którego żaden kod nigdy kompletnie nie zastąpi.

And my message goes out not only to Google,

Moje przesłanie biegnie nie tylko do Google,

ale do wszystkich wierzących w kod na całym świecie.

but to all believers in the faith of code around the world.

Musicie zidentyfikować własne uprzedzenia.

You need to identify your own personal bias.

Musicie zrozumieć, że jesteście ludźmi

You need to understand that you are human

and take responsibility accordingly.

i brać za to stosowną odpowiedzialność.

And I say this because I believe we've reached a point in time

Mówię to, bo wierzę, że znaleźliśmy w miejscu,

when it's absolutely imperative

gdzie jest absolutna konieczne,

that we tie those bonds together again, tighter:

aby ponownie zacieśnić więzy

the humanities and the technology.

między humanistyką i techniką.

Tighter than ever.

ciaśniej niż kiedykolwiek.

And, if nothing else, to remind us that that wonderfully seductive idea

I żeby przypomnieć nam, że ta wspaniale kusząca idea

of the unbiased, clean search result

bezstronnego, obiektywnego wyniku wyszukiwań

is, and is likely to remain, a myth.

jest, i pewnie pozostanie, mitem.

Thank you for your time.

Dziękuję za uwagę.

(Brawa)

(Applause)