The moral bias behind your search results | Andreas Ekström

Översättare: Annika Bidner Granskare: Lisbeth Pekkari

So whenever I visit a school and talk to students,

När jag besöker en skola och pratar med eleverna

I always ask them the same thing:

frågar jag dem alltid samma sak:

Why do you Google?

Varför googlar du?

Why is Google the search engine of choice for you?

Varför är Google den sökmotor som du väljer?

Strangely enough, I always get the same three answers.

Konstigt nog får jag alltid samma tre svar.

One, "Because it works,"

Ett, "För att det fungerar,"

which is a great answer; that's why I Google, too.

vilket är ett grymt bra svar; det är därför jag också googlar.

Two, somebody will say,

Två, någon kommer att säga,

"I really don't know of any alternatives."

"Jag känner egentligen inte till några alternativ."

It's not an equally great answer and my reply to that is usually,

Det är inte ett lika bra svar och mitt svar på det är oftast,

"Try to Google the word 'search engine,'

"Försök att googla ordet 'sökmotor',

you may find a couple of interesting alternatives."

du kanske hittar några intressanta alternativ."

And last but not least, thirdly,

Och sist men inte minst, för det tredje,

inevitably, one student will raise her or his hand and say,

oundvikligen kommer en elev att räcka upp handen och säga,

"With Google, I'm certain to always get the best, unbiased search result."

"Men Google är jag säker på att alltid få det bästa, mest objektiva sökresultatet."

Certain to always get the best, unbiased search result.

Säker på att alltid få det bästa, mest objektiva sökresultatet.

Now, as a man of the humanities,

Som den humanist jag är,

albeit a digital humanities man,

även om jag är en digital humanist,

that just makes my skin curl,

ger det mig kalla kårar,

even if I, too, realize that that trust, that idea of the unbiased search result

även om jag också inser att tillit till idén om det objektiva sökresultatet

is a cornerstone in our collective love for and appreciation of Google.

är en hörnsten i vår kollektiva kärlek för och uppskattning av Google.

I will show you why that, philosophically, is almost an impossibility.

Jag ska visa er varför det, filosofiskt sett, nästan är en omöjlighet.

But let me first elaborate, just a little bit, on a basic principle

Men låt mig först prata lite om en grundläggande princip

behind each search query that we sometimes seem to forget.

bakom varje sökning som vi ibland glömmer.

So whenever you set out to Google something,

Varje gång du vill googla något,

start by asking yourself this: "Am I looking for an isolated fact?"

fråga dig själv: "Söker jag efter en isolerad faktauppgift?"

What is the capital of France?

Vilken är Frankrikes huvudstad?

What are the building blocks of a water molecule?

Vilka byggstenar består en vattenmolekyl av?

Great -- Google away.

Perfekt - googla på.

There's not a group of scientists who are this close to proving

Det finns inte någon forskargrupp som är nära att bevisa

that it's actually London and H30.

att det faktiskt är London och H3O.

You don't see a big conspiracy among those things.

Det finns inga konspirationer runt dem.

We agree, on a global scale,

Folk i hela världen är överens

what the answers are to these isolated facts.

om vilka svaren är på de isolerade frågorna.

But if you complicate your question just a little bit and ask something like,

Men om du ställer en mer komplicerad fråga,

"Why is there an Israeli-Palestine conflict?"

som "Varför finns det en konflikt mellan Israel och Palestina?"

You're not exactly looking for a singular fact anymore,

Då letar du inte längre efter en enskild faktauppgift,

you're looking for knowledge,

du söker efter kunskap, vilket är

which is something way more complicated and delicate.

något mycket mer komplicerat och ömtåligt.

And to get to knowledge,

Och för att få kunskap

you have to bring 10 or 20 or 100 facts to the table

måste du dra fram 10 eller 20 eller 100 faktauppgifter

and acknowledge them and say, "Yes, these are all true."

och bekräfta dem och säga "Ja, allt det här är sant."

But because of who I am,

Men beroende på vem jag är,

young or old, black or white, gay or straight,

ung eller gammal, svart eller vit, gay eller straight,

I will value them differently.

kommer jag värdera dem olika.

And I will say, "Yes, this is true,

Och säga, "Ja, det här är sant,

but this is more important to me than that."

men det här är mycket viktigare för mig än det där."

And this is where it becomes interesting,

Och det är här det blir intressant,

because this is where we become human.

för det är då vi blir mänskliga.

This is when we start to argue, to form society.

Det är här vi börjar diskutera, att forma ett samhälle.

And to really get somewhere, we need to filter all our facts here,

Och för att verkligen komma någonstans behöver vi filtrera alla våra fakta,

through friends and neighbors and parents and children

genom vänner, grannar, föräldrar, barn,

and coworkers and newspapers and magazines,

kollegor, dagstidningar och veckotidningar,

to finally be grounded in real knowledge,

för att till slut nå det riktiga kunskapen,

vilket en sökmotor är en dålig hjälp för att göra.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Jag lovade er ett exempel för att visa varför det är så svårt

to get to the point of true, clean, objective knowledge --

att uppnå sann, ren, objektiv kunskap -

as food for thought.

något att fundera på.

I will conduct a couple of simple queries, search queries.

Jag ska göra några enkla sökningar.

We'll start with "Michelle Obama,"

Vi börjar med "Michelle Obama,"

the First Lady of the United States.

USA:s första dam.

And we'll click for pictures.

Och vi klickar oss fram till bilder.

It works really well, as you can see.

Det går väldigt bra, som ni ser.

It's a perfect search result, more or less.

Det är ett nästan perfekt sökresultat.

It's just her in the picture, not even the President.

Det är bara hon på bilden, inte ens presidenten.

How does this work?

Hur går det till?

Quite simple.

Ganska enkelt.

Google uses a lot of smartness to achieve this, but quite simply,

Google använder sin kunskap för att klara av det, men enkelt uttryckt

they look at two things more than anything.

tittar de på två saker mer än något annat.

First, what does it say in the caption under the picture on each website?

Först och främst, vad står det under bilden på varje webbplats?

Does it say "Michelle Obama" under the picture?

Står det "Michelle Obama" under bilden?

Pretty good indication it's actually her on there.

En bra indikation på att hon är med.

Second, Google looks at the picture file,

Google tittar också på bildfilen,

the name of the file as such uploaded to the website.

namnet på den faktiska filen som laddats upp på webbplatsen.

Again, is it called "MichelleObama.jpeg"?

Heter den "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

En ganska bra indikation på att bilden inte visar Clint Eastwood.

So, you've got those two and you get a search result like this -- almost.

Om man har de två får man ett sökresultat som det här - ungefär.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Under 2009 utsattes Michelle Obama för en rasistisk kampanj

where people set out to insult her through her search results.

där människor ville kränka henne genom hennes sökresultat.

There was a picture distributed widely over the Internet

Det fanns en bild som spreds över internet

där hennes ansikte var förvrängt för att se ut som en apa.

where her face was distorted to look like a monkey.

And that picture was published all over.

Och den bilden publicerades överallt.

Och folk publicerade den mycket medvetet,

And people published it very, very purposefully,

to get it up there in the search results.

för att den skulle hamna högt i sökresultaten.

They made sure to write "Michelle Obama" in the caption

De skrev "Michelle Obama" i bildtexten och laddade upp en bild

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

som hette "MichelleObama.jpeg", eller något liknande.

You get why -- to manipulate the search result.

Ni förstår varför - för att manipulera sökresultatet.

And it worked, too.

Det fungerade också.

So when you picture-Googled for "Michelle Obama" in 2009,

Så när man bildgooglade efter "Michelle Obama" under 2009

that distorted monkey picture showed up among the first results.

dök den där förvrängda apbilden upp bland de första sökresultaten.

Now, the results are self-cleansing,

Men resultaten är självsanerande,

and that's sort of the beauty of it,

och det är det fina i kråksången,

för Google mäter relevans varje timme under varje dag.

because Google measures relevance every hour, every day.

However, Google didn't settle for that this time,

Google nöjde sig inte med det den här gången,

they just thought, "That's racist and it's a bad search result

de tänkte, "Det där är rasistiskt och ett dåligt sökresultat,

and we're going to go back and clean that up manually.

vi borde rensa upp det där manuellt.

We are going to write some code and fix it,"

Vi skriver lite kod och fixar det",

which they did.

vilket de gjorde.

And I don't think anyone in this room thinks that was a bad idea.

Jag tror inte att någon i det här rummet tycker att det var en dålig idé.

Me neither.

Inte jag heller.

But then, a couple of years go by,

Men sen går ett par år

and the world's most-Googled Anders,

och världens mest googlade Anders,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

gjorde vad han gjorde.

This is July 22 in 2011,

Det är 22 juli 2011,

and a terrible day in Norwegian history.

en fruktansvärd dag i Norges historia.

This man, a terrorist, blew up a couple of government buildings

Den här mannen, en terrorist, sprängde ett par regeringsbyggnader

walking distance from where we are right now in Oslo, Norway

på gångavstånd från där vi nu befinner oss i Oslo, Norge

and then he traveled to the island of Utøya

och sen reste han till ön Utøya

och sköt ihjäl en grupp ungdomar.

and shot and killed a group of kids.

Almost 80 people died that day.

Nästan 80 personer dog den dagen.

And a lot of people would describe this act of terror as two steps,

Många människor skulle beskriva denna terrorhandling som två steg,

that he did two things: he blew up the buildings and he shot those kids.

att han gjorde två saker: sprängde byggnaderna och sköt ungdomarna.

It's not true.

Det är inte sant.

It was three steps.

Det var tre steg.

He blew up those buildings, he shot those kids,

Han sprängde byggnaderna, sköt ungdomarna

and he sat down and waited for the world to Google him.

och han satte sig ner och väntade på att världen skulle googla honom.

And he prepared all three steps equally well.

Och han förberedde alla tre stegen lika väl.

And if there was somebody who immediately understood this,

Om det fanns någon som omedelbart förstod det här,

var det den svenske webbutvecklaren

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

och sökmotorexperten från Stockholm, Nikke Lindqvist.

He's also a very political guy

Han är också en politisk kille

and he was right out there in social media, on his blog and Facebook.

och han gav sig ut i sociala medier, på sin blogg och på Facebook.

And he told everybody,

Och han sa till alla,

"If there's something that this guy wants right now,

"Om det är något den här killen vill just nu,

så är det att kontrollera bilden av sig själv.

it's to control the image of himself.

Let's see if we can distort that.

Vi kan väl försöka förvränga den.

Let's see if we, in the civilized world, can protest against what he did

Låt oss i den civiliserade världen se om vi kan protestera mot vad han gjorde

through insulting him in his search results."

genom att förolämpa honom i hans sökresultat.

And how?

Hur då?

He told all of his readers the following,

Han sa följande till sina läsare,

"Go out there on the Internet,

"Gå ut på internet,

find pictures of dog poop on sidewalks --

leta efter bilder på hundbajs på trottoarer -

find pictures of dog poop on sidewalks --

hitta bilder på hundbajs på trottoarer -

publish them in your feeds, on your websites, on your blogs.

publicera dem i era flöden, på era webbplatser, på era bloggar.

Make sure to write the terrorist's name in the caption,

Se till att skriva terroristens namn i bildtexten, och se till att döpa bilden

make sure to name the picture file "Breivik.jpeg."

till "Breivik.jpeg."

Let's teach Google that that's the face of the terrorist."

Vi ska lära Google att det är terroristens ansikte.

And it worked.

Och det fungerade.

Two years after that campaign against Michelle Obama,

Två år efter den där kampanjen mot Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

så fungerade manipulationskampanjen mot Anders Behring Breivik.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Om du bildgooglade från Sverige några veckor efter den 22 juli

you'd see that picture of dog poop high up in the search results,

såg man att bilder av hundbajs kom högt upp i sökresultatet,

as a little protest.

som en liten protest.

Strangely enough, Google didn't intervene this time.

Konstigt nog grep inte Google in den här gången.

They did not step in and manually clean those search results up.

De rensade inte upp sökresultatet.

So the million-dollar question,

Den stora frågan är

is there anything different between these two happenings here?

vad det är som skiljer de två händelserna åt.

Finns det något som skiljer det som hände Michelle Obama

Is there anything different between what happened to Michelle Obama

och det som hände Anders Behring Breivik?

and what happened to Anders Behring Breivik?

Of course not.

Såklart inte.

It's the exact same thing,

Det är precis samma sak,

yet Google intervened in one case and not in the other.

men Google grep in i det ena fallet men inte i det andra.

Why?

Varför?

Because Michelle Obama is an honorable person, that's why,

För att Michelle Obama är en hedervärd person,

and Anders Behring Breivik is a despicable person.

och Anders Behring Breivik är en avskyvärd person.

See what happens there?

Ser ni vad som händer här?

An evaluation of a person takes place

En utvärdering av en person sker

and there's only one power-player in the world

och det finns bara en kraftfull aktör i världen

with the authority to say who's who.

som har makten att säga vem som är vem.

"We like you, we dislike you.

"Vi gillar dig, vi ogillar dig.

We believe in you, we don't believe in you.

Vi tror på dig, vi tror inte på dig.

You're right, you're wrong. You're true, you're false.

Du har rätt, du har fel. Du är sann, du är falsk.

Du är Obama, och du är Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Där kan vi prata om makt.

So I'm asking you to remember that behind every algorithm

Därför vill jag be er komma ihåg att bakom varje algoritm

is always a person,

finns det alltid en person,

a person with a set of personal beliefs

en person med en uppsättning egna värderingar

that no code can ever completely eradicate.

som ingen kod någonsin helt kan utrota.

And my message goes out not only to Google,

Mitt budskap gäller inte bara Google,

but to all believers in the faith of code around the world.

utan till alla er där ute som sätter er tilltro till kod.

Ni behöver identifiera vilka era egna värderingar är.

You need to identify your own personal bias.

You need to understand that you are human

Ni behöver förstå att ni är människor

and take responsibility accordingly.

och ta ansvar för det.

And I say this because I believe we've reached a point in time

Jag säger det för jag tror att vi har nått en punkt

when it's absolutely imperative

där det är absolut nödvändigt

that we tie those bonds together again, tighter:

att vi återknyter banden

the humanities and the technology.

mellan humaniora och teknik.

Tighter than ever.

Tätare än någonsin.

And, if nothing else, to remind us that that wonderfully seductive idea

Och om inte annat, påminna oss om att den underbart förföriska idén

of the unbiased, clean search result

om det opåverkade, rena sökresultatet

is, and is likely to remain, a myth.

är och fortsätter vara en myt.

Thank you for your time.

Tack för er tid.

(Applause)

(Applåder)