The moral bias behind your search results | Andreas Ekström

Vertaald door: Lucas Boden Nagekeken door: Peter van de Ven

So whenever I visit a school and talk to students,

Wanneer ik een school bezoek en praat met studenten,

I always ask them the same thing:

vraag ik hun altijd hetzelfde:

Why do you Google?

Waarom googel je?

Why is Google the search engine of choice for you?

Waarom is Google dé zoekmachine van jouw keuze?

Strangely enough, I always get the same three answers.

Vreemd genoeg krijg ik altijd dezelfde drie antwoorden.

One, "Because it works,"

Een: "Omdat het werkt",

which is a great answer; that's why I Google, too.

wat een prima antwoord is; daarom googel ik ook.

Two, somebody will say,

Twee, er is altijd iemand die zegt:

"I really don't know of any alternatives."

"Ik ken eigenlijk geen alternatieven."

It's not an equally great answer and my reply to that is usually,

Dat is geen goed antwoord.

Ik zeg dan meestal: "Googel eens het woord 'zoekmachine',

"Try to Google the word 'search engine,'

you may find a couple of interesting alternatives."

je vindt misschien een paar interessante alternatieven."

And last but not least, thirdly,

En tenslotte, ten derde,

inevitably, one student will raise her or his hand and say,

steekt er onvermijdelijk een student zijn of haar hand op en zegt:

"With Google, I'm certain to always get the best, unbiased search result."

"Met Google krijg ik gegarandeerd altijd het beste, objectieve zoekresultaat."

Certain to always get the best, unbiased search result.

'Krijg ik gegarandeerd altijd het beste, objectieve zoekresultaat.'

Now, as a man of the humanities,

Als menswetenschapper,

albeit a digital humanities man,

ofschoon een digitale menswetenschapper,

that just makes my skin curl,

krijg ik daar krullende tenen van.

even if I, too, realize that that trust, that idea of the unbiased search result

Hoewel ik ook besef dat dat vertrouwen, dat idee van objectieve zoekresultaten,

is a cornerstone in our collective love for and appreciation of Google.

een hoeksteen is in onze collectieve liefde en waardering voor Google.

I will show you why that, philosophically, is almost an impossibility.

Ik zal je laten zien waarom dat filosofisch gezien bijna onmogelijk is.

But let me first elaborate, just a little bit, on a basic principle

Laat ik eerst wat dieper ingaan op een basisprincipe achter elke zoekvraag

behind each search query that we sometimes seem to forget.

dat we soms vergeten.

So whenever you set out to Google something,

Wanneer je iets wil googelen,

start by asking yourself this: "Am I looking for an isolated fact?"

vraag jezelf dan eerst af: zoek ik een geïsoleerd feit?

What is the capital of France?

Wat is de hoofdstad van Frankrijk?

What are the building blocks of a water molecule?

Wat zijn de bouwstenen van een watermolecule?

Great -- Google away.

Prima! Googelen maar.

There's not a group of scientists who are this close to proving

We staan nou niet echt op het punt te ontdekken dat het Londen is en H3O.

that it's actually London and H30.

You don't see a big conspiracy among those things.

Er bestaan hierover geen grote samenzweringen.

We agree, on a global scale,

We zijn het er wereldwijd over eens

what the answers are to these isolated facts.

wat de antwoorden zijn inzake deze geïsoleerde feiten.

But if you complicate your question just a little bit and ask something like,

Maar als je je vraag moeilijker maakt

en iets vraagt als:

"Why is there an Israeli-Palestine conflict?"

"Waarom bestaat er een Palestijns-Israelisch conflict?"

You're not exactly looking for a singular fact anymore,

Dan zoek je geen eenvoudig feit meer.

you're looking for knowledge,

Dan zoek je naar kennis,

which is something way more complicated and delicate.

wat veel gecompliceerder en delicater is.

And to get to knowledge,

Om kennis te verkrijgen,

you have to bring 10 or 20 or 100 facts to the table

moet je 10, 20 of 100 feiten kennen,

and acknowledge them and say, "Yes, these are all true."

die erkennen en zeggen: "Ja, dat is allemaal waar."

But because of who I am,

Maar door wie ik ben,

young or old, black or white, gay or straight,

jong of oud, blank of donker, homo of hetero,

I will value them differently.

zal ik hen anders waarderen en zeggen:

And I will say, "Yes, this is true,

"Ja, dat is waar, maar dit is belangrijker voor mij dan dat."

but this is more important to me than that."

And this is where it becomes interesting,

Daar wordt het interessant,

because this is where we become human.

want hier worden we mensen.

This is when we start to argue, to form society.

Hier beginnen we te discussiëren, vormen we een maatschappij.

And to really get somewhere, we need to filter all our facts here,

Om echt iets te bereiken, moeten we hier de feiten filteren,

through friends and neighbors and parents and children

met vrienden en buren en ouders en kinderen

and coworkers and newspapers and magazines,

en collega's en kranten en tijdschriften,

to finally be grounded in real knowledge,

om uiteindelijk echte kennis te krijgen;

which is something that a search engine is a poor help to achieve.

iets wat je moeilijk aan een zoekmachine over kunt laten.

So, I promised you an example just to show you why it's so hard

Ik beloofde jullie een voorbeeld

om te tonen waarom het zo moeilijk is

to get to the point of true, clean, objective knowledge --

om tot echt objectieve kennis te komen

as food for thought.

-- als iets om over na te denken.

I will conduct a couple of simple queries, search queries.

Ik zal een paar eenvoudige zoekopdrachten doen.

We'll start with "Michelle Obama,"

We starten met:

'Michelle Obama', presidentsvrouw van de Verenigde Staten

the First Lady of the United States.

And we'll click for pictures.

en we zoeken foto's.

It works really well, as you can see.

Dat werk heel goed, zoals je ziet.

It's a perfect search result, more or less.

Praktisch een perfect zoekresultaat.

It's just her in the picture, not even the President.

Het is alleen zij op de foto, niet eens de president.

How does this work?

Hoe werkt dit?

Quite simple.

Vrij simpel.

Google uses a lot of smartness to achieve this, but quite simply,

Google gebruikt veel trucs om dit te bereiken,

maar eenvoudig gesteld kijken ze vooral naar twee dingen.

they look at two things more than anything.

First, what does it say in the caption under the picture on each website?

Ten eerste: wat zegt het bijschrift onder de foto op de website?

Does it say "Michelle Obama" under the picture?

Staat er 'Michelle Obama' onder de foto?

Pretty good indication it's actually her on there.

Dat is een goede indicatie dat zij het is.

Second, Google looks at the picture file,

Ten tweede: Google kijkt naar het bestand.

the name of the file as such uploaded to the website.

De naam van het bestand zoals het op de website geüpload werd.

Again, is it called "MichelleObama.jpeg"?

Opnieuw: heet het 'MichelleObama.jpeg'?

Pretty good indication it's not Clint Eastwood in the picture.

Dikke kans dat het niet Clint Eastwood is.

So, you've got those two and you get a search result like this -- almost.

Is aan die twee voorwaarden voldaan, dan krijg je dit zoekresultaat -- bijna.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

In 2009 was Michelle Obama slachtoffer van een racistische campagne

where people set out to insult her through her search results.

waarin mensen haar wilden beledigen via de zoekresultaten.

There was a picture distributed widely over the Internet

Er werd een foto verspreid over het internet,

where her face was distorted to look like a monkey.

waarop haar gezicht was vervormd tot dat van een aap.

And that picture was published all over.

Die foto werd overal gepubliceerd.

And people published it very, very purposefully,

Mensen publiceerden die heel, heel bewust

to get it up there in the search results.

om hem in de zoekresultaten te krijgen.

They made sure to write "Michelle Obama" in the caption

Ze schreven bewust 'Michelle Obama' in het bijschrift

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

en ze uploaden de foto bewust als 'MichelleObama.jepg' of zoiets.

You get why -- to manipulate the search result.

Je snapt waarom: om het zoekresultaat te manipuleren.

And it worked, too.

En het werkte ook.

So when you picture-Googled for "Michelle Obama" in 2009,

Dus wanneer je in 2009 'Michelle Obama' googelde,

that distorted monkey picture showed up among the first results.

stond die misvormde aap bij de eerste zoekresultaten.

Now, the results are self-cleansing,

De resultaten zijn zelfreinigend

and that's sort of the beauty of it,

en dat is de schoonheid ervan.

because Google measures relevance every hour, every day.

Google beoordeeld de relevantie elk uur, elke dag.

However, Google didn't settle for that this time,

Maar Google vond dat deze keer niet genoeg.

they just thought, "That's racist and it's a bad search result

Ze dachten: dat is racistisch en een slecht zoekresultaat.

and we're going to go back and clean that up manually.

We gaan dat terugdraaien en manueel corrigeren.

We are going to write some code and fix it,"

We passen de software aan en we lossen het op.

which they did.

En dat deden ze.

And I don't think anyone in this room thinks that was a bad idea.

Ik denk niet dat iemand hier vindt dat dat een slecht idee was.

Me neither.

Ik ook niet.

But then, a couple of years go by,

Maar dan, een paar jaar later,

and the world's most-Googled Anders,

deed 's werelds meest gegoogelde Anders,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

wat hij deed.

This is July 22 in 2011,

Dat was op 22 juli 2011,

and a terrible day in Norwegian history.

een vreselijke dag in de Noorse geschiedenis.

This man, a terrorist, blew up a couple of government buildings

Deze man, een terrorist, blies een aantal overheidsgebouwen op,

walking distance from where we are right now in Oslo, Norway

op wandelafstand hiervandaan in Oslo, Noorwegen.

and then he traveled to the island of Utøya

Daarna reed hij naar het eiland Utøya

and shot and killed a group of kids.

en beschoot een groep kinderen.

Almost 80 people died that day.

Bijna 80 mensen stierven die dag.

And a lot of people would describe this act of terror as two steps,

Veel mensen beschrijven deze terreurdaad als zijnde twee stappen:

that he did two things: he blew up the buildings and he shot those kids.

die gebouwen opblazen en die kinderen doodschieten.

It's not true.

Dat is niet waar.

It was three steps.

Er waren drie stappen.

He blew up those buildings, he shot those kids,

Hij blies die gebouwen op, beschoot die kinderen,

and he sat down and waited for the world to Google him.

en ging zitten wachten tot de wereld hem googelde.

And he prepared all three steps equally well.

Hij had al die drie stappen even goed voorbereid.

And if there was somebody who immediately understood this,

Er was iemand die dat onmiddellijk begreep.

Dat was een Zweedse webontwikkelaar,

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

een zoekmachine-optimalisatie-expert in Stockholm, genaamd Nikke Lindqvist.

He's also a very political guy

Hij is ook erg politiek ingesteld

and he was right out there in social media, on his blog and Facebook.

en hij was onmiddelijk op sociale media, op zijn blog en Facebook,

And he told everybody,

en hij vertelde iedereen:

"If there's something that this guy wants right now,

"Als er iets is dat die man nu wil,

dan is dat zijn imago controleren.

it's to control the image of himself.

Let's see if we can distort that.

Laten we eens kijken of we dat kunnen verstoren.

Let's see if we, in the civilized world, can protest against what he did

Laten we kijken of de beschaafde wereld kan protesteren tegen wat hij deed

through insulting him in his search results."

door hem te beledigen in de zoekresultaten."

And how?

Hoe?

He told all of his readers the following,

Hij vertelde al zijn lezers het volgende:

"Go out there on the Internet,

"Ga op het internet,

find pictures of dog poop on sidewalks --

zoek foto's van hondenpoep op de stoep,

find pictures of dog poop on sidewalks --

zoek foto's van hondenpoep op de stoep,

publish them in your feeds, on your websites, on your blogs.

publiceer die in jullie feed, op jullie websites en op jullie blogs.

Make sure to write the terrorist's name in the caption,

Vergeet niet de naam van de terrorist in het bijschrift te noemen,

make sure to name the picture file "Breivik.jpeg."

en noem het bestand 'Breivik.jpeg'.

Let's teach Google that that's the face of the terrorist."

Laten we Google leren dat dat het gezicht is van de terrorist."

And it worked.

En het werkte.

Two years after that campaign against Michelle Obama,

Twee jaar na de campagne tegen Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

werke deze manipulatiecampagne tegen Anders Behring Breivik.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Als je na de gebeurtenissen van 22 juli op Google naar zijn afbeelding zocht,

you'd see that picture of dog poop high up in the search results,

dan zag je die foto van hondenpoep hoog in de zoekresultaten,

as a little protest.

als een klein protest.

Strangely enough, Google didn't intervene this time.

Vreemd genoeg,

kwam Google deze keer niet tussenbeide.

They did not step in and manually clean those search results up.

Ze grepen niet in om de resulaten manueel bij te werken.

So the million-dollar question,

Dus de vraag van één miljoen:

is there anything different between these two happenings here?

is er iets verschillend tussen deze twee gebeurtenissen?

Is there anything different between what happened to Michelle Obama

Is er een verschil tussen wat er gebeurde met Michelle Obama

and what happened to Anders Behring Breivik?

en wat er gebeurde met Anders Behring Breivik?

Of course not.

Natuurlijk niet.

It's the exact same thing,

Het is exact hetzelfde.

yet Google intervened in one case and not in the other.

Toch greep Google in het ene geval in en niet in het andere.

Why?

Waarom?

Because Michelle Obama is an honorable person, that's why,

Omdat Michelle Obama een eerbaar persoon is, daarom,

and Anders Behring Breivik is a despicable person.

en Anders Behring Breivik is een verwerpelijk persoon.

See what happens there?

Zie je wat daar gebeurt?

An evaluation of a person takes place

Er is een evaluatie van de persoon

and there's only one power-player in the world

en er is maar één machthebber ter wereld

with the authority to say who's who.

met de autoriteit om te zeggen wie wie is.

"We like you, we dislike you.

"We mogen jou, we mogen jou niet.

We believe in you, we don't believe in you.

Wij geloven in jou, we geloven niet in jou.

You're right, you're wrong. You're true, you're false.

Jij hebt gelijk, jij hebt ongelijk.

Jij bent Obama en jij bent Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Dat is pure macht.

So I'm asking you to remember that behind every algorithm

Ik vraag je te onthouden

dat achter elk algoritme een persoon schuilt,

is always a person,

a person with a set of personal beliefs

een persoon met eigen waarden

that no code can ever completely eradicate.

die geen code ooit kan uitsluiten.

And my message goes out not only to Google,

Mijn boodschap is -- niet alleen aan Google --

but to all believers in the faith of code around the world.

maar aan alle mensen op de wereld die vertrouwen op codes.

You need to identify your own personal bias.

Je moet je eigen subjectiviteit in kaart hebben.

You need to understand that you are human

Je moet begrijpen dat je menselijk bent

en verantwoordelijkheid nemen naargelang.

and take responsibility accordingly.

And I say this because I believe we've reached a point in time

Ik zeg dat omdat ik geloof dat we op het punt gekomen zijn

when it's absolutely imperative

waarop het absoluut nodig is

that we tie those bonds together again, tighter:

dat we de band verstevigen tussen

the humanities and the technology.

de menswetenschappen en de technologie.

Tighter than ever.

Steviger dan ooit.

And, if nothing else, to remind us that that wonderfully seductive idea

En om ons er op zijn minst aan te herinneren

dat het verleidelijke idee van een objectief, schoon zoekresultaat

of the unbiased, clean search result

is, and is likely to remain, a myth.

een mythe is en wellicht zal blijven.

Thank you for your time.

Bedankt voor je tijd.

(Applause)

(Applaus)