The moral bias behind your search results | Andreas Ekström

Übersetzung: Tina Lemk Lektorat: Angelika Lueckert Leon

So whenever I visit a school and talk to students,

Wann immer ich eine Schule besuche und mit den Schülern spreche,

I always ask them the same thing:

frage ich immer das Gleiche:

Why do you Google?

"Warum googelt ihr?

Why is Google the search engine of choice for you?

Warum benutzt ihr Google als Suchmaschine?"

Strangely enough, I always get the same three answers.

Jedes Mal bekomme ich die gleichen drei Antworten.

One, "Because it works,"

Erstens: "Weil es funktioniert."

which is a great answer; that's why I Google, too.

Das stimmt, deshalb google ich ja auch.

Two, somebody will say,

Zweitens:

"I really don't know of any alternatives."

"Ich kenne keine gute Alternative."

It's not an equally great answer and my reply to that is usually,

Das ist nicht so eine gute Antwort, und meistens erwidere ich dann:

"Try to Google the word 'search engine,'

"Google doch mal 'Suchmaschine',

you may find a couple of interesting alternatives."

dann findest du bestimmt eine."

And last but not least, thirdly,

Und drittens,

inevitably, one student will raise her or his hand and say,

das wird immer ein Schüler sagen:

"With Google, I'm certain to always get the best, unbiased search result."

"Mit Google kann ich mir sicher sein,

immer das beste, wertneutralste Ergebnis zu bekommen."

Certain to always get the best, unbiased search result.

Sicher sein, immer das beste, wertfreie Suchergebnis zu bekommen.

Now, as a man of the humanities,

Da ich aus den Geisteswissenschaften komme,

albeit a digital humanities man,

wenn auch aus den digitalen,

that just makes my skin curl,

läuft mir bei dieser Antwort ein Schauer über den Rücken.

even if I, too, realize that that trust, that idea of the unbiased search result

Ich verstehe zwar, dass diese Sicherheit, die Idee des wertneutralen Ergebnisses,

is a cornerstone in our collective love for and appreciation of Google.

der Grundstein unserer Liebe und Wertschätzung für Google ist.

I will show you why that, philosophically, is almost an impossibility.

Aber ich werde Ihnen zeigen, warum das schon rein theoretisch nicht möglich ist.

But let me first elaborate, just a little bit, on a basic principle

Zuerst müssen wir uns dafür ein Prinzip genauer anschauen,

behind each search query that we sometimes seem to forget.

das hinter jedem Suchvorgang steckt und das wir gerne vergessen.

So whenever you set out to Google something,

Wann immer Sie etwas googeln,

start by asking yourself this: "Am I looking for an isolated fact?"

fragen Sie sich zuerst: "Suche ich nach einem isolierten Fakt?"

What is the capital of France?

Was ist die Hauptstadt von Frankreich?

What are the building blocks of a water molecule?

Was sind die Teile eines Wassermoleküls?

Great -- Google away.

Super -- dann können Sie googeln.

There's not a group of scientists who are this close to proving

Es gibt keine Wissenschaftler, die kurz davor stehen, zu beweisen,

that it's actually London and H30.

dass das in Wirklichkeit London und H3O ist.

You don't see a big conspiracy among those things.

Hier gibt es keine Uneinigkeiten.

We agree, on a global scale,

Wir sind uns alle einig, was die Antworten auf diese isolierten Fakten sind.

what the answers are to these isolated facts.

Wenn Sie jetzt Ihre Frage ein wenig komplizierter stellen

But if you complicate your question just a little bit and ask something like,

und zum Beispiel fragen:

"Why is there an Israeli-Palestine conflict?"

"Warum gibt es einen Konflikt zwischen Israel und Palästina?"

You're not exactly looking for a singular fact anymore,

suchen Sie nicht mehr nach einem Fakt,

you're looking for knowledge,

sondern nach Wissen,

das viel komplizierter und heikler ist.

which is something way more complicated and delicate.

And to get to knowledge,

Um Wissen zu erlangen,

you have to bring 10 or 20 or 100 facts to the table

müssen Sie 10, 20, 100 Fakten sammeln,

ihnen zustimmen und sagen können, "Ja, die sind alle wahr."

and acknowledge them and say, "Yes, these are all true."

Aber durch das, was ich bin,

But because of who I am,

young or old, black or white, gay or straight,

jung oder alt, weiß oder schwarz, homo- oder heterosexuell,

I will value them differently.

bewerte ich jeden Fakt unterschiedlich.

And I will say, "Yes, this is true,

Ich werde sagen: "Ja, das stimmt,

but this is more important to me than that."

aber das hier ist wichtiger für mich."

And this is where it becomes interesting,

Ab da wird's interessant,

because this is where we become human.

weil wir ab dem Punkt menschlich werden.

This is when we start to argue, to form society.

An diesem Punkt fangen wir an, zu diskutieren, Gesellschaften zu formen.

And to really get somewhere, we need to filter all our facts here,

Um wirklich etwas zu erreichen, müssen wir alle Fakten filtern,

through friends and neighbors and parents and children

durch unsere Freunde und Nachbarn, Eltern und Kinder, Kollegen,

and coworkers and newspapers and magazines,

Zeitungen und Zeitschriften.

to finally be grounded in real knowledge,

Erst dann haben wir echtes Wissen,

bei dem uns eine Suchmaschine eigentlich nicht helfen kann.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Ich sprach von einem Beispiel, um zu zeigen, warum es so schwierig ist,

dieses objektive, reine, wahre Wissen zu erlangen --

to get to the point of true, clean, objective knowledge --

sozusagen als Denkanstoß.

as food for thought.

I will conduct a couple of simple queries, search queries.

Ich werde einfache Suchanfragen starten.

Fangen wir mit "Michelle Obama" an,

We'll start with "Michelle Obama,"

the First Lady of the United States.

der First Lady der USA.

And we'll click for pictures.

Wir suchen nach Bildern.

Das funktioniert super, wie man sieht.

It works really well, as you can see.

Es sind ziemlich perfekte Suchergebnisse.

It's a perfect search result, more or less.

It's just her in the picture, not even the President.

Nur Michelle ist im Bild, nicht mal der Präsident.

How does this work?

Wie funktioniert das?

Quite simple.

Erstaunlich einfach:

Google uses a lot of smartness to achieve this, but quite simply,

Google ist dabei sehr clever, aber um es einfach zu erklären:

they look at two things more than anything.

Sie schauen sich zwei Dinge an.

First, what does it say in the caption under the picture on each website?

Erstens: Was sagt die Bildunterschrift?

Does it say "Michelle Obama" under the picture?

Steht "Michelle Obama" unter dem Bild?

Pretty good indication it's actually her on there.

Ein gutes Zeichen, dass wirklich sie im Bild ist.

Zweitens schaut sich Google den Dateinamen an,

Second, Google looks at the picture file,

the name of the file as such uploaded to the website.

also den Namen, unter dem das Foto hochgeladen wurde.

Again, is it called "MichelleObama.jpeg"?

Heißt es "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Ein gutes Indiz dafür, dass es nicht Clint Eastwood ist.

So, you've got those two and you get a search result like this -- almost.

Man hat also diese beiden Kriterien und bekommt dieses Ergebnis -- fast.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

2009 wurde Michelle Obama Opfer einer rassistischen Kampagne,

in der sie durch ihre Suchergebnisse beleidigt werden sollte.

where people set out to insult her through her search results.

Es gab ein weit verbreitetes Bild,

There was a picture distributed widely over the Internet

in dem ihr Gesicht so entstellt war, dass sie aussah wie ein Affe.

where her face was distorted to look like a monkey.

And that picture was published all over.

Das Bild wurde überall hochgeladen.

Man hat das sehr strategisch getan,

And people published it very, very purposefully,

to get it up there in the search results.

um es in die Suchergebnisse zu bekommen.

They made sure to write "Michelle Obama" in the caption

Es wurde "Michelle Obama" betitelt,

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

und man lud es als "MichelleObama.jpeg" oder etwas ähnliches hoch.

You get why -- to manipulate the search result.

Sie verstehen, warum -- um die Suchergebnisse zu manipulieren.

And it worked, too.

Und das hat tatsächlich funktioniert.

So when you picture-Googled for "Michelle Obama" in 2009,

Wenn man also 2009 "Michelle Obama" gegoogelt hat,

that distorted monkey picture showed up among the first results.

fand man unter den ersten Bildern auch dieses Affen-Bild.

Now, the results are self-cleansing,

Die Ergebnisse bereinigen sich selbst,

and that's sort of the beauty of it,

und das ist das Schöne dabei,

weil Google jede Stunde, jeden Tag, die Relevanz der Ergebnisse misst.

because Google measures relevance every hour, every day.

However, Google didn't settle for that this time,

Dieses Mal ging Google aber weiter,

they just thought, "That's racist and it's a bad search result

da sie fanden: "Das ist rassistisch und ein schlechtes Suchergebnis.

and we're going to go back and clean that up manually.

Wir entfernen das manuell.

We are going to write some code and fix it,"

Wir müssen einen Code schreiben, und das Ganze reparieren."

which they did.

Und das taten sie.

And I don't think anyone in this room thinks that was a bad idea.

Ich glaube, niemand hier denkt, dass das eine schlechte Idee war.

Me neither.

Ich auch nicht.

But then, a couple of years go by,

Aber dann, ein paar Jahre später,

and the world's most-Googled Anders,

tat der meist gegoogelte Anders,

Anders Behring Breivik,

Anders Behring Breivik,

was er tat.

did what he did.

This is July 22 in 2011,

Das war am 22. Juli 2011,

and a terrible day in Norwegian history.

einem schrecklichen Tag für Norwegen.

This man, a terrorist, blew up a couple of government buildings

Dieser Mann, ein Terrorist, jagte einige Regierungsgebäude hoch,

walking distance from where we are right now in Oslo, Norway

in Gehweite von hier, wo wir grade sind, in Oslo, Norwegen,

und fuhr dann auf die Insel Utøya,

and then he traveled to the island of Utøya

and shot and killed a group of kids.

schoss auf und tötete eine Gruppe Kinder.

Fast 80 Menschen starben an diesem Tag.

Almost 80 people died that day.

And a lot of people would describe this act of terror as two steps,

Viele würden diesen Terrorakt in zwei Schritten beschreiben:

that he did two things: he blew up the buildings and he shot those kids.

Er jagte die Gebäude in die Luft und erschoss die Kinder.

It's not true.

Aber das stimmt nicht.

It was three steps.

Es gab drei Schritte.

Er jagte die Gebäude in die Luft, erschoss die Kinder,

He blew up those buildings, he shot those kids,

and he sat down and waited for the world to Google him.

und wartete, dass die Welt ihn googelt.

And he prepared all three steps equally well.

Jeden dieser Schritte bereitete er sorgfältig vor.

Und wenn das einer sofort verstanden hat,

And if there was somebody who immediately understood this,

dann war das ein schwedischer Webentwickler

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

und Suchmaschinen-Optimierungs-Experte aus Stockholm, Nikke Linqvist.

He's also a very political guy

Er ist auch politisch engagiert

and he was right out there in social media, on his blog and Facebook.

und war an jenem Tag in seinem Blog und auf Facebook sehr aktiv.

And he told everybody,

Er sagte allen:

"If there's something that this guy wants right now,

"Wenn es eines gibt, was dieser Kerl will,

dann ist es, sein Bild zu kontrollieren.

it's to control the image of himself.

Let's see if we can distort that.

Mal sehen, ob wir es verzerren können.

Mal sehen, ob wir, die Zivilisierten, gegen das, was er getan hat,

Let's see if we, in the civilized world, can protest against what he did

protestieren können, indem wir ihn durch seine Suchergebnisse beleidigen."

through insulting him in his search results."

And how?

Wie ging das?

He told all of his readers the following,

Er sagte all seinen Lesern Folgendes:

"Go out there on the Internet,

"Geht ins Internet,

find pictures of dog poop on sidewalks --

sucht Bilder von Hundehaufen --

find pictures of dog poop on sidewalks --

sucht Bilder von Hundehaufen --

publish them in your feeds, on your websites, on your blogs.

und ladet sie bei euch hoch, auf euren Websites und Blogs.

Make sure to write the terrorist's name in the caption,

Stellt sicher, dass ihr seinen Namen als Überschrift benutzt,

make sure to name the picture file "Breivik.jpeg."

und die Datei "Breivik.jpeg" nennt.

Let's teach Google that that's the face of the terrorist."

Lasst uns Google beibringen, dass das das Gesicht des Terroristen ist."

And it worked.

Es hat funktioniert.

Two years after that campaign against Michelle Obama,

Zwei Jahre nach Michelle Obama

this manipulation campaign against Anders Behring Breivik worked.

funktionierte diese Kampagne gegen Anders Behring Breivik.

Googelte man ihn in den Wochen danach,

If you picture-Googled for him weeks after the July 22 events from Sweden,

you'd see that picture of dog poop high up in the search results,

sah man unter den ersten Bild-Ergebnissen diese Hundehaufen als Protest.

as a little protest.

Strangely enough, Google didn't intervene this time.

Seltsamerweise schritt Google dieses Mal nicht ein.

They did not step in and manually clean those search results up.

Die Suchergebnisse wurden nicht manuell bereinigt.

So the million-dollar question,

Die Eine-Millionen-Dollar-Frage ist:

is there anything different between these two happenings here?

Gibt es irgendeinen Unterschied zwischen den beiden Kampagnen?

Is there anything different between what happened to Michelle Obama

Ist das, was Michelle Obama passierte,

and what happened to Anders Behring Breivik?

anders als das, was Anders Behring Breivik passierte?

Of course not.

Natürlich nicht.

It's the exact same thing,

Es ist genau das Gleiche,

yet Google intervened in one case and not in the other.

aber Google schritt nur in einem Fall ein.

Why?

Warum?

Because Michelle Obama is an honorable person, that's why,

Weil Michelle Obama eine ehrhafte Person ist,

and Anders Behring Breivik is a despicable person.

und Anders Behring Breivik eine verabscheuenswürdige.

See what happens there?

Sehen Sie, was passiert?

An evaluation of a person takes place

Es findet eine Bewertung statt,

and there's only one power-player in the world

und es gibt nur einen Power-Player in der Welt,

with the authority to say who's who.

der die Autorität hat, zu sagen, wer gut und wer schlecht ist.

"We like you, we dislike you.

"Wir mögen dich. Dich mögen wir nicht.

We believe in you, we don't believe in you.

Wir glauben an dich, aber nicht an dich."

You're right, you're wrong. You're true, you're false.

"Du hast Recht, du nicht.

Du bist Obama, und du bist Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Das ist wahre Macht.

So I'm asking you to remember that behind every algorithm

Ich möchte, dass Ihnen bewusst wird, dass hinter jedem Algorithmus

is always a person,

immer eine Person sitzt,

a person with a set of personal beliefs

eine Person mit individuellen Meinungen,

that no code can ever completely eradicate.

die kein Code jemals entfernen kann.

And my message goes out not only to Google,

Meine Botschaft gilt nicht nur Google,

but to all believers in the faith of code around the world.

sondern allen, die fest an Codes glauben.

Sie müssen Ihre eigenen Neigungen einsehen

You need to identify your own personal bias.

You need to understand that you are human

und verstehen, dass Sie ein Mensch sind

and take responsibility accordingly.

und dementsprechend handeln.

And I say this because I believe we've reached a point in time

Ich bin der Meinung, dass wir an einem Punkt angelangt sind,

when it's absolutely imperative

an dem es absolut notwendig wird,

that we tie those bonds together again, tighter:

dass wir diese Verknüpfungen immer enger machen:

the humanities and the technology.

Technik und Geisteswissenschaften.

Tighter than ever.

Enger als je zuvor,

And, if nothing else, to remind us that that wonderfully seductive idea

nicht zuletzt, um uns daran zu erinnern, dass diese so verlockende Idee,

of the unbiased, clean search result

eines wertfreien Suchergebnisses ein Mythos ist,

is, and is likely to remain, a myth.

und wahrscheinlich auch bleiben wird.

Thank you for your time.

Vielen Dank.

(Applause)

(Applaus)