The moral bias behind your search results | Andreas Ekström

Traducteur: Amber Rignell Relecteur: Claire Ghyselen

So whenever I visit a school and talk to students,

Quand je visite une école et parle aux élèves,

I always ask them the same thing:

je leur demande toujours la même chose :

Why do you Google?

Pourquoi utiliser Google ?

Why is Google the search engine of choice for you?

Pourquoi Google est-il votre moteur de recherche préféré ?

Strangely enough, I always get the same three answers.

Curieusement, j'obtiens toujours trois réponses.

One, "Because it works,"

Premièrement : « Parce que ça marche. »

which is a great answer; that's why I Google, too.

Bonne réponse ; c'est pour ça que moi aussi, je google.

Two, somebody will say,

Ensuite, quelqu'un d'autre dira :

"I really don't know of any alternatives."

« Je ne connais pas d'autres alternatives. »

It's not an equally great answer and my reply to that is usually,

Cette réponse est moins bonne. J'y réponds d'habitude par :

"Try to Google the word 'search engine,'

« Tape moteur de recherche dans Google,

you may find a couple of interesting alternatives."

tu trouveras sûrement des alternatives valables. »

And last but not least, thirdly,

Enfin et surtout,

inevitably, one student will raise her or his hand and say,

inévitablement, un élève lèvera la main pour dire :

"With Google, I'm certain to always get the best, unbiased search result."

« Avec Google, je suis sûr de toujours obtenir le meilleur résultat impartial. »

Certain to always get the best, unbiased search result.

Sûr de toujours obtenir un résultat impartial.

Now, as a man of the humanities,

En tant qu'humaniste,

albeit a digital humanities man,

quoiqu'humaniste numérique,

that just makes my skin curl,

ça me fait grincer des dents.

even if I, too, realize that that trust, that idea of the unbiased search result

Je me rends certes compte que notre confiance en un résultat neutre

is a cornerstone in our collective love for and appreciation of Google.

est la clef de voûte de notre amour et de notre estime pour Google.

I will show you why that, philosophically, is almost an impossibility.

Je vais cependant vous démontrer pourquoi c'est une utopie philosophique.

But let me first elaborate, just a little bit, on a basic principle

En préambule, je vais esquisser le principe de base, souvent oublié,

behind each search query that we sometimes seem to forget.

qui rend possible chacune de nos recherches.

So whenever you set out to Google something,

Quand on fait une recherche sur Google,

start by asking yourself this: "Am I looking for an isolated fact?"

on doit se demander si on est à la recherche d’un fait isolé ou pas.

What is the capital of France?

Quelle est la capitale de la France ?

What are the building blocks of a water molecule?

Quels sont les éléments d'une molécule d'eau ?

Great -- Google away.

Super - on lance la recherche.

There's not a group of scientists who are this close to proving

Le groupe de scientifiques qui vous prouvera

that it's actually London and H30.

que c'est Londres et H3O n'est pas encore né.

You don't see a big conspiracy among those things.

Pas de conspiration à l'horizon.

We agree, on a global scale,

Le monde entier accepte ces réponses

what the answers are to these isolated facts.

à des questions qui portent sur des faits isolés.

But if you complicate your question just a little bit and ask something like,

Mais quand les questions sont complexes,

« Pourquoi y a-t-il un conflit israélo-palestinien ? », par exemple,

"Why is there an Israeli-Palestine conflict?"

You're not exactly looking for a singular fact anymore,

on n'est plus à la recherche d'un fait unique.

you're looking for knowledge,

On est à la recherche d'intelligence,

which is something way more complicated and delicate.

ce qui est plus complexe et plus délicat.

And to get to knowledge,

Pour acquérir ce savoir,

you have to bring 10 or 20 or 100 facts to the table

il faut réunir et recouper 10, 20 ou 100 données,

and acknowledge them and say, "Yes, these are all true."

les reconnaître, les accepter : « Oui, tout ça est exact. »

But because of who I am,

Cependant, je vais leur accorder une importance variable,

young or old, black or white, gay or straight,

selon qui je suis, jeune, âgé, noir, blanc, gay ou hétéro.

I will value them differently.

And I will say, "Yes, this is true,

Je reconnais l'exactitude des faits,

but this is more important to me than that."

mais ceci est plus important à mes yeux que ça.

And this is where it becomes interesting,

C'est là que ça devient intéressant,

because this is where we become human.

car c'est là que l'on devient humain.

This is when we start to argue, to form society.

C'est à cet instant que l'on commence à délibérer et former une société.

And to really get somewhere, we need to filter all our facts here,

Pour y réussir, on doit filtrer tous les faits,

through friends and neighbors and parents and children

à travers nos amis et voisins, nos parents et enfants,

and coworkers and newspapers and magazines,

nos collègues, les journaux et magazines.

to finally be grounded in real knowledge,

Tous ces filtres nous aident à transformer les données en intelligence,

which is something that a search engine is a poor help to achieve.

ce qui est le point faible d'un moteur de recherche.

So, I promised you an example just to show you why it's so hard

Je vous ai promis un exemple illustratif de la difficulté de créer un vrai savoir,

to get to the point of true, clean, objective knowledge --

pur et objectif.

J'espère que ça vous fera réfléchir.

as food for thought.

I will conduct a couple of simple queries, search queries.

Réalisons quelques recherches ensemble.

We'll start with "Michelle Obama,"

Commençons avec « Michelle Obama »,

the First Lady of the United States.

la Première Dame des États-Unis.

And we'll click for pictures.

On va cliquer sur les photos.

It works really well, as you can see.

Ça fonctionne très bien, comme vous le voyez.

It's a perfect search result, more or less.

C'est un résultat parfait pour notre recherche.

It's just her in the picture, not even the President.

Elle est seule sur la photo, sans même le Président.

How does this work?

Comment ça fonctionne ?

Quite simple.

En fait, c'est assez simple.

Google uses a lot of smartness to achieve this, but quite simply,

Google est très malin, mais la manière est simple.

they look at two things more than anything.

Le système recherche avant tout deux choses.

First, what does it say in the caption under the picture on each website?

D'abord, le libellé de la légende des photos sur chaque site web.

Does it say "Michelle Obama" under the picture?

Est-ce « Michelle Obama » ?

Pretty good indication it's actually her on there.

Voilà une bonne indication sur son identité.

Second, Google looks at the picture file,

Ensuite, Google regarde le nom du fichier lui-même,

the name of the file as such uploaded to the website.

tel qu'il est téléchargé sur le site.

Again, is it called "MichelleObama.jpeg"?

Dans ce cas aussi, ça s'appelle « MichelleObama.jpeg ».

Pretty good indication it's not Clint Eastwood in the picture.

Un indice nous laissant penser que ce n'est pas Clint Eastwood.

So, you've got those two and you get a search result like this -- almost.

Les deux indices croisés permettent donc d'obtenir un résultat comme celui-ci.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

En 2009, Michelle Obama a été la victime d'une campagne raciste.

where people set out to insult her through her search results.

Des gens l'ont insultée à travers les résultats de recherche.

There was a picture distributed widely over the Internet

Une photo a été publiée sur internet

dans laquelle son visage a été déformé pour ressembler à un singe.

where her face was distorted to look like a monkey.

And that picture was published all over.

Cette photo a été publiée partout.

And people published it very, very purposefully,

Les gens l'ont postée délibérément,

to get it up there in the search results.

pour qu'elle s'affiche en haut des résultats.

They made sure to write "Michelle Obama" in the caption

Ils se sont assurés que la légende soit « Michelle Obama »,

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

et que le nom du fichier téléchargé soit « MichelleObama.jpeg ».

You get why -- to manipulate the search result.

Dans un seul but : manipuler le résultat des recherches.

And it worked, too.

Et ça a fonctionné.

So when you picture-Googled for "Michelle Obama" in 2009,

Quand on cherchait une image d'elle sur Google en 2009,

that distorted monkey picture showed up among the first results.

cette photo de singe déformée arrivait dans les premiers résultats.

Now, the results are self-cleansing,

Les résultats sont en fait auto-correctifs.

and that's sort of the beauty of it,

C'est ça qui fait la beauté du système.

because Google measures relevance every hour, every day.

Google mesure la pertinence des données en continu.

However, Google didn't settle for that this time,

Or, dans ce cas précis, Google est allé plus loin.

they just thought, "That's racist and it's a bad search result

Ils ont pensé : « C'est un acte raciste, et le résultat est erroné.

and we're going to go back and clean that up manually.

Revenons en arrière, et corrigeons manuellement.

We are going to write some code and fix it,"

On va écrire un code et corriger ça ! »

which they did.

Aussitôt dit, aussitôt fait.

And I don't think anyone in this room thinks that was a bad idea.

Je suis absolument sûr que tout le monde ici trouve l'idée bonne.

Me neither.

Moi aussi.

But then, a couple of years go by,

Cependant, quelques années plus tard,

and the world's most-Googled Anders,

l'Anders le plus recherché sur Google,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

a commis les actes que l'on sait.

This is July 22 in 2011,

Le 22 Juillet 2011 restera un jour noir dans l'histoire de la Norvège.

and a terrible day in Norwegian history.

This man, a terrorist, blew up a couple of government buildings

Cet homme, un terroriste, a fait sauter quelques bâtiments administratifs,

walking distance from where we are right now in Oslo, Norway

à un jet de pierre d'Oslo, où nous sommes.

and then he traveled to the island of Utøya

Il s'est ensuite rendu dans l'ile d'Utøya

and shot and killed a group of kids.

et a tiré sur un groupe d'enfants.

Almost 80 people died that day.

Presque 80 personnes sont mortes ce jour-là.

And a lot of people would describe this act of terror as two steps,

La plupart des gens pensent que cet acte horrible a deux étapes.

that he did two things: he blew up the buildings and he shot those kids.

Un, il fait sauter les immeubles ; et deux, il tue ces enfants.

It's not true.

Ce n'est pas exact.

It was three steps.

Il y a 3 étapes à son plan.

He blew up those buildings, he shot those kids,

Il fait sauter les immeubles, il tue les enfants,

and he sat down and waited for the world to Google him.

et trois, il attend que le monde entier le google.

And he prepared all three steps equally well.

Et il a préparé les 3 étapes minutieusement.

And if there was somebody who immediately understood this,

Quelqu'un a compris ça immédiatement :

it was a Swedish web developer,

un développeur web Suédois, Nikke Lindqvist,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

spécialisé dans l’optimisation des moteurs de recherche.

He's also a very political guy

Il s’intéresse aussi à la politique.

and he was right out there in social media, on his blog and Facebook.

Il s'est immédiatement connecté aux réseaux sociaux, son blog, FB.

And he told everybody,

Voici ce qu'il a dit :

"If there's something that this guy wants right now,

« Cet homme veut avant tout contrôler son image.

it's to control the image of himself.

C'est son objectif principal.

Let's see if we can distort that.

Tentons de déformer ça.

Let's see if we, in the civilized world, can protest against what he did

Voyons si on peut, dans la monde civilisé, protester les actes qu'il a commis,

through insulting him in his search results."

en l'insultant dans les résultats de recherche. »

And how?

Comment faire ?

He told all of his readers the following,

Il a demandé à tous ses lecteurs :

"Go out there on the Internet,

« Allez sur Internet,

find pictures of dog poop on sidewalks --

trouvez des photos de crottes de chien sur les trottoirs,

find pictures of dog poop on sidewalks --

des crottes de chien,

publish them in your feeds, on your websites, on your blogs.

et postez-les sur vos sites web, sur vos blogs.

Make sure to write the terrorist's name in the caption,

Mentionnez le nom du terroriste dans la légende de la photo,

make sure to name the picture file "Breivik.jpeg."

et donnez au fichier le nom « Brievik.jpeg. »

Let's teach Google that that's the face of the terrorist."

Apprenons à Google que tel est le visage d'un terroriste. »

And it worked.

Ça a marché.

Two years after that campaign against Michelle Obama,

Deux ans après la campagne contre Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

cette campagne manipulatrice contre Anders Behring Breivik a marché.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Quand on faisait une recherche des semaines après ce 22 Juillet,

you'd see that picture of dog poop high up in the search results,

cette photo de crottes de chien apparaissait en haut des résultats.

as a little protest.

Une petite protestation.

Strangely enough, Google didn't intervene this time.

Curieusement, Google n'est pas intervenu cette fois-ci.

They did not step in and manually clean those search results up.

Ils n'ont pas nettoyé ces résultats manuellement.

So the million-dollar question,

La question à cent balles consiste à savoir

is there anything different between these two happenings here?

s'il y a une différence entre ces deux événements.

Y a-t-il une différence entre ce qui est arrivé à Michelle Obama

Is there anything different between what happened to Michelle Obama

et ce qui est arrivé à Anders Breivik ?

and what happened to Anders Behring Breivik?

Of course not.

Bien sûr que non.

It's the exact same thing,

C'est exactement la même chose.

yet Google intervened in one case and not in the other.

Cependant, Google est intervenu dans un cas et non dans l'autre.

Why?

Pourquoi ?

Because Michelle Obama is an honorable person, that's why,

Parce que Michelle Obama est une personne honorable,

and Anders Behring Breivik is a despicable person.

et Anders Breivik est une personne ignoble.

See what happens there?

Vous comprenez ce qui se passe ?

An evaluation of a person takes place

On a porté un jugement de valeur sur une personne.

and there's only one power-player in the world

Il n'y a qu'une puissance au monde

with the authority to say who's who.

pourvue de l'autorité de décider qui est qui.

"We like you, we dislike you.

« On vous aime, on ne vous aime pas.

We believe in you, we don't believe in you.

On croit en vous, on ne croit pas en vous.

You're right, you're wrong. You're true, you're false.

Vous avez raison, vous avez tort.

Vous êtes Obama, et vous êtes Breivik. »

You're Obama, and you're Breivik."

That's power if I ever saw it.

Voilà le pouvoir à l'état brut.

So I'm asking you to remember that behind every algorithm

C'est pour ça que je vous demande de vous rappeler

que derrière chaque algorithme, il y a toujours une personne,

is always a person,

a person with a set of personal beliefs

avec des croyances personnelles,

that no code can ever completely eradicate.

qu'aucun code ne pourra jamais complètement effacer.

And my message goes out not only to Google,

J'adresse mon message à Google,

but to all believers in the faith of code around the world.

et à tous les croyants en la programmation.

You need to identify your own personal bias.

Vous devez identifier vos propres préjugés.

You need to understand that you are human

Vous devez comprendre que vous êtes humain,

and take responsibility accordingly.

et prendre vos responsabilités en conséquence.

And I say this because I believe we've reached a point in time

Je crois que nous avons atteint un moment où il est impératif

when it's absolutely imperative

that we tie those bonds together again, tighter:

que nous resserrions les liens entre l'humanisme et la technologie,

the humanities and the technology.

et que nous les cultivions comme jamais auparavant.

Tighter than ever.

And, if nothing else, to remind us that that wonderfully seductive idea

Si vous ne deviez retenir qu'une seule idée :

of the unbiased, clean search result

l'idée séductrice du résultat de recherche neutre, et objectif,

is, and is likely to remain, a myth.

est et restera, un mythe.

Thank you for your time.

Merci pour votre temps.

(Applause)

(Applaudissements)