The moral bias behind your search results | Andreas Ekström

Traduttore: Gabriella Patricola Revisore: Anna Cristiana Minoli

Quando visito una scuola e parlo agli studenti,

So whenever I visit a school and talk to students,

chiedo sempre la stessa cosa:

I always ask them the same thing:

Why do you Google?

Perché Google?

Why is Google the search engine of choice for you?

Perché Google è il tuo motore di ricerca preferito?

Strangely enough, I always get the same three answers.

Stranamente, ricevo sempre le stesse tre risposte.

One, "Because it works,"

Uno, "Perché funziona",

which is a great answer; that's why I Google, too.

che è una gran risposta; anch'io uso Google per questo.

Two, somebody will say,

Due, qualcuno dice,

"I really don't know of any alternatives."

"In realtà non conosco nessuna alternativa."

It's not an equally great answer and my reply to that is usually,

Non è una grande risposta e la mia replica è, generalmente,

"Try to Google the word 'search engine,'

"Scrivi su Google "motore di ricerca",

you may find a couple of interesting alternatives."

puoi trovare un paio di alternative interessanti."

And last but not least, thirdly,

Ultimo, non per importanza, terzo,

inevitably, one student will raise her or his hand and say,

inevitabilmente, uno studente o una studentessa alza la mano e dice:

"With Google, I'm certain to always get the best, unbiased search result."

"Con Google, è sicuro avere sempre il meglio, un risultato imparziale.

Certain to always get the best, unbiased search result.

È sicuro di avere sempre il migliore risultato imparziale.

Now, as a man of the humanities,

In quanto filosofo,

albeit a digital humanities man,

benché filosofo nell'era digitale,

that just makes my skin curl,

questo mi fa venire la pelle d'oca

even if I, too, realize that that trust, that idea of the unbiased search result

anche se capisco che questa fiducia, quell'idea del risultato imparziale

is a cornerstone in our collective love for and appreciation of Google.

è il fondamento della nostra adorazione e del nostro apprezzamento per Google.

I will show you why that, philosophically, is almost an impossibility.

Vi mostrerò come, filosoficamente, è quasi impossibile.

But let me first elaborate, just a little bit, on a basic principle

Ma prima, permettetemi di ragionare, un po', sul principio di base

behind each search query that we sometimes seem to forget.

dietro ogni quesito di ricerca, che talvolta sembriamo dimenticare.

So whenever you set out to Google something,

Ogni volta che digitate qualcosa su Google,

start by asking yourself this: "Am I looking for an isolated fact?"

cominciate a chiedervi: "Sto cercando una singola informazione?"

What is the capital of France?

Qual è la capitale della Francia?

What are the building blocks of a water molecule?

Quali i legami costitutivi di una molecola d'acqua?

Great -- Google away.

Eccellente -- vai con Google.

There's not a group of scientists who are this close to proving

Non ci sono gruppi di scienziati così vicini a dimostrare

that it's actually London and H30.

che in realtà è Londra e H3O.

You don't see a big conspiracy among those things.

Non vedete una grande complotto in queste cose.

We agree, on a global scale,

Siamo d'accordo, globalmente,

what the answers are to these isolated facts.

su quali siano le risposte a queste informazioni.

But if you complicate your question just a little bit and ask something like,

Ma se complicate la domanda, e chiedete qualcosa come,

"Why is there an Israeli-Palestine conflict?"

"Perché c'è il conflitto Israelo-Palestinese?"

You're not exactly looking for a singular fact anymore,

Non state più cercando una singola informazione,

you're looking for knowledge,

state cercando conoscenza,

which is something way more complicated and delicate.

che è qualcosa di più complicato e delicato.

And to get to knowledge,

Per arrivare alla conoscenza,

you have to bring 10 or 20 or 100 facts to the table

dovete mettere sul tavolo 10 o 20 o 100 fatti

and acknowledge them and say, "Yes, these are all true."

dimostrarli e dire, "Sì, questi sono tutti veri."

But because of who I am,

Ma, in relazione a ciò che io sono,

young or old, black or white, gay or straight,

giovane o vecchio, bianco o nero, gay o etero,

I will value them differently.

li valuterò diversamente.

And I will say, "Yes, this is true,

E dirò, "Sì, questo è vero,

but this is more important to me than that."

ma per me questo è più rilevante, di quello."

And this is where it becomes interesting,

Ed è qui che diventa interessante,

because this is where we become human.

perché qui diventiamo umani.

This is when we start to argue, to form society.

Qui cominciamo a discutere, a formare la società.

And to really get somewhere, we need to filter all our facts here,

Per arrivare realmente da qualche parte, dobbiamo filtrare i fatti

through friends and neighbors and parents and children

attraverso amici, vicini, genitori, bambini,

and coworkers and newspapers and magazines,

colleghi, quotidiani e riviste,

to finally be grounded in real knowledge,

per poterci basare sulla conoscenza reale

which is something that a search engine is a poor help to achieve.

una cosa a cui il motore di ricerca può contribuire poco.

So, I promised you an example just to show you why it's so hard

Vi ho promesso un esempio solo per mostrarvi perché è così difficile

to get to the point of true, clean, objective knowledge --

raggiungere il punto della vera, pulita, oggettiva conoscenza --

as food for thought.

come cibo per la mente.

I will conduct a couple of simple queries, search queries.

Vi porterò un paio di semplici quesiti, interrogazioni di ricerca.

We'll start with "Michelle Obama,"

Cominceremo con "Michelle Obama",

the First Lady of the United States.

First Lady degli Stati Uniti.

And we'll click for pictures.

E selezioneremo immagini.

It works really well, as you can see.

Funziona molto bene, come potete vedere.

It's a perfect search result, more or less.

È un risultato di ricerca perfetto, più o meno.

It's just her in the picture, not even the President.

C'è solo lei nelle immagini, non c'è neanche il Presidente.

How does this work?

Come funziona?

Quite simple.

Molto semplice.

Google uses a lot of smartness to achieve this, but quite simply,

Google utilizza molte abilità per fare questo, ma soprattutto

they look at two things more than anything.

cerca due cose più di ogni altra.

First, what does it say in the caption under the picture on each website?

Primo, cosa dice la didascalia sotto l'immagine in ciascun sito web?

Does it say "Michelle Obama" under the picture?

Dice "Michelle Obama" sotto l'immagine?

Pretty good indication it's actually her on there.

Indicazione abbastanza buona, c'è lei nella foto.

Second, Google looks at the picture file,

Secondo, Google cerca il file immagine

the name of the file as such uploaded to the website.

il nome del file così come è stato caricato sul sito web.

Again, is it called "MichelleObama.jpeg"?

Di nuovo, si chiama "MichelleObama.jpg"?

Pretty good indication it's not Clint Eastwood in the picture.

Indicazione abbastanza buona, non c'è Clint Eastwood.

So, you've got those two and you get a search result like this -- almost.

Con queste due, ottenete questo risultato, o quasi.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Nel 2009, Michelle Obama è stata vittima di una campagna razzista,

where people set out to insult her through her search results.

da persone con l'intento di insultarla attraverso i risultati di ricerca.

There was a picture distributed widely over the Internet

C'era un'immagine largamente distribuita su Internet

where her face was distorted to look like a monkey.

dove il viso era distorto per somigliare a una scimmia.

And that picture was published all over.

E quell'immagine è stata pubblicata ovunque.

And people published it very, very purposefully,

La gente l'ha pubblicata proprio con l'intenzione

to get it up there in the search results.

di arrivare nei risultati di ricerca.

They made sure to write "Michelle Obama" in the caption

Si è assicurata di scrivere "Michelle Obama" nel titolo

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

e di caricare l'immagine come "MichelleObama.jpg", o simili.

You get why -- to manipulate the search result.

Capite perché -- per manipolare i risultati di ricerca.

And it worked, too.

E ha anche funzionato.

So when you picture-Googled for "Michelle Obama" in 2009,

Se cercavate su Google foto di "Michelle Obama" nel 2009,

that distorted monkey picture showed up among the first results.

quell'immagine distorta di scimmia compariva tra i primi risultati.

Now, the results are self-cleansing,

I risultati si auto-ripuliscono

and that's sort of the beauty of it,

e questa è la bellezza,

because Google measures relevance every hour, every day.

perché Google misura la rilevanza ogni ora, ogni giorno.

However, Google didn't settle for that this time,

Tuttavia, Google non l'ha sistemato questa volta,

they just thought, "That's racist and it's a bad search result

hanno pensato, "È razzista ed è un pessimo risultato di ricerca;

and we're going to go back and clean that up manually.

torneremo indietro e lo puliremo manualmente.

We are going to write some code and fix it,"

Riscriveremo il codice e lo sistemeremo,"

which they did.

e così hanno fatto.

And I don't think anyone in this room thinks that was a bad idea.

E penso che nessuno in questa sala pensi sia stata una pessima idea.

Me neither.

Neanch'io.

But then, a couple of years go by,

Ma quando, circa due anni fa,

and the world's most-Googled Anders,

il più ricercato su Google, Anders

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

fece quello che ha fatto.

This is July 22 in 2011,

È il 22 luglio del 2011,

and a terrible day in Norwegian history.

e un giorno terribile in Norvegia.

This man, a terrorist, blew up a couple of government buildings

Quest'uomo, un terrorista, fece esplodere un paio di palazzi del Governo

walking distance from where we are right now in Oslo, Norway

poco distanti da dove ci troviamo adesso a Oslo, in Norvegia

and then he traveled to the island of Utøya

e poi viaggiò verso l'isola di Utøya

and shot and killed a group of kids.

e sparò e uccise un gruppo di bambini.

Almost 80 people died that day.

Morirono circa 80 persone.

And a lot of people would describe this act of terror as two steps,

E molte persone descriverebbero questo atto di terrorismo in due fasi,

that he did two things: he blew up the buildings and he shot those kids.

fece due cose: far esplodere i palazzi e uccidere quei bambini.

It's not true.

Non è così.

It was three steps.

Erano tre fasi.

He blew up those buildings, he shot those kids,

Fece esplodere i palazzi, uccise i bambini,

and he sat down and waited for the world to Google him.

si sedette e aspettò che il mondo lo cercasse su Google.

And he prepared all three steps equally well.

E preparò le tre fasi ugualmente bene.

And if there was somebody who immediately understood this,

E se qualcuno lo ha immediatamente capito

it was a Swedish web developer,

è stato uno sviluppatore svedese

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

esperto in motori di ricerca a Stoccolma, Nikke Lindqvist.

He's also a very political guy

Politicamente impegnato.

and he was right out there in social media, on his blog and Facebook.

Aveva ragione nei social, nel suo blog e su Facebook.

And he told everybody,

Lo ha detto a tutti,

"If there's something that this guy wants right now,

"Se c'è qualcosa che quest'uomo vuole adesso,

it's to control the image of himself.

è controllare la sua immagine.

Let's see if we can distort that.

Vediamo se possiamo distorcerla.

Let's see if we, in the civilized world, can protest against what he did

Vediamo se, nel mondo civile, possiamo protestare contro quello che ha fatto

through insulting him in his search results."

insultandolo nei suoi risultati di ricerca."

And how?

Come?

He told all of his readers the following,

Disse ai suoi lettori quanto segue,

"Go out there on the Internet,

"Andate su Internet,

find pictures of dog poop on sidewalks --

trovate immagini di cacche di cane --

find pictures of dog poop on sidewalks --

trovate immagini di cacche di cane --

publish them in your feeds, on your websites, on your blogs.

pubblicatele nei vostri feed, nei vostri siti web, nei vostri blog.

Make sure to write the terrorist's name in the caption,

Sinceratevi di scrivere il nome del terrorista nel titolo,

make sure to name the picture file "Breivik.jpeg."

assicuratevi di nominare il file immagine "Breivik.jpeg".

Let's teach Google that that's the face of the terrorist."

Insegniamo a Google che quella è la faccia del terrorista."

And it worked.

E funzionò.

Two years after that campaign against Michelle Obama,

Due anni dopo quella campagna contro Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

l'iniziativa di manipolazione contro Anders Behring Breivik funzionò.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Se cercavate sue immagini su Google dopo i fatti del 22 luglio in Svezia,

you'd see that picture of dog poop high up in the search results,

vedevate l'immagine della cacca di cane in cima ai risultati di ricerca,

as a little protest.

come una piccola protesta.

Strangely enough, Google didn't intervene this time.

Stranamente, Google non è intervenuto questa volta.

They did not step in and manually clean those search results up.

Non sono intervenuti e non hanno ripulito manualmente quei risultati.

So the million-dollar question,

La domanda da un milione di dollari,

is there anything different between these two happenings here?

c'è qualche differenza tra queste due vicende?

Is there anything different between what happened to Michelle Obama

C'è qualche differenza tra quello che è successo a Michelle Obama

and what happened to Anders Behring Breivik?

e quello che è successo a Anders Behring Breivik?

Of course not.

Certo che no.

It's the exact same thing,

È esattamente la stessa cosa,

yet Google intervened in one case and not in the other.

eppure, Google è intervenuto in un caso e non nell'altro.

Why?

Perché?

Because Michelle Obama is an honorable person, that's why,

Perché Michelle Obama è una persona stimata, ecco perché,

and Anders Behring Breivik is a despicable person.

e Anders Behring Breivik è una persona orribile.

See what happens there?

Visto cos'è successo?

An evaluation of a person takes place

Si giudica una persona

and there's only one power-player in the world

e c'è soltanto una figura

with the authority to say who's who.

che ha l'autorità di dire chi è chi.

"We like you, we dislike you.

"Tu ci piaci, tu non ci piaci.

We believe in you, we don't believe in you.

A te crediamo, a te non ti crediamo.

You're right, you're wrong. You're true, you're false.

Tu hai ragione, tu hai torto. Sei vero, sei falso.

Tu sei Obama, e tu sei Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Questo è potere, se ho visto bene.

So I'm asking you to remember that behind every algorithm

Vi chiedo di ricordare che dietro ogni algoritmo

is always a person,

c'è sempre una persona,

a person with a set of personal beliefs

una persona con un insieme di convinzioni personali

that no code can ever completely eradicate.

che nessun codice potrà mai completamente sradicare.

And my message goes out not only to Google,

Il mio messaggio va non soltanto a Google,

but to all believers in the faith of code around the world.

ma a tutti coloro al mondo che credono nel codice.

You need to identify your own personal bias.

Si devono identificare i propri pregiudizi personali.

You need to understand that you are human

Bisogna capire di essere umani

and take responsibility accordingly.

e assumersi responsabilità di conseguenza.

And I say this because I believe we've reached a point in time

Dico questo perché credo che sia giunto il momento

when it's absolutely imperative

in cui è fondamentale

that we tie those bonds together again, tighter:

ricreare questi legami, più stretti:

the humanities and the technology.

le umanità e la tecnologia.

Tighter than ever.

Più stretti che mai.

And, if nothing else, to remind us that that wonderfully seductive idea

Se non altro, ci ricorda che quella meravigliosa idea seducente

of the unbiased, clean search result

di risultati di ricerca imparziali, puliti

is, and is likely to remain, a myth.

è, ed è probabile che rimanga, un mito.

Thank you for your time.

Grazie del vostro tempo.

(Applause)

(Applausi)