The moral bias behind your search results | Andreas Ekström

Tradutor: Margarida Ferreira Revisora: Jani Dunne

So whenever I visit a school and talk to students,

Sempre que visito uma escola e falo com estudantes

I always ask them the same thing:

pergunto-lhes sempre a mesma coisa:

Why do you Google?

"Porque é que usam o Google?

Why is Google the search engine of choice for you?

"Porque é que o Google é o vosso motor de pesquisa preferido?"

Strangely enough, I always get the same three answers.

É curioso que obtenho sempre as mesmas três respostas.

One, "Because it works,"

Um: "Porque funciona",

which is a great answer; that's why I Google, too.

o que é uma ótima resposta, também é por isso que eu uso o Google.

Two, somebody will say,

Dois, há alguém que diz:

"I really don't know of any alternatives."

"Não conheço nenhuma alternativa".

It's not an equally great answer and my reply to that is usually,

Não é uma resposta tão boa e a minha resposta habitualmente é:

"Try to Google the word 'search engine,'

"Experimenta pesquisar no Google 'motor de busca',

you may find a couple of interesting alternatives."

"talvez encontres algumas alternativas interessantes".

And last but not least, thirdly,

Por fim, mas não menos frequente, terceiro,

inevitably, one student will raise her or his hand and say,

inevitavelmente, um estudante levanta a mão e diz:

"With Google, I'm certain to always get the best, unbiased search result."

"Com o Google, tenho a certeza de obter sempre

"o melhor resultado de pesquisa, e imparcial".

Certain to always get the best, unbiased search result.

A certeza de obter sempre o melhor resultado de pesquisa, imparcial.

Now, as a man of the humanities,

Enquanto homem de Humanidades.

albeit a digital humanities man,

apesar de ser uma pessoa de Humanidades Digitais,

that just makes my skin curl,

fico todo arrepiado,

even if I, too, realize that that trust, that idea of the unbiased search result

embora eu também perceba que essa confiança,

essa ideia de resultado imparcial de pesquisa

is a cornerstone in our collective love for and appreciation of Google.

seja uma pedra basilar no nosso amor e apreciação coletiva do Google.

I will show you why that, philosophically, is almost an impossibility.

Vou mostrar-vos porque é que, filosoficamente, isso é quase impossível.

But let me first elaborate, just a little bit, on a basic principle

Mas, primeiro, vou refletir um pouco sobre um princípio básico

behind each search query that we sometimes seem to forget.

por detrás de cada pesquisa, que por vezes esquecemos.

So whenever you set out to Google something,

Sempre que se dispuserem a usar o Google, comecem por pensar nisto:

start by asking yourself this: "Am I looking for an isolated fact?"

"Estou à procura de um facto isolado?

What is the capital of France?

"Qual é a capital da França?

What are the building blocks of a water molecule?

"Quais são os elementos constitutivos duma molécula da água?"

Great -- Google away.

Ótimo... Google para a frente.

There's not a group of scientists who are this close to proving

Não há nenhum grupo de cientistas que estejam dispostos a provar

that it's actually London and H30.

que é Londres e H3O.

You don't see a big conspiracy among those things.

Não vemos nenhuma conspiração nestas coisas.

We agree, on a global scale,

Numa escala global, estamos de acordo

what the answers are to these isolated facts.

quanto às respostas para este tipo de factos isolados.

But if you complicate your question just a little bit and ask something like,

Mas, se complicarem um pouco a pergunta e perguntarem:

"Why is there an Israeli-Palestine conflict?"

"Porque é que há um conflito israelo-palestino?"

You're not exactly looking for a singular fact anymore,

já não estão propriamente a procurar um facto singular,

you're looking for knowledge,

estão a procurar conhecimentos,

which is something way more complicated and delicate.

o que é uma coisa mais complicada e delicada.

And to get to knowledge,

Para chegar ao conhecimento

you have to bring 10 or 20 or 100 facts to the table

precisamos de pôr em cima da mesa 10 ou 20 ou 100 factos,

and acknowledge them and say, "Yes, these are all true."

analisá-los e dizer: "Sim, estes são todos verdadeiros".

But because of who I am,

Mas, consoante eu seja

young or old, black or white, gay or straight,

novo ou velho, negro ou branco, "gay" ou hetero,

I will value them differently.

avalio-los de modo diferente e digo:

And I will say, "Yes, this is true,

"Sim, isto é verdade, mas, para mim, isto é mais importante do que aquilo".

but this is more important to me than that."

And this is where it becomes interesting,

É aqui que as coisas se tornam interessantes,

because this is where we become human.

porque é aqui que nos tornamos humanos.

This is when we start to argue, to form society.

É aqui que começamos a argumentar, a formar sociedade.

And to really get somewhere, we need to filter all our facts here,

Para chegar a algum lado, é preciso filtrar todos os nossos factos

through friends and neighbors and parents and children

com os amigos e vizinhos, com os pais e os filhos

and coworkers and newspapers and magazines,

e colegas e jornais e revistas,

to finally be grounded in real knowledge,

para finalmente chegarmos a um conhecimento real,

which is something that a search engine is a poor help to achieve.

coisa que um motor de busca dificilmente consegue.

So, I promised you an example just to show you why it's so hard

Prometi-vos um exemplo, só para mostrar porque é tão difícil

to get to the point of true, clean, objective knowledge --

chegar ao ponto da verdade, nua e crua, de um conhecimento objetivo,

as food for thought.

como alimento para o pensamento.

I will conduct a couple of simple queries, search queries.

Vou fazer algumas pesquisas simples.

We'll start with "Michelle Obama,"

Vamos começar com "Michelle Obama",

the First Lady of the United States.

a primeira dama dos EUA.

And we'll click for pictures.

E clicamos em imagens.

It works really well, as you can see.

Funciona mesmo bem, como podem ver.

It's a perfect search result, more or less.

É um resultado de pesquisa perfeito, mais ou menos.

It's just her in the picture, not even the President.

É só ela na imagem, sem sequer o Presidente.

How does this work?

Como é que isto funciona?

Quite simple.

Muito simples.

Google uses a lot of smartness to achieve this, but quite simply,

O Google usa muita esperteza para conseguir isto, mas é muito simples,

they look at two things more than anything.

olha sobretudo para duas coisas.

First, what does it say in the caption under the picture on each website?

Primeiro, o que é que diz na legenda por baixo da imagem em cada website?

Does it say "Michelle Obama" under the picture?

Diz: "Michelle Obama" por baixo da imagem?

Pretty good indication it's actually her on there.

É uma boa indicação de que é realmente ela que ali está.

Second, Google looks at the picture file,

Segundo, o Google olha para o ficheiro da imagem,

the name of the file as such uploaded to the website.

para o nome do ficheiro, tal como carregado no "website".

Again, is it called "MichelleObama.jpeg"?

Chama-se "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Uma boa indicação de que não é o Clint Eastwood na imagem.

So, you've got those two and you get a search result like this -- almost.

Portanto, temos estes dois e obtemos um resultado de pesquisa como este... quase.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

Ora bem, em 2009, Michelle Obama foi vítima duma campanha racista,

where people set out to insult her through her search results.

em que as pessoas se puseram a insultá-la, através dos resultados de pesquisa.

There was a picture distributed widely over the Internet

Houve uma imagem distribuída amplamente na Internet

where her face was distorted to look like a monkey.

com a cara dela distorcida para parecer um macaco.

And that picture was published all over.

Essa imagem foi publicada por toda a parte.

And people published it very, very purposefully,

As pessoas publicaram-na de propósito

to get it up there in the search results.

para que ela aparecesse no resultado da pesquisa.

They made sure to write "Michelle Obama" in the caption

Tiveram o cuidado de escrever "Michelle Obama" na legenda

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

e tiveram o cuidado de carregar a imagem como "MichelleObama.jpeg", ou equivalente.

You get why -- to manipulate the search result.

Porquê? Para manipularem o resultado da pesquisa.

And it worked, too.

E também funcionou.

So when you picture-Googled for "Michelle Obama" in 2009,

Quando, em 2009, procurávamos no Google imagens de Michelle Obama,

that distorted monkey picture showed up among the first results.

essa imagem distorcida aparecia entre os primeiros resultados.

Now, the results are self-cleansing,

Ora bem, os resultados fazem uma auto-limpeza,

and that's sort of the beauty of it,

— é o que faz a beleza do sistema —

because Google measures relevance every hour, every day.

porque o Google está sempre a medir a relevância.

However, Google didn't settle for that this time,

Mas, dessa vez, o Google não se contentou com isso e pensou:

they just thought, "That's racist and it's a bad search result

"Isto é racista, e é um mau resultado da pesquisa,

and we're going to go back and clean that up manually.

"vamos limpar isto manualmente.

We are going to write some code and fix it,"

"Vamos escrever um código qualquer e consertar isto".

which they did.

E assim fizeram.

And I don't think anyone in this room thinks that was a bad idea.

Penso que ninguém nesta sala acha que foi uma má ideia.

Me neither.

Eu também não.

But then, a couple of years go by,

Mas depois, passaram uns anos

and the world's most-Googled Anders,

e Anders Behring Breivik,

Anders Behring Breivik,

o Anders mais procurado no Google,

did what he did.

fez o que fez.

This is July 22 in 2011,

Foi a 22 de julho de 2011,

and a terrible day in Norwegian history.

um dia terrível na história da Noruega.

This man, a terrorist, blew up a couple of government buildings

Este homem, um terrorista, fez explodir alguns edifícios governamentais

walking distance from where we are right now in Oslo, Norway

perto do sítio onde nos encontramos em Oslo, na Noruega.

and then he traveled to the island of Utøya

Depois, foi para a ilha de Utøya

and shot and killed a group of kids.

e matou a tiro um grupo de jovens.

Almost 80 people died that day.

Morreram quase 80 pessoas nesse dia.

And a lot of people would describe this act of terror as two steps,

Muita gente pensou que este ato de terrorismo teve duas fases:

that he did two things: he blew up the buildings and he shot those kids.

fazer explodir os edifícios e matar aqueles jovens.

It's not true.

Não é verdade.

It was three steps.

Foram três fases.

He blew up those buildings, he shot those kids,

Fez explodir os edifícios, matou aqueles jovens,

and he sat down and waited for the world to Google him.

sentou-se e esperou que o mundo o procurasse no Google.

And he prepared all three steps equally well.

E preparou igualmente bem todas essas três fases.

And if there was somebody who immediately understood this,

Houve alguém que percebeu isto imediatamente,

um programador sueco, Nikke Lindqvist.

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

um especialista de otimização de motores de busca, em Estocolmo.

He's also a very political guy

É também um tipo muito político.

and he was right out there in social media, on his blog and Facebook.

Saltou logo para as redes sociais, no seu blogue e no Facebook.

And he told everybody,

Disse a toda a gente:

"If there's something that this guy wants right now,

"O que este tipo quer, neste momento, é controlar a própria imagem.

it's to control the image of himself.

Let's see if we can distort that.

"Vejamos se podemos contrariar isso.

Let's see if we, in the civilized world, can protest against what he did

"Vejamos se nós, no mundo civilizado, podemos protestar contra o que ele fez

through insulting him in his search results."

"insultando-o nos resultados da pesquisa."

And how?

Mas como?

He told all of his readers the following,

Ele disse o seguinte a todos os seus leitores:

"Go out there on the Internet,

"Vão à Internet,

find pictures of dog poop on sidewalks --

"procurem imagens de cocó de cão nos passeios,

find pictures of dog poop on sidewalks --

"encontrem imagens de cocó de cão nos passeios,

publish them in your feeds, on your websites, on your blogs.

"publiquem-nas nos vossos websites, nos vossos blogues.

Make sure to write the terrorist's name in the caption,

"Não se esqueçam de escrever o nome do terrorista na legenda,

make sure to name the picture file "Breivik.jpeg."

"não se esqueçam de pôr o nome 'Breivik.jpeg' no ficheiro da imagem.

Let's teach Google that that's the face of the terrorist."

"Vamos ensinar ao Google que é esse o rosto do terrorista".

And it worked.

E funcionou.

Two years after that campaign against Michelle Obama,

Dois anos depois da campanha contra Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

esta campanha de manipulação contra Anders Behring Breivik funcionou.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Quem procurou imagens dele no Google, depois de 22 de julho na Suécia,

you'd see that picture of dog poop high up in the search results,

viu que as imagens de cocó de cão apareciam nos resultados da pesquisa,

as a little protest.

como um pequeno protesto.

Strangely enough, Google didn't intervene this time.

Estranhamente, o Google dessa vez não interferiu.

They did not step in and manually clean those search results up.

Não limparam manualmente os resultados da pesquisa.

So the million-dollar question,

Então, a pergunta de ouro,

is there anything different between these two happenings here?

"Há alguma diferença entre estes dois acontecimentos?"

Is there anything different between what happened to Michelle Obama

"Há alguma diferença entre o que aconteceu a Michelle Obama

and what happened to Anders Behring Breivik?

"e o que aconteceu a Anders Behring Breivik?"

Of course not.

Claro que não.

It's the exact same thing,

Foi exatamente a mesma coisa.

yet Google intervened in one case and not in the other.

No entanto, o Google interveio num caso e não no outro.

Why?

Porquê?

Because Michelle Obama is an honorable person, that's why,

Porque Michelle Obama é uma pessoa respeitável, é por isso,

and Anders Behring Breivik is a despicable person.

e Anders Behring Breivik é uma pessoa ignóbil.

See what happens there?

Estão a ver o que acontece aqui?

An evaluation of a person takes place

Fez-se um juízo de valor duma pessoa

and there's only one power-player in the world

e só há um todo-poderoso no mundo com autoridade para dizer quem é quem.

with the authority to say who's who.

"We like you, we dislike you.

"Gosto de ti, não gosto de ti.

We believe in you, we don't believe in you.

"Acredito em ti, em ti não.

You're right, you're wrong. You're true, you're false.

"Tens razão, tu não. Estás certo, estás errado.

"És o Obama, e tu és o Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Esse é um poder sem igual.

So I'm asking you to remember that behind every algorithm

Portanto, peço-vos que se lembrem de que, por detrás de cada algoritmo,

is always a person,

está sempre uma pessoa,

a person with a set of personal beliefs

uma pessoa com um conjunto de crenças pessoais

that no code can ever completely eradicate.

que nenhum código consegue eliminar totalmente.

And my message goes out not only to Google,

A minha mensagem não se dirige exclusivamente ao Google,

but to all believers in the faith of code around the world.

mas a todos os que acreditam na fé do código, pelo mundo inteiro.

You need to identify your own personal bias.

Precisamos de identificar os nossos preconceitos pessoais.

You need to understand that you are human

Precisamos de perceber que somos seres humanos

and take responsibility accordingly.

e assumir essa responsabilidade, em conformidade com isso.

And I say this because I believe we've reached a point in time

Digo isto porque acredito que chegámos a um ponto

when it's absolutely imperative

em que é totalmente imperativo

that we tie those bonds together again, tighter:

que voltemos a ligar estes laços, mais apertados ainda,

the humanities and the technology.

as humanidades e a tecnologia.

Tighter than ever.

Mais apertados do que nunca.

And, if nothing else, to remind us that that wonderfully seductive idea

E, pelo menos, lembrarmo-nos de que essa ideia maravilhosamente sedutora

of the unbiased, clean search result

de resultados de pesquisa limpos, imparciais,

is, and is likely to remain, a myth.

é, e provavelmente continuará a ser, um mito.

Thank you for your time.

Obrigado pelo vosso tempo.

(Applause)

(Aplausos)