The moral bias behind your search results | Andreas Ekström

Tradutor: Leonardo Silva Revisor: Raissa Mendes

So whenever I visit a school and talk to students,

Sempre que visito uma escola e falo com os alunos,

I always ask them the same thing:

sempre lhes faço a mesma pergunta:

Why do you Google?

"Por que vocês usam a busca do Google?

Why is Google the search engine of choice for you?

Por que vocês optam pela ferramenta de busca do Google?"

Strangely enough, I always get the same three answers.

É engraçado, mas sempre recebo as mesmas três respostas.

Primeiro: "Porque funciona",

One, "Because it works,"

which is a great answer; that's why I Google, too.

o que é uma ótima resposta. Também opto pelo Google por isso.

Two, somebody will say,

Segundo, alguém vai dizer: "Não conheço outras ferramentas".

"I really don't know of any alternatives."

It's not an equally great answer and my reply to that is usually,

Não é uma resposta tão boa quanto a anterior, e normalmente respondo:

"Try to Google the word 'search engine,'

"Busque 'ferramenta de busca' no Google",

you may find a couple of interesting alternatives."

e vai encontrar algumas alternativas interessantes".

And last but not least, thirdly,

Por último, mas não menos importante,

inevitably, one student will raise her or his hand and say,

inevitavelmente, algum aluno levanta a mão e diz:

"With Google, I'm certain to always get the best, unbiased search result."

"Com o Google, sempre obtenho o resultado melhor e imparcial".

Certain to always get the best, unbiased search result.

"Sempre obtenho o resultado melhor e imparcial."

Now, as a man of the humanities,

Como um cara de humanas, embora um cara de humanas digitais,

albeit a digital humanities man,

that just makes my skin curl,

isso simplesmente me assusta,

even if I, too, realize that that trust, that idea of the unbiased search result

embora eu também saiba que essa confiança, essa ideia de um resultado imparcial,

is a cornerstone in our collective love for and appreciation of Google.

é a base de nosso apreço e paixão coletivos pelo Google.

I will show you why that, philosophically, is almost an impossibility.

Vou mostrar por que, filosoficamente, isso é quase impossível,

But let me first elaborate, just a little bit, on a basic principle

mas primeiro vou falar, só um pouquinho, sobre um princípio básico

por trás de cada pesquisa feita, do qual às vezes parecemos nos esquecer.

behind each search query that we sometimes seem to forget.

So whenever you set out to Google something,

Sempre que você pesquisar algo no Google,

start by asking yourself this: "Am I looking for an isolated fact?"

faça antes a seguinte pergunta a si mesmo: "Estou buscando um fato isolado?"

What is the capital of France?

Tipo, qual é a capital da França?

What are the building blocks of a water molecule?

Quais elementos compõem a molécula de água?

Great -- Google away.

Perfeito. Pesquise à vontade.

There's not a group of scientists who are this close to proving

Não há um grupo sequer de cientistas que esteja perto de provar

that it's actually London and H30.

que as respostas são "Londres" e "H3O".

You don't see a big conspiracy among those things.

Não se vê uma grande conspiração em torno disso.

We agree, on a global scale,

Concordamos, em escala mundial,

what the answers are to these isolated facts.

quanto a quais são as respostas para esses fatos isolados.

Porém, se você complicar a pergunta só um pouquinho, assim:

But if you complicate your question just a little bit and ask something like,

"Why is there an Israeli-Palestine conflict?"

"Por que existe um conflito entre Israel e Palestina?",

You're not exactly looking for a singular fact anymore,

não estará mais buscando exatamente um único fato,

you're looking for knowledge,

mas estará buscando conhecimento,

which is something way more complicated and delicate.

o que é bem mais complicado e delicado.

And to get to knowledge,

E, para chegar ao conhecimento,

you have to bring 10 or 20 or 100 facts to the table

você precisa trazer 10, 20 ou 100 fatos à mesa,

and acknowledge them and say, "Yes, these are all true."

reconhecê-los e dizer: "Sim, todos são verdadeiros".

Mas, por causa de quem somos -

But because of who I am,

young or old, black or white, gay or straight,

jovens, idosos, negros, brancos, gays, héteros -,

I will value them differently.

vamos valorizá-los de forma diferente: "Sim, isso aqui é verdade,

And I will say, "Yes, this is true,

but this is more important to me than that."

mas isso aqui é mais importante pra mim do que aquilo".

And this is where it becomes interesting,

É aí que a coisa fica interessante, porque é aí que nos tornamos humanos,

because this is where we become human.

This is when we start to argue, to form society.

que começamos a debater, a criar uma sociedade.

And to really get somewhere, we need to filter all our facts here,

E, para realmente chegar a algum lugar, precisamos filtrar todos os fatos,

through friends and neighbors and parents and children

entre amigos, vizinhos, pais, filhos, colegas de trabalho, jornais, revistas,

and coworkers and newspapers and magazines,

to finally be grounded in real knowledge,

para finalmente estarmos baseados em conhecimento real,

algo que uma ferramenta de busca é ruim em nos ajudar a obter.

which is something that a search engine is a poor help to achieve.

So, I promised you an example just to show you why it's so hard

Prometi a vocês um exemplo, apenas para mostrar por que é tão difícil

to get to the point of true, clean, objective knowledge --

chegar ao conhecimento real, claro e objetivo,

como ponto para reflexão.

as food for thought.

I will conduct a couple of simple queries, search queries.

Vou fazer algumas pesquisas simples, buscas simples.

We'll start with "Michelle Obama,"

Vamos começar com "Michelle Obama", a primeira-dama dos Estados Unidos,

the First Lady of the United States.

And we'll click for pictures.

e vamos clicar em "imagens".

Funciona muito bem, como vocês podem ver.

It works really well, as you can see.

It's a perfect search result, more or less.

É um resultado de busca praticamente perfeito.

Só ela aparece nas fotos. Nem o presidente aparece.

It's just her in the picture, not even the President.

How does this work?

Como isso funciona?

Quite simple.

Bem simples.

Google uses a lot of smartness to achieve this, but quite simply,

O Google usa muita inteligência para isso, mas, de forma bem simples,

they look at two things more than anything.

eles analisam principalmente duas coisas.

First, what does it say in the caption under the picture on each website?

Primeiro, o que está escrito na legenda da foto, em cada site?

Does it say "Michelle Obama" under the picture?

Está escrito "Michelle Obama" abaixo da foto?

Pretty good indication it's actually her on there.

É bem provável que seja ela mesma na foto.

Segundo, o Google analisa o arquivo da imagem,

Second, Google looks at the picture file,

the name of the file as such uploaded to the website.

o nome com que o arquivo foi carregado no site.

Again, is it called "MichelleObama.jpeg"?

Novamente, se o nome do arquivo for "MichelleObama.jpeg",

Pretty good indication it's not Clint Eastwood in the picture.

é bem provável que a foto não seja do Clint Eastwood.

So, you've got those two and you get a search result like this -- almost.

Então, você tem essas duas coisas, e obtém um resultado mais ou menos assim.

Bem, em 2009, Michelle Obama foi vítima de uma campanha racista,

Now, in 2009, Michelle Obama was the victim of a racist campaign,

where people set out to insult her through her search results.

quando as pessoas começaram a insultá-la

através dos resultados de pesquisa relacionados a ela.

There was a picture distributed widely over the Internet

Uma foto circulou em toda a internet,

com o rosto dela distorcido, fazendo-a parecer com um macaco.

where her face was distorted to look like a monkey.

And that picture was published all over.

Essa imagem foi publicada em toda a internet.

As pessoas a publicaram realmente com a intenção

And people published it very, very purposefully,

to get it up there in the search results.

de aparecer nos primeiros resultados de pesquisa.

They made sure to write "Michelle Obama" in the caption

Certificaram-se de escrever "Michelle Obama" na legenda

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

e de carregar a imagem como "MichelleObama.jpeg", ou algo assim.

You get why -- to manipulate the search result.

Entendem por quê? Para manipular os resultados.

And it worked, too.

E funcionou também.

So when you picture-Googled for "Michelle Obama" in 2009,

Então, ao pesquisar imagens de "Michelle Obama" em 2009,

that distorted monkey picture showed up among the first results.

a imagem distorcida de macaco aparecia entre os primeiros resultados.

Now, the results are self-cleansing,

Mas os resultados são autoajustáveis, o que é meio que a vantagem disso tudo,

and that's sort of the beauty of it,

porque o Google avalia a relevância a cada hora, a cada dia.

because Google measures relevance every hour, every day.

However, Google didn't settle for that this time,

Porém, o Google não fez isso dessa vez.

they just thought, "That's racist and it's a bad search result

Eles pensaram: "Isso é racismo e um resultado ruim de pesquisa.

and we're going to go back and clean that up manually.

Vamos lá e vamos corrigir isso manualmente.

We are going to write some code and fix it,"

Vamos escrever algum código para consertar isso".

which they did.

E assim o fizeram.

And I don't think anyone in this room thinks that was a bad idea.

Não acredito que alguém nesta sala ache que isso foi uma má ideia.

Me neither.

Também não acho.

But then, a couple of years go by,

Mas então, dois anos depois,

and the world's most-Googled Anders,

e o "Anders" mais buscado no Google, Anders Behind Breivik,

Anders Behring Breivik,

fez o que fez.

did what he did.

This is July 22 in 2011,

É 22 de julho de 2011, um dia terrível na história da Noruega.

and a terrible day in Norwegian history.

This man, a terrorist, blew up a couple of government buildings

Este homem, um terrorista, explodiu dois edifícios governamentais,

walking distance from where we are right now in Oslo, Norway

a poucos metros daqui, em Oslo, na Noruega,

e depois viajou para a ilha de Utøya e matou a tiros um grupo de jovens.

and then he traveled to the island of Utøya

and shot and killed a group of kids.

Quase 80 pessoas morreram naquele dia.

Almost 80 people died that day.

And a lot of people would describe this act of terror as two steps,

Muitos descreveriam esse ato de terror como realizado em duas etapas,

that he did two things: he blew up the buildings and he shot those kids.

que ele fez duas coisas: explodiu os edifícios e atirou nos jovens.

It's not true.

Não é verdade.

It was three steps.

Foram três etapas: ele explodiu aqueles edifícios, atirou naqueles jovens,

He blew up those buildings, he shot those kids,

and he sat down and waited for the world to Google him.

depois parou e esperou até que o mundo o buscasse no Google.

And he prepared all three steps equally well.

Ele preparou todas as três etapas igualmente bem.

And if there was somebody who immediately understood this,

Alguém que imediatamente entendeu isso foi um desenvolvedor web sueco,

it was a Swedish web developer,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

especialista em otimização de ferramentas de busca de Estocolmo,

chamado Nikke Lindqvist.

He's also a very political guy

Ele também é um cara bem político

and he was right out there in social media, on his blog and Facebook.

e ele estava lá nas redes sociais, em seu blog e Facebook.

And he told everybody,

Ele disse a todo mundo:

"If there's something that this guy wants right now,

"O que esse cara deseja agora é controlar sua própria imagem.

it's to control the image of himself.

Let's see if we can distort that.

Vejamos se conseguimos distorcer os resultados.

Let's see if we, in the civilized world, can protest against what he did

Vejamos se nós, do mundo civilizado,

conseguimos protestar contra o que ele fez,

through insulting him in his search results."

insultando-o em seus resultados de pesquisa".

And how?

Mas como?

He told all of his readers the following,

Ele disse o seguinte a todos os leitores dele:

"Go out there on the Internet,

"Procurem na internet

find pictures of dog poop on sidewalks --

imagens de cocô de cachorro em calçadas.

find pictures of dog poop on sidewalks --

Imagens de cocô de cachorro em calçadas.

publish them in your feeds, on your websites, on your blogs.

Publiquem-nas em suas páginas, seus sites, seus blogs.

Make sure to write the terrorist's name in the caption,

Certifiquem-se de escrever o nome do terrorista na legenda,

make sure to name the picture file "Breivik.jpeg."

coloquem o seguinte nome na imagem: 'Breivik.jpeg'.

Let's teach Google that that's the face of the terrorist."

Vamos mostrar ao Google que essa é a imagem do terrorista".

And it worked.

E funcionou.

Two years after that campaign against Michelle Obama,

Dois anos após a campanha contra Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

essa campanha de manipulação contra Anders Behring Breivik funcionou.

Ao pesquisar a imagem dele no Google

If you picture-Googled for him weeks after the July 22 events from Sweden,

semanas após os eventos de 22 de julho, na Suécia,

you'd see that picture of dog poop high up in the search results,

você veria a imagem do cocô de cachorro no topo dos resultados,

as a little protest.

como uma pequena forma de protesto.

Strangely enough, Google didn't intervene this time.

Por incrível que pareça, o Google não interveio dessa vez.

They did not step in and manually clean those search results up.

Eles não ajustaram manualmente esses resultados de pesquisa.

So the million-dollar question,

Então, a pergunta que não quer calar:

is there anything different between these two happenings here?

há algo diferente entre esses dois acontecimentos?

Há algo diferente entre o que aconteceu com Michelle Obama

Is there anything different between what happened to Michelle Obama

e o que aconteceu com Anders Behring Breivik?

and what happened to Anders Behring Breivik?

Of course not.

Claro que não.

It's the exact same thing,

É exatamente a mesma coisa,

yet Google intervened in one case and not in the other.

mas o Google interveio em um caso e no outro não.

Why?

Por quê?

Because Michelle Obama is an honorable person, that's why,

Porque Michelle Obama é uma pessoa honrada,

and Anders Behring Breivik is a despicable person.

e Anders Behring Breivik é uma pessoa desprezível.

Percebem o acontece aqui?

See what happens there?

An evaluation of a person takes place

A avaliação de uma pessoa acontece

and there's only one power-player in the world

e há apenas um mandachuva no mundo

with the authority to say who's who.

com a autoridade para dizer quem é quem.

"We like you, we dislike you.

"Gostamos de você. Não gostamos de você.

We believe in you, we don't believe in you.

Acreditamos em você; não em você. Está certo, errado. É verdadeiro, falso.

You're right, you're wrong. You're true, you're false.

Você é Obama. Você é Breivik."

You're Obama, and you're Breivik."

That's power if I ever saw it.

Isso é que é poder.

So I'm asking you to remember that behind every algorithm

Então, peço que vocês lembrem que, atrás de cada algoritmo,

is always a person,

sempre existe alguém com um conjunto de crenças pessoais

a person with a set of personal beliefs

that no code can ever completely eradicate.

que código algum jamais poderá erradicar totalmente.

And my message goes out not only to Google,

Minha mensagem não é apenas ao Google,

mas a todos os que creem piamente em códigos, em todo o mundo.

but to all believers in the faith of code around the world.

Vocês precisam identificar sua própria parcialidade.

You need to identify your own personal bias.

Precisam entender que são humanos e assumir responsabilidade como tais.

You need to understand that you are human

and take responsibility accordingly.

And I say this because I believe we've reached a point in time

Digo isso porque acredito que chegamos a um ponto

when it's absolutely imperative

em que é absolutamente imperativo

that we tie those bonds together again, tighter:

que atemos esses laços novamente, de maneira mais forte:

the humanities and the technology.

ciências humanas e tecnologia,

Tighter than ever.

mais unidas que nunca,

And, if nothing else, to remind us that that wonderfully seductive idea

e, no mínimo, lembrar que essa ideia maravilhosamente sedutora

of the unbiased, clean search result

de um resultado de pesquisa imparcial e limpo

is, and is likely to remain, a myth.

é, e provavelmente continuará sendo, um mito.

Thank you for your time.

Obrigado pela atenção.

(Applause)

(Aplausos)