The moral bias behind your search results | Andreas Ekström

Traductor: Carlos Arturo Morales Revisor: Ciro Gomez

Cuando voy a una escuela y hablo con los estudiantes,

So whenever I visit a school and talk to students,

I always ask them the same thing:

siempre les pregunto lo mismo:

Why do you Google?

¿Por qué googlean?

Why is Google the search engine of choice for you?

¿Por qué escogen Google como su motor de búsqueda?

Strangely enough, I always get the same three answers.

Extraño y todo, siempre dan las mismas 3 respuestas.

One, "Because it works,"

Uno: "Porque funciona",

which is a great answer; that's why I Google, too.

que es una gran respuesta; por eso yo también googleo.

Two, somebody will say,

Dos: --alguno dirá--

"I really don't know of any alternatives."

"No conozco ninguna otra alternativa".

It's not an equally great answer and my reply to that is usually,

No es una respuesta igual de buena y siempre respondo diciendo:

"Try to Google the word 'search engine,'

"Intenten googlear 'motor de búsqueda',

you may find a couple of interesting alternatives."

puede que encuentren un par de alternativas interesantes".

And last but not least, thirdly,

Y por último, pero no menos importante:

inevitably, one student will raise her or his hand and say,

inevitablemente, un estudiante levantará la mano y dirá:

"With Google, I'm certain to always get the best, unbiased search result."

"Con Google, estoy seguro de que siempre obtendré el resultado más imparcial".

Certain to always get the best, unbiased search result.

Seguro de que siempre obtendré el resultado más imparcial.

Now, as a man of the humanities,

Como hombre de humanidades,

albeit a digital humanities man,

aunque hombre de humanidades digitales,

that just makes my skin curl,

esto me eriza la piel,

even if I, too, realize that that trust, that idea of the unbiased search result

aunque también veo que esa confianza, la creencia en el resultado imparcial,

is a cornerstone in our collective love for and appreciation of Google.

es una piedra angular de nuestro amor colectivo y del valor que damos a Google.

I will show you why that, philosophically, is almost an impossibility.

Les mostraré por qué, filosóficamente, eso es casi un imposible.

But let me first elaborate, just a little bit, on a basic principle

Pero déjenme primero profundizar, solo un poco, en un principio básico

behind each search query that we sometimes seem to forget.

que hay detrás de toda consulta y que algunas veces parece que olvidamos.

So whenever you set out to Google something,

Cuando vayan a googlear,

start by asking yourself this: "Am I looking for an isolated fact?"

empiece preguntándose lo siguiente: "¿Busco un hecho aislado?".

What is the capital of France?

¿Cuál es la capital de Francia?

What are the building blocks of a water molecule?

¿Cuáles son los componentes básicos de una molécula de agua?

Great -- Google away.

Listo, googleelo.

There's not a group of scientists who are this close to proving

No hay un grupo de científicos que estén a punto de probar

that it's actually London and H30.

que en realidad es Londres y H30.

You don't see a big conspiracy among those things.

Uno no ve una gran conspiración en esas cosas.

We agree, on a global scale,

Estamos de acuerdo, a escala global,

what the answers are to these isolated facts.

sobre cuáles son las respuestas a estos hechos aislados.

But if you complicate your question just a little bit and ask something like,

Pero si uno complica la consulta un poco y pregunta, por ejemplo:

"Why is there an Israeli-Palestine conflict?"

"¿Por qué hay un conflicto entre Israel y Palestina?".

You're not exactly looking for a singular fact anymore,

Entonces, ya no busca un hecho particular,

you're looking for knowledge,

uno busca conocimiento,

which is something way more complicated and delicate.

que es algo mucho más complicado y delicado.

And to get to knowledge,

Y para llegar al conocimiento,

you have to bring 10 or 20 or 100 facts to the table

hay que poner 10, 20 o 100 hechos sobre la mesa

and acknowledge them and say, "Yes, these are all true."

y reconocerlos y decir: "Sí, son todos ciertos."

But because of who I am,

Pero al ser lo que soy, joven o viejo, negro o blanco, gay o heterosexual,

young or old, black or white, gay or straight,

I will value them differently.

los valoraré de manera diferente.

And I will say, "Yes, this is true,

Y diré: "Sí, esto es cierto,

but this is more important to me than that."

pero esto es más importante para mí que aquello".

And this is where it becomes interesting,

Y en este punto es que se vuelve interesante,

because this is where we become human.

porque es ahí donde nos volvemos humanos.

This is when we start to argue, to form society.

Ahí es cuando empezamos a discutir, a ser sociedad.

And to really get somewhere, we need to filter all our facts here,

Para llegar realmente a alguna parte, necesitamos filtrar todos los hechos,

through friends and neighbors and parents and children

a través de amigos, vecinos, padres, niños,

and coworkers and newspapers and magazines,

compañeros de trabajo y periódicos y revistas,

to finally be grounded in real knowledge,

y así finalmente estar basados en un conocimiento real,

which is something that a search engine is a poor help to achieve.

algo en lo que poco puede ayudar un motor de búsqueda.

So, I promised you an example just to show you why it's so hard

Les prometí un ejemplo solo para mostrar por qué es tan difícil

to get to the point of true, clean, objective knowledge --

llegar al punto de verdadero conocimiento limpio, objetivo,

as food for thought.

como alimento del pensamiento.

I will conduct a couple of simple queries, search queries.

Llevaré a cabo un par de consultas simples, consultas de búsqueda.

We'll start with "Michelle Obama,"

Vamos a empezar con "Michelle Obama"

the First Lady of the United States.

la Primera Dama de EE. UU.

And we'll click for pictures.

Y vamos a buscar por imágenes.

It works really well, as you can see.

Funciona muy bien, como se puede ver.

It's a perfect search result, more or less.

Es un resultado de búsqueda perfecto, más o menos.

It's just her in the picture, not even the President.

Solo está ella en la foto, ni siquiera el Presidente.

How does this work?

¿Cómo funciona esto?

Quite simple.

Bastante sencillo.

Google uses a lot of smartness to achieve this, but quite simply,

Google lo hace con mucha inteligencia, pero es algo bastante sencillo,

they look at two things more than anything.

reparan en dos cosas antes que nada.

First, what does it say in the caption under the picture on each website?

Primero, ¿cuál es la leyenda a pie de foto en cada sitio web?

Does it say "Michelle Obama" under the picture?

¿Dice "Michelle Obama" a pie de foto?

Pretty good indication it's actually her on there.

Bastante buena indicación de que en realidad ella está allí.

Second, Google looks at the picture file,

Segundo, Google explora en el archivo de imagen,

the name of the file as such uploaded to the website.

el nombre del archivo subido a la página web.

Again, is it called "MichelleObama.jpeg"?

¿Se llama "MichelleObama.jpeg"?

Pretty good indication it's not Clint Eastwood in the picture.

Buena señal de que Clint Eastwood no está en la foto.

So, you've got those two and you get a search result like this -- almost.

Uno tiene esos criterios y se obtiene un resultado de búsqueda como este. Casi.

Now, in 2009, Michelle Obama was the victim of a racist campaign,

En 2009, Michelle Obama fue víctima de una campaña racista,

where people set out to insult her through her search results.

donde la gente empezó a insultarla a través de resultados de búsqueda.

There was a picture distributed widely over the Internet

Había una imagen distribuida ampliamente a través de Internet

where her face was distorted to look like a monkey.

con su cara distorsionada para que pareciera un mono.

And that picture was published all over.

Y esa foto fue publicada por todas partes.

And people published it very, very purposefully,

Y la gente la publicó muy a propósito,

to get it up there in the search results.

para llegar hasta allí en los resultados de búsqueda.

They made sure to write "Michelle Obama" in the caption

Se aseguraron de escribir "Michelle Obama" en la foto

and they made sure to upload the picture as "MichelleObama.jpeg," or the like.

y se aseguraron de cargar la imagen como 'MichelleObama.jpeg' o similares.

You get why -- to manipulate the search result.

Uds. entienden por qué, para manipular el resultado de búsqueda.

And it worked, too.

Y funcionó, también.

So when you picture-Googled for "Michelle Obama" in 2009,

Así que cuando se googleaba 'Michelle Obama' por imágenes en 2009,

that distorted monkey picture showed up among the first results.

esa imagen distorsionada como mono aparecía entre los primeros resultados.

Now, the results are self-cleansing,

Los resultados son de autolimpieza,

and that's sort of the beauty of it,

y eso es parte de belleza de esto,

because Google measures relevance every hour, every day.

porque Google mide la relevancia cada hora, cada día.

However, Google didn't settle for that this time,

Sin embargo, Google no se conformó esta vez,

they just thought, "That's racist and it's a bad search result

pensaron: "Eso es racista y un mal resultado de búsqueda

and we're going to go back and clean that up manually.

y vamos a limpiar esto manualmente.

We are going to write some code and fix it,"

Escribiremos algo de código para arreglarlo".

which they did.

Lo hicieron.

And I don't think anyone in this room thinks that was a bad idea.

Y no creo que nadie aquí crea que haya sido una mala idea.

Me neither.

Yo tampoco.

But then, a couple of years go by,

Pero un par de años más tarde,

and the world's most-Googled Anders,

lo más googleado del mundo fue Anders,

Anders Behring Breivik,

Anders Behring Breivik,

did what he did.

quien hizo lo que hizo.

This is July 22 in 2011,

El 22 de julio en 2011,

and a terrible day in Norwegian history.

un terrible día en la historia de Noruega.

This man, a terrorist, blew up a couple of government buildings

Este hombre, un terrorista, voló un par de edificios del gobierno

walking distance from where we are right now in Oslo, Norway

a poca distancia de donde estamos ahora en Oslo, Noruega,

and then he traveled to the island of Utøya

y luego viajó a la isla de Utoya

and shot and killed a group of kids.

y disparó y mató a un grupo de niños.

Almost 80 people died that day.

Casi 80 personas murieron ese día.

And a lot of people would describe this act of terror as two steps,

Y un montón de gente describiría este acto de terror como dos pasos,

that he did two things: he blew up the buildings and he shot those kids.

que hizo dos cosas: hizo explotar los edificios y disparó a esos niños.

It's not true.

No es verdad.

It was three steps.

Fueron tres pasos.

He blew up those buildings, he shot those kids,

Hizo explotar esos edificios, disparó a esos niños,

and he sat down and waited for the world to Google him.

y se sentó y esperó a que el mundo lo googleara.

And he prepared all three steps equally well.

Y preparó los tres pasos igualmente bien.

And if there was somebody who immediately understood this,

Y si hubo alguien que inmediatamente entendió esto,

it was a Swedish web developer,

fue un desarrollador sueco de webs,

a search engine optimization expert in Stockholm, named Nikke Lindqvist.

un experto en motores de búsqueda de Estocolmo, llamado Nikke Lindqvist.

He's also a very political guy

También es un hombre muy político

and he was right out there in social media, on his blog and Facebook.

y estaba bien en las redes sociales, en su blog y en Facebook.

And he told everybody,

Y dijo a todo el mundo,

"If there's something that this guy wants right now,

"Si hay algo que este tipo quiere en este momento,

it's to control the image of himself.

es controlar su propia imagen.

Let's see if we can distort that.

Veamos si podemos distorsionar eso.

Let's see if we, in the civilized world, can protest against what he did

Veamos si nosotros, el mundo civilizado, podemos protestar contra lo que hizo

through insulting him in his search results."

insultándolo en sus resultados de búsqueda".

And how?

¿Y cómo?

He told all of his readers the following,

Dijo a todos sus lectores lo siguiente:

"Go out there on the Internet,

"Busquen en Internet,

find pictures of dog poop on sidewalks --

encuentren fotos de caca de perro en las aceras

find pictures of dog poop on sidewalks --

encuentren fotos de caca de perro en las aceras,

publish them in your feeds, on your websites, on your blogs.

publíquenlas en sus feeds, en sus sitios web, en sus blogs.

Make sure to write the terrorist's name in the caption,

Asegúrense de escribir el nombre del terrorista en la imagen,

make sure to name the picture file "Breivik.jpeg."

asegúrese de nombrar el archivo de imagen así 'Breivik.jpeg'.

Let's teach Google that that's the face of the terrorist."

Enseñemos a Google que ese es el rostro del terrorista".

And it worked.

Y funcionó.

Two years after that campaign against Michelle Obama,

Dos años después de la campaña contra Michelle Obama,

this manipulation campaign against Anders Behring Breivik worked.

funcionó esta campaña de manipulación contra Anders Behring Breivik.

If you picture-Googled for him weeks after the July 22 events from Sweden,

Al googlear por imágenes de él semanas tras lo acaecido el 22 de julio en Suecia,

you'd see that picture of dog poop high up in the search results,

se verían imágenes de la caca de perro arriba de los resultados de búsqueda,

as a little protest.

como una pequeña protesta.

Strangely enough, Google didn't intervene this time.

Por extraño que parezca, Google no intervino en esta ocasión.

They did not step in and manually clean those search results up.

No intervino y no limpió manualmente los resultados de búsqueda.

So the million-dollar question,

Así la pregunta del millón es

is there anything different between these two happenings here?

¿hay algo diferente entre estos dos acontecimientos?

Is there anything different between what happened to Michelle Obama

¿Hay algo diferente entre lo que pasó con Michelle Obama

and what happened to Anders Behring Breivik?

y lo que le pasó con Anders Behring Breivik?

Of course not.

Por supuesto que no.

It's the exact same thing,

Es exactamente lo mismo,

yet Google intervened in one case and not in the other.

sin embargo, Google intervino en un caso y no en el otro.

Why?

¿Por qué?

Because Michelle Obama is an honorable person, that's why,

Debido a que Michelle Obama es una persona honorable, por eso,

and Anders Behring Breivik is a despicable person.

y Anders Behring Breivik es una persona despreciable.

See what happens there?

¿Ven lo que pasa?

An evaluation of a person takes place

Se evalúa a una persona

and there's only one power-player in the world

y solo hay un poder en el mundo

with the authority to say who's who.

con autoridad para decidir quién es quién.

"We like you, we dislike you.

"Le gusta, le disgusta.

We believe in you, we don't believe in you.

Creemos en ti, no creemos en ti.

You're right, you're wrong. You're true, you're false.

Tienes razón, te equivocas. Eres verdad, eres falso.

You're Obama, and you're Breivik."

Tú eres Obama y tú Breivik".

That's power if I ever saw it.

Ese es poder sin igual.

So I'm asking you to remember that behind every algorithm

Por eso les recuerdo que detrás de cada algoritmo

is always a person,

hay siempre una persona,

a person with a set of personal beliefs

una persona con un conjunto de creencias personales

that no code can ever completely eradicate.

que ningún código puede erradicar completamente.

And my message goes out not only to Google,

Y mi mensaje va no solo a Google,

but to all believers in the faith of code around the world.

sino a todos los creyentes en la fe de código del mundo.

You need to identify your own personal bias.

Es necesario identificar su propio sesgo personal.

You need to understand that you are human

Es necesario comprender que uno es humano

and take responsibility accordingly.

y, en consecuencia, asumir la responsabilidad

And I say this because I believe we've reached a point in time

Y digo esto porque creo que hemos llegado a un punto

when it's absolutely imperative

en que es absolutamente imperativo

that we tie those bonds together again, tighter:

atar esos lazos de nuevo, de forma más ajustada:

the humanities and the technology.

las humanidades y la tecnología.

Tighter than ever.

Más apretados que nunca.

And, if nothing else, to remind us that that wonderfully seductive idea

Y para recordarnos que esa idea maravillosamente seductora

of the unbiased, clean search result

del resultado de búsqueda limpio imparcial

is, and is likely to remain, a myth.

es, y probable siga siendo, un mito.

Thank you for your time.

Gracias por tu tiempo.

(Applause)

(Aplausos)