The moral bias behind your search results | Andreas Ekström

145,437 views ・ 2015-12-07

TED


Haga doble clic en los subtítulos en inglés para reproducir el vídeo.

Traductor: Carlos Arturo Morales Revisor: Ciro Gomez
Cuando voy a una escuela y hablo con los estudiantes,
00:13
So whenever I visit a school and talk to students,
0
13087
2493
00:15
I always ask them the same thing:
1
15604
2143
siempre les pregunto lo mismo:
00:18
Why do you Google?
2
18754
1434
¿Por qué googlean?
00:20
Why is Google the search engine of choice for you?
3
20624
3397
¿Por qué escogen Google como su motor de búsqueda?
00:24
Strangely enough, I always get the same three answers.
4
24855
2552
Extraño y todo, siempre dan las mismas 3 respuestas.
00:27
One, "Because it works,"
5
27431
2039
Uno: "Porque funciona",
00:29
which is a great answer; that's why I Google, too.
6
29494
2906
que es una gran respuesta; por eso yo también googleo.
00:32
Two, somebody will say,
7
32424
2033
Dos: --alguno dirá--
00:34
"I really don't know of any alternatives."
8
34481
2640
"No conozco ninguna otra alternativa".
00:37
It's not an equally great answer and my reply to that is usually,
9
37708
3128
No es una respuesta igual de buena y siempre respondo diciendo:
00:40
"Try to Google the word 'search engine,'
10
40860
1921
"Intenten googlear 'motor de búsqueda',
00:42
you may find a couple of interesting alternatives."
11
42805
2402
puede que encuentren un par de alternativas interesantes".
00:45
And last but not least, thirdly,
12
45231
2095
Y por último, pero no menos importante:
00:47
inevitably, one student will raise her or his hand and say,
13
47350
3310
inevitablemente, un estudiante levantará la mano y dirá:
00:50
"With Google, I'm certain to always get the best, unbiased search result."
14
50684
5183
"Con Google, estoy seguro de que siempre obtendré el resultado más imparcial".
00:57
Certain to always get the best, unbiased search result.
15
57157
6506
Seguro de que siempre obtendré el resultado más imparcial.
01:05
Now, as a man of the humanities,
16
65091
2390
Como hombre de humanidades,
01:07
albeit a digital humanities man,
17
67505
2181
aunque hombre de humanidades digitales,
01:09
that just makes my skin curl,
18
69710
1738
esto me eriza la piel,
01:11
even if I, too, realize that that trust, that idea of the unbiased search result
19
71472
4886
aunque también veo que esa confianza, la creencia en el resultado imparcial,
01:16
is a cornerstone in our collective love for and appreciation of Google.
20
76382
3855
es una piedra angular de nuestro amor colectivo y del valor que damos a Google.
01:20
I will show you why that, philosophically, is almost an impossibility.
21
80658
4258
Les mostraré por qué, filosóficamente, eso es casi un imposible.
01:24
But let me first elaborate, just a little bit, on a basic principle
22
84940
3254
Pero déjenme primero profundizar, solo un poco, en un principio básico
01:28
behind each search query that we sometimes seem to forget.
23
88218
3113
que hay detrás de toda consulta y que algunas veces parece que olvidamos.
01:31
So whenever you set out to Google something,
24
91851
2080
Cuando vayan a googlear,
01:33
start by asking yourself this: "Am I looking for an isolated fact?"
25
93955
3927
empiece preguntándose lo siguiente: "¿Busco un hecho aislado?".
01:38
What is the capital of France?
26
98334
3161
¿Cuál es la capital de Francia?
01:41
What are the building blocks of a water molecule?
27
101519
2425
¿Cuáles son los componentes básicos de una molécula de agua?
01:43
Great -- Google away.
28
103968
2341
Listo, googleelo.
01:46
There's not a group of scientists who are this close to proving
29
106333
3120
No hay un grupo de científicos que estén a punto de probar
01:49
that it's actually London and H30.
30
109477
1997
que en realidad es Londres y H30.
01:51
You don't see a big conspiracy among those things.
31
111498
2371
Uno no ve una gran conspiración en esas cosas.
01:53
We agree, on a global scale,
32
113893
1533
Estamos de acuerdo, a escala global,
01:55
what the answers are to these isolated facts.
33
115450
2725
sobre cuáles son las respuestas a estos hechos aislados.
01:58
But if you complicate your question just a little bit and ask something like,
34
118199
5302
Pero si uno complica la consulta un poco y pregunta, por ejemplo:
02:03
"Why is there an Israeli-Palestine conflict?"
35
123525
2683
"¿Por qué hay un conflicto entre Israel y Palestina?".
02:06
You're not exactly looking for a singular fact anymore,
36
126978
2640
Entonces, ya no busca un hecho particular,
02:09
you're looking for knowledge,
37
129642
1833
uno busca conocimiento,
02:11
which is something way more complicated and delicate.
38
131499
2578
que es algo mucho más complicado y delicado.
02:14
And to get to knowledge,
39
134600
1549
Y para llegar al conocimiento,
02:16
you have to bring 10 or 20 or 100 facts to the table
40
136173
3031
hay que poner 10, 20 o 100 hechos sobre la mesa
02:19
and acknowledge them and say, "Yes, these are all true."
41
139228
2976
y reconocerlos y decir: "Sí, son todos ciertos."
02:22
But because of who I am,
42
142228
1674
Pero al ser lo que soy, joven o viejo, negro o blanco, gay o heterosexual,
02:23
young or old, black or white, gay or straight,
43
143926
2270
02:26
I will value them differently.
44
146220
1611
los valoraré de manera diferente.
02:27
And I will say, "Yes, this is true,
45
147855
1688
Y diré: "Sí, esto es cierto,
02:29
but this is more important to me than that."
46
149567
2114
pero esto es más importante para mí que aquello".
02:31
And this is where it becomes interesting,
47
151705
1990
Y en este punto es que se vuelve interesante,
02:33
because this is where we become human.
48
153719
2146
porque es ahí donde nos volvemos humanos.
02:35
This is when we start to argue, to form society.
49
155889
2996
Ahí es cuando empezamos a discutir, a ser sociedad.
02:38
And to really get somewhere, we need to filter all our facts here,
50
158909
3357
Para llegar realmente a alguna parte, necesitamos filtrar todos los hechos,
02:42
through friends and neighbors and parents and children
51
162290
2556
a través de amigos, vecinos, padres, niños,
02:44
and coworkers and newspapers and magazines,
52
164870
2032
compañeros de trabajo y periódicos y revistas,
02:46
to finally be grounded in real knowledge,
53
166926
3080
y así finalmente estar basados en un conocimiento real,
02:50
which is something that a search engine is a poor help to achieve.
54
170030
4047
algo en lo que poco puede ayudar un motor de búsqueda.
02:55
So, I promised you an example just to show you why it's so hard
55
175284
6328
Les prometí un ejemplo solo para mostrar por qué es tan difícil
03:01
to get to the point of true, clean, objective knowledge --
56
181636
3404
llegar al punto de verdadero conocimiento limpio, objetivo,
03:05
as food for thought.
57
185064
1468
como alimento del pensamiento.
03:06
I will conduct a couple of simple queries, search queries.
58
186556
3893
Llevaré a cabo un par de consultas simples, consultas de búsqueda.
03:10
We'll start with "Michelle Obama,"
59
190473
4040
Vamos a empezar con "Michelle Obama"
03:14
the First Lady of the United States.
60
194537
1804
la Primera Dama de EE. UU.
03:16
And we'll click for pictures.
61
196365
1729
Y vamos a buscar por imágenes.
03:19
It works really well, as you can see.
62
199007
2272
Funciona muy bien, como se puede ver.
03:21
It's a perfect search result, more or less.
63
201303
3028
Es un resultado de búsqueda perfecto, más o menos.
03:24
It's just her in the picture, not even the President.
64
204355
2750
Solo está ella en la foto, ni siquiera el Presidente.
03:27
How does this work?
65
207664
1313
¿Cómo funciona esto?
03:29
Quite simple.
66
209837
1372
Bastante sencillo.
03:31
Google uses a lot of smartness to achieve this, but quite simply,
67
211233
3215
Google lo hace con mucha inteligencia, pero es algo bastante sencillo,
03:34
they look at two things more than anything.
68
214472
2060
reparan en dos cosas antes que nada.
03:36
First, what does it say in the caption under the picture on each website?
69
216556
5156
Primero, ¿cuál es la leyenda a pie de foto en cada sitio web?
03:41
Does it say "Michelle Obama" under the picture?
70
221736
2215
¿Dice "Michelle Obama" a pie de foto?
03:43
Pretty good indication it's actually her on there.
71
223975
2356
Bastante buena indicación de que en realidad ella está allí.
03:46
Second, Google looks at the picture file,
72
226355
2386
Segundo, Google explora en el archivo de imagen,
03:48
the name of the file as such uploaded to the website.
73
228765
3032
el nombre del archivo subido a la página web.
03:51
Again, is it called "MichelleObama.jpeg"?
74
231821
2669
¿Se llama "MichelleObama.jpeg"?
03:54
Pretty good indication it's not Clint Eastwood in the picture.
75
234839
2922
Buena señal de que Clint Eastwood no está en la foto.
03:57
So, you've got those two and you get a search result like this -- almost.
76
237785
4265
Uno tiene esos criterios y se obtiene un resultado de búsqueda como este. Casi.
04:02
Now, in 2009, Michelle Obama was the victim of a racist campaign,
77
242074
6603
En 2009, Michelle Obama fue víctima de una campaña racista,
04:08
where people set out to insult her through her search results.
78
248701
4015
donde la gente empezó a insultarla a través de resultados de búsqueda.
04:13
There was a picture distributed widely over the Internet
79
253430
2702
Había una imagen distribuida ampliamente a través de Internet
04:16
where her face was distorted to look like a monkey.
80
256156
2644
con su cara distorsionada para que pareciera un mono.
04:18
And that picture was published all over.
81
258824
3169
Y esa foto fue publicada por todas partes.
04:22
And people published it very, very purposefully,
82
262017
3761
Y la gente la publicó muy a propósito,
04:25
to get it up there in the search results.
83
265802
1971
para llegar hasta allí en los resultados de búsqueda.
04:27
They made sure to write "Michelle Obama" in the caption
84
267797
2955
Se aseguraron de escribir "Michelle Obama" en la foto
04:30
and they made sure to upload the picture as "MichelleObama.jpeg," or the like.
85
270776
4177
y se aseguraron de cargar la imagen como 'MichelleObama.jpeg' o similares.
04:34
You get why -- to manipulate the search result.
86
274977
2367
Uds. entienden por qué, para manipular el resultado de búsqueda.
04:37
And it worked, too.
87
277368
1295
Y funcionó, también.
04:38
So when you picture-Googled for "Michelle Obama" in 2009,
88
278687
2720
Así que cuando se googleaba 'Michelle Obama' por imágenes en 2009,
04:41
that distorted monkey picture showed up among the first results.
89
281431
3387
esa imagen distorsionada como mono aparecía entre los primeros resultados.
04:44
Now, the results are self-cleansing,
90
284842
3566
Los resultados son de autolimpieza,
04:48
and that's sort of the beauty of it,
91
288432
1753
y eso es parte de belleza de esto,
04:50
because Google measures relevance every hour, every day.
92
290209
3403
porque Google mide la relevancia cada hora, cada día.
04:53
However, Google didn't settle for that this time,
93
293636
2714
Sin embargo, Google no se conformó esta vez,
04:56
they just thought, "That's racist and it's a bad search result
94
296374
3124
pensaron: "Eso es racista y un mal resultado de búsqueda
04:59
and we're going to go back and clean that up manually.
95
299522
3135
y vamos a limpiar esto manualmente.
05:02
We are going to write some code and fix it,"
96
302681
2932
Escribiremos algo de código para arreglarlo".
05:05
which they did.
97
305637
1247
Lo hicieron.
05:07
And I don't think anyone in this room thinks that was a bad idea.
98
307454
3742
Y no creo que nadie aquí crea que haya sido una mala idea.
05:11
Me neither.
99
311789
1164
Yo tampoco.
05:14
But then, a couple of years go by,
100
314802
3032
Pero un par de años más tarde,
05:17
and the world's most-Googled Anders,
101
317858
2984
lo más googleado del mundo fue Anders,
05:20
Anders Behring Breivik,
102
320866
2279
Anders Behring Breivik,
05:23
did what he did.
103
323169
1706
quien hizo lo que hizo.
05:24
This is July 22 in 2011,
104
324899
2001
El 22 de julio en 2011,
05:26
and a terrible day in Norwegian history.
105
326924
2649
un terrible día en la historia de Noruega.
05:29
This man, a terrorist, blew up a couple of government buildings
106
329597
3787
Este hombre, un terrorista, voló un par de edificios del gobierno
05:33
walking distance from where we are right now in Oslo, Norway
107
333408
2883
a poca distancia de donde estamos ahora en Oslo, Noruega,
05:36
and then he traveled to the island of Utøya
108
336315
2051
y luego viajó a la isla de Utoya
05:38
and shot and killed a group of kids.
109
338390
2223
y disparó y mató a un grupo de niños.
05:41
Almost 80 people died that day.
110
341113
1728
Casi 80 personas murieron ese día.
05:44
And a lot of people would describe this act of terror as two steps,
111
344397
4559
Y un montón de gente describiría este acto de terror como dos pasos,
05:48
that he did two things: he blew up the buildings and he shot those kids.
112
348980
3411
que hizo dos cosas: hizo explotar los edificios y disparó a esos niños.
05:52
It's not true.
113
352415
1165
No es verdad.
05:54
It was three steps.
114
354326
2143
Fueron tres pasos.
05:56
He blew up those buildings, he shot those kids,
115
356493
2214
Hizo explotar esos edificios, disparó a esos niños,
05:58
and he sat down and waited for the world to Google him.
116
358731
3644
y se sentó y esperó a que el mundo lo googleara.
06:03
And he prepared all three steps equally well.
117
363227
2627
Y preparó los tres pasos igualmente bien.
06:06
And if there was somebody who immediately understood this,
118
366544
2790
Y si hubo alguien que inmediatamente entendió esto,
06:09
it was a Swedish web developer,
119
369358
1524
fue un desarrollador sueco de webs,
06:10
a search engine optimization expert in Stockholm, named Nikke Lindqvist.
120
370906
3623
un experto en motores de búsqueda de Estocolmo, llamado Nikke Lindqvist.
06:14
He's also a very political guy
121
374553
1588
También es un hombre muy político
06:16
and he was right out there in social media, on his blog and Facebook.
122
376165
3276
y estaba bien en las redes sociales, en su blog y en Facebook.
06:19
And he told everybody,
123
379465
1206
Y dijo a todo el mundo,
06:20
"If there's something that this guy wants right now,
124
380695
2455
"Si hay algo que este tipo quiere en este momento,
06:23
it's to control the image of himself.
125
383174
2459
es controlar su propia imagen.
06:26
Let's see if we can distort that.
126
386760
1960
Veamos si podemos distorsionar eso.
06:29
Let's see if we, in the civilized world, can protest against what he did
127
389490
3977
Veamos si nosotros, el mundo civilizado, podemos protestar contra lo que hizo
06:33
through insulting him in his search results."
128
393491
3317
insultándolo en sus resultados de búsqueda".
06:36
And how?
129
396832
1187
¿Y cómo?
06:38
He told all of his readers the following,
130
398797
2056
Dijo a todos sus lectores lo siguiente:
06:40
"Go out there on the Internet,
131
400877
1864
"Busquen en Internet,
06:42
find pictures of dog poop on sidewalks --
132
402765
2895
encuentren fotos de caca de perro en las aceras
06:46
find pictures of dog poop on sidewalks --
133
406708
2174
encuentren fotos de caca de perro en las aceras,
06:48
publish them in your feeds, on your websites, on your blogs.
134
408906
3470
publíquenlas en sus feeds, en sus sitios web, en sus blogs.
06:52
Make sure to write the terrorist's name in the caption,
135
412400
2921
Asegúrense de escribir el nombre del terrorista en la imagen,
06:55
make sure to name the picture file "Breivik.jpeg."
136
415345
4487
asegúrese de nombrar el archivo de imagen así 'Breivik.jpeg'.
06:59
Let's teach Google that that's the face of the terrorist."
137
419856
3801
Enseñemos a Google que ese es el rostro del terrorista".
07:05
And it worked.
138
425552
1278
Y funcionó.
07:07
Two years after that campaign against Michelle Obama,
139
427853
2898
Dos años después de la campaña contra Michelle Obama,
07:10
this manipulation campaign against Anders Behring Breivik worked.
140
430775
3266
funcionó esta campaña de manipulación contra Anders Behring Breivik.
07:14
If you picture-Googled for him weeks after the July 22 events from Sweden,
141
434065
4462
Al googlear por imágenes de él semanas tras lo acaecido el 22 de julio en Suecia,
07:18
you'd see that picture of dog poop high up in the search results,
142
438551
4327
se verían imágenes de la caca de perro arriba de los resultados de búsqueda,
07:22
as a little protest.
143
442902
1444
como una pequeña protesta.
07:25
Strangely enough, Google didn't intervene this time.
144
445425
4132
Por extraño que parezca, Google no intervino en esta ocasión.
07:30
They did not step in and manually clean those search results up.
145
450494
4272
No intervino y no limpió manualmente los resultados de búsqueda.
07:35
So the million-dollar question,
146
455964
1716
Así la pregunta del millón es
07:37
is there anything different between these two happenings here?
147
457704
3368
¿hay algo diferente entre estos dos acontecimientos?
07:41
Is there anything different between what happened to Michelle Obama
148
461096
3193
¿Hay algo diferente entre lo que pasó con Michelle Obama
07:44
and what happened to Anders Behring Breivik?
149
464313
2065
y lo que le pasó con Anders Behring Breivik?
07:46
Of course not.
150
466402
1284
Por supuesto que no.
07:48
It's the exact same thing,
151
468861
1471
Es exactamente lo mismo,
07:50
yet Google intervened in one case and not in the other.
152
470356
2864
sin embargo, Google intervino en un caso y no en el otro.
07:53
Why?
153
473244
1253
¿Por qué?
07:55
Because Michelle Obama is an honorable person, that's why,
154
475283
3300
Debido a que Michelle Obama es una persona honorable, por eso,
07:58
and Anders Behring Breivik is a despicable person.
155
478607
2916
y Anders Behring Breivik es una persona despreciable.
08:02
See what happens there?
156
482142
1535
¿Ven lo que pasa?
08:03
An evaluation of a person takes place
157
483701
3255
Se evalúa a una persona
08:06
and there's only one power-player in the world
158
486980
3786
y solo hay un poder en el mundo
08:10
with the authority to say who's who.
159
490790
2480
con autoridad para decidir quién es quién.
08:13
"We like you, we dislike you.
160
493882
1741
"Le gusta, le disgusta.
08:15
We believe in you, we don't believe in you.
161
495647
2039
Creemos en ti, no creemos en ti.
08:17
You're right, you're wrong. You're true, you're false.
162
497710
2547
Tienes razón, te equivocas. Eres verdad, eres falso.
08:20
You're Obama, and you're Breivik."
163
500281
1805
Tú eres Obama y tú Breivik".
08:22
That's power if I ever saw it.
164
502791
2000
Ese es poder sin igual.
08:27
So I'm asking you to remember that behind every algorithm
165
507206
3652
Por eso les recuerdo que detrás de cada algoritmo
08:30
is always a person,
166
510882
1777
hay siempre una persona,
08:32
a person with a set of personal beliefs
167
512683
2495
una persona con un conjunto de creencias personales
08:35
that no code can ever completely eradicate.
168
515202
2525
que ningún código puede erradicar completamente.
08:37
And my message goes out not only to Google,
169
517751
2434
Y mi mensaje va no solo a Google,
08:40
but to all believers in the faith of code around the world.
170
520209
2810
sino a todos los creyentes en la fe de código del mundo.
08:43
You need to identify your own personal bias.
171
523043
2976
Es necesario identificar su propio sesgo personal.
08:46
You need to understand that you are human
172
526043
2013
Es necesario comprender que uno es humano
08:48
and take responsibility accordingly.
173
528080
2491
y, en consecuencia, asumir la responsabilidad
08:51
And I say this because I believe we've reached a point in time
174
531891
2938
Y digo esto porque creo que hemos llegado a un punto
08:54
when it's absolutely imperative
175
534853
1555
en que es absolutamente imperativo
08:56
that we tie those bonds together again, tighter:
176
536432
3217
atar esos lazos de nuevo, de forma más ajustada:
08:59
the humanities and the technology.
177
539673
2368
las humanidades y la tecnología.
09:02
Tighter than ever.
178
542483
1805
Más apretados que nunca.
09:04
And, if nothing else, to remind us that that wonderfully seductive idea
179
544312
3339
Y para recordarnos que esa idea maravillosamente seductora
09:07
of the unbiased, clean search result
180
547675
2668
del resultado de búsqueda limpio imparcial
09:10
is, and is likely to remain, a myth.
181
550367
2767
es, y probable siga siendo, un mito.
09:13
Thank you for your time.
182
553984
1159
Gracias por tu tiempo.
09:15
(Applause)
183
555167
2432
(Aplausos)
Acerca de este sitio web

Este sitio le presentará vídeos de YouTube útiles para aprender inglés. Verá lecciones de inglés impartidas por profesores de primera categoría de todo el mundo. Haz doble clic en los subtítulos en inglés que aparecen en cada página de vídeo para reproducir el vídeo desde allí. Los subtítulos se desplazan en sincronía con la reproducción del vídeo. Si tiene algún comentario o petición, póngase en contacto con nosotros mediante este formulario de contacto.

https://forms.gle/WvT1wiN1qDtmnspy7