Beware online "filter bubbles" | Eli Pariser

Eli Pariser: cuidado con la "burbuja de filtros" en la red

Traductor: Sebastian Betti Revisor: Eduardo Sierra

Mark Zuckerberg,

A Mark Zuckerberg

a journalist was asking him a question about the news feed.

un periodista le preguntó sobre la redifusión de contenidos web.

And the journalist was asking him,

La pregunta era:

"Why is this so important?"

¿por qué es tan importante?

And Zuckerberg said,

Y Zuckerberg le contestó:

"A squirrel dying in your front yard

"Saber que una ardilla se muere en tu jardín

may be more relevant to your interests right now

puede ser más relevante en este momento para tus intereses

than people dying in Africa."

que saber que muere gente en África".

And I want to talk about

Quiero hablar de

what a Web based on that idea of relevance might look like.

cómo sería la Red si se basara en esa idea de relevancia.

So when I was growing up

Crecí

in a really rural area in Maine,

en una zona rural de Maine

the Internet meant something very different to me.

y entonces, para mí, Internet era algo muy distinto.

It meant a connection to the world.

Era una conexión con el mundo.

It meant something that would connect us all together.

Era algo que nos conectaba a todos.

And I was sure that it was going to be great for democracy

Y estaba seguro de que sería genial para la democracia

and for our society.

y para nuestra sociedad.

But there's this shift

Pero ha cambiado la manera

in how information is flowing online,

en la que circula la información en la red

and it's invisible.

y este cambio es imperceptible.

And if we don't pay attention to it,

Y si no prestamos atención

it could be a real problem.

puede convertirse en un problema grave.

So I first noticed this in a place I spend a lot of time --

Noté el cambio por primera vez en una página en la que paso mucho tiempo:

my Facebook page.

Facebook.

I'm progressive, politically -- big surprise --

En política soy progresista (¡vaya sorpresa!)

but I've always gone out of my way to meet conservatives.

pero siempre estoy abierto a las ideas de los conservadores.

I like hearing what they're thinking about;

Me gusta escuchar sus ideas;

I like seeing what they link to;

me gusta ver los enlaces que comparten;

I like learning a thing or two.

me gusta enterarme de algunas cosas.

And so I was surprised when I noticed one day

Por eso me sorprendió darme cuenta un día

that the conservatives had disappeared from my Facebook feed.

de que los conservadores habían desaparecido de las novedades de Facebook.

And what it turned out was going on

Lo que había pasado

was that Facebook was looking at which links I clicked on,

era que Facebook estaba controlando en qué enlaces hacía clic

and it was noticing that, actually,

y que se había dado cuenta de que, realmente,

I was clicking more on my liberal friends' links

hacia clic con más frecuencia en los enlaces de mis amigos progresistas

than on my conservative friends' links.

que en los de mis amigos conservadores.

And without consulting me about it,

Y sin consultarme

it had edited them out.

excluyó a los últimos.

They disappeared.

Desaparecieron.

So Facebook isn't the only place

Pero Facebook no es la única página

that's doing this kind of invisible, algorithmic

que hace esta edición invisible

editing of the Web.

y algorítmica de la Red.

Google's doing it too.

Google también lo hace.

If I search for something, and you search for something,

Si yo realizo una búsqueda y ustedes realizan una búsqueda,

even right now at the very same time,

incluso si lo hacemos al mismo tiempo,

we may get very different search results.

podríamos obtener resultados de búsqueda muy diferentes.

Even if you're logged out, one engineer told me,

Un ingeniero me contó que, incluso sin estar conectado,

there are 57 signals

hay 57 indicios

that Google looks at --

que Google tiene en cuenta

everything from what kind of computer you're on

-desde el tipo de computadora y explorador

to what kind of browser you're using

que se está usando,

to where you're located --

hasta la ubicación-

that it uses to personally tailor your query results.

para personalizar los resultados.

Think about it for a second:

Piénsenlo durante un segundo,

there is no standard Google anymore.

ya no existe un Google estándar.

And you know, the funny thing about this is that it's hard to see.

¿Y saben qué? Lo más gracioso es que es difícil de ver.

You can't see how different your search results are

Uno no puede ver lo diferentes que son sus búsquedas

from anyone else's.

de las de los demás.

But a couple of weeks ago,

Pero hace un par de semanas

I asked a bunch of friends to Google "Egypt"

le pedí a un puñado de amigos que googlearan "Egipto"

and to send me screen shots of what they got.

y que me enviaran capturas de pantalla de los resultados.

So here's my friend Scott's screen shot.

Esta es la captura de pantalla de mi amigo Scott.

And here's my friend Daniel's screen shot.

Y esta la de mi amigo Daniel.

When you put them side-by-side,

Si las ponemos lado a lado

you don't even have to read the links

ni siquiera tenemos que leer los enlaces

to see how different these two pages are.

para ver lo diferentes que son.

But when you do read the links,

Pero si leemos los enlaces

it's really quite remarkable.

es muy notable.

Daniel didn't get anything about the protests in Egypt at all

A Daniel no le aparece nada de las protestas en Egipto

in his first page of Google results.

en su portada de resultados de Google.

Scott's results were full of them.

En los resultados de Scott aparece mucho.

And this was the big story of the day at that time.

Y esa era la historia del día en ese momento.

That's how different these results are becoming.

Así de diferentes se están volviendo los resultados.

So it's not just Google and Facebook either.

Y no se trata sólo de Google y Facebook.

This is something that's sweeping the Web.

Esto está arrasando la Red.

There are a whole host of companies that are doing this kind of personalization.

Hay toda una serie de empresas que están haciendo este tipo de personalización.

Yahoo News, the biggest news site on the Internet,

Yahoo News, el sitio más grande de noticias de Internet,

is now personalized -- different people get different things.

ahora es personalizado; distintas personas obtienen distintas cosas.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, Washington Post, New York Times

all flirting with personalization in various ways.

todos coquetean con algún tipo de personalización.

And this moves us very quickly

Y esto marcha muy rápido

toward a world in which

hacia un mundo en el cual

the Internet is showing us what it thinks we want to see,

Internet nos va a mostrar lo que piense que queremos ver

but not necessarily what we need to see.

y no necesariamente lo que tenemos que ver.

As Eric Schmidt said,

Como dijo Eric Schmidt:

"It will be very hard for people to watch or consume something

"Va a ser muy difícil que las personas miren o consuman algo

that has not in some sense

que en alguna medida no haya

been tailored for them."

sido hecho a medida para ellas".

So I do think this is a problem.

Creo que esto es un problema.

And I think, if you take all of these filters together,

Si uno junta todos estos filtros,

you take all these algorithms,

todos estos algoritmos,

you get what I call a filter bubble.

obtiene lo que llamo la «burbuja de filtros».

And your filter bubble is your own personal,

La burbuja de filtros es el universo propio,

unique universe of information

personal, único, de información

that you live in online.

que uno vive en la red.

And what's in your filter bubble

Y lo que haya en la burbuja de filtros

depends on who you are, and it depends on what you do.

depende de quién uno es, y de lo que uno hace.

But the thing is that you don't decide what gets in.

Pero la cosa es que uno no decide que es lo que entra.

And more importantly,

Y, más importante aún,

you don't actually see what gets edited out.

no vemos qué es lo que se elimina.

So one of the problems with the filter bubble

Unos investigadores de Netflix

was discovered by some researchers at Netflix.

detectaron problemas con la burbuja de filtros.

And they were looking at the Netflix queues, and they noticed something kind of funny

Estaban mirando las listas de Netflix y notaron algo gracioso,

that a lot of us probably have noticed,

que a muchos seguro nos ha pasado,

which is there are some movies

y es que algunas películas

that just sort of zip right up and out to our houses.

aparecen y desaparecen de nuestras listas.

They enter the queue, they just zip right out.

Entran a la lista y desaparecen enseguida.

So "Iron Man" zips right out,

"Iron Man" desaparece

and "Waiting for Superman"

y "Esperando a Súperman"

can wait for a really long time.

puede quedar mucho tiempo.

What they discovered

Lo que descubrieron

was that in our Netflix queues

es que en nuestras listas de Netflix

there's this epic struggle going on

ocurren estas batallas épicas

between our future aspirational selves

entre nuestras aspiraciones futuras

and our more impulsive present selves.

y nuestro yo impulsivo del momento.

You know we all want to be someone

Ya saben, a todos nos gustaría

who has watched "Rashomon,"

haber visto "Rashōmon"

but right now

pero en este momento

we want to watch "Ace Ventura" for the fourth time.

queremos ver "Ace Ventura" por cuarta vez.

(Laughter)

(Risas)

So the best editing gives us a bit of both.

Por eso la mejor edición nos da lo mejor de ambas cosas.

It gives us a little bit of Justin Bieber

Nos da un poco de Justin Bieber

and a little bit of Afghanistan.

y un poco de Afganistán.

It gives us some information vegetables;

Nos da algunos vegetales informativos

it gives us some information dessert.

y nos da algunos postres informativos.

And the challenge with these kinds of algorithmic filters,

El desafío de estos filtros algorítmicos,

these personalized filters,

de estos filtros personalizados,

is that, because they're mainly looking

es que al basarse principalmente

at what you click on first,

en lo que uno cliquea primero

it can throw off that balance.

pueden alterar ese equilibrio.

And instead of a balanced information diet,

Y en vez de tener una dieta informativa balanceada

you can end up surrounded

uno termine rodeado

by information junk food.

de comida chatarra informativa.

What this suggests

Esto sugiere

is actually that we may have the story about the Internet wrong.

que quizá hemos interpretado mal la historia de Internet.

In a broadcast society --

En una sociedad de la difusión

this is how the founding mythology goes --

-eso dice el mito fundador-

in a broadcast society,

en una sociedad de la difusión

there were these gatekeepers, the editors,

estaban estos porteros, los editores,

and they controlled the flows of information.

que controlaban el flujo de la información.

And along came the Internet and it swept them out of the way,

Y luego aparece Internet y arrasa con ellos

and it allowed all of us to connect together,

y nos permite a todos nosotros conectarnos unos a otros,

and it was awesome.

y eso fue genial.

But that's not actually what's happening right now.

Pero eso no es lo que está sucediendo ahora.

What we're seeing is more of a passing of the torch

Lo que estamos viendo se parece más a un pasaje de antorcha

from human gatekeepers

entre los porteros humanos

to algorithmic ones.

y los algorítmicos.

And the thing is that the algorithms

Y el problema es que los algoritmos

don't yet have the kind of embedded ethics

todavía no tienen incorporados los principios éticos

that the editors did.

que tenían los editores.

So if algorithms are going to curate the world for us,

Entonces, si los algoritmos nos van a seleccionar el contenido,

if they're going to decide what we get to see and what we don't get to see,

si van a decidir qué veremos y qué no,

then we need to make sure

entonces tenemos que asegurarnos

that they're not just keyed to relevance.

de que no sólo se guían por la relevancia.

We need to make sure that they also show us things

Tenemos que asegurarnos de que también nos muestran cosas

that are uncomfortable or challenging or important --

incómodas, estimulantes o importantes

this is what TED does --

-eso hace TED-

other points of view.

otros puntos de vista.

And the thing is, we've actually been here before

El punto es que hemos pasado por esto antes

as a society.

como sociedad.

In 1915, it's not like newspapers were sweating a lot

No es que en 1915 los periódicos se preocuparan mucho

about their civic responsibilities.

por sus responsabilidades cívicas.

Then people noticed

Después, la gente se dio cuenta

that they were doing something really important.

de que servían para algo muy importante.

That, in fact, you couldn't have

Que, de hecho, no se puede tener

a functioning democracy

una democracia que funcione

if citizens didn't get a good flow of information,

si los ciudadanos no acceden a un buen flujo de información.

that the newspapers were critical because they were acting as the filter,

Que los periódicos eran críticos porque actuaban de filtro

and then journalistic ethics developed.

y entonces nace la ética periodística.

It wasn't perfect,

No era perfecta

but it got us through the last century.

pero con eso pudimos atravesar el siglo pasado.

And so now,

Y ahora

we're kind of back in 1915 on the Web.

es como que estamos en el 1915 de la Red.

And we need the new gatekeepers

Y necesitamos que los nuevos porteros

to encode that kind of responsibility

incluyan este tipo de responsabilidad

into the code that they're writing.

en el código que están escribiendo.

I know that there are a lot of people here from Facebook and from Google --

Sé que entre los presentes hay gente de Facebook y Google

Larry and Sergey --

-Larry y Sergey-

people who have helped build the Web as it is,

personas que han ayudado a construir la Red tal como es

and I'm grateful for that.

y les agradezco eso.

But we really need you to make sure

Pero realmente necesitamos que nos aseguren

that these algorithms have encoded in them

que estos algoritmos contienen

a sense of the public life, a sense of civic responsibility.

un sentido de la vida pública, un sentido de responsabilidad cívica.

We need you to make sure that they're transparent enough

Necesitamos que nos aseguren que son suficientemente transparentes,

that we can see what the rules are

que podemos ver cuáles son las reglas

that determine what gets through our filters.

que determinan lo que pasa por nuestros filtros.

And we need you to give us some control

Y necesitamos que nos den algún control

so that we can decide

para poder decidir

what gets through and what doesn't.

qué pasa y que no pasa.

Because I think

Porque creo

we really need the Internet to be that thing

que realmente necesitamos que Internet sea eso

that we all dreamed of it being.

que todos soñamos que fuera.

We need it to connect us all together.

Necesitamos que nos conecte a todos.

We need it to introduce us to new ideas

Necesitamos que nos presente nuevas ideas,

and new people and different perspectives.

nuevas personas y distintas perspectivas.

And it's not going to do that

Y esto no va a ser posible

if it leaves us all isolated in a Web of one.

si nos aísla en una Red unipersonal.

Thank you.

Gracias.

(Applause)

(Aplausos)