Beware online "filter bubbles" | Eli Pariser

Translator: Xavi Ivars Reviewer: Pol Monsó Purtí

Mark Zuckerberg,

Mark Zuckerberg,

a journalist was asking him a question about the news feed.

un periodista li feia una pregunta referent al "mur de notícies".

And the journalist was asking him,

El periodista li estava preguntant:

"Why is this so important?"

"Per què és el "mur" tan important?"

And Zuckerberg said,

I Zuckerberg va dir,

"A squirrel dying in your front yard

"Un esquirol morint davant de ta casa

may be more relevant to your interests right now

pot ser més rellevant per al teu interès en aquest moment

than people dying in Africa."

que gent morint a l'Àfrica."

And I want to talk about

I vull parlar sobre

what a Web based on that idea of relevance might look like.

com seria una Web basada en eixa idea de rellevància.

So when I was growing up

Quan estava creixent

in a really rural area in Maine,

en una àrea rural a Maine,

the Internet meant something very different to me.

'Internet' significava una cosa molt diferent per mi.

It meant a connection to the world.

Significava una connexió amb el món.

It meant something that would connect us all together.

Significava quelcom per connectar-nos a tots.

And I was sure that it was going to be great for democracy

I estava segur que anava a ser quelcom molt bo per a la democràcia

and for our society.

i per a la nostra societat.

But there's this shift

Però ha aparegut aquest desplaçament

in how information is flowing online,

respecte a com circula la informació a la xarxa,

and it's invisible.

i que és invisible.

And if we don't pay attention to it,

I que si no hi estem atents

it could be a real problem.

podria ser un problema real.

So I first noticed this in a place I spend a lot of time --

El primer lloc on em vaig adonar d'això va ser en un lloc on passe molt de temps --

my Facebook page.

la meva pàgina a Facebook.

I'm progressive, politically -- big surprise --

Sóc progressista, ideològicament -- gran sorpresa --

but I've always gone out of my way to meet conservatives.

però sempre m'he preocupat per trobar-me amb conservadors.

I like hearing what they're thinking about;

M'agrada escoltar de què parlem;

I like seeing what they link to;

m'agrada veure què enllancen;

I like learning a thing or two.

m'agrada aprendre coses d'ells.

And so I was surprised when I noticed one day

I per això em vaig sorprendre el dia que em vaig adonar

that the conservatives had disappeared from my Facebook feed.

que els conservadors havien desaparegut del meu mur de Facebook.

And what it turned out was going on

I el què havia ocorregut era

was that Facebook was looking at which links I clicked on,

que Facebook estava controlant sobre quins enllaços feia clic,

and it was noticing that, actually,

i estava descobrint que, de fet,

I was clicking more on my liberal friends' links

feia més clics als enllaços dels meus amics progressistes

than on my conservative friends' links.

que als enllaços dels meus amics conservadors.

And without consulting me about it,

I sense preguntar-m'ho,

it had edited them out.

els havia eliminat.

They disappeared.

Havien desaparegut.

So Facebook isn't the only place

Però Facebook no és l'únic lloc

that's doing this kind of invisible, algorithmic

que està fent aquesta mena d'edició algorítmica invisible

editing of the Web.

de la Web.

Google's doing it too.

Google també ho està fent.

If I search for something, and you search for something,

Si jo cerque alguna cosa, i vosaltres cerqueu el mateix,

even right now at the very same time,

fins i tot ara mateix, simultàniament,

we may get very different search results.

podríem obtenir resultats molt diferents.

Even if you're logged out, one engineer told me,

Fins i tot amb la sessió tancada, segons em va dir un enginyer,

there are 57 signals

hi ha 57 senyals

that Google looks at --

que Google té en compte --

everything from what kind of computer you're on

des d'allò relacionat amb el tipus d'ordinador en el què esteu

to what kind of browser you're using

fins al tipus de navegador que utilitzeu

to where you're located --

o on esteu físicament --

that it uses to personally tailor your query results.

i utilitza aquesta informació per confeccionar els resultats de la vostra cerca.

Think about it for a second:

Penseu-ho un moment:

there is no standard Google anymore.

ja no hi ha un Google estàndar.

And you know, the funny thing about this is that it's hard to see.

I el pitjor d'això és que és complicat de veure.

You can't see how different your search results are

No podeu veure la diferència entre els vostres resultats

from anyone else's.

i els de qualsevol altra persona.

But a couple of weeks ago,

Però fa un parell de setmanes,

I asked a bunch of friends to Google "Egypt"

els vaig demanar a un grapat d'amics que cercaren "Egipte" al Google

and to send me screen shots of what they got.

i que m'enviaren en una captura de pantalla del què havien obtingut.

So here's my friend Scott's screen shot.

Ací podeu veure la captura del meu amic Scott.

And here's my friend Daniel's screen shot.

I aci la del meu amic Daniel.

When you put them side-by-side,

Si les poseu una al costat de l'altra

you don't even have to read the links

no cal ni que llegiu els enllaços

to see how different these two pages are.

per a observar com de diferents són ambdues pàgines.

But when you do read the links,

Però si llegiu els enllaços

it's really quite remarkable.

és realment molt gran la diferència.

Daniel didn't get anything about the protests in Egypt at all

Daniel no va rebre res relatiu a les protestes d'Egipte

in his first page of Google results.

en la primera pàgina de resultats de Google.

Scott's results were full of them.

Els resultats de Scott n'estaven plens.

And this was the big story of the day at that time.

I aquesta era la història del dia en aquell moment.

That's how different these results are becoming.

Així és com de diferents s'estan convertint aquestos resultats.

So it's not just Google and Facebook either.

I tampoc passa només amb Google i Facebook.

This is something that's sweeping the Web.

Açò és una cosa que està arrasant la web.

There are a whole host of companies that are doing this kind of personalization.

Hi ha tot un munt d'empreses que estan fent aquest tipus de personalització.

Yahoo News, the biggest news site on the Internet,

Yahoo News, la major web de notícies a Internet,

is now personalized -- different people get different things.

és ara personalitzada -- diferents persones reben diferents notícies.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, el Washington Post, el New York Times --

all flirting with personalization in various ways.

tots juguen amb la personalització d'alguna manera.

And this moves us very quickly

I açó ens duu molt ràpidament

toward a world in which

cap a un mon en què

the Internet is showing us what it thinks we want to see,

Internet ens mostra el que creu que volem veure,

but not necessarily what we need to see.

però no necessàriament el que necessitem veure.

As Eric Schmidt said,

Tal i com va dir Eric Schmidt,

"It will be very hard for people to watch or consume something

"Serà molt complicat per a la gent veure o consumir alguna cosa

that has not in some sense

que no ha estat, d'alguna manera,

been tailored for them."

preparat per a ells."

So I do think this is a problem.

I jo crec que açò és un problema.

And I think, if you take all of these filters together,

I pense que, si unim tots aquestos filtres,

you take all these algorithms,

si agafem tots aquestos algoritmes,

you get what I call a filter bubble.

aconseguim el que jo anomene "bombolla de filtres".

And your filter bubble is your own personal,

I la vostra "bombolla de filtres" és el vostre personal

unique universe of information

i únic univers d'informació

that you live in online.

en el què viviu en la xarxa.

And what's in your filter bubble

I el que hi ha en la vostra bombolla de filtres

depends on who you are, and it depends on what you do.

depén de qui sou, i depén de què feu.

But the thing is that you don't decide what gets in.

Però la cosa més important és que no decidiu que entra.

And more importantly,

I més important,

you don't actually see what gets edited out.

no veieu què es queda fora.

So one of the problems with the filter bubble

Un dels problemes de la bombolla de filtres

was discovered by some researchers at Netflix.

va ser descobert per uns investigadors a Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

I quan estaven mirant les cues a Netflix, es van adonar d'una cosa graciosa

that a lot of us probably have noticed,

que probablement molts ja havíem notat,

which is there are some movies

i és que hi ha algunes pel·lícules

that just sort of zip right up and out to our houses.

que entren i de seguida ixen de les nostres cases.

They enter the queue, they just zip right out.

Entren a la cua, i ixen de seguida.

So "Iron Man" zips right out,

Per exemple, "Iron Man" ix de seguida

and "Waiting for Superman"

i "Esperant a Superman"

can wait for a really long time.

pot estar esperant molt de temps.

What they discovered

El que han descobert

was that in our Netflix queues

és que a les cues de Netflix

there's this epic struggle going on

hi ha aquesta batalla èpica

between our future aspirational selves

entre les nostres aspiracions futures

and our more impulsive present selves.

i els nostres impulsos presents.

You know we all want to be someone

Tots volem ser algú

who has watched "Rashomon,"

que ha vist "Rashomon",

but right now

però ara mateix

we want to watch "Ace Ventura" for the fourth time.

volem veure per quarta vegada "Ace Ventura".

(Laughter)

(Rises)

So the best editing gives us a bit of both.

La millor edició ens dóna una mica de cada.

It gives us a little bit of Justin Bieber

Ens dona un poc de Justin Bieber

and a little bit of Afghanistan.

i una miqueta d'Afganistan.

It gives us some information vegetables;

Ens dóna certa informació sobre verdures;

it gives us some information dessert.

ens dona també informació sobre les postres.

And the challenge with these kinds of algorithmic filters,

I la part complicada d'aquest tipus de filtres algorítmics,

these personalized filters,

d'aquestos filtres personalitzats,

is that, because they're mainly looking

és que, degut a que principalment es fixen

at what you click on first,

en què cliqueu primer,

it can throw off that balance.

poden trencar aquest equilibri.

And instead of a balanced information diet,

I en lloc d'informació per a una dieta equilibrada,

you can end up surrounded

podeu acabar rodejats

by information junk food.

d'informació de menjar escombraria.

What this suggests

El que açò suggereix

is actually that we may have the story about the Internet wrong.

és que potser ens hem equivocat en la història sobre Internet.

In a broadcast society --

En una societat de la transmissió --

this is how the founding mythology goes --

així és com es funda una mitologia --

in a broadcast society,

en una societat de la transmissió,

there were these gatekeepers, the editors,

hi havia aquestos guardians, els editors,

and they controlled the flows of information.

i ells controlaven els fluxes d'informació.

And along came the Internet and it swept them out of the way,

I quan va arribar Internet i els va apartar,

and it allowed all of us to connect together,

i ens va permetre connectar-nos junts,

and it was awesome.

va ser increïble.

But that's not actually what's happening right now.

Però no és el que està passant ara mateixa.

What we're seeing is more of a passing of the torch

El que estem veient és més una substitució

from human gatekeepers

dels guardians humans

to algorithmic ones.

a guardians algorítmics.

And the thing is that the algorithms

I el que passa és que els algorítmics

don't yet have the kind of embedded ethics

encara no tenen integrats els conceptes ètics

that the editors did.

que si que tenien els editors.

So if algorithms are going to curate the world for us,

De manera que si els algoritmes van a administrar-nos el món,

if they're going to decide what we get to see and what we don't get to see,

si van a decidir que anem a veure i què no,

then we need to make sure

hem d'estar segurs

that they're not just keyed to relevance.

que no són programats només per a la rellevància.

We need to make sure that they also show us things

Hem d'estar segurs que també ens mostren coses

that are uncomfortable or challenging or important --

que són incòmodes o qüestionables o importants --

this is what TED does --

açò és el que fa TED --

other points of view.

altres punts de vista.

And the thing is, we've actually been here before

I, a més, resulta que ja hem estat ací

as a society.

com a societat.

In 1915, it's not like newspapers were sweating a lot

El 1915 els periòdics no estaven massa implicats

about their civic responsibilities.

amb les seues responsabilitats cíviques.

Then people noticed

Aleshores la gent es va adonar

that they were doing something really important.

que feien una cosa realment important.

That, in fact, you couldn't have

Que, de fet, no podia existir

a functioning democracy

una democràcia que funcionara

if citizens didn't get a good flow of information,

si els ciutadans no rebien un bon fluxe d'informació,

that the newspapers were critical because they were acting as the filter,

i que els periòdics eren crucials degut a que actuaven com a filtre,

and then journalistic ethics developed.

i l'ètica periodística es va desenvolupar.

It wasn't perfect,

No era perfecte,

but it got us through the last century.

però ens va acompanyar tot el segle passat.

And so now,

I ara,

we're kind of back in 1915 on the Web.

tornem a estar al 1915 a la xarxa.

And we need the new gatekeepers

I necessitem els guardians

to encode that kind of responsibility

amb aquesta responsabilitat

into the code that they're writing.

dins del codi que estan escrivint.

I know that there are a lot of people here from Facebook and from Google --

Sé que hi ha molta gent ací de Facebook i de Google --

Larry and Sergey --

Larry i Sergey --

people who have helped build the Web as it is,

gent que ha ajudat a construir la Web com és ara,

and I'm grateful for that.

i els estic agraït.

But we really need you to make sure

Però realment necessitem assegurar-nos

that these algorithms have encoded in them

que aquests algoritmes contenen

a sense of the public life, a sense of civic responsibility.

un sentit de la vida pública, un sentit de la reponsabilitat cívica.

We need you to make sure that they're transparent enough

Necessitem que ens assegurem que són suficientment transparents

that we can see what the rules are

que podem veure quines regles són

that determine what gets through our filters.

les que determinen què passa a través dels filtres.

And we need you to give us some control

I necessitem que ens doneu una mica de control

so that we can decide

per a que puguem decidir

what gets through and what doesn't.

què passa i què no.

Because I think

Perquè crec que

we really need the Internet to be that thing

necessitem que Internet siga

that we all dreamed of it being.

allò que tots hem somniat que siga.

We need it to connect us all together.

Necessitem connectar-nos tots junts.

We need it to introduce us to new ideas

Necessitem que ens presente noves idees

and new people and different perspectives.

i nova gent i perspectives diferents.

And it's not going to do that

I açò no passarà

if it leaves us all isolated in a Web of one.

si ens deixa sols en una web d'un.

Thank you.

Gràcies

(Applause)

(Aplaudiments)