Beware online "filter bubbles" | Eli Pariser

Tradutor: Miguel Rodrigues Revisora: Ana Sofia Pinho

Mark Zuckerberg,

Um jornalista entrevistava Mark Zuckerberg,

a journalist was asking him a question about the news feed.

sobre o "feed" de notícias.

And the journalist was asking him,

e o jornalista perguntou-lhe:

"Why is this so important?"

"Porque é que isso é tão importante?"

And Zuckerberg said,

Ao que Zuckerberg respondeu:

"A squirrel dying in your front yard

"Um esquilo a morrer no nosso quintal

may be more relevant to your interests right now

"pode ser mais relevante para os nossos interesses neste momento

than people dying in Africa."

"do que pessoas a morrer em África."

And I want to talk about

Eu quero falar sobre como será o aspeto

what a Web based on that idea of relevance might look like.

de uma web baseada nesta ideia de relevância.

So when I was growing up

À medida que fui crescendo numa zona rural em Maine

in a really rural area in Maine,

the Internet meant something very different to me.

a Internet significava uma coisa muito diferente para mim.

It meant a connection to the world.

Significava uma ligação ao mundo.

It meant something that would connect us all together.

Era uma coisa que nos ligaria a todos.

And I was sure that it was going to be great for democracy

E eu tinha a certeza que seria ótimo para a democracia

and for our society.

e para a nossa sociedade.

But there's this shift

Mas houve uma mudança

in how information is flowing online,

na forma como as informações circulam online,

and it's invisible.

e são invisíveis.

And if we don't pay attention to it,

Se não lhe prestarmos atenção,

it could be a real problem.

poderá ser um grande problema.

So I first noticed this in a place I spend a lot of time --

Reparei nisto pela primeira vez num local onde passo muito tempo,

my Facebook page.

a minha página do Facebook.

I'm progressive, politically -- big surprise --

Sou progressista, politicamente — grande surpresa —

but I've always gone out of my way to meet conservatives.

mas sempre me esforcei para conhecer conservadores.

I like hearing what they're thinking about;

Gosto de saber em que estão a pensar.

I like seeing what they link to;

Gosto de ver em que ligações clicam.

I like learning a thing or two.

Gosto de saber uma ou duas coisas.

And so I was surprised when I noticed one day

Fiquei surpreendido quando um dia reparei

that the conservatives had disappeared from my Facebook feed.

que os conservadores tinham desaparecido do meu "feed" de notícias do Facebook.

And what it turned out was going on

O que realmente se passava

was that Facebook was looking at which links I clicked on,

era que o Facebook andava a ver em que ligações eu clicava,

and it was noticing that, actually,

e reparou que eu clicava mais

I was clicking more on my liberal friends' links

nas ligações dos meus amigos liberais

than on my conservative friends' links.

do que nos de amigos conservadores.

And without consulting me about it,

E sem sequer me consultar sobre isso,

it had edited them out.

acabou por filtrá-los.

They disappeared.

Desapareceram.

So Facebook isn't the only place

O Facebook não é o único sítio

that's doing this kind of invisible, algorithmic

a fazer este tipo de edição da web — invisível, algorítmica.

editing of the Web.

Google's doing it too.

O Google também o faz.

If I search for something, and you search for something,

Se eu pesquisar qualquer coisa e vocês também o fizerem,

even right now at the very same time,

mesmo agora, exatamente ao mesmo tempo,

we may get very different search results.

é possível que obtenhamos resultados de pesquisa muito diferentes.

Even if you're logged out, one engineer told me,

Mesmo que estejam desligados — disse-me um engenheiro —

there are 57 signals

há 57 sinais

that Google looks at --

para os quais a Google olha

everything from what kind of computer you're on

— tudo, desde o tipo de computador em que nos encontramos

to what kind of browser you're using

até que tipo de navegador utilizamos

to where you're located --

até onde nos encontramos —

that it uses to personally tailor your query results.

e os utiliza para personalizar os nossos resultados de pesquisa.

Think about it for a second:

Pensem nisto por instantes.

there is no standard Google anymore.

Já não há um Google igual para todos.

And you know, the funny thing about this is that it's hard to see.

A piada disto está no facto de que é difícil de se ver.

You can't see how different your search results are

Não temos a noção de que os nossos resultados são diferentes

from anyone else's.

But a couple of weeks ago,

dos de qualquer outra pessoa.

Aqui há umas semanas,

I asked a bunch of friends to Google "Egypt"

pedi a uns quantos amigos que pesquisassem "Egito" no Google

and to send me screen shots of what they got.

e me mandassem uma imagem do seu ecrã com os resultados da pesquisa.

So here's my friend Scott's screen shot.

Esta é a imagem do meu amigo Scott.

And here's my friend Daniel's screen shot.

E esta é a imagem do meu amigo Daniel.

When you put them side-by-side,

Quando as pomos lado a lado,

you don't even have to read the links

não precisamos de ler os resultados

to see how different these two pages are.

para ver quão diferentes são estas duas páginas.

But when you do read the links,

Mas quando lemos os resultados,

it's really quite remarkable.

é de facto bastante notável.

Daniel didn't get anything about the protests in Egypt at all

O Daniel não obteve absolutamente nada sobre os protestos no Egito

in his first page of Google results.

na sua primeira página de resultados no Google.

Scott's results were full of them.

Os resultados do Scott estavam cheios deles.

And this was the big story of the day at that time.

Na altura, esta era a grande notícia do dia.

That's how different these results are becoming.

Isto é o quão diferente estão a ficar estes resultados.

So it's not just Google and Facebook either.

Isto não é apenas no Google e no Facebook.

This is something that's sweeping the Web.

Isto é uma coisa que está a varrer a web.

There are a whole host of companies that are doing this kind of personalization.

Há uma série de empresas que estão a fazer este tipo de personalização.

Yahoo News, the biggest news site on the Internet,

A Yahoo News, o maior site de notícias na Internet,

is now personalized -- different people get different things.

é agora personalizado — pessoas diferentes obtêm resultados diferentes.

Huffington Post, the Washington Post, the New York Times --

O Huffington Post, o Washington Post, o New York Times

all flirting with personalization in various ways.

— todos a namoriscar a personalização de diferentes maneiras.

And this moves us very quickly

Isto leva-nos muito rapidamente

toward a world in which

na direção de um mundo em que a Internet nos mostra

the Internet is showing us what it thinks we want to see,

o que ela acha que nós queremos ver,

but not necessarily what we need to see.

mas não necessariamente aquilo que temos de ver.

As Eric Schmidt said,

Como disse Eric Schmidt:

"It will be very hard for people to watch or consume something

"Será muito difícil fazer com que as pessoas vejam ou adquiram algo

that has not in some sense

"que não foi de alguma forma feito para elas."

been tailored for them."

So I do think this is a problem.

Eu penso que isto é um problema.

And I think, if you take all of these filters together,

E penso que, se agarrarmos em todos estes filtros,

you take all these algorithms,

se agarrarmos em todos estes algoritmos,

you get what I call a filter bubble.

ficamos com aquilo a que eu chamo uma "bolha de filtros".

And your filter bubble is your own personal,

E a nossa bolha de filtros

é o nosso universo de informações pessoal e único.

unique universe of information

that you live in online.

em que vivemos online.

And what's in your filter bubble

O que está na nossa bolha de filtros

depends on who you are, and it depends on what you do.

depende de quem somos e depende do que fazemos.

But the thing is that you don't decide what gets in.

O problema é que não decidimos o que entra na bolha.

And more importantly,

E mais importante ainda,

you don't actually see what gets edited out.

não vemos o que fica de fora.

So one of the problems with the filter bubble

Um dos problemas da bolha de filtros

was discovered by some researchers at Netflix.

foi descoberto por investigadores na Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

Estavam a ver as filas na Netflix e repararam numa coisa com piada

that a lot of us probably have noticed,

em que talvez já tenham reparado.

which is there are some movies

Há certos filmes que entram e saem logo de nossa casa

that just sort of zip right up and out to our houses.

They enter the queue, they just zip right out.

Vão para a fila e saem logo.

So "Iron Man" zips right out,

Ou seja, o "Iron Man" sai logo,

and "Waiting for Superman"

e o "Waiting for Superman" pode esperar muito tempo.

can wait for a really long time.

What they discovered

Descobriram que, nas nossas filas da Netflix,

was that in our Netflix queues

there's this epic struggle going on

decorre uma luta épica

between our future aspirational selves

entre a nossa pessoa, futura e aspiracional,

and our more impulsive present selves.

e a nossa pessoa, mais impulsiva e presente.

You know we all want to be someone

Todos sabemos que queremos ser

who has watched "Rashomon,"

alguém que viu o "Rashomon",

but right now

mas, neste momento,

we want to watch "Ace Ventura" for the fourth time.

queremos ver o "Ace Ventura" pela quarta vez.

(Laughter)

(Risos)

So the best editing gives us a bit of both.

Portanto, o melhor ajuste dá-nos um bocado dos dois.

It gives us a little bit of Justin Bieber

Dá-nos um bocado de Justin Bieber

and a little bit of Afghanistan.

e um bocado do Afeganistão.

It gives us some information vegetables;

Dá-nos informações tipo vegetais,

it gives us some information dessert.

e dá-nos informações tipo sobremesa.

And the challenge with these kinds of algorithmic filters,

O problema com este tipo de filtros algorítmicos,

these personalized filters,

com estes filtros personalizados,

is that, because they're mainly looking

é que, devido ao facto de estarem a olhar para o que se clica primeiro,

at what you click on first,

it can throw off that balance.

podem desequilibrar esse balanço.

And instead of a balanced information diet,

Em vez de uma dieta equilibrada de informações ,

you can end up surrounded

podemos encontrar-nos rodeados

by information junk food.

de informações tipo "comida de plástico".

What this suggests

O que isto sugere

is actually that we may have the story about the Internet wrong.

é que podemos ficar com uma ideia errada da Internet.

In a broadcast society --

Numa sociedade difundida

this is how the founding mythology goes --

— é assim que funciona a mitologia de fundação —

in a broadcast society,

numa sociedade difundida,

there were these gatekeepers, the editors,

havia os porteiros, os editores,

and they controlled the flows of information.

que controlavam os fluxos de informações.

And along came the Internet and it swept them out of the way,

Entretanto, veio a Internet, varreu-os para fora do seu caminho,

and it allowed all of us to connect together,

e permitiu-nos ligar uns aos outros,

and it was awesome.

o que era ótimo.

But that's not actually what's happening right now.

Mas, na verdade, não é o que acontece neste momento.

What we're seeing is more of a passing of the torch

O que estamos a ver é antes a passagem do facho

from human gatekeepers

dos porteiros humanos

to algorithmic ones.

para os porteiros algorítmicos.

And the thing is that the algorithms

O problema é que os algoritmos

don't yet have the kind of embedded ethics

ainda não têm incorporada

that the editors did.

o tipo de ética que os editores tinham.

So if algorithms are going to curate the world for us,

Portanto, se são os algoritmos que vão filtrar o mundo por nós,

if they're going to decide what we get to see and what we don't get to see,

se vão decidir o que podemos ver e o que não podemos ver,

then we need to make sure

então temos que ter a certeza

that they're not just keyed to relevance.

que não estão apenas ligados à relevância.

We need to make sure that they also show us things

Temos que ter a certeza que também nos mostram coisas

that are uncomfortable or challenging or important --

que são desconfortáveis ou desafiadoras ou importantes

this is what TED does --

— é isto o que o TED faz —

other points of view.

outros pontos de vista.

And the thing is, we've actually been here before

E o problema é que já passámos por isto

as a society.

enquanto sociedade.

In 1915, it's not like newspapers were sweating a lot

Em 1915, os jornais não se preocupavam muito

about their civic responsibilities.

com as suas responsabilidades cívicas.

Then people noticed

Depois as pessoas repararam

that they were doing something really important.

que eles estavam a fazer uma coisa muito importante.

That, in fact, you couldn't have

Que, de facto, não era possível ter uma democracia funcional

a functioning democracy

if citizens didn't get a good flow of information,

se os cidadãos não obtivessem um bom fluxo de informações.

that the newspapers were critical because they were acting as the filter,

Que os jornais eram críticos, porque estavam a agir como filtro,

and then journalistic ethics developed.

e aí desenvolveu-se a ética do jornalismo.

It wasn't perfect,

Não era perfeita,

but it got us through the last century.

mas foi com ela que passámos o século passado.

And so now,

Portanto agora,

we're kind of back in 1915 on the Web.

é como se voltássemos a 1915, na web.

And we need the new gatekeepers

É preciso que estes novos porteiros

to encode that kind of responsibility

inscrevam esse tipo de responsabilidade

into the code that they're writing.

no código daquilo que estão a escrever.

I know that there are a lot of people here from Facebook and from Google --

Eu sei que há aqui bastantes pessoas do Facebook e do Google

Larry and Sergey --

— Larry e Sergey —

people who have helped build the Web as it is,

pessoas que ajudaram a construir a web tal como é

and I'm grateful for that.

— e eu estou grato por isso.

But we really need you to make sure

Mas precisamos que vocês tenham a certeza

that these algorithms have encoded in them

de que estes algoritmos tenham neles inscritos

a sense of the public life, a sense of civic responsibility.

um sentido de vida pública, um sentido de responsabilidade cívica.

We need you to make sure that they're transparent enough

Precisamos que vocês tenham a certeza

de que são suficientemente transparentes

that we can see what the rules are

para conseguirmos ver quais são as regras

that determine what gets through our filters.

que determinam o que é que passa através dos nossos filtros.

And we need you to give us some control

Precisamos que nos deem algum controlo,

so that we can decide

para podermos decidir o que passa e o que não passa.

what gets through and what doesn't.

Because I think

Porque eu acho que precisamos

we really need the Internet to be that thing

que a Internet seja aquela coisa

that we all dreamed of it being.

que todos nós sonhávamos que era.

We need it to connect us all together.

Precisamos que nos ligue todos uns aos outros.

We need it to introduce us to new ideas

Precisamos que nos dê a conhecer novas ideias

and new people and different perspectives.

e novas pessoas e diferentes perspetivas.

And it's not going to do that

E não vai fazer isso

if it leaves us all isolated in a Web of one.

se nos deixar a todos isolados na web de um só.

Thank you.

Obrigado.

(Applause)

(Aplausos)