Beware online "filter bubbles" | Eli Pariser

Eli Pariser: Tenha cuidado com os "filtros-bolha" online.

Tradutor: Paulo Melillo Revisor: Viviane Ferraz Matos

Mark Zuckerberg,

Mark Zuckerberg,

a journalist was asking him a question about the news feed.

um jornalista fazia-lhe uma pergunta sobre os 'feeds' de notícias.

And the journalist was asking him,

E o jornalista perguntou:

"Why is this so important?"

"Por que isto é tão importante?"

And Zuckerberg said,

E Zuckerberg respondeu:

"A squirrel dying in your front yard

"Um esquilo morrendo no seu jardim

may be more relevant to your interests right now

pode ser mais relevante para os seus interesses, neste momento,

than people dying in Africa."

do que pessoas morrendo na África."

And I want to talk about

E eu quero falar sobre

what a Web based on that idea of relevance might look like.

como seria o aspecto de uma 'web' baseada nesta ideia de relevância.

So when I was growing up

Então, quando eu estava crescendo

in a really rural area in Maine,

em uma área realmente rural, no Maine (EUA),

the Internet meant something very different to me.

a internet significava algo muito diferente para mim.

It meant a connection to the world.

Ela significava uma conexão para o mundo.

It meant something that would connect us all together.

Significava algo que nos ligaria a todos.

And I was sure that it was going to be great for democracy

E eu tinha certeza que ela seria ótima para a democracia

and for our society.

e para a nossa sociedade.

But there's this shift

Mas aconteceu este tipo de mudança

in how information is flowing online,

em como a informação está fluindo 'on-line',

and it's invisible.

e ela é invisível.

And if we don't pay attention to it,

E se não prestarmos atenção nisto,

it could be a real problem.

poderá vir a ser um grande problema.

So I first noticed this in a place I spend a lot of time --

Pois bem, eu notei isto a primeira vez em um lugar onde passo muito tempo --

my Facebook page.

na minha página do Facebook.

I'm progressive, politically -- big surprise --

Sou um progressista, politicamente -- grande surpresa --

but I've always gone out of my way to meet conservatives.

mas sempre saí dos meus caminhos para encontrar os conservadores.

I like hearing what they're thinking about;

Eu gosto de ouvir sobre o que eles estão pensando;

I like seeing what they link to;

Eu gosto de ver para quais 'links' eles apontam;

I like learning a thing or two.

Eu gosto de aprender uma ou duas coisas.

And so I was surprised when I noticed one day

E então, fiquei surpreso quando percebi certo dia

that the conservatives had disappeared from my Facebook feed.

que os conservadores haviam desaparecido do meu 'feed' do Facebook.

And what it turned out was going on

E o que estava acontecendo

was that Facebook was looking at which links I clicked on,

era que o Facebook observava em quais 'links' eu clicava,

and it was noticing that, actually,

e ele notava que, na verdade,

I was clicking more on my liberal friends' links

Eu clicava mais nos 'links' dos meus amigos liberais

than on my conservative friends' links.

do que nos 'links' dos meus amigos conservadores.

And without consulting me about it,

E, sem me consultar sobre isto,

it had edited them out.

ele os deletou.

They disappeared.

Eles desapareceram.

So Facebook isn't the only place

Pois bem, o Facebook não é o único lugar

that's doing this kind of invisible, algorithmic

que está fazendo este tipo de invisível, algorítmica

editing of the Web.

edição da 'web'.

Google's doing it too.

O Google o faz também.

If I search for something, and you search for something,

Se eu busco por algo e você busca este mesmo algo,

even right now at the very same time,

ainda que no mesmo instante,

we may get very different search results.

nós talvez tenhamos resultados de busca muito diferentes.

Even if you're logged out, one engineer told me,

Mesmo que você não esteja "logado", um engenheiro contou-me,

there are 57 signals

que existem 57 sinais

that Google looks at --

que o Google olha --

everything from what kind of computer you're on

desde o tipo de computador no qual você está

to what kind of browser you're using

ao tipo de navegador que você usa

to where you're located --

até onde você se localiza --

that it uses to personally tailor your query results.

que ele usa para filtrar os seus resultados de busca.

Think about it for a second:

Pense sobre isto por um segundo:

there is no standard Google anymore.

não há mais um Google padrão.

And you know, the funny thing about this is that it's hard to see.

E sabe de uma coisa, o engraçado sobre isto é que é difícil de ver.

You can't see how different your search results are

Você não consegue ver quão diferentes são os seus resultados de busca

from anyone else's.

dos das demais pessoas.

But a couple of weeks ago,

Mas algumas semanas atrás,

I asked a bunch of friends to Google "Egypt"

eu pedi para um grupo de amigos 'googlear' a palavra "Egito"

and to send me screen shots of what they got.

e me enviarem as telas com os resultados que obtiveram.

So here's my friend Scott's screen shot.

Então, eis aqui a tela do meu amigo Scott.

And here's my friend Daniel's screen shot.

E aqui, a tela do meu amigo Daniel.

When you put them side-by-side,

Quando você as coloca lado a lado,

you don't even have to read the links

você nem mesmo precisa ler os 'links'

to see how different these two pages are.

para ver quão diferentes estas duas páginas são.

But when you do read the links,

Mas quando você lê os 'links', de fato,

it's really quite remarkable.

é realmente muito marcante.

Daniel didn't get anything about the protests in Egypt at all

O Daniel não obteve nada sobre os protestos no Egito

in his first page of Google results.

em sua primeira página de resultados do Google.

Scott's results were full of them.

Os resultados do Scott estavam cheios deles.

And this was the big story of the day at that time.

E esta era a manchete do dia, naquele momento.

That's how different these results are becoming.

Isto é o quão diferentes estes resultados estão se tornando.

So it's not just Google and Facebook either.

E também não é apenas o Google e o Facebook.

This is something that's sweeping the Web.

Isto é algo que está varrendo a rede.

There are a whole host of companies that are doing this kind of personalization.

Há toda uma série de empresas que estão fazendo esse tipo de personalização.

Yahoo News, the biggest news site on the Internet,

O 'Yahoo News', o maior site de notícias da internet,

is now personalized -- different people get different things.

é agora personalizado -- pessoas diferentes obtêm diferentes notícias.

Huffington Post, the Washington Post, the New York Times --

o 'Huffington Post', o 'Washington Post', o 'New York Times' --

all flirting with personalization in various ways.

todos estão flertando com a personalização, de várias formas.

And this moves us very quickly

E isto no leva muito rapidamente

toward a world in which

para um mundo no qual

the Internet is showing us what it thinks we want to see,

a internet nos mostra aquilo que ela pensa que queremos ver,

but not necessarily what we need to see.

mas não necessariamente o que precisamos ver.

As Eric Schmidt said,

Como Eric Schmidt (diretor-executivo do Google) disse:

"It will be very hard for people to watch or consume something

"Será muito difícil para as pessoas assistirem ou consumirem algo

that has not in some sense

que não tenha, em algum sentido,

been tailored for them."

sido feito sob medida para elas."

So I do think this is a problem.

Então, eu realmente penso que isto é um problema.

And I think, if you take all of these filters together,

E eu acho que, se você pegar todos estes filtros juntos,

you take all these algorithms,

você pega todos estes algoritmos,

you get what I call a filter bubble.

você tem o que eu chamo de filtro-bolha.

And your filter bubble is your own personal,

E o seu filtro-bolha é o seu próprio, pessoal

unique universe of information

e único universo de informação

that you live in online.

com o qual você vive 'on-line'.

And what's in your filter bubble

E o que está no seu filtro-bolha

depends on who you are, and it depends on what you do.

depende de quem você é, e depende do que você faz.

But the thing is that you don't decide what gets in.

Mas a questão é que você não decide o que entra.

And more importantly,

E mais importante,

you don't actually see what gets edited out.

você, na verdade, não vê o que fica de fora.

So one of the problems with the filter bubble

Então, um dos problemas com o filtro-bolha

was discovered by some researchers at Netflix.

foi descoberto por alguns pesquisadores da Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

E eles estavam olhando as listas de dados da Netflix e notaram algo engraçado

that a lot of us probably have noticed,

que muitos de nós provavelmente já notaram,

which is there are some movies

que existem alguns filmes

that just sort of zip right up and out to our houses.

que aparecem, e logo desaparecem de nossas casas.

They enter the queue, they just zip right out.

Eles entram na lista e simplesmente desaparecem, em seguida.

So "Iron Man" zips right out,

Então, "Homem de Ferro" logo desaparece

and "Waiting for Superman"

enquanto que "Esperando pelo Super-homem"

can wait for a really long time.

pode esperar por um tempo realmente longo.

What they discovered

O que eles descobriram

was that in our Netflix queues

foi que em nossas listas do Netflix

there's this epic struggle going on

há esta épica batalha em curso

between our future aspirational selves

entre nossas futuras aspirações pessoais

and our more impulsive present selves.

e nosso presente mais impulsivo e íntimo.

You know we all want to be someone

Vocês sabem que todos queremos ser alguém

who has watched "Rashomon,"

que assistiu ao "Rashomon" (filme cult japonês da decáda de 50),

but right now

mas, neste exato momento,

we want to watch "Ace Ventura" for the fourth time.

nós queremos assistir "Ace Ventura" pela quarta vez.

(Laughter)

(Risos)

So the best editing gives us a bit of both.

Então, a melhor edição nos dá um pouco de ambos.

It gives us a little bit of Justin Bieber

Ela nos dá um pouco de Justin Bieber

and a little bit of Afghanistan.

e um pouco sobre o Afeganistão.

It gives us some information vegetables;

Ela nos dá algumas informações "vegetarianas",

it gives us some information dessert.

ela nos dá algumas informações do tipo sobremesa.

And the challenge with these kinds of algorithmic filters,

E o desafio com estes tipos de filtros algorítmicos,

these personalized filters,

estes filtros personalizados,

is that, because they're mainly looking

é que, pelo fato de que eles olham principalmente

at what you click on first,

para aquilo que você clica em primeiro lugar,

it can throw off that balance.

eles podem comprometer o equilíbrio.

And instead of a balanced information diet,

E, ao invés de uma dieta balanceada de informação,

you can end up surrounded

você pode acabar rodeado

by information junk food.

por informações do tipo "porcariada alimentar".

What this suggests

O que isto sugere

is actually that we may have the story about the Internet wrong.

é que, na verdade, obtenhemos talvez a história equivocada sobre a internet.

In a broadcast society --

Em uma sociedade de transmissão (de rádio e TV) --

this is how the founding mythology goes --

é assim que o 'mito de origem' acontece --

in a broadcast society,

em uma sociedade de transmissão,

there were these gatekeepers, the editors,

existiam estes porteiros, os editores,

and they controlled the flows of information.

e eles controlavam os fluxos de informação.

And along came the Internet and it swept them out of the way,

E veio a internet e os varreu para fora do caminho,

and it allowed all of us to connect together,

e ela permitiu que nos conectássemos,

and it was awesome.

e era ótimo!

But that's not actually what's happening right now.

Mas não é isso que, na verdade, está acontecendo agora.

What we're seeing is more of a passing of the torch

O que estamos vendo é mais uma passagem do bastão

from human gatekeepers

dos porteiros humanos

to algorithmic ones.

para os algorítmicos.

And the thing is that the algorithms

E a questão é que os algoritmos

don't yet have the kind of embedded ethics

não possuem ainda o tipo ética arraigada

that the editors did.

que os editores possuiam.

So if algorithms are going to curate the world for us,

Então, se os algoritmos serão os curadores do mundo para nós,

if they're going to decide what we get to see and what we don't get to see,

se eles decidirão o que veremos e o que não veremos,

then we need to make sure

então precisamos ter certeza

that they're not just keyed to relevance.

de que eles não estarão atados apenas à relevância.

We need to make sure that they also show us things

Precisamos ter certeza que eles também nos mostrarão coisas

that are uncomfortable or challenging or important --

que são desconfortáveis ou desfiadoras ou importantes --

this is what TED does --

isto é o que o TED faz, correto? --

other points of view.

outros pontos de vista.

And the thing is, we've actually been here before

E a questão é que já passamos por isso antes

as a society.

como sociedade.

In 1915, it's not like newspapers were sweating a lot

Em 1915, não era que os jornais se esforçavam muito

about their civic responsibilities.

sobre suas responsabilidades civis.

Then people noticed

Então, as pessoas perceberam

that they were doing something really important.

que eles faziam algo realmente importante.

That, in fact, you couldn't have

Que, de fato, você não poderia ter

a functioning democracy

uma democracia funcionante

if citizens didn't get a good flow of information,

se os cidadãos não conseguissem um bom fluxo de informação.

that the newspapers were critical because they were acting as the filter,

Por isso que os jornais foram fundamentais, pois eles atuaram com um filtro

and then journalistic ethics developed.

e assim a ética jornalística se desenvolveu.

It wasn't perfect,

Ela não era perfeita,

but it got us through the last century.

mas nos conduziu pelo último século.

And so now,

E agora então,

we're kind of back in 1915 on the Web.

estamos como que de volta a 1915, na web.

And we need the new gatekeepers

E precisamos de novos porteiros

to encode that kind of responsibility

para registrarem aquele tipo de responsabilidade

into the code that they're writing.

no código que eles estão escrevendo.

I know that there are a lot of people here from Facebook and from Google --

Eu sei que temos aqui muitas pessoas do Facebook e do Google --

Larry and Sergey --

Larry e Sergey --

people who have helped build the Web as it is,

pessoas que ajudaram a construir a web como ela é,

and I'm grateful for that.

e eu sou grato por isso.

But we really need you to make sure

Mas realmente precisamos que vocês se certifiquem

that these algorithms have encoded in them

que estes algoritmos tenham codificados neles

a sense of the public life, a sense of civic responsibility.

um senso de vida pública, um senso de responsabilidade cívica.

We need you to make sure that they're transparent enough

Precisamos que vocês assegurem que eles sejam transparentes o bastante

that we can see what the rules are

do modo que possamos ver quais são as regras

that determine what gets through our filters.

que determinam o que passa pelos nossos filtros.

And we need you to give us some control

E precisamos que vocês nos dêem algum controle,

so that we can decide

para que possamos decidir

what gets through and what doesn't.

o que passa e o que não passa.

Because I think

Pois eu penso

we really need the Internet to be that thing

que realmente precisamos que a internet seja aquela coisa

that we all dreamed of it being.

que todos sonhamos que ela fosse.

We need it to connect us all together.

Precisamos que ela conecte a todos nós.

We need it to introduce us to new ideas

Precisamos que ela nos introduza em novas ideias,

and new people and different perspectives.

novas pessoas e diferentes perspectivas.

And it's not going to do that

E ela não fará isso

if it leaves us all isolated in a Web of one.

se nos deixar isolados em uma "rede de um".

Thank you.

Obrigado.

(Applause)

(Aplausos)