Beware online "filter bubbles" | Eli Pariser

Översättare: Anders Björk Granskare: Daniel Lundberg

Mark Zuckerberg,

Mark Zuckerberg,

a journalist was asking him a question about the news feed.

utfrågades av en journalist om nyhetsströmmen (feeden).

And the journalist was asking him,

Och journalisten frågade honom,

"Why is this so important?"

"Varför är denna så viktig?"

And Zuckerberg said,

Och Zuckerberg svarade,

"A squirrel dying in your front yard

"En ekorre som dör framför din trappa

may be more relevant to your interests right now

kan vara mer relevant för vad du föredrar just nu

than people dying in Africa."

än människor som dör i Afrika."

And I want to talk about

Och vad jag vill prata om är

what a Web based on that idea of relevance might look like.

hur en webbaserad idé för relevans kan se ut.

So when I was growing up

Så när jag växte upp

in a really rural area in Maine,

i ett verkligen lantligt område i Maine,

the Internet meant something very different to me.

så betydde verkligen Internet något väldigt speciellt för mig.

It meant a connection to the world.

Det innebar en anslutning ut i världen.

It meant something that would connect us all together.

Det betydde någonting som skulle sammanbinda oss alla.

And I was sure that it was going to be great for democracy

Och jag var säker att det skulle vara positivt för demokratin

and for our society.

och för vårt samhälle.

But there's this shift

Men det håller på skifta,

in how information is flowing online,

på vilket sätt information flödar på nätet,

and it's invisible.

och det sker utan att vi ser det.

And if we don't pay attention to it,

Och om vi inte lägger till märke till detta,

it could be a real problem.

så skulle detta kunna bli ett verkligt problem.

So I first noticed this in a place I spend a lot of time --

Jag märkte detta första gången på en plats jag spendera mycket tid på

my Facebook page.

-- på min Facebooksida.

I'm progressive, politically -- big surprise --

Jag är progressiv, politisk, -- stor överraskning --

but I've always gone out of my way to meet conservatives.

men jag alltid försökt på mitt sätt att möta konservativa

I like hearing what they're thinking about;

Jag tycker om att höra vad de funderar kring;

I like seeing what they link to;

Jag vill se vad de länkar till;

I like learning a thing or two.

Jag gillar att lära mig saker.

And so I was surprised when I noticed one day

Så jag vart väldigt förvånad när jag en dag förstod

that the conservatives had disappeared from my Facebook feed.

att de konservativa hade försvunnit från min Facebook-nyhetsström (feed).

And what it turned out was going on

Och visade sig

was that Facebook was looking at which links I clicked on,

att Facebook tittade på vilka länkar jag klickade på

and it was noticing that, actually,

och siten noterade i själva verket,

I was clicking more on my liberal friends' links

att jag klickade mer på min liberala vänners länkar

than on my conservative friends' links.

än på mina konservativa vänners länkar.

And without consulting me about it,

Och utan att tillfråga mig,

it had edited them out.

hade siten tagit bort dem.

They disappeared.

De hade försvunnit.

So Facebook isn't the only place

Och Facebook är inte ensam om

that's doing this kind of invisible, algorithmic

att göra detta osynligt med algoritmer,

editing of the Web.

att redigera webben.

Google's doing it too.

Även Google gör det.

If I search for something, and you search for something,

Om jag söker något och du söker desamma,

even right now at the very same time,

samtidigt i denna stund,

we may get very different search results.

så kan vi få väldigt olika sökresultat.

Even if you're logged out, one engineer told me,

Detta även om du är utloggad, en ingenjör berättade för mig

there are 57 signals

att det finns 57 signaler

that Google looks at --

som Google tittar på --

everything from what kind of computer you're on

allt i från vilken typ av dator du använder

to what kind of browser you're using

till vilken webbläsare du använder

to where you're located --

till vart du är lokaliserad --

that it uses to personally tailor your query results.

detta används för att skräddarsy just dina sökresultat.

Think about it for a second:

Betänk detta för en sekund:

there is no standard Google anymore.

det finns inget standard-Google längre.

And you know, the funny thing about this is that it's hard to see.

Och vet du, det lustiga är att det är svårt att se det.

You can't see how different your search results are

Du kan inte se hur olika dina sökresultat är

from anyone else's.

jämfört med någon annans.

But a couple of weeks ago,

Men för ett par veckor sedan,

I asked a bunch of friends to Google "Egypt"

så bad jag några vänner att Googla "Egypt"

and to send me screen shots of what they got.

och skicka mig några skärmdumpar på vad de fick.

So here's my friend Scott's screen shot.

Här är min vän Scotts skärmdump-

And here's my friend Daniel's screen shot.

Och här är min vän Daniels skärmdump.

When you put them side-by-side,

När man lägger dem sida vid sida,

you don't even have to read the links

så behöver du inte ens läsa länkarna

to see how different these two pages are.

för se hur olika dessa två sidor är.

But when you do read the links,

Men när du läser länkarna,

it's really quite remarkable.

är det verkligen anmärkningsvärt.

Daniel didn't get anything about the protests in Egypt at all

Daniel fick ingenting om protesterna i Egypten överhuvudtaget

in his first page of Google results.

på sin första sida med Google-resultat.

Scott's results were full of them.

Scotts resultat var full av dem.

And this was the big story of the day at that time.

Och detta var den stora nyheten den dagen vid den tiden på dagen.

That's how different these results are becoming.

Sökresultaten håller på att bli så olika.

So it's not just Google and Facebook either.

Och det är inte bara Google och Facebook heller.

This is something that's sweeping the Web.

Det är något som sprider sig över hela webben.

There are a whole host of companies that are doing this kind of personalization.

Det är en mängd företag som håller på med den typ av personalisering.

Yahoo News, the biggest news site on the Internet,

Yahoo News, den största nyhetssiten på Internet,

is now personalized -- different people get different things.

är nu personaliserad -- olika människor får olika saker.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, the Washington Post, the New York Times --

all flirting with personalization in various ways.

lockar med personalisering på flera olika sätt.

And this moves us very quickly

Och leder oss mycket snabbt

toward a world in which

mot en värld där

the Internet is showing us what it thinks we want to see,

Internet visar oss vad det tror vi vill se,

but not necessarily what we need to see.

men inte nödvändigtvis vad vi behöver se.

As Eric Schmidt said,

Som Eric Schmidt sa,

"It will be very hard for people to watch or consume something

"Det kommer bli väldigt svårt att få se något eller konsumera något

that has not in some sense

som inte i någon mening

been tailored for them."

skräddarsytts"

So I do think this is a problem.

Så jag anser detta är ett problem.

And I think, if you take all of these filters together,

Och jag anser, om du lägger samman alla dessa filter,

you take all these algorithms,

och du tar alla dessa algoritmer,

you get what I call a filter bubble.

får du vad jag kallar en "filterbubbla".

And your filter bubble is your own personal,

Och din egen "filterbubbla" är ditt egna

unique universe of information

unika universum av information

that you live in online.

som du lever i på nätet.

And what's in your filter bubble

Och vad som är i din Filterbubbla

depends on who you are, and it depends on what you do.

beror på vem du är och den beror vad du gör.

But the thing is that you don't decide what gets in.

Men grejen är det är inte du som bestämmer vad som kommer in.

And more importantly,

Än viktigare,

you don't actually see what gets edited out.

är att du verkligen inte ser vad som klipps bort.

So one of the problems with the filter bubble

Så ett av problemen med "Filterbubblor"

was discovered by some researchers at Netflix.

vilket upptäcktes av några forskare på Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

Och de tittade på Netflix-köerna och de märkte något väldigt märkligt

that a lot of us probably have noticed,

något som en hel del av oss märkt,

which is there are some movies

vilket är att det är några filmer

that just sort of zip right up and out to our houses.

som far direkt upp och ut till hushållen.

They enter the queue, they just zip right out.

De går in i kön, och viner direkt ut.

So "Iron Man" zips right out,

Så "Iron Man" viner rätt ut,

and "Waiting for Superman"

och "Waiting for Superman"

can wait for a really long time.

kan få vänta ganska lång tid.

What they discovered

Vad de upptäckte

was that in our Netflix queues

var att i våra Netflix-köer

there's this epic struggle going on

pågår en episk kamp

between our future aspirational selves

mellan vårt framtida strävande jag

and our more impulsive present selves.

och vår mer impulsiva jag i nuet.

You know we all want to be someone

Du vet att vi alla vill vara någon

who has watched "Rashomon,"

som tittat på "Rashomon"

but right now

men just nu

we want to watch "Ace Ventura" for the fourth time.

vill vi bara se "Ace Ventura" för fjärde gången.

(Laughter)

(Skratt)

So the best editing gives us a bit of both.

Så det bästa urvalet ger oss lite av varje.

It gives us a little bit of Justin Bieber

Det ger oss en lite del av Justin Bieber

and a little bit of Afghanistan.

och en liten del av Afghanistan.

It gives us some information vegetables;

Och det ger oss lite "informationsgrönsaker"

it gives us some information dessert.

och det ger oss lite "informationsefterrätter".

And the challenge with these kinds of algorithmic filters,

Och utmaningarna med dessa typer av algoritmiska filter,

these personalized filters,

dessa personaliserade filter,

is that, because they're mainly looking

är att de på grund av att de tittar mest på

at what you click on first,

vad du klickat först på,

it can throw off that balance.

kan dessa komma ur balans.

And instead of a balanced information diet,

Och istället för en balanserad informationsdiet,

you can end up surrounded

kan du tillslut vara omgiven

by information junk food.

med informationsskräpmat.

What this suggests

Vad detta pekar på

is actually that we may have the story about the Internet wrong.

är att vi helt enkelt skrivit sagan om Internet felaktigt.

In a broadcast society --

I ett etermediasamhället --

this is how the founding mythology goes --

låter den grundande mytologin på detta sätt --

in a broadcast society,

i ett etermediasamhälle

there were these gatekeepers, the editors,

fanns dessa grindvakter, dessa redaktörer,

and they controlled the flows of information.

och de kontrollerade informationsflödet.

And along came the Internet and it swept them out of the way,

Och så kom Internet och sköljde bort dem,

and it allowed all of us to connect together,

och tillät oss att kommunicera tillsammans,

and it was awesome.

och det var underbart.

But that's not actually what's happening right now.

Men det är sannerligen inte vad som händer just nu.

What we're seeing is more of a passing of the torch

Vad vi ser är att facklan skickas vidare

from human gatekeepers

från mänskliga grindvakter

to algorithmic ones.

till algoritmiska vakter.

And the thing is that the algorithms

Och saken med algoritmerna är att

don't yet have the kind of embedded ethics

de har inte än har någon typ av inbyggd etik

that the editors did.

som redaktörerna hade.

So if algorithms are going to curate the world for us,

Så om algoritmerna ska kunna skapa en värld för oss,

if they're going to decide what we get to see and what we don't get to see,

om de ska kunna bestämma vad vi ska få se och vi inte ska få se,

then we need to make sure

då bör vi säkerställa

that they're not just keyed to relevance.

att de inte bara har relevans som enda måttet.

We need to make sure that they also show us things

Vi behöver säkerställa att de visar oss saker

that are uncomfortable or challenging or important --

som är obehagliga eller utmanande eller viktiga --

this is what TED does --

det är vad TED gör --

other points of view.

en annan synvinkel.

And the thing is, we've actually been here before

Och saken är den att vi varit där förut

as a society.

som samhället.

In 1915, it's not like newspapers were sweating a lot

Det är inte som 1915 när tidningarna hade det tufft

about their civic responsibilities.

kring sitt samhällsansvar.

Then people noticed

Då märkte folk

that they were doing something really important.

att de gjorde något verkligt viktigt.

That, in fact, you couldn't have

Faktum är de kunde inte blivit

a functioning democracy

en fungerande demokrati

if citizens didn't get a good flow of information,

om inte medborgarna hade fått ett bra informationsflöde.

that the newspapers were critical because they were acting as the filter,

Att tidningarna var kritiska för att de agerade som filtret,

and then journalistic ethics developed.

och att den journalistiska etiken utvecklades.

It wasn't perfect,

Den var inte perfekt.

but it got us through the last century.

men den tog oss genom förra seklet.

And so now,

Och nu är,

we're kind of back in 1915 on the Web.

vi typ tillbaka på 1915-års nivån på webben.

And we need the new gatekeepers

Och vi behöver de nya grindvakterna

to encode that kind of responsibility

för att koda den typen av ansvar

into the code that they're writing.

in i programkoden de skriver.

I know that there are a lot of people here from Facebook and from Google --

Jag vet det är en hel del människor från Facebook och från Google här --

Larry and Sergey --

Larry och Sergey --

people who have helped build the Web as it is,

människor som hjälpt till att bygga upp webben som den är,

and I'm grateful for that.

och jag är tacksam för detta.

But we really need you to make sure

Men vad vi verkligen måste försäkra oss om

that these algorithms have encoded in them

är att dessa algoritmer har inbyggt

a sense of the public life, a sense of civic responsibility.

en känsla för det offentliga livet, en känsla av medborgerligt ansvar.

We need you to make sure that they're transparent enough

Vi måste se till att de är tillräckligt transparenta

that we can see what the rules are

så vi kan se vilka reglerna är

that determine what gets through our filters.

som bestämmer vad som passerar vårt filter.

And we need you to give us some control

Och vi att ni ger oss lite kontroll över dessa,

so that we can decide

så att vi kan bestämma

what gets through and what doesn't.

vad som går igenom och vad som inte går igenom.

Because I think

För att jag anser

we really need the Internet to be that thing

det är viktigt för oss att Internet blir det

that we all dreamed of it being.

som det vi alla drömde om att det skulle vara.

We need it to connect us all together.

Vi behöver detta för att binda oss samman.

We need it to introduce us to new ideas

Vi behöver det för att introducerar oss till nya idéer

and new people and different perspectives.

och nya människor och olika perspektiv.

And it's not going to do that

Och det kommer inte att göra detta

if it leaves us all isolated in a Web of one.

om det lämnar oss alla i en isolerad personspecifik webb.

Thank you.

Tack så mycket.

(Applause)

(Applåder)