Beware online "filter bubbles" | Eli Pariser

Translator: Fredrik Randsborg Bølstad Reviewer: Martin Hassel

Mark Zuckerberg,

Mark Zuckerberg,

a journalist was asking him a question about the news feed.

en journalist spurte ham et spørsmål om nyhetsstrømmen.

And the journalist was asking him,

Og det journalisten spurte var,

"Why is this so important?"

"Hvorfor er dette så viktig?"

And Zuckerberg said,

Og Zuckerberg svarte,

"A squirrel dying in your front yard

"Et ekorn som dør i din hage

may be more relevant to your interests right now

kan være mer relevant for dine interesser akkurat nå

than people dying in Africa."

enn at folk dør i Afrika."

And I want to talk about

Og jeg vil snakke om

what a Web based on that idea of relevance might look like.

hvordan et Internett basert på den idéen om relevanse kan se ut.

So when I was growing up

Da jeg vokste opp

in a really rural area in Maine,

i et virkelig øde område i Maine,

the Internet meant something very different to me.

betydde Internett noe veldig annet for meg.

It meant a connection to the world.

Det betydde en forbindelse til verden.

It meant something that would connect us all together.

Det betydde noe som ville koble oss alle sammen.

And I was sure that it was going to be great for democracy

Og jeg var sikker på at det kom til å være flott for demokratiet

and for our society.

og for vårt samfunn.

But there's this shift

Men det er denne endringen

in how information is flowing online,

i hvordan informasjon beveger seg på nettet,

and it's invisible.

og den er usynlig.

And if we don't pay attention to it,

Og hvis vi ikke holder øye med den,

it could be a real problem.

kan det bli et virkelig problem.

So I first noticed this in a place I spend a lot of time --

Først la jeg merke til dette på et sted der jeg tilbringer mye tid –

my Facebook page.

Facebook-siden min.

I'm progressive, politically -- big surprise --

Politisk er jeg progressiv – stor overraskelse –

but I've always gone out of my way to meet conservatives.

men jeg har alltid gjort mitt beste for å treffe konservative.

I like hearing what they're thinking about;

Jeg liker å høre hva de tenker på;

I like seeing what they link to;

jeg liker å se hva de linker til;

I like learning a thing or two.

jeg liker å lære en ting eller to.

And so I was surprised when I noticed one day

Så jeg ble overrasket da jeg en dag oppdaget

that the conservatives had disappeared from my Facebook feed.

at de konservative hadde forsvunnet fra nyhetsstrømmen min på Facebook.

And what it turned out was going on

Og det som viste seg å være årsaken

was that Facebook was looking at which links I clicked on,

var at Facebook registrerte hvilke lenker jeg klikket på,

and it was noticing that, actually,

og la merke til at jeg faktisk

I was clicking more on my liberal friends' links

klikket mer på mine liberale venners lenker

than on my conservative friends' links.

enn mine konservative venners lenker.

And without consulting me about it,

Og uten å rådføre seg med meg om det,

it had edited them out.

filtrerte de dem ut.

They disappeared.

De forsvant.

So Facebook isn't the only place

Facebook er ikke de eneste

that's doing this kind of invisible, algorithmic

som driver med denne usynlige, algoritmiske

editing of the Web.

filtreringen av Internett.

Google's doing it too.

Google gjør det også.

If I search for something, and you search for something,

Hvis jeg søker etter noe og du søker etter noe,

even right now at the very same time,

selv akkurat nå på nøyaktig samme tidspunkt,

we may get very different search results.

kan vi få veldig forskjellige resultater.

Even if you're logged out, one engineer told me,

Selv når du er logget ut, fortalte en utvikler meg,

there are 57 signals

er det 57 signaler

that Google looks at --

som Google ser på –

everything from what kind of computer you're on

alt fra hva slags datamaskin du bruker,

to what kind of browser you're using

til hvilken nettleser du bruker,

to where you're located --

til hvor du befinner deg –

that it uses to personally tailor your query results.

som blir brukt til å personlig skreddersy dine søkeresultater.

Think about it for a second:

Tenk på det et øyeblikk:

there is no standard Google anymore.

det er ingen standard Google lengre.

And you know, the funny thing about this is that it's hard to see.

Og du vet, det rare med dette er at det er vanskelig å se.

You can't see how different your search results are

Du kan ikke se hvor annerledes dine søkeresultater er

from anyone else's.

i forhold til alle andre sine.

But a couple of weeks ago,

Men for et par uker siden,

I asked a bunch of friends to Google "Egypt"

spurte jeg en gruppe venner om å Google "Egypt"

and to send me screen shots of what they got.

og sende meg skjermbilder av resultatene sine.

So here's my friend Scott's screen shot.

Her er min venn Scott sitt skjermbilde.

And here's my friend Daniel's screen shot.

Og her er min venn Daniel sitt skjermbilde.

When you put them side-by-side,

Når du plasserer dem side om side,

you don't even have to read the links

trenger du ikke en gang lese lenkene

to see how different these two pages are.

for å se hvor forskjellig disse to sidene er.

But when you do read the links,

Men når du leser lenkene,

it's really quite remarkable.

er det faktisk veldig oppsiktsvekkende.

Daniel didn't get anything about the protests in Egypt at all

Daniel fikk ikke noen treff om protestene i Egypt

in his first page of Google results.

på sin første side med Google-resultater.

Scott's results were full of them.

Scott sine resultater var fulle av dem.

And this was the big story of the day at that time.

Og dette var den store nyhetssaken på dette tidspunktet.

That's how different these results are becoming.

Det er såpass forskjellig disse resultatene er i ferd med å bli.

So it's not just Google and Facebook either.

Dette gjelder ikke bare Google og Facebook heller.

This is something that's sweeping the Web.

Dette er en trend som går igjen på Internett.

There are a whole host of companies that are doing this kind of personalization.

Det er en hel rekke av bedrifter som bedriver denne type personalisering.

Yahoo News, the biggest news site on the Internet,

Yahoo News, den største nyhetssiden på Internett,

is now personalized -- different people get different things.

er nå personalisert – forskjellige folk ser forskjellige ting.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, the Washington Post, the New York Times –

all flirting with personalization in various ways.

alle flørter med personalisering på forskjellige måter.

And this moves us very quickly

Og det beveger oss veldig raskt

toward a world in which

mot en verden der

the Internet is showing us what it thinks we want to see,

Internett viser oss hva det tror vi ønsker å se,

but not necessarily what we need to see.

men ikke nødvendigvis det vi trenger å se.

As Eric Schmidt said,

Som Eric Schmidt sa,

"It will be very hard for people to watch or consume something

"Det kommer til å bli veldig vanskelig for folk å se eller konsumere noe

that has not in some sense

som ikke på noen måte

been tailored for them."

er blitt skreddersydd til dem."

So I do think this is a problem.

Jeg syntes at dette er et problem.

And I think, if you take all of these filters together,

Og jeg tror at dersom du kombinerer alle disse filtrene,

you take all these algorithms,

alle disse algoritmene,

you get what I call a filter bubble.

så får du det jeg kaller en filterboble.

And your filter bubble is your own personal,

Din filterboble er ditt eget personlige,

unique universe of information

unike univers av informasjon

that you live in online.

som du lever i på nettet.

And what's in your filter bubble

Hva som finnes i din filterboble

depends on who you are, and it depends on what you do.

kommer an på hvem du er og det kommer an på hva du gjør.

But the thing is that you don't decide what gets in.

Men greia er at du får ikke bestemme hva som får komme inn.

And more importantly,

Og enda viktigere,

you don't actually see what gets edited out.

du får faktisk ikke se hva som blir filtrert ut.

So one of the problems with the filter bubble

Så et av problemene med filterboblen

was discovered by some researchers at Netflix.

ble oppdaget av noen forskere hos Netflix.

And they were looking at the Netflix queues, and they noticed something kind of funny

De så på Netflix-køen, og la merke til noe litt rart

that a lot of us probably have noticed,

som mange av oss antakeligvis har lagt merke til,

which is there are some movies

nemlig at det er noen filmer

that just sort of zip right up and out to our houses.

som bare sklir til topps og sendes direkte ut.

They enter the queue, they just zip right out.

De kommer inn i køen og sklir rett til topps.

So "Iron Man" zips right out,

Så "Iron Man" sklir rett til topps,

and "Waiting for Superman"

og "Waiting for Superman"

can wait for a really long time.

kan vente veldig lenge.

What they discovered

Det de oppdaget

was that in our Netflix queues

var at i vår Netflix-kø

there's this epic struggle going on

foregår det en storslått kamp

between our future aspirational selves

mellom vår fremtidige ambisiøse selv

and our more impulsive present selves.

og vår mer impulsive nåværende selv.

You know we all want to be someone

Dere vet at vi alle ønsker å være en

who has watched "Rashomon,"

som har sett "Rashomon,"

but right now

men akkurat nå

we want to watch "Ace Ventura" for the fourth time.

vil vi heller se "Ace Ventura" for fjerde gang.

(Laughter)

(Latter)

So the best editing gives us a bit of both.

Så det beste filteret gir oss litt av begge deler.

It gives us a little bit of Justin Bieber

Det gir oss en liten bit av Justin Bieber

and a little bit of Afghanistan.

og en liten bit av Afghanistan.

It gives us some information vegetables;

Det gir oss noe informasjon om grønnsaker;

it gives us some information dessert.

det gir oss noe informasjon om dessert.

And the challenge with these kinds of algorithmic filters,

Og utfordringen med denne type algoritmiske filtre,

these personalized filters,

disse personaliserte filtrene,

is that, because they're mainly looking

er at, fordi de hovedsakelig ser

at what you click on first,

på hva du klikker på først,

it can throw off that balance.

kan de sette denne balansen ute av spill.

And instead of a balanced information diet,

Og i stedet for en balansert informasjonsdiett

you can end up surrounded

kan du ende opp omringet

by information junk food.

av informasjonssøppelmat.

What this suggests

Det dette antyder

is actually that we may have the story about the Internet wrong.

er at vi faktisk kan ha fått historien om Internett feil.

In a broadcast society --

I et kringkastingssamfunn –

this is how the founding mythology goes --

dette er slik grunnleggingsmytologien går –

in a broadcast society,

I et kringkastingssamfunn,

there were these gatekeepers, the editors,

der var det disse portvaktene, redaktørene,

and they controlled the flows of information.

og de kontrollerte informasjonsflyten.

And along came the Internet and it swept them out of the way,

Og så kom Internett på banen og feide dem ut av veien,

and it allowed all of us to connect together,

og det tillot oss alle å koble oss sammen,

and it was awesome.

og det var fantastisk.

But that's not actually what's happening right now.

Men det er ikke akkurat det som skjer nå.

What we're seeing is more of a passing of the torch

Det vi ser er snarere en videreføring av ansvaret

from human gatekeepers

vekk fra menneskelige portvakter

to algorithmic ones.

til algoritmiske.

And the thing is that the algorithms

Og greia er at algoritmer

don't yet have the kind of embedded ethics

ikke enda har den formen for innebygd etikk

that the editors did.

som redaktørene hadde.

So if algorithms are going to curate the world for us,

Så hvis algoritmer skal håndplukke verden for oss,

if they're going to decide what we get to see and what we don't get to see,

hvis de skal få bestemme hva vi får se og hva vi ikke får se,

then we need to make sure

da er vi nødt til å sørge for

that they're not just keyed to relevance.

at de ikke kun er knyttet til relevans.

We need to make sure that they also show us things

Vi må sørge for at de også viser oss ting

that are uncomfortable or challenging or important --

som er ubehagelig eller utfordrende eller viktig –

this is what TED does --

det er dette TED gjør –

other points of view.

andre synspunkter.

And the thing is, we've actually been here before

Det spesielle er at vi faktisk har vært i denne situasjonen før

as a society.

som et samfunn.

In 1915, it's not like newspapers were sweating a lot

I 1915 hadde ikke akkurat avisene et anstrengt forhold

about their civic responsibilities.

til sitt samfunnsansvar.

Then people noticed

Så la folk merke til

that they were doing something really important.

at de gjorde noe veldig viktig.

That, in fact, you couldn't have

At man faktisk ikke kunne ha

a functioning democracy

et fungerende demokrati

if citizens didn't get a good flow of information,

hvis borgerne ikke fikk en god strøm av informasjon,

that the newspapers were critical because they were acting as the filter,

at avisene var viktige fordi de opptrådte som filteret,

and then journalistic ethics developed.

og så ble journalistisk etikk utviklet.

It wasn't perfect,

Det var ikke perfekt,

but it got us through the last century.

men det fikk oss gjennom det forrige århundret.

And so now,

Så nå,

we're kind of back in 1915 on the Web.

er vi på en måte tilbake i 1915 på Internett.

And we need the new gatekeepers

Og vi trenger de nye portvaktene

to encode that kind of responsibility

til å hardkode et slikt ansvar

into the code that they're writing.

inn i koden de skriver.

I know that there are a lot of people here from Facebook and from Google --

Jeg vet at det er mange mennesker her fra Facebook og fra Google –

Larry and Sergey --

Larry og Sergey –

people who have helped build the Web as it is,

mennesker som har hjulpet med å bygge Internett slik det er,

and I'm grateful for that.

og jeg er takknemlig for det.

But we really need you to make sure

Men vi trenger virkelig at dere sørger for

that these algorithms have encoded in them

at disse algoritmene har kodet inn i seg

a sense of the public life, a sense of civic responsibility.

en oppfatning av det offentlige liv, en forstand for et samfunnsansvar.

We need you to make sure that they're transparent enough

Vi trenger at dere sørger for at de er såpass åpne

that we can see what the rules are

slik at vi kan se hva reglene er

that determine what gets through our filters.

for å avgjøre hva som kommer gjennom våre filtre.

And we need you to give us some control

Og vi trenger at dere gir oss noe kontroll

so that we can decide

så vi kan få bestemme

what gets through and what doesn't.

hva som kommer gjennom og hva som stoppes.

Because I think

Fordi jeg tror

we really need the Internet to be that thing

at vi virkelig trenger at Internett blir den tingen

that we all dreamed of it being.

vi alle drømte at det skulle bli.

We need it to connect us all together.

Vi trenger at det kobler oss alle sammen.

We need it to introduce us to new ideas

Vi trenger det for å introdusere oss for nye idéer

and new people and different perspectives.

og nye mennesker og forskjellige perspektiver.

And it's not going to do that

Og det kommer ikke til å gjøre det

if it leaves us all isolated in a Web of one.

om det etterlater oss alle isolert i et nett av en.

Thank you.

Takk.

(Applause)

(Applaus)