Beware online "filter bubbles" | Eli Pariser

Eli Pariser: Vorsicht vor "Filter-Blasen" im Internet

Übersetzung: Judith Funke Lektorat: Alex Boos

Mark Zuckerberg,

Mark Zuckerberg

a journalist was asking him a question about the news feed.

wurde von einem Journalisten zum News Feed bei Facebook befragt.

And the journalist was asking him,

Der Journalist fragte ihn,

"Why is this so important?"

"Warum ist er so wichtig?"

And Zuckerberg said,

Und Zuckerberg sagte,

"A squirrel dying in your front yard

"Ein Eichhörnchen, das in Ihrem Vorgarten stirbt

may be more relevant to your interests right now

kann für Sie jetzt gerade relevanter sein

than people dying in Africa."

als sterbende Menschen in Afrika."

And I want to talk about

Und ich möchte darüber sprechen

what a Web based on that idea of relevance might look like.

wie ein Internet aussähe, das auf dieser Auffassung von Relevanz basiert.

So when I was growing up

Während meiner Jugend

in a really rural area in Maine,

in einer sehr ländlichen Gegend in Maine

the Internet meant something very different to me.

war das Internet für mich etwas völlig anderes.

It meant a connection to the world.

Es war eine Verbindung zur Welt.

It meant something that would connect us all together.

Etwas, das uns alle miteinander verbinden würde.

And I was sure that it was going to be great for democracy

Und ich war sicher, dass es großartig für die Demokratie sein würde

and for our society.

und für unsere Gesellschaft.

But there's this shift

Aber es gibt eine Verschiebung darin

in how information is flowing online,

wie Informationen online fließen,

and it's invisible.

und zwar eine unsichtbare.

And if we don't pay attention to it,

Und wenn wir nicht aufpassen,

it could be a real problem.

könnte sie ein echtes Problem werden.

So I first noticed this in a place I spend a lot of time --

Mir ist sie zuerst an einem Ort aufgefallen, an dem ich viel Zeit verbringe --

my Facebook page.

meiner Facebook-Seite.

I'm progressive, politically -- big surprise --

Ich bin politisch progressiv -- überraschenderweise --

but I've always gone out of my way to meet conservatives.

aber ich habe mich immer bemüht, Konservativen zu begegnen.

I like hearing what they're thinking about;

Ich mag es, zu hören worüber sie nachdenken;

I like seeing what they link to;

Ich mag es, zu sehen was sie verlinken;

I like learning a thing or two.

Ich mag es, ein-zwei Dinge zu lernen.

And so I was surprised when I noticed one day

Also war ich überrascht, als ich eines Tages gemerkt habe

that the conservatives had disappeared from my Facebook feed.

dass die Konservativen aus meinen Facebook-Neuigkeiten verschwunden waren.

And what it turned out was going on

Wie sich herausstellte

was that Facebook was looking at which links I clicked on,

hatte Facebook registriert, auf welche Links ich klickte,

and it was noticing that, actually,

und hatte festgestellt, dass ich

I was clicking more on my liberal friends' links

mehr auf die Links meiner liberalen Freunde klickte

than on my conservative friends' links.

als auf die meiner konservativen Freunde.

And without consulting me about it,

Und ohne dass ich gefragt wurde

it had edited them out.

wurden sie aussortiert.

They disappeared.

Sie verschwanden.

So Facebook isn't the only place

Facebook ist nicht der einzige Ort

that's doing this kind of invisible, algorithmic

an dem das Netz auf diese unsichtbare,

editing of the Web.

algorithmische Weise redigiert wird.

Google's doing it too.

Google macht das gleiche.

If I search for something, and you search for something,

Wenn ich nach etwas suche, und Sie nach etwas suchen,

even right now at the very same time,

jetzt gerade, genau gleichzeitig,

we may get very different search results.

können wir sehr unterschiedliche Ergebnisse bekommen.

Even if you're logged out, one engineer told me,

Sogar wenn man ausgeloggt ist, hat mir ein Spezialist gesagt,

there are 57 signals

gibt es noch 57 Signale

that Google looks at --

die Google berücksichtigt --

everything from what kind of computer you're on

von der Art des Computers

to what kind of browser you're using

über den Browser, den man benutzt

to where you're located --

bis zum eigenen Standort --

that it uses to personally tailor your query results.

die benutzt werden um die Ergebnisse zu personalisieren.

Think about it for a second:

Denken sie mal drüber nach:

there is no standard Google anymore.

es gibt kein Standard-Google mehr.

And you know, the funny thing about this is that it's hard to see.

Und das komische daran ist, dass es kaum sichtbar ist.

You can't see how different your search results are

Man sieht nicht, wie unterschiedlich die eigenen Suchtreffer

from anyone else's.

von denen der anderen sind.

But a couple of weeks ago,

Aber vor ein paar Wochen

I asked a bunch of friends to Google "Egypt"

habe ich ein paar Freunde gebeten, "Ägypten" zu googlen

and to send me screen shots of what they got.

und mir Screenshots der Ergebnisse zu schicken.

So here's my friend Scott's screen shot.

Hier ist der Screenshot meines Freundes Scott.

And here's my friend Daniel's screen shot.

Und hier ist der von meinem Freund Daniel.

When you put them side-by-side,

Wenn man sie nebeneinander stellt,

you don't even have to read the links

muss man noch nicht mal die Links lesen

to see how different these two pages are.

um zu sehen, wie unterschiedlich die beiden Seiten sind.

But when you do read the links,

Aber wenn man die Links liest,

it's really quite remarkable.

ist es schon bemerkenswert.

Daniel didn't get anything about the protests in Egypt at all

Daniel hat auf seiner ersten Trefferseite überhaupt nichts

in his first page of Google results.

über die Proteste in Ägypten bekommen.

Scott's results were full of them.

Scott's Ergebnisse waren voll davon.

And this was the big story of the day at that time.

Und das war zu dieser Zeit die Nachricht des Tages.

That's how different these results are becoming.

So unterschiedlich werden die Ergebnisse jetzt.

So it's not just Google and Facebook either.

Und es geht nicht nur um Google und Facebook.

This is something that's sweeping the Web.

Das ist etwas, das das ganze Internet durchzieht.

There are a whole host of companies that are doing this kind of personalization.

Es gibt eine ganze Menge Firmen, die diese Art von Personalisierung machen.

Yahoo News, the biggest news site on the Internet,

Yahoo News, die größte Nachrichtenseite im Internet,

is now personalized -- different people get different things.

ist schon personalisiert -- verschiedene Menschen bekommen verschiedene Dinge.

Huffington Post, the Washington Post, the New York Times --

Huffington Post, die Washington Post, die New York Times --

all flirting with personalization in various ways.

sie flirten alle irgendwie mit Personalisierung.

And this moves us very quickly

Und das bringt uns sehr schnell

toward a world in which

zu einer Welt in der das Internet

the Internet is showing us what it thinks we want to see,

uns das zeigt, wovon es denkt, dass wir es sehen wollen,

but not necessarily what we need to see.

aber nicht zwangsläufig, was wir sehen sollten.

As Eric Schmidt said,

Eric Schmidt hat gesagt,

"It will be very hard for people to watch or consume something

"Es wird für die Menschen schwierig werden, etwas zu sehen oder zu konsumieren,

that has not in some sense

das nicht in irgendeiner Weise

been tailored for them."

auf sie zugeschnitten ist."

So I do think this is a problem.

Und ich glaube, dass das ein Problem ist.

And I think, if you take all of these filters together,

Ich glaube, wenn man all diese Filter zusammen nimmt,

you take all these algorithms,

all diese Algorithmen,

you get what I call a filter bubble.

dann bekommt man, was ich eine "Filterblase" nenne.

And your filter bubble is your own personal,

Ihre Filterblase ist Ihr ganz persönliches

unique universe of information

einzigartiges Informationsuniversum,

that you live in online.

in dem Sie online leben.

And what's in your filter bubble

Und was in Ihrer Filterblase ist,

depends on who you are, and it depends on what you do.

hängt davon ab, wer Sie sind und was Sie tun.

But the thing is that you don't decide what gets in.

Aber Sie bestimmen nicht, was hineinkommt.

And more importantly,

Und, noch wichtiger,

you don't actually see what gets edited out.

Sie sehen nie, was aussortiert wird.

So one of the problems with the filter bubble

Eines der Probleme der Filterblase

was discovered by some researchers at Netflix.

wurde von Forschern bei Netflix entdeckt.

And they were looking at the Netflix queues, and they noticed something kind of funny

Sie schauten sich die Film-Bestelllisten dort an, und ihnen fiel etwas komisches auf,

that a lot of us probably have noticed,

das wohl schon viele von uns kennen,

which is there are some movies

nämlich dass manche Filme sofort

that just sort of zip right up and out to our houses.

nach oben auf die Liste kommen und ab zu uns nach Hause.

They enter the queue, they just zip right out.

Sie kommen neu oben auf die Liste, und sofort geht es los.

So "Iron Man" zips right out,

"Iron Man" geht sofort raus,

and "Waiting for Superman"

und bei "Waiting for Superman"

can wait for a really long time.

kann es ziemlich lange dauern.

What they discovered

Was sie herausgefunden haben

was that in our Netflix queues

ist, dass in unseren Netflix-Wartelisten

there's this epic struggle going on

ein epischer Kampf stattfindet --

between our future aspirational selves

zwischen unserem zukünftigen, anspruchsvolleren Ich

and our more impulsive present selves.

und unserem impulsiveren, gegenwärtigen Ich.

You know we all want to be someone

Sie wissen ja, wir möchten alle jemand sein

who has watched "Rashomon,"

der "Rashomon" gesehen hat,

but right now

aber jetzt gerade

we want to watch "Ace Ventura" for the fourth time.

wollen wir "Ace Ventura" zum vierten Mal anschauen.

(Laughter)

(Gelächter)

So the best editing gives us a bit of both.

Die beste Zusammenstellung für uns wäre von allem etwas.

It gives us a little bit of Justin Bieber

Ein kleines bißchen Justin Bieber

and a little bit of Afghanistan.

und ein kleines bißchen Afghanistan.

It gives us some information vegetables;

Etwas Informations-Gemüse,

it gives us some information dessert.

und ein wenig Informations-Nachtisch.

And the challenge with these kinds of algorithmic filters,

Und die Herausforderung für algorithmische Filter,

these personalized filters,

diese personalisierten Filter,

is that, because they're mainly looking

ist, dass sie diese Balance umkippen,

at what you click on first,

weil sie vor allem danach gehen,

it can throw off that balance.

worauf man zuerst klickt.

And instead of a balanced information diet,

Und statt einer ausgewogenen Informationsdiät

you can end up surrounded

findet man sich am Ende inmitten

by information junk food.

von Informations-Junk Food wieder.

What this suggests

Was das heißen könnte ist,

is actually that we may have the story about the Internet wrong.

dass wir die Sache mit dem Internet vielleicht falsch verstanden haben.

In a broadcast society --

In einer Sendergesellschaft --

this is how the founding mythology goes --

so geht der Gründungsmythos --

in a broadcast society,

in einer Sendergesellschaft

there were these gatekeepers, the editors,

gab es Torwächter, die Redakteure,

and they controlled the flows of information.

die den Informationsfluss kontrolliert haben.

And along came the Internet and it swept them out of the way,

Und dann kam das Internet und hat sie aus dem Weg gefegt,

and it allowed all of us to connect together,

und uns allen ermöglicht, uns miteinander zu verbinden,

and it was awesome.

und es war wunderbar.

But that's not actually what's happening right now.

Aber das ist nicht, was gerade passiert.

What we're seeing is more of a passing of the torch

Was wir erleben ist eher eine Übergabe der Fackel

from human gatekeepers

von menschlichen Torwächtern

to algorithmic ones.

an die Algorithmen.

And the thing is that the algorithms

Nur dass den Algorithmen

don't yet have the kind of embedded ethics

noch keine Ethik eingebaut wurde,

that the editors did.

wie sie die Redakteure haben.

So if algorithms are going to curate the world for us,

Wenn also Algorithmen die Welt für uns kuratieren,

if they're going to decide what we get to see and what we don't get to see,

wenn sie entscheiden, was wir zu sehen bekommen und was nicht,

then we need to make sure

dann müssen wir sicherstellen,

that they're not just keyed to relevance.

dass sie nicht nur nach Relevanz auswählen.

We need to make sure that they also show us things

Wir müssen garantieren, dass sie uns auch Dinge zeigen,

that are uncomfortable or challenging or important --

die unbequem oder herausfordernd oder wichtig sind --

this is what TED does --

so wie das TED tut --

other points of view.

andere Sichtweisen.

And the thing is, we've actually been here before

Und an diesem Punkt waren wir ja schon einmal,

as a society.

als Gesellschaft.

In 1915, it's not like newspapers were sweating a lot

Im Jahre 1915 haben sich die Zeitungen nicht gerade verausgabt

about their civic responsibilities.

um ihrer bürgerlichen Verantwortung nachzukommen.

Then people noticed

Dann hat man bemerkt

that they were doing something really important.

dass sie eine sehr wichtige Funktion hatten.

That, in fact, you couldn't have

Dass eine funktionierende Demokratie

a functioning democracy

gar nicht möglich war

if citizens didn't get a good flow of information,

ohne einen guten Informationsfluss für die Bürger.

that the newspapers were critical because they were acting as the filter,

Dass die Zeitungen mit ihrer Filterwirkung von entscheidender Bedeutung waren --

and then journalistic ethics developed.

und dann entwickelte sich eine journalistische Ethik.

It wasn't perfect,

Die war nicht perfekt,

but it got us through the last century.

aber sie hat uns durch das letzte Jahrhundert gebracht.

And so now,

Und jetzt sind wir

we're kind of back in 1915 on the Web.

mit dem Internet wieder im Jahr 1915.

And we need the new gatekeepers

Und die neuen Torwächter müssen

to encode that kind of responsibility

in den Code, den sie schreiben,

into the code that they're writing.

diese Verantwortung für uns mit einbauen.

I know that there are a lot of people here from Facebook and from Google --

Ich weiß, dass hier viele Leute von Facebook und von Google sind --

Larry and Sergey --

Larry und Sergey --

people who have helped build the Web as it is,

Leute, die das Netz in seiner heutigen Form mitgebaut haben,

and I'm grateful for that.

und dafür bin ich dankbar.

But we really need you to make sure

Aber wir müssen wirklich sicherstellen,

that these algorithms have encoded in them

dass diese Algorithmen einen Sinn für öffentliches Leben,

a sense of the public life, a sense of civic responsibility.

für bürgerliche Verantwortung einprogrammiert haben.

We need you to make sure that they're transparent enough

Wir müssen dafür sorgen, dass sie transparent genug sind,

that we can see what the rules are

so dass wir die Regeln sehen können,

that determine what gets through our filters.

die bestimmen, was durch unsere Filter kommt.

And we need you to give us some control

Und Ihr müsst uns Kontrolle darüber geben,

so that we can decide

so dass wir entscheiden können

what gets through and what doesn't.

was durchkommen soll und was nicht.

Because I think

Denn ich glaube

we really need the Internet to be that thing

dass wir das Internet wirklich so brauchen

that we all dreamed of it being.

wie wir es uns erträumt haben.

We need it to connect us all together.

Es soll uns alle miteinander verbinden.

We need it to introduce us to new ideas

Es soll uns an neue Ideen heranführen

and new people and different perspectives.

und an neue Leute und fremde Perspektiven.

And it's not going to do that

Und das wird nicht geschehen,

if it leaves us all isolated in a Web of one.

wenn wir alle isoliert werden, in einem vereinzelten Netz.

Thank you.

Danke.

(Applause)

(Applaus)