Beware online "filter bubbles" | Eli Pariser

Eli Pariser nous met en garde contre "les bulles de filtres" en ligne.

Traducteur: Amélie Gourdon Relecteur: Elaine Green

Mark Zuckerberg,

Mark Zuckerberg [créateur de Facebook],

a journalist was asking him a question about the news feed.

un journaliste lui posait une question à propos du fil d’actualité.

And the journalist was asking him,

Et le journaliste lui demandait

"Why is this so important?"

"Pourquoi est-ce si important ?"

And Zuckerberg said,

Et Zuckerberg a dit,

"A squirrel dying in your front yard

"Un écureuil mourant dans votre jardin

may be more relevant to your interests right now

peut être plus pertinent pour vos intérêts du moment

than people dying in Africa."

que les gens qui meurent en Afrique."

And I want to talk about

Et je veux parler

what a Web based on that idea of relevance might look like.

de ce à quoi ressemblerait un internet basé sur cette idée de pertinence.

So when I was growing up

Alors, pendant que je grandissais

in a really rural area in Maine,

dans une région vraiment rurale du Maine [États-Unis],

the Internet meant something very different to me.

l'internet signifiait quelque chose de vraiment différent pour moi.

It meant a connection to the world.

Cela signifiait une connexion avec le monde.

It meant something that would connect us all together.

Ça signifiait quelque chose qui nous connecterait tous ensemble.

And I was sure that it was going to be great for democracy

Et j'étais sûr que ça allait être formidable pour la démocratie

and for our society.

et pour notre société.

But there's this shift

Mais il y a ce changement

in how information is flowing online,

dans la façon dont l'information circule en ligne,

and it's invisible.

et c'est invisible.

And if we don't pay attention to it,

Et si nous n'y prêtons pas attention,

it could be a real problem.

cela pourrait être un réel problème.

So I first noticed this in a place I spend a lot of time --

Alors, j'ai d'abord remarqué cela dans un espace où je passe beaucoup de temps --

my Facebook page.

ma page Facebook.

I'm progressive, politically -- big surprise --

Je suis progressiste, politiquement -- grande surprise --

but I've always gone out of my way to meet conservatives.

mais je me suis toujours démené pour rencontrer des conservateurs.

I like hearing what they're thinking about;

J'aime écouter ce qu'ils pensent ;

I like seeing what they link to;

j'aime voir à quoi ils se connectent ;

I like learning a thing or two.

j'aime apprendre une chose ou deux.

And so I was surprised when I noticed one day

Et donc j'ai été surpris quand un jour j'ai remarqué

that the conservatives had disappeared from my Facebook feed.

que les conservateurs avaient disparu de mon fil Facebook.

And what it turned out was going on

Et ce qu'il apparut qu'il se passait

was that Facebook was looking at which links I clicked on,

est que Facebook regardait chaque lien que je cliquais,

and it was noticing that, actually,

et s'apercevait qu'en fait,

I was clicking more on my liberal friends' links

je cliquais plus souvent les liens de mes amis libéraux

than on my conservative friends' links.

que les liens de mes amis conservateurs.

And without consulting me about it,

Et sans me consulter à ce propos,

it had edited them out.

Facebook les avait éliminés.

They disappeared.

Ils avaient disparus.

So Facebook isn't the only place

Alors Facebook n'est pas le seul espace

that's doing this kind of invisible, algorithmic

à opérer ce genre d'algorithme invisible

editing of the Web.

triant l'internet.

Google's doing it too.

Google le fait aussi.

If I search for something, and you search for something,

Si je cherche quelque chose et que vous cherchez quelque chose,

even right now at the very same time,

quand même maintenant exactement au même moment,

we may get very different search results.

nous pourrions obtenir des résultats différents.

Even if you're logged out, one engineer told me,

Même si vous êtes déconnectés, un ingénieur m'a dit,

there are 57 signals

il y a 57 indicateurs

that Google looks at --

que Google regarde --

everything from what kind of computer you're on

tout du type d'ordinateur depuis lequel vous surfez

to what kind of browser you're using

jusqu'au type de navigateur que vous utilisez

to where you're located --

en passant par votre location géographique --

that it uses to personally tailor your query results.

et qui sont utilisés pour personnaliser vos résultats de recherche.

Think about it for a second:

Pensez-y une seconde :

there is no standard Google anymore.

il n'y a plus de Google générique.

And you know, the funny thing about this is that it's hard to see.

Et vous savez, ce qui est drôle dans cette histoire, c'est que c'est difficile à percevoir.

You can't see how different your search results are

Vous ne pouvez pas voir à quel point vos résultats de recherche sont différents

from anyone else's.

de ceux de n'importe qui d'autre.

But a couple of weeks ago,

Mais il y a quelques semaines,

I asked a bunch of friends to Google "Egypt"

j'ai demandé à quelques amis de chercher "Égypte" sur Google

and to send me screen shots of what they got.

et de m'envoyer des captures d'écrans de ce qu'ils avaient obtenu.

So here's my friend Scott's screen shot.

Donc, voici ce que mon ami Scott a obtenu.

And here's my friend Daniel's screen shot.

Et voilà ce que mon ami Daniel a trouvé.

When you put them side-by-side,

Quand vous mettez leurs résultats côte-à-côte,

you don't even have to read the links

vous n'avez même pas besoin de lire les liens

to see how different these two pages are.

pour voir à quel point ces deux pages sont différentes.

But when you do read the links,

Mais si vous lisez les liens,

it's really quite remarkable.

c'est tout à fait remarquable.

Daniel didn't get anything about the protests in Egypt at all

Daniel n'a rien obtenu du tout concernant les manifestations en Égypte

in his first page of Google results.

sur sa première page de résultats donnés par Google.

Scott's results were full of them.

Les résultats de Scott en étaient pleins.

And this was the big story of the day at that time.

Et ça faisait les gros titres chaque jour à l'époque.

That's how different these results are becoming.

C'est à ce point que les résultats deviennent différents.

So it's not just Google and Facebook either.

Alors, ce n'est pas juste Google et Facebook.

This is something that's sweeping the Web.

Il s'agit de quelque chose qui balaye l'internet.

There are a whole host of companies that are doing this kind of personalization.

Il y a tout un tas d'entreprises qui pratiquent ce genre de personnalisation.

Yahoo News, the biggest news site on the Internet,

Yahoo Actualités, le plus grand site d'actualité sur internet,

is now personalized -- different people get different things.

est maintenant personnalisé -- différentes personnes voient différentes choses.

Huffington Post, the Washington Post, the New York Times --

Le Huffington Post, le Washington Post, le New York Times --

all flirting with personalization in various ways.

tous flirtent avec la personnalisation d'une façon ou d'une autre.

And this moves us very quickly

Et cela nous emmène très rapidement

toward a world in which

vers un monde dans lequel

the Internet is showing us what it thinks we want to see,

l'internet nous montre ce qu'il pense que nous voulons voir,

but not necessarily what we need to see.

mais pas nécessairement ce que nous avons besoin de voir.

As Eric Schmidt said,

Comme l'a dit Eric Schmidt [président de Google],

"It will be very hard for people to watch or consume something

"Il sera très difficile pour les gens de regarder ou de consommer

that has not in some sense

ce qui n'a pas d'une certaine façon

been tailored for them."

été fait sur mesure pour eux."

So I do think this is a problem.

Donc je pense que c'est un réel problème.

And I think, if you take all of these filters together,

Et je pense que, si vous prenez tous ces filtres ensemble,

you take all these algorithms,

si vous prenez tous ces algorithmes,

you get what I call a filter bubble.

vous obtenez ce que j'appelle une bulle de filtres.

And your filter bubble is your own personal,

Et votre bulle de filtres est votre propre, personnel,

unique universe of information

unique univers d'information

that you live in online.

dans lequel vous vivez en ligne.

And what's in your filter bubble

Et ce qui est dans votre bulle de filtres

depends on who you are, and it depends on what you do.

dépend de qui vous êtes, et dépend de que vous faites.

But the thing is that you don't decide what gets in.

Mais le truc, c'est que vous ne décidez pas ce qui entre dedans.

And more importantly,

Et plus important,

you don't actually see what gets edited out.

vous ne voyez pas en fait ce qui se trouve rejeté.

So one of the problems with the filter bubble

Donc l'un des problèmes de la bulle de filtres

was discovered by some researchers at Netflix.

a été découvert par des chercheurs de chez Netflix [site de vidéo à la demande].

And they were looking at the Netflix queues, and they noticed something kind of funny

Ils étudiaient les files d'attentes Netflix, et ont remarqué une chose assez drôle,

that a lot of us probably have noticed,

que beaucoup d'entre nous ont certainement remarqué,

which is there are some movies

et qui est qu'il y a certains films

that just sort of zip right up and out to our houses.

qui semblent juste remonter la file très vite pour entrer dans nos foyers.

They enter the queue, they just zip right out.

Ils entrent dans la file, et ils la remontent immédiatement.

So "Iron Man" zips right out,

Donc "Iron Man" arrive aussitôt,

and "Waiting for Superman"

et "Waiting for Superman"

can wait for a really long time.

peut attendre vraiment très longtemps.

What they discovered

Ce qu'ils ont découvert

was that in our Netflix queues

c'est que dans les files d'attente de Netflix,

there's this epic struggle going on

il y a une bataille épique qui se joue

between our future aspirational selves

entre ce que nous aspirons à être dans le futur

and our more impulsive present selves.

et ce que nous sommes plus impulsivement dans le présent.

You know we all want to be someone

Vous savez, nous voulons tous être quelqu'un

who has watched "Rashomon,"

qui a vu "Rashōmon",

but right now

mais pour le moment

we want to watch "Ace Ventura" for the fourth time.

nous voulons voir "Ace Ventura, détective chiens et chats" pour la quatrième fois.

(Laughter)

(Rires)

So the best editing gives us a bit of both.

Donc la meilleure des éditions nous donne un peu des deux.

It gives us a little bit of Justin Bieber

Il nous donne un petit peu de Justin Bieber

and a little bit of Afghanistan.

et un petit peu d'Afghanistan.

It gives us some information vegetables;

Il nous donne de l'information "légumes",

it gives us some information dessert.

il nous donne de l'information "dessert".

And the challenge with these kinds of algorithmic filters,

Et le défi avec ce genre de filtres algorithmiques,

these personalized filters,

ces filtres personnalisés,

is that, because they're mainly looking

c'est que, parce qu'ils observent principalement

at what you click on first,

ce que vous cliquez en premier,

it can throw off that balance.

ça peut déstabiliser cet équilibre.

And instead of a balanced information diet,

Et au lieu d'un régime d'information équilibré,

you can end up surrounded

vous pouvez finir entouré

by information junk food.

d'information "malbouffe".

What this suggests

Ce que cela suggère

is actually that we may have the story about the Internet wrong.

c'est en fait que nous pourrions avoir fait fausse route à propos d'internet.

In a broadcast society --

Dans une société de diffusion --

this is how the founding mythology goes --

comme disent les mythes fondateurs --

in a broadcast society,

dans une société de diffusion,

there were these gatekeepers, the editors,

il y avait ces gardiens du temple, les éditeurs,

and they controlled the flows of information.

et ils contrôlaient les flux d'information.

And along came the Internet and it swept them out of the way,

Et puis l'internet est arrivé et les a balayé du chemin,

and it allowed all of us to connect together,

nous permettant tous de nous connecter,

and it was awesome.

et c'était génial.

But that's not actually what's happening right now.

Mais ce n'est pas ce qui se passe en fait à l'heure actuelle.

What we're seeing is more of a passing of the torch

Ce que nous voyons est plus un passage de témoin

from human gatekeepers

des gardiens humains

to algorithmic ones.

aux gardiens algorithmiques.

And the thing is that the algorithms

Et le problème c'est que les algorithmes

don't yet have the kind of embedded ethics

n'ont pas encore le genre d'éthique intégrée

that the editors did.

que les éditeurs avaient.

So if algorithms are going to curate the world for us,

Donc si les algorithmes vont inventorier le monde pour nous,

if they're going to decide what we get to see and what we don't get to see,

s'ils vont décider ce que nous pouvons voir et ce que nous ne pouvons pas voir,

then we need to make sure

alors nous devons nous assurer

that they're not just keyed to relevance.

qu'ils ne se sont pas basés uniquement sur la pertinence.

We need to make sure that they also show us things

Nous devons nous assurer qu'ils nous montrent aussi des choses

that are uncomfortable or challenging or important --

qui sont inconfortables ou stimulantes ou importantes --

this is what TED does --

c'est ce que TED fait --

other points of view.

d'autres points de vue.

And the thing is, we've actually been here before

Et le fait est que nous avons déjà été dans cette situation auparavant,

as a society.

en tant que société.

In 1915, it's not like newspapers were sweating a lot

En 1915, ce n'est pas comme si les journaux avaient des suées

about their civic responsibilities.

à propos de leurs responsabilités civiques.

Then people noticed

Et alors les gens ont remarqué

that they were doing something really important.

qu'ils faisaient quelque chose de vraiment important.

That, in fact, you couldn't have

Qu'en fait, vous ne pourriez pas avoir

a functioning democracy

une démocratie qui fonctionne

if citizens didn't get a good flow of information,

si les citoyens n'avaient pas accès à un bon flot d'information.

that the newspapers were critical because they were acting as the filter,

Que les journaux étaient cruciaux, parce qu'ils agissaient en tant que filtre,

and then journalistic ethics developed.

et alors l'éthique journalistique s'est développée.

It wasn't perfect,

Ce n'était pas parfait,

but it got us through the last century.

mais ça nous a menés à travers le siècle dernier.

And so now,

Et donc maintenant,

we're kind of back in 1915 on the Web.

on est en sorte retourné en 1915 sur internet.

And we need the new gatekeepers

Et nous avons besoin que les nouveaux gardiens

to encode that kind of responsibility

incorporent cette espèce de responsabilité

into the code that they're writing.

dans le code qu'ils sont en train d'écrire.

I know that there are a lot of people here from Facebook and from Google --

Je sais qu'il y a beaucoup de gens ici de Facebook et Google --

Larry and Sergey --

Larry et Sergey --

people who have helped build the Web as it is,

des gens qui ont contribué à construire internet tel qu'il est,

and I'm grateful for that.

et j'ai de la gratitude pour ça.

But we really need you to make sure

Mais nous avons vraiment besoin que vous vous assuriez

that these algorithms have encoded in them

que ces algorithmes incorporent

a sense of the public life, a sense of civic responsibility.

une sensibilité pour la vie publique, sensibilité pour la responsabilité civique.

We need you to make sure that they're transparent enough

Nous avons besoin que vous vous assuriez qu'ils sont suffisamment transparents

that we can see what the rules are

pour que nous puissions voir quelles sont les règles

that determine what gets through our filters.

qui déterminent ce qui passe à travers les filtres.

And we need you to give us some control

Et nous avons besoin que vous nous donniez du contrôle,

so that we can decide

pour que nous puissions décider

what gets through and what doesn't.

ce qui passe les filtres et ce qui ne les passe pas.

Because I think

Parce que je pense

we really need the Internet to be that thing

que nous avons vraiment besoin qu'internet soit cette chose

that we all dreamed of it being.

que nous avons tous rêvée qu'il serait.

We need it to connect us all together.

Nous avons besoin qu'il nous connecte tous ensemble.

We need it to introduce us to new ideas

Nous avons besoin qu'il nous fasse connaître de nouvelles idées

and new people and different perspectives.

et de nouvelles personnes, de différentes perspectives.

And it's not going to do that

Et il ne va pas faire cela

if it leaves us all isolated in a Web of one.

s’il nous laisse isolés dans un réseau fait d'une personne.

Thank you.

Merci.

(Applause)

(Applaudissements)