How we need to remake the internet | Jaron Lanier

Traducteur: Priscilla R. A. Relecteur: eric vautier

Back in the 1980s, actually, I gave my first talk at TED,

Dans les années 80, j'ai donné ma première conférence TED,

and I brought some of the very, very first public demonstrations

et j'ai fait quelques-unes des toutes premières démonstrations publiques

of virtual reality ever to the TED stage.

de la réalité virtuelle sur la scène de TED.

And at that time, we knew that we were facing a knife-edge future

À l'époque, on savait qu'on faisait face à un avenir compliqué

where the technology we needed,

où la technologie dont on avait besoin,

the technology we loved,

la technologie qu'on aimait,

could also be our undoing.

pourrait aussi causer notre perte.

We knew that if we thought of our technology

On savait que si on considérait notre technologie

as a means to ever more power,

comme un moyen d'obtenir toujours plus de pouvoir,

if it was just a power trip, we'd eventually destroy ourselves.

si ce n'était qu'une soif du pouvoir, on finirait par se détruire.

That's what happens

C'est ce qui se passe

when you're on a power trip and nothing else.

quand on n'est qu'assoiffé de pouvoir.

So the idealism

Donc, à l'époque, l'idéalisme

of digital culture back then

de la culture numérique

was all about starting with that recognition of the possible darkness

consistait à d'abord reconnaître l'obscurité possible

and trying to imagine a way to transcend it

et à essayer d'imaginer un moyen de la transcender

with beauty and creativity.

avec beauté et créativité.

I always used to end my early TED Talks with a rather horrifying line, which is,

Je terminais toujours mes premiers talks TED par cette phrase terrifiante :

"We have a challenge.

« On a un défi.

We have to create a culture around technology

On doit créer une culture autour de la technologie

that is so beautiful, so meaningful,

qui, de par sa beauté, son importance,

so deep, so endlessly creative,

sa profondeur, sa créativité sans limites,

so filled with infinite potential

et son potentiel infini,

that it draws us away from committing mass suicide."

nous éloignera du suicide collectif. »

So we talked about extinction as being one and the same

On parlait donc de l'extinction comme étant identique

as the need to create an alluring, infinitely creative future.

au besoin de créer un avenir séduisant et infiniment créatif.

And I still believe that that alternative of creativity

Et je crois toujours que cette alternative créatrice,

as an alternative to death

en tant qu'alternative à la mort,

is very real and true,

est très réelle et vraie,

maybe the most true thing there is.

peut-être la chose la plus vraie qui soit.

In the case of virtual reality --

Dans le cas de la réalité virtuelle --

well, the way I used to talk about it

j'en parlais de cette façon :

is that it would be something like

elle serait similaire

what happened when people discovered language.

à ce qui s'est passé lorsqu'on a découvert le langage.

With language came new adventures, new depth, new meaning,

Le langage a apporté de nouvelles aventures,

une nouvelle profondeur, un nouveau sens,

new ways to connect, new ways to coordinate,

de nouvelles façons de se connecter, de coordonner,

new ways to imagine, new ways to raise children,

d'imaginer, d'élever les enfants.

and I imagined, with virtual reality, we'd have this new thing

Je pensais qu'avec la réalité virtuelle, il y aurait cette nouvelle chose

that would be like a conversation

qui serait comme une conversation

but also like waking-state intentional dreaming.

mais aussi comme un rêve intentionnel en état de veille.

We called it post-symbolic communication,

On l'avait appelé « communication post-symbolique »,

because it would be like just directly making the thing you experienced

car ce serait comme créer directement la chose qu'on a vécue

instead of indirectly making symbols to refer to things.

au lieu de créer indirectement des symboles pour se référer aux choses.

It was a beautiful vision, and it's one I still believe in,

C'était une belle vision, et j'y crois toujours,

and yet, haunting that beautiful vision

et pourtant, cette belle vision était hantée

was the dark side of how it could also turn out.

par le côté obscur de ce qu'il pourrait devenir.

And I suppose I could mention

Et je suppose que je pourrais mentionner

from one of the very earliest computer scientists,

l'un des plus anciens informaticiens,

whose name was Norbert Wiener,

dont le nom était Norbert Wiener,

and he wrote a book back in the '50s, from before I was even born,

qui a écrit ce livre dans les années 50, avant même que je ne sois né :

called "The Human Use of Human Beings."

« L'usage humain des êtres humains ».

And in the book, he described the potential

to create a computer system that would be gathering data from people

pour créer un système informatique recueillant des données auprès des gens

and providing feedback to those people in real time

et leur fournissant des retours en temps réel

in order to put them kind of partially, statistically, in a Skinner box,

pour les mettre partiellement, statistiquement, dans une boîte Skinner,

in a behaviorist system,

dans un système comportementaliste.

and he has this amazing line where he says,

Il a écrit cette phrase étonnante :

one could imagine, as a thought experiment --

on pourrait imaginer, comme une expérience de pensée --

and I'm paraphrasing, this isn't a quote --

et je le paraphrase, ce n'est pas une citation --

one could imagine a global computer system

on pourrait imaginer un système informatique mondial

where everybody has devices on them all the time,

où tout le monde aurait des appareils sur eux en permanence,

and the devices are giving them feedback based on what they did,

qui leur fourniraient des retours basés sur leurs actions,

and the whole population

et toute la population

is subject to a degree of behavior modification.

verrait son comportement se modifier dans une certaine mesure.

And such a society would be insane,

Et une telle société serait insensée,

could not survive, could not face its problems.

ne survivrait pas, ne pourrait pas affronter ses problèmes.

And then he says, but this is only a thought experiment,

Puis il a dit que ce n'était qu'une expérience de pensée,

and such a future is technologically infeasible.

et qu'un tel avenir était technologiquement irréalisable.

(Laughter)

(Rires)

And yet, of course, it's what we have created,

Et pourtant, bien sûr, c'est ce qu'on a créé,

and it's what we must undo if we are to survive.

et c'est ce qu'on doit défaire si on veut survivre.

So --

Donc --

(Applause)

(Applaudissements)

I believe that we made a very particular mistake,

je crois qu'on a commis une erreur très particulière,

and it happened early on,

et c'est arrivé très tôt,

and by understanding the mistake we made,

et en comprenant cette erreur,

we can undo it.

on peut la réparer.

It happened in the '90s,

C'est arrivé dans les années 90,

and going into the turn of the century,

au tournant du siècle,

and here's what happened.

et voici ce qu'il s'est passé.

Early digital culture,

La culture numérique à ses débuts,

and indeed, digital culture to this day,

et en fait, la culture numérique actuelle,

had a sense of, I would say, lefty, socialist mission about it,

avait une sorte de mission gauchiste, socialiste :

that unlike other things that have been done,

contrairement à d'autres choses réalisées,

comme l'invention des livres,

like the invention of books,

everything on the internet must be purely public,

tout ce qui se trouve sur Internet devait être exclusivement public

must be available for free,

et disponible gratuitement,

because if even one person cannot afford it,

car si une seule personne ne pouvait se l'offrir,

then that would create this terrible inequity.

cela créerait une terrible injustice.

Now of course, there's other ways to deal with that.

Bien sûr, il y a d'autres moyens de gérer ça.

If books cost money, you can have public libraries.

Si les livres coûtent de l'argent, on peut créer des bibliothèques publiques, etc.

And so forth.

But we were thinking, no, no, no, this is an exception.

Mais non, pensait-on. Ceci est une exception.

This must be pure public commons, that's what we want.

On voulait que ça soit un bien commun exclusivement public.

And so that spirit lives on.

Et donc, cet esprit perdure depuis.

You can experience it in designs like the Wikipedia, for instance,

On le retrouve dans des projets comme Wikipédia, par exemple,

many others.

et dans beaucoup d'autres.

But at the same time,

Mais en même temps,

we also believed, with equal fervor,

on croyait aussi, avec la même ferveur,

in this other thing that was completely incompatible,

dans cette autre chose qui était complètement incompatible :

which is we loved our tech entrepreneurs.

on aimait nos entrepreneurs en technologie.

We loved Steve Jobs; we loved this Nietzschean myth

On adorait Steve Jobs ; on aimait ce mythe nietzschéen

of the techie who could dent the universe.

du technicien qui pourrait empreindre l'univers.

Right?

N'est-ce pas ?

And that mythical power still has a hold on us, as well.

Et ce pouvoir mythique a encore une emprise sur nous.

So you have these two different passions,

Il y avait donc ces deux passions différentes :

for making everything free

le fait de tout rendre gratuit

and for the almost supernatural power of the tech entrepreneur.

et le pouvoir presque surnaturel de l'entrepreneur en technologie.

How do you celebrate entrepreneurship when everything's free?

Comment célébrer l'esprit d'entreprise quand tout est gratuit ?

Well, there was only one solution back then,

Eh bien, il n'y avait qu'une seule solution à l'époque,

which was the advertising model.

à savoir le modèle publicitaire.

And so therefore, Google was born free, with ads,

Et donc, Google est né gratuit, avec des annonces,

Facebook was born free, with ads.

Facebook est né gratuit, avec des annonces.

Now in the beginning, it was cute,

Au début, c'était mignon,

like with the very earliest Google.

comme avec le tout premier Google.

(Laughter)

(Rires)

The ads really were kind of ads.

Les publicités ressemblaient vraiment à des publicités.

They would be, like, your local dentist or something.

Elles parlaient du dentiste du coin par exemple.

But there's thing called Moore's law

Mais il y a ce qu'on appelle la loi de Moore

that makes the computers more and more efficient and cheaper.

qui rend les ordinateurs de plus en plus efficaces et moins chers.

Their algorithms get better.

Leurs algorithmes s'améliorent.

We actually have universities where people study them,

On a des universités où les gens les étudient,

and they get better and better.

et ils s'améliorent de plus en plus.

And the customers and other entities who use these systems

Et les clients et autres entités qui utilisent ces systèmes

just got more and more experienced and got cleverer and cleverer.

ont acquis plus d'expérience et sont devenus plus intelligents.

And what started out as advertising

Et ce qui était de la publicité au début

really can't be called advertising anymore.

ne l'est plus vraiment.

It turned into behavior modification,

Elle s'est transformée en modification de comportement,

just as Norbert Wiener had worried it might.

tout comme s'en inquiétait Norbert Wiener.

And so I can't call these things social networks anymore.

Et donc, je ne peux plus appeler ces choses-là des réseaux sociaux.

I call them behavior modification empires.

Je les appelle des empires de modification du comportement.

(Applause)

(Applaudissements)

And I refuse to vilify the individuals.

Et je refuse de calomnier les individus.

I have dear friends at these companies,

J'ai de bons amis dans ces entreprises,

sold a company to Google, even though I think it's one of these empires.

j'ai vendu une entreprise à Google, même si je pense que c'est l'un de ces empires.

I don't think this is a matter of bad people who've done a bad thing.

Selon moi, il ne s'agit pas de mauvaises personnes ayant commis un mauvais acte.

I think this is a matter of a globally tragic,

Je pense qu'il s'agit d'une erreur tragique

astoundingly ridiculous mistake,

et incroyablement ridicule à l'échelle mondiale,

rather than a wave of evil.

plutôt que d'une vague malfaisante.

Let me give you just another layer of detail

Laissez-moi vous donner plus de détails

into how this particular mistake functions.

sur la façon dont cette erreur particulière fonctionne.

So with behaviorism,

Avec le comportementalisme,

you give the creature, whether it's a rat or a dog or a person,

on donne à la créature, qu'il s'agisse d'un rat, d'un chien ou d'une personne,

little treats and sometimes little punishments

des petites récompenses et parfois, des petites punitions

as feedback to what they do.

en guise de retour par rapport à leurs actions.

So if you have an animal in a cage, it might be candy and electric shocks.

Donc, si on a un animal en cage,

il s'agirait de bonbons et de chocs électriques.

But if you have a smartphone,

Mais c'est différent avec un smartphone,

it's not those things, it's symbolic punishment and reward.

ce serait une punition et une récompense symboliques.

Pavlov, one of the early behaviorists,

Pavlov, l'un des premiers comportementalistes,

demonstrated the famous principle.

a démontré le fameux principe.

On pourrait entraîner un chien à saliver

You could train a dog to salivate just with the bell, just with the symbol.

juste avec la clochette, juste avec le symbole.

So on social networks,

Ainsi, sur les réseaux sociaux,

social punishment and social reward function as the punishment and reward.

la punition et la récompense sociales servent de punition et de récompense.

And we all know the feeling of these things.

Et on en a tous fait l'expérience.

You get this little thrill --

On a ce petit frisson --

"Somebody liked my stuff and it's being repeated."

« Quelqu'un a aimé mes posts et ça se répète. »

Or the punishment: "Oh my God, they don't like me,

Ou la punition : « Oh mon Dieu, ils ne m'aiment pas,

maybe somebody else is more popular, oh my God."

quelqu'un d'autre est plus populaire. »

So you have those two very common feelings,

Il y a donc ces deux sentiments très communs,

et ils sont distribués de telle sorte qu'on se fait prendre dans cette boucle.

and they're doled out in such a way that you get caught in this loop.

As has been publicly acknowledged by many of the founders of the system,

Comme l'ont reconnu publiquement bon nombre de fondateurs du système,

everybody knew this is what was going on.

tout le monde savait ce qui se passait.

But here's the thing:

Mais voici le problème :

traditionally, in the academic study of the methods of behaviorism,

dans la recherche académique sur les méthodes du comportementalisme,

there have been comparisons of positive and negative stimuli.

il y a eu des comparaisons de stimuli positifs et négatifs.

In this setting, a commercial setting,

Dans ce contexte commercial,

there's a new kind of difference

il y a un nouveau type de différence

that has kind of evaded the academic world for a while,

qui a échappé au monde universitaire depuis un certain temps :

and that difference is that whether positive stimuli

si les stimuli positifs sont plus efficaces

are more effective than negative ones in different circumstances,

que les stimuli négatifs dans des circonstances différentes,

the negative ones are cheaper.

les stimuli négatifs sont moins chers.

They're the bargain stimuli.

Ce sont les stimuli du marché.

So what I mean by that is it's much easier

Ce que je veux dire par là, c'est qu'il est beaucoup plus facile

to lose trust than to build trust.

de perdre la confiance que de l'établir.

It takes a long time to build love.

Il faut beaucoup de temps pour construire l'amour.

It takes a short time to ruin love.

Il en faut peu de temps pour le ruiner.

Now the customers of these behavior modification empires

Les clients de ces empires de modification du comportement

sont pris dans une boucle rapide.

are on a very fast loop.

They're almost like high-frequency traders.

Ils sont presque comme des traders à haute fréquence.

They're getting feedbacks from their spends

Ils reçoivent des retours sur leurs dépenses

or whatever their activities are if they're not spending,

ou leurs activités s'ils ne dépensent pas,

and they see what's working, and then they do more of that.

ils voient ce qui fonctionne, puis ils en font plus.

And so they're getting the quick feedback,

Ils reçoivent donc un retour rapide,

which means they're responding more to the negative emotions,

ce qui signifie qu'ils réagissent davantage aux émotions négatives,

because those are the ones that rise faster, right?

car ce sont celles qui se manifestent plus vite, n'est-ce pas ?

And so therefore, even well-intentioned players

Par conséquent, même les acteurs bien intentionnés

who think all they're doing is advertising toothpaste

qui pensent qu'ils ne font que de la publicité pour du dentifrice

end up advancing the cause of the negative people,

finissent par faire avancer la cause des gens négatifs,

the negative emotions, the cranks,

des émotions négatives, des excentriques,

the paranoids,

des paranoïaques,

the cynics, the nihilists.

des cyniques, des nihilistes.

Those are the ones who get amplified by the system.

Le système amplifie ceux-là.

And you can't pay one of these companies to make the world suddenly nice

Et il est plus difficile de payer l'une de ces entreprises

pour améliorer soudainement le monde et la démocratie

and improve democracy

nearly as easily as you can pay to ruin those things.

qu'il ne l'est pour ruiner ces choses.

And so this is the dilemma we've gotten ourselves into.

C'est donc face à ce dilemme qu'on s'est retrouvés.

The alternative is to turn back the clock, with great difficulty,

L'alternative est de revenir en arrière, avec beaucoup de difficulté,

et de repenser cette décision.

and remake that decision.

Remaking it would mean two things.

La repenser signifierait deux choses.

D'abord, beaucoup de gens, ceux qui en ont les moyens,

It would mean first that many people, those who could afford to,

would actually pay for these things.

paieraient pour ces choses-là.

You'd pay for search, you'd pay for social networking.

On paierait pour la recherche, pour les réseaux sociaux.

How would you pay? Maybe with a subscription fee,

Comment paierait-on ? Peut-être avec des frais d'abonnement

maybe with micro-payments as you use them.

ou des micro-paiements au fur et à mesure qu'on les utilise.

There's a lot of options.

Il y a beaucoup d'options.

If some of you are recoiling, and you're thinking,

Si cela répugne certains d'entre vous, et que vous pensez :

"Oh my God, I would never pay for these things.

« Oh mon Dieu, je ne paierais jamais pour ça.

How could you ever get anyone to pay?"

Comment pourrait-on faire payer quelqu'un ? »,

I want to remind you of something that just happened.

je voudrais vous rappeler une chose qui vient d'arriver.

Around this same time

À peu près à la même époque

that companies like Google and Facebook were formulating their free idea,

où Google et Facebook formulaient leur idée de gratuité,

a lot of cyber culture also believed that in the future,

une grande partie de la cyber-communauté croyait aussi qu'à l'avenir,

televisions and movies would be created in the same way,

les émissions télé et les films se feraient de la même manière,

kind of like the Wikipedia.

un peu comme Wikipédia.

But then, companies like Netflix, Amazon, HBO,

Mais ensuite, des entreprises comme Netflix, Amazon, HBO, ont dit :

said, "Actually, you know, subscribe. We'll give you give you great TV."

« En fait, abonnez-vous. On va vous donner une super télé. »

And it worked!

Et ça a marché !

We now are in this period called "peak TV," right?

On est maintenant dans cette période appelée « Peak TV », n'est-ce pas ?

So sometimes when you pay for stuff, things get better.

Donc, parfois, quand on paie pour une chose, elle s'améliore.

We can imagine a hypothetical --

On peut imaginer une hypothétique --

(Applause)

(Applaudissements)

We can imagine a hypothetical world of "peak social media."

On peut imaginer un monde hypothétique de réseaux sociaux à leur apogée.

What would that be like?

À quoi cela ressemblerait-il ?

It would mean when you get on, you can get really useful,

Lorsqu'on s'y connecterait,

on aurait des conseils médicaux utiles et fiables, et non farfelus.

authoritative medical advice instead of cranks.

It could mean when you want to get factual information,

Lorsqu'on voudrait obtenir des informations factuelles,

there's not a bunch of weird, paranoid conspiracy theories.

il n'y aurait pas un tas de théories du complot bizarres et paranoïaques.

We can imagine this wonderful other possibility.

On peut imaginer cette merveilleuse possibilité alternative.

Ah.

Oh.

I dream of it. I believe it's possible.

J'en rêve. Je crois que c'est possible.

I'm certain it's possible.

Je suis sûr que c'est possible.

And I'm certain that the companies, the Googles and the Facebooks,

Et je suis certain que les entreprises, les Google et les Facebook,

would actually do better in this world.

s'en sortiraient mieux dans ce monde.

I don't believe we need to punish Silicon Valley.

Je ne crois pas qu'il faille punir la Silicon Valley.

On a juste besoin de repenser la décision.

We just need to remake the decision.

Of the big tech companies,

Parmi les grandes entreprises de technologie,

it's really only two that depend on behavior modification and spying

seules deux dépendent de la modification du comportement et de l'espionnage

comme stratégie commerciale.

as their business plan.

It's Google and Facebook.

C'est Google et Facebook.

(Laughter)

(Rires)

And I love you guys.

Et je vous aime, les gars.

Really, I do. Like, the people are fantastic.

C'est vrai. Les gens sont fantastiques.

I want to point out, if I may,

Je tiens à souligner, si vous me le permettez,

if you look at Google,

que si on se penche sur Google,

they can propagate cost centers endlessly with all of these companies,

on verra qu'ils peuvent multiplier les centres de coût à l'infini

but they cannot propagate profit centers.

avec toutes ces sociétés, mais pas les centres de profit.

They cannot diversify, because they're hooked.

Ils ne peuvent pas se diversifier parce qu'ils sont accros.

They're hooked on this model, just like their own users.

Ils sont dépendants de ce modèle, tout comme leurs propres utilisateurs.

They're in the same trap as their users,

Ils sont pris au même piège,

and you can't run a big corporation that way.

et on ne peut pas diriger une grande entreprise ainsi.

So this is ultimately totally in the benefit of the shareholders

En définitive, c'est donc tout à l'avantage des actionnaires

et d'autres parties prenantes de ces sociétés.

and other stakeholders of these companies.

It's a win-win solution.

C'est une solution gagnant-gagnant.

It'll just take some time to figure it out.

Il faudra juste un peu de temps pour tout résoudre.

A lot of details to work out,

Beaucoup de détails à régler,

totally doable.

totalement faisable.

(Laughter)

(Rires)

I don't believe our species can survive unless we fix this.

Je ne crois pas que notre espèce puisse survivre si on n'y remédie pas.

On ne peut pas vivre dans une société où deux personnes souhaitant communiquer

We cannot have a society

in which, if two people wish to communicate,

the only way that can happen is if it's financed by a third person

n'y parviennent que si cette communication est financée par un tiers

who wishes to manipulate them.

qui souhaite les manipuler.

(Applaudissements)

(Applause)

(Applause ends)

In the meantime, if the companies won't change,

En attendant, si les entreprises ne changent pas,

delete your accounts, OK?

supprimez vos comptes, d'accord ?

(Laughter)

(Rires)

(Applause)

(Applaudissements)

That's enough for now.

C'est tout pour aujourd'hui.

Thank you so much.

Merci beaucoup.

(Applause)

(Applaudissements)