How we need to remake the internet | Jaron Lanier

Vertaald door: Rik Delaet Nagekeken door: Axel Saffran

Back in the 1980s, actually, I gave my first talk at TED,

In de jaren 1980 hield ik mijn eerste TED-talk

and I brought some of the very, very first public demonstrations

en gaf ik een aantal van de echt eerste openbare demonstraties

of virtual reality ever to the TED stage.

van virtuele werkelijkheid ooit op het TED-podium.

And at that time, we knew that we were facing a knife-edge future

Toen wisten we al dat we te maken hadden met een twijfelachtige toekomst

where the technology we needed,

waar de technologie die we nodig hadden,

the technology we loved,

de technologie waar we van hielden,

could also be our undoing.

ook onze ondergang kon zijn.

We knew that if we thought of our technology

We wisten dat als we aan onze technologie dachten

as a means to ever more power,

als een middel tot steeds meer macht,

if it was just a power trip, we'd eventually destroy ourselves.

als het alleen maar ging om macht, we onszelf uiteindelijk zouden vernietigen.

That's what happens

Dat is wat er gebeurt

when you're on a power trip and nothing else.

als je alleen aan macht denkt en aan niets anders.

So the idealism

Het idealisme van de toenmalige digitale cultuur

of digital culture back then

was all about starting with that recognition of the possible darkness

ging volledig over het herkennen van de mogelijke duisternis

and trying to imagine a way to transcend it

en een ​​manier proberen te bedenken om ze te overstijgen

with beauty and creativity.

met schoonheid en creativiteit.

I always used to end my early TED Talks with a rather horrifying line, which is,

Ik eindigde mijn vroege TED-talks altijd met een nogal gruwelijk gezegde:

"We have a challenge.

"We hebben een uitdaging.

We have to create a culture around technology

We moeten rond technologie een cultuur creëren

that is so beautiful, so meaningful,

die zo mooi, zo betekenisvol,

so deep, so endlessly creative,

zo diep, zo eindeloos creatief,

so filled with infinite potential

zo gevuld met eindeloze mogelijkheden is

dat ze ons ervan weerhoudt om massaal zelfmoord te plegen."

that it draws us away from committing mass suicide."

So we talked about extinction as being one and the same

We spraken over uitsterven als hetzelfde

als de noodzaak om een ​​aantrekkelijke, oneindig creatieve toekomst te creëren.

as the need to create an alluring, infinitely creative future.

And I still believe that that alternative of creativity

En ik geloof nog steeds dat creativiteit

as an alternative to death

als een alternatief voor de dood

is very real and true,

zeer reëel en waar is,

maybe the most true thing there is.

misschien wel het meest ware dat er is.

In the case of virtual reality --

In het geval van virtuele werkelijkheid

well, the way I used to talk about it

-- ik praatte erover

is that it would be something like

als iets gelijkaardigs

what happened when people discovered language.

als toen mensen taal ontdekten.

With language came new adventures, new depth, new meaning,

Met taal kwamen nieuwe avonturen, nieuwe diepte, nieuwe betekenis,

nieuwe manieren om verbinding te maken, nieuwe manieren om te coördineren,

new ways to connect, new ways to coordinate,

new ways to imagine, new ways to raise children,

nieuwe manieren je iets voor te stellen, nieuwe manieren om kinderen op te voeden.

and I imagined, with virtual reality, we'd have this new thing

En ik dacht dat we met virtuele werkelijkheid iets hadden

that would be like a conversation

als een gesprek,

but also like waking-state intentional dreaming.

maar ook iets als gewild dromen in wakende toestand.

We called it post-symbolic communication,

We noemden het post-symbolische communicatie,

because it would be like just directly making the thing you experienced

omdat het iets zou zijn als zelf maken wat je ervaart

instead of indirectly making symbols to refer to things.

in plaats van indirect symbolen maken om te verwijzen naar dingen.

It was a beautiful vision, and it's one I still believe in,

Het was een mooie visie; ik geloof er nog steeds in,

and yet, haunting that beautiful vision

maar die prachtige visie werd op de hielen gezeten

was the dark side of how it could also turn out.

door de donkere kant van hoe het ook kon eindigen.

And I suppose I could mention

Ik denk dat ik hier een citaat kan aanhalen

from one of the very earliest computer scientists,

van één van de allereerste computerwetenschappers,

whose name was Norbert Wiener,

Norbert Wiener.

and he wrote a book back in the '50s, from before I was even born,

In de jaren 50, voordat ik geboren werd, schreef hij een boek,

called "The Human Use of Human Beings."

‘Het menselijk gebruik van menselijke wezens’.

And in the book, he described the potential

In dat boek beschreef hij de mogelijkheid

to create a computer system that would be gathering data from people

van een computersysteem dat gegevens van mensen zou verzamelen

and providing feedback to those people in real time

en aan de mensen feedback in real time zou geven

in order to put them kind of partially, statistically, in a Skinner box,

om ze deeltijds, statistisch gezien, in een Skinner box,

in a behaviorist system,

een gedragssysteem, te plaatsen.

and he has this amazing line where he says,

Hij zegt er iets geweldigs.

one could imagine, as a thought experiment --

Beeld je als gedachte-experiment

and I'm paraphrasing, this isn't a quote --

-- ik parafraseer, dit is geen citaat --

one could imagine a global computer system

een wereldwijd computernetwerksysteem in

where everybody has devices on them all the time,

waar iedereen de hele tijd apparaten bij heeft

and the devices are giving them feedback based on what they did,

en die apparaten feedback geven op wat ze doen,

and the whole population

en zo iedereen

is subject to a degree of behavior modification.

een zekere gedragsverandering opleggen.

And such a society would be insane,

Een dergelijke maatschappij zou krankzinnig zijn,

could not survive, could not face its problems.

niet kunnen overleven, haar problemen niet aankunnen.

And then he says, but this is only a thought experiment,

Dan zegt hij: "Maar dit is slechts een gedachte-experiment,

and such a future is technologically infeasible.

zo'n toekomst is technisch niet haalbaar."

(Laughter)

(Gelach)

And yet, of course, it's what we have created,

En toch is het net dat wat we hebben gecreëerd

and it's what we must undo if we are to survive.

en wat we moeten ongedaan maken als we willen overleven.

So --

Dus --

(Applause)

(Applaus)

I believe that we made a very particular mistake,

Ik denk dat we een zeer bijzondere fout hebben gemaakt,

and it happened early on,

en al vroeg,

and by understanding the mistake we made,

en door inzicht in die fout,

we can undo it.

kunnen we ze ongedaan maken.

It happened in the '90s,

Het gebeurde in de jaren 90,

and going into the turn of the century,

bij het begin van de eeuw.

and here's what happened.

Dit is wat er gebeurde:

Early digital culture,

de vroege digitale cultuur,

and indeed, digital culture to this day,

en wel tot op vandaag,

had a sense of, I would say, lefty, socialist mission about it,

was, zou ik zeggen, ietwat linksig, socialistisch gericht.

that unlike other things that have been done,

In tegenstelling tot andere dingen die zijn gedaan,

like the invention of books,

zoals de uitvinding van boeken,

everything on the internet must be purely public,

moest alles op het internet puur publiek,

must be available for free,

gratis beschikbaar zijn voor iedereen,

because if even one person cannot afford it,

want als ook maar één iemand het zich niet kon veroorloven,

then that would create this terrible inequity.

dan zou dat vreselijke ongelijkheid creëren.

Now of course, there's other ways to deal with that.

Nu zijn er natuurlijk andere manieren om daarmee om te gaan.

If books cost money, you can have public libraries.

Als boeken geld kosten, zorg dan voor openbare bibliotheken.

And so forth.

Enzovoorts.

But we were thinking, no, no, no, this is an exception.

Maar we dachten: "Nee, nee, nee, dit is anders.

This must be pure public commons, that's what we want.

Dit moet puur publiek gemeengoed worden, dat is wat we willen."

And so that spirit lives on.

En die geest leeft voort.

You can experience it in designs like the Wikipedia, for instance,

Je ziet het in ontwerpen zoals de Wikipedia, bijvoorbeeld,

many others.

en vele anderen.

But at the same time,

Maar tegelijkertijd

we also believed, with equal fervor,

geloofden we ook, met evenveel enthousiasme,

in this other thing that was completely incompatible,

in dat andere, daarmee volstrekt onverenigbare iets,

which is we loved our tech entrepreneurs.

onze tech-ondernemers.

We loved Steve Jobs; we loved this Nietzschean myth

We hielden van Steve Jobs, we hielden van de Nietzscheaanse mythe

of the techie who could dent the universe.

van de techneut die een deuk kon maken in het universum.

Right?

Toch?

And that mythical power still has a hold on us, as well.

En die mythische kracht houdt ons nog altijd in zijn greep.

So you have these two different passions,

Je hebt dus twee verschillende passies,

for making everything free

een om alles gratis te maken

and for the almost supernatural power of the tech entrepreneur.

en een voor de bijna bovennatuurlijke kracht van de tech-ondernemer.

How do you celebrate entrepreneurship when everything's free?

Hoe ga je ondernemerschap honoreren als alles gratis wordt?

Well, there was only one solution back then,

Toen was er maar één oplossing voor,

which was the advertising model.

dat was het reclame-model.

And so therefore, Google was born free, with ads,

En dan kwam gratis Google, met advertenties,

Facebook was born free, with ads.

en gratis Facebook, met advertenties.

Now in the beginning, it was cute,

In het begin was het wel leuk

like with the very earliest Google.

met die allereerste Google.

(Laughter)

(Gelach)

The ads really were kind of ads.

De advertenties waren echt wel advertenties.

They would be, like, your local dentist or something.

Van je plaatselijke tandarts of iets dergelijks.

But there's thing called Moore's law

Maar er is zoiets als de wet van Moore

that makes the computers more and more efficient and cheaper.

die maakt dat computers steeds efficiënter en goedkoper worden.

Their algorithms get better.

Hun algoritmen worden beter.

We actually have universities where people study them,

Universiteiten onderwijzen ze

and they get better and better.

en ze worden maar beter en beter.

And the customers and other entities who use these systems

En de klanten en de andere entiteiten die deze systemen gebruikten

just got more and more experienced and got cleverer and cleverer.

werden steeds ervarener en slimmer en slimmer.

And what started out as advertising

Wat begon als reclame

really can't be called advertising anymore.

kan echt geen reclame meer worden genoemd.

It turned into behavior modification,

Het werd gedragsbeïnvloeding,

just as Norbert Wiener had worried it might.

net wat Norbert Wiener had gevreesd.

And so I can't call these things social networks anymore.

Ik kan deze dingen geen sociale netwerken meer noemen.

I call them behavior modification empires.

Ik noem ze 'gedragsbeïnvloedingsrijken'.

(Applause)

(Applaus)

And I refuse to vilify the individuals.

Ik weiger individuen de schuld te geven.

I have dear friends at these companies,

Ik heb lieve vrienden bij deze bedrijven,

sold a company to Google, even though I think it's one of these empires.

ik verkocht een bedrijf aan Google, al denk ik dat het één van deze rijken is.

I don't think this is a matter of bad people who've done a bad thing.

Ik denk niet dat dit gaat over slechte mensen die iets slechts hebben gedaan.

I think this is a matter of a globally tragic,

Ik denk dat dit een wereldwijd tragische,

astoundingly ridiculous mistake,

verbluffend belachelijke vergissing is,

rather than a wave of evil.

eerder dan een golf van kwade wil.

Let me give you just another layer of detail

Ik leg even nader uit hoe

into how this particular mistake functions.

deze bijzondere vergissing in elkaar zit.

So with behaviorism,

In het behaviorisme

you give the creature, whether it's a rat or a dog or a person,

geef je het schepsel, of het nu een rat, een hond of een mens is,

little treats and sometimes little punishments

kleine traktaties en kleine straffen

als feedback op wat ze doen.

as feedback to what they do.

So if you have an animal in a cage, it might be candy and electric shocks.

Voor een dier in een kooi zijn dat misschien snoep en elektrische schokken.

But if you have a smartphone,

Maar met een smartphone

it's not those things, it's symbolic punishment and reward.

wordt het een symbolische straf of beloning.

Pavlov, one of the early behaviorists,

Pavlov, een van de vroege behavioristen,

demonstrated the famous principle.

demonstreerde zijn beroemde principe.

You could train a dog to salivate just with the bell, just with the symbol.

Je traint een hond om te gaan kwijlen alleen met de bel, alleen met het symbool.

So on social networks,

Op sociale netwerken

social punishment and social reward function as the punishment and reward.

dienen sociale straf en sociale beloning als straf en beloning.

And we all know the feeling of these things.

We weten allemaal hoe dat aanvoelt.

You get this little thrill --

Je krijgt die kleine sensatie --

"Somebody liked my stuff and it's being repeated."

"Iemand vond het leuk en het wordt herhaald."

Or the punishment: "Oh my God, they don't like me,

Of straf: "Oh mijn God, ze houden niet van me,

maybe somebody else is more popular, oh my God."

is iemand anders populairder, oh mijn God."

So you have those two very common feelings,

Die twee zeer algemene gevoelens

worden op zo'n manier uitgedeeld dat je in een soort molen komt te zitten.

and they're doled out in such a way that you get caught in this loop.

As has been publicly acknowledged by many of the founders of the system,

Zoals reeds openlijk erkend door veel oprichters van het systeem;

everybody knew this is what was going on.

iedereen wist dat dit gaande was.

But here's the thing:

Maar nu komt het:

traditionally, in the academic study of the methods of behaviorism,

altijd werden er in de academische studie van de methoden van het behaviorisme

there have been comparisons of positive and negative stimuli.

positieve en negatieve stimuli vergeleken.

In this setting, a commercial setting,

In dit stramien, een commercieel stramien,

there's a new kind of difference

is er een nieuw soort verschil

that has kind of evaded the academic world for a while,

dat in de academische wereld een tijdje onder de radar is gebleven.

and that difference is that whether positive stimuli

Dit verschil gaat om de vraag of positieve stimuli

are more effective than negative ones in different circumstances,

effectiever zijn dan negatieve in verschillende omstandigheden,

the negative ones are cheaper.

maar de negatieve zijn goedkoper.

They're the bargain stimuli.

Ze zijn de koopjesstimuli.

So what I mean by that is it's much easier

Wat ik bedoel is dat het veel gemakkelijker is

om vertrouwen te verliezen dan om vertrouwen op te bouwen.

to lose trust than to build trust.

It takes a long time to build love.

Het duurt lang om liefde op te bouwen.

It takes a short time to ruin love.

Het duurt kort om liefde te ruïneren.

Now the customers of these behavior modification empires

Nu zitten de klanten van deze gedragsbeïnvloedingsrijken

in een zeer snelle lus.

are on a very fast loop.

They're almost like high-frequency traders.

Het lijken wel flitshandelaars.

They're getting feedbacks from their spends

Ze krijgen feedback over hun uitgaven

or whatever their activities are if they're not spending,

of over wat ze ook doen behalve uitgeven.

and they see what's working, and then they do more of that.

Ze zien wat werkt, en dan doen ze meer van dat.

And so they're getting the quick feedback,

Zo krijgen ze snelle feedback,

which means they're responding more to the negative emotions,

wat betekent dat ze meer reageren op negatieve emoties

because those are the ones that rise faster, right?

want dat zijn degenen die sneller stijgen, toch?

And so therefore, even well-intentioned players

En daarom zullen zelfs goed bedoelende spelers,

who think all they're doing is advertising toothpaste

die denken dat ze alleen maar reclame maken voor tandpasta,

end up advancing the cause of the negative people,

uiteindelijk de weg vrijmaken voor de negatieve mensen,

the negative emotions, the cranks,

de negatieve emoties, de kwakzalvers,

the paranoids,

de paranoïden,

the cynics, the nihilists.

de cynici, de nihilisten.

Those are the ones who get amplified by the system.

Die worden versterkt door het systeem.

And you can't pay one of these companies to make the world suddenly nice

Zulke bedrijven kun je nauwelijks betalen om de wereld opeens leuk te maken

en de democratie te verbeteren.

and improve democracy

nearly as easily as you can pay to ruin those things.

Het gaat ze veel makkelijker af om die dingen te ruïneren.

And so this is the dilemma we've gotten ourselves into.

Met dit dilemma hebben we onszelf opgezadeld.

The alternative is to turn back the clock, with great difficulty,

Het alternatief is om de klok met veel moeite terug te draaien

and remake that decision.

en die beslissing te herstellen.

Remaking it would mean two things.

Het herstellen zou twee dingen betekenen.

Het zou ten eerste betekenen dat velen, die het zich konden veroorloven,

It would mean first that many people, those who could afford to,

would actually pay for these things.

er eigenlijk voor zouden betalen.

You'd pay for search, you'd pay for social networking.

Je zou betalen voor opzoeken, je zou betalen voor sociale netwerken.

How would you pay? Maybe with a subscription fee,

Hoe zou je betalen? Misschien met een abonnementsgeld,

maybe with micro-payments as you use them.

misschien met micro-betalingen als je het gebruikt.

There's a lot of options.

Er zijn allerlei mogelijkheden.

If some of you are recoiling, and you're thinking,

Mocht je terugdeinzen en denken:

"Mijn God, daar zou ik nooit voor betalen!

"Oh my God, I would never pay for these things.

How could you ever get anyone to pay?"

Wie zou je ooit zover kunnen krijgen?"

I want to remind you of something that just happened.

Denk dan even aan iets dat net gebeurde.

Around this same time

Rond dezelfde tijd

that companies like Google and Facebook were formulating their free idea,

dat bedrijven als Google en Facebook hun idee van gratis uitwerkten,

a lot of cyber culture also believed that in the future,

was veel cybercultuur ook van mening dat in de toekomst,

televisions and movies would be created in the same way,

televisie en films op dezelfde manier zouden worden gemaakt,

kind of like the Wikipedia.

een beetje als Wikipedia.

But then, companies like Netflix, Amazon, HBO,

Maar toen zeiden bedrijven als Netflix, Amazon, HBO:

said, "Actually, you know, subscribe. We'll give you give you great TV."

"Abonneer je en we geven je geweldige tv."

And it worked!

En het werkte!

We now are in this period called "peak TV," right?

We hebben nu 'piek-tv’, toch?

So sometimes when you pay for stuff, things get better.

Soms worden dingen beter als je ervoor betaalt.

We can imagine a hypothetical --

We kunnen ons een hypothetische --

(Applause)

(Applaus)

We can imagine a hypothetical world of "peak social media."

een hypothetische wereld voorstellen van ‘piek sociale media’.

What would that be like?

Wat zou dat zijn?

It would mean when you get on, you can get really useful,

Als je online zou gaan, zou je echt nuttig, gezaghebbend

authoritative medical advice instead of cranks.

medisch advies krijgen in plaats van kwakzalvers.

It could mean when you want to get factual information,

Het zou kunnen betekenen dat als je feitelijke informatie wil,

there's not a bunch of weird, paranoid conspiracy theories.

je geen rare, paranoïde samenzweringstheorieën aantreft.

We can imagine this wonderful other possibility.

We kunnen ons deze prachtige andere mogelijkheid voorstellen.

Ah.

Ah.

I dream of it. I believe it's possible.

Ik droom ervan. Ik geloof dat het kan.

I'm certain it's possible.

Ik ben er zeker van dat het mogelijk is.

And I'm certain that the companies, the Googles and the Facebooks,

En ik ben er zeker van dat de bedrijven, de Googles en de Facebooks,

would actually do better in this world.

het in deze wereld eigenlijk beter zouden doen.

I don't believe we need to punish Silicon Valley.

Ik geloof niet dat we Silicon Valley moeten gaan straffen.

We just need to remake the decision.

We moeten alleen de beslissing herzien.

Of the big tech companies,

Van de grote tech-bedrijven,

it's really only two that depend on behavior modification and spying

zijn het er eigenlijk maar twee die gedragsbeïnvloeding en spionage

nodig hebben voor hun businessplan.

as their business plan.

It's Google and Facebook.

Dat zijn Google en Facebook.

(Laughter)

(Gelach)

And I love you guys.

En ik hou van jullie.

Really, I do. Like, the people are fantastic.

Echt. De mensen zijn fantastisch.

I want to point out, if I may,

Ik wil erop wijzen, als ik mag,

if you look at Google,

kijk naar Google,

they can propagate cost centers endlessly with all of these companies,

ze kunnen met elk van deze bedrijven kostenplaatsen eindeloos propageren,

but they cannot propagate profit centers.

maar winstplaatsen kunnen ze niet propageren.

They cannot diversify, because they're hooked.

Ze kunnen niet diversifiëren, omdat ze verslaafd zijn.

They're hooked on this model, just like their own users.

Ze zijn verslaafd aan dit model, net als hun gebruikers.

They're in the same trap as their users,

Ze zitten in dezelfde val als de gebruikers,

and you can't run a big corporation that way.

en zo leid je geen groot bedrijf.

So this is ultimately totally in the benefit of the shareholders

Dus is dit uiteindelijk volledig in het voordeel van de aandeelhouders

and other stakeholders of these companies.

en andere belanghebbenden van deze bedrijven.

It's a win-win solution.

Het is een win-win-oplossing.

It'll just take some time to figure it out.

Het vergt alleen wat tijd om het uit te werken.

A lot of details to work out,

Een hoop details om uit te werken,

totally doable.

maar helemaal haalbaar.

(Laughter)

(Gelach)

I don't believe our species can survive unless we fix this.

Ik geloof niet dat onze soort kan overleven, tenzij we dit oplossen.

We cannot have a society

We kunnen geen samenleving hebben

in which, if two people wish to communicate,

waarin, als twee mensen willen communiceren,

the only way that can happen is if it's financed by a third person

de enige manier via een derde betalende is

who wishes to manipulate them.

die hen wil manipuleren.

(Applause)

(Applaus) (Gejuich)

(Applause ends)

In the meantime, if the companies won't change,

In afwachting kunnen jullie, als de bedrijven niet veranderen,

delete your accounts, OK?

jullie accounts verwijderen, OK?

(Laughter)

(Gelach)

(Applause)

(Applaus)

That's enough for now.

Dat is genoeg voor vandaag.

Thank you so much.

Heel erg bedankt.

(Applause)

(Applaus)