How a handful of tech companies control billions of minds every day | Tristan Harris

Vertaald door: Maxime Van Damme Nagekeken door: Peter van de Ven

I want you to imagine

Beeld je eens in

dat je een ruimte in gaat,

walking into a room,

a control room with a bunch of people,

een controlekamer met een aantal mensen,

a hundred people, hunched over a desk with little dials,

100 mensen gebogen over een bureau met kleine wijzerplaatjes.

and that that control room

En dat die controlekamer

will shape the thoughts and feelings

de gedachten en gevoelens zal bepalen

of a billion people.

van een miljard mensen.

This might sound like science fiction,

Dit mag dan wel klinken als science fiction,

but this actually exists

maar het bestaat al,

right now, today.

nu, vandaag.

Ik weet het, omdat ik vroeger in één van deze controlekamers zat.

I know because I used to be in one of those control rooms.

Ik was een ontwerpethicus bij Google,

I was a design ethicist at Google,

where I studied how do you ethically steer people's thoughts?

waar ik bestudeerde hoe je de gedachten van mensen ethisch kunt besturen.

Because what we don't talk about is how the handful of people

Want waar we niet over praten,

is hoe een handvol mensen bij een handvol technologiebedrijven

working at a handful of technology companies

met hun keuzes bepalen wat een miljard mensen vandaag denken.

through their choices will steer what a billion people are thinking today.

Because when you pull out your phone

Als jij je telefoon tevoorschijn haalt

en zij ontwerpen hoe die werkt of wat er op je overzicht staat,

and they design how this works or what's on the feed,

it's scheduling little blocks of time in our minds.

claimt hij kleine blokjes tijd in onze gedachten.

If you see a notification, it schedules you to have thoughts

Als je een berichtje ziet, plaatst dat gedachten in je hoofd

that maybe you didn't intend to have.

die je misschien niet van plan was te hebben.

If you swipe over that notification,

Als je over dat bericht veegt,

zorgt dat dat je wat tijd zult besteden door ergens ingezogen te worden

it schedules you into spending a little bit of time

getting sucked into something

that maybe you didn't intend to get sucked into.

waar je niet van plan was om te worden ingezogen.

Wanneer we praten over technologie

When we talk about technology,

hebben we het meestal over haar onbegrensde mogelijkheden;

we tend to talk about it as this blue sky opportunity.

It could go any direction.

het kan elke kant op gaan.

And I want to get serious for a moment

Maar serieus,

ik zal je vertellen waarom het een hele specifieke richting uit gaat.

and tell you why it's going in a very specific direction.

Because it's not evolving randomly.

Want het evolueert niet eender welke kant uit.

Er is een verborgen doel dat bepaalt hoe onze technologie zich ontwikkeld

There's a hidden goal driving the direction

of all of the technology we make,

and that goal is the race for our attention.

en dat doel is de race voor onze aandacht.

Because every news site,

Want iedere nieuwe site --

TED, elections, politicians,

TED, verkiezingen, politici,

games, even meditation apps

spelletjes, zelfs meditatie apps --

have to compete for one thing,

moet strijden om één ding.

Dat is onze aandacht.

which is our attention,

and there's only so much of it.

En daar hebben we maar zoveel van.

And the best way to get people's attention

De beste manier om iemand z'n aandacht te krijgen,

is to know how someone's mind works.

is door te weten hoe iemand z'n brein werkt.

And there's a whole bunch of persuasive techniques

En er zijn een heleboel overredingstechnieken

die ik leerde tijdens m'n studies in het 'overredingstechnologie lab'

that I learned in college at a lab called the Persuasive Technology Lab

to get people's attention.

om de aandacht te krijgen.

A simple example is YouTube.

Een simpel voorbeeld is YouTube.

YouTube wil je zo lang mogelijk op hun site houden.

YouTube wants to maximize how much time you spend.

And so what do they do?

Dus wat doen ze?

They autoplay the next video.

Ze spelen automatisch de volgende video.

And let's say that works really well.

Stel dat dat goed werkt en ze houden je wat langer vast.

They're getting a little bit more of people's time.

Als je Netflix bent, dan kijk je daar naar en zegt:

Well, if you're Netflix, you look at that and say,

"Dat verkleint mijn marktaandeel,

well, that's shrinking my market share,

dus ik ga de volgende aflevering automatisch afspelen."

so I'm going to autoplay the next episode.

But then if you're Facebook,

Maar Facebook zeg dan: "Dat verkleint mijn marktaandeel,

you say, that's shrinking all of my market share,

dus nu moet ik alle videos op de nieuwsfeed automatisch afspelen

so now I have to autoplay all the videos in the newsfeed

before waiting for you to click play.

nog voor je op 'play' klikt."

So the internet is not evolving at random.

Dus het internet evolueert niet in het wilde weg.

The reason it feels like it's sucking us in the way it is

De reden dat het op dit moment voelt alsof het ons erin zuigt,

is because of this race for attention.

is vanwege die race om onze aandacht.

We weten waar dit heen gaat; technologie is niet neutraal.

We know where this is going.

Technology is not neutral,

and it becomes this race to the bottom of the brain stem

Het wordt die race naar het diepste punt van de hersenstam;

of who can go lower to get it.

over wie het diepste kan gaan.

Let me give you an example of Snapchat.

Laat me je een voorbeeld geven van Snapchat.

If you didn't know, Snapchat is the number one way

Mocht je het niet weten,

Snapchat is onder Amerikaanse tieners de populairste manier om te communiceren.

that teenagers in the United States communicate.

Dus als je, net als ik, berichtjes gebruikt om te communiceren:

So if you're like me, and you use text messages to communicate,

Snapchat is that for teenagers,

Snapchat is hetzelfde voor tieners; het heeft wel 100 miljoen gebruikers.

and there's, like, a hundred million of them that use it.

Zij introduceerden iets wat ze 'Snapstreaks' noemen,

And they invented a feature called Snapstreaks,

wat het aantal dagen op rij toont

which shows the number of days in a row

dat twee mensen met elkaar hebben gecommuniceerd.

that two people have communicated with each other.

In other words, what they just did

Wat ze dus doen,

is they gave two people something they don't want to lose.

is twee mensen iets geven wat ze niet willen verliezen.

Want als je een tiener bent en je hebt 150 dagen op een rij,

Because if you're a teenager, and you have 150 days in a row,

you don't want that to go away.

dan wil je dat niet verliezen.

And so think of the little blocks of time that that schedules in kids' minds.

Bedenk wat dit voor kleine blokjes tijd in het brein van kinderen claimt.

Dit is geen theorie: als kinderen op vakantie gaan,

This isn't theoretical: when kids go on vacation,

it's been shown they give their passwords to up to five other friends

blijken ze hun paswoorden aan tot wel vijf vrienden te geven

to keep their Snapstreaks going,

om hun Snapstreaks gaande te houden

als zij het zelf niet kunnen doen.

even when they can't do it.

En ze hebben er wel 30,

And they have, like, 30 of these things,

dus moeten ze foto's nemen van plaatjes of muren of plafonds

and so they have to get through taking photos of just pictures or walls

or ceilings just to get through their day.

So it's not even like they're having real conversations.

Ze hebben dus niet eens echte conversaties.

We have a temptation to think about this

We zijn geneigd om te denken:

as, oh, they're just using Snapchat

oh, die gebruiken Snapchat zoals wij vroeger de telefoon.

the way we used to gossip on the telephone.

Dat kan geen kwaad.

It's probably OK.

Well, what this misses is that in the 1970s,

Maar als we in de jaren 70 zaten te kletsen aan de telefoon,

when you were just gossiping on the telephone,

there wasn't a hundred engineers on the other side of the screen

zaten er aan de andere kant van het scherm geen 100 ingenieurs

die exact wisten hoe je psychologisch in elkaar steekt

who knew exactly how your psychology worked

and orchestrated you into a double bind with each other.

en je van twee kanten aan het lijntje hielden.

Now, if this is making you feel a little bit of outrage,

Als je hier een beetje boos van wordt,

notice that that thought just comes over you.

merk dan op dat die gedachte je vanzelf binnenvalt.

Outrage is a really good way also of getting your attention,

Woede is ook een hele goede manier om je aandacht te krijgen.

because we don't choose outrage.

Want we kiezen niet voor woede, het overkomt ons.

It happens to us.

And if you're the Facebook newsfeed,

Als jij de Facebook nieuwsfeed bent, of je dat nu wilt of niet,

whether you'd want to or not,

dan profiteer je ervan als iemand boos is.

you actually benefit when there's outrage.

Want woede plaatst niet alleen

Because outrage doesn't just schedule a reaction

in emotional time, space, for you.

een reactie in jouw emotionele tijd en ruimte,

We want to share that outrage with other people.

we willen die woede ook delen met andere mensen.

So we want to hit share and say,

We willen het delen en zeggen: "Kan je geloven dat ze dat zeiden?"

"Can you believe the thing that they said?"

And so outrage works really well at getting attention,

Dus woede werkt heel goed om aandacht te krijgen,

such that if Facebook had a choice between showing you the outrage feed

zo goed dat als Facebook de keuze had

tussen het tonen van een woedende en een kalme nieuwsfeed,

and a calm newsfeed,

ze je de woedende feed zouden willen tonen.

they would want to show you the outrage feed,

Niet omdat iemand dat bewust koos,

not because someone consciously chose that,

but because that worked better at getting your attention.

maar omdat dat beter werkt om je aandacht te krijgen.

En de controlekamer van de nieuwsfeed

And the newsfeed control room is not accountable to us.

hoeft ons geen verantwoording af te leggen.

Het hoeft alleen maar de aandacht te maximaliseren.

It's only accountable to maximizing attention.

It's also accountable,

Het is ook verantwoordelijk, vanwege het bedrijfsmodel van adverteren,

because of the business model of advertising,

jegens degene die de controlekamer genoeg kan betalen om te kunnen zeggen:

for anybody who can pay the most to actually walk into the control room

and say, "That group over there,

"Die groep daar.

I want to schedule these thoughts into their minds."

Ik wil deze gedachten in hun hoofd brengen."

So you can target,

Je kunt gewoon richten.

Je kunt je leugens precies richten op de mensen die het meest vatbaar zijn.

you can precisely target a lie

directly to the people who are most susceptible.

En omdat dit winstgevend is, zal dit enkel nog verergeren.

And because this is profitable, it's only going to get worse.

Dus ben ik vandaag hier,

So I'm here today

omdat de prijs zo duidelijk is.

because the costs are so obvious.

Ik ken geen dringender probleem dan dit,

I don't know a more urgent problem than this,

because this problem is underneath all other problems.

want dit probleem zit onder alle andere problemen.

It's not just taking away our agency

Het ontneemt ons niet alleen de vrijheid

to spend our attention and live the lives that we want,

om onze aandacht te besteden en het leven te leven wat we willen.

it's changing the way that we have our conversations,

Het verandert de manier waarop we onze conversaties voeren,

it's changing our democracy,

het verandert onze democratie en het verandert ons vermogen

and it's changing our ability to have the conversations

om de gesprekken en relaties te hebben die we met elkaar willen.

and relationships we want with each other.

Het treft iedereen,

And it affects everyone,

because a billion people have one of these in their pocket.

omdat een miljard mensen er zo een in zijn zak heeft.

So how do we fix this?

Hoe herstellen we dit?

We moeten drie dingen radicaal veranderen

We need to make three radical changes

aan de technologie en aan onze samenleving.

to technology and to our society.

The first is we need to acknowledge that we are persuadable.

Ten eerste moeten we inzien dat we overreed kunnen worden.

Once you start understanding

Zodra je inziet dat je geest geprogrammeerd kan worden

that your mind can be scheduled into having little thoughts

om kleine gedachten te hebben

met kleine blokjes tijd die je niet gekozen hebt,

or little blocks of time that you didn't choose,

wouldn't we want to use that understanding

zou je dat inzicht niet willen gebruiken om jezelf ertegen te beschermen?

and protect against the way that that happens?

I think we need to see ourselves fundamentally in a new way.

Ik denk dat we onszelf fundamenteel anders moeten zien.

It's almost like a new period of human history,

Het is bijna als een nieuwe periode in de historie, zoals de Verlichting,

like the Enlightenment,

but almost a kind of self-aware Enlightenment,

maar dan een Verlichting in zelfbewustzijn:

that we can be persuaded,

dat we overreed kunnen worden

en dat er iets zou kunnen zijn wat we willen beschermen.

and there might be something we want to protect.

The second is we need new models and accountability systems

Ten tweede zullen we nieuwe modellen en verantwoordingssystemen nodig hebben,

zodat als de wereld beter en steeds overredender wordt --

so that as the world gets better and more and more persuasive over time --

because it's only going to get more persuasive --

want het zal alleen maar overredender worden --

that the people in those control rooms

dat de mensen in die controlekamers

are accountable and transparent to what we want.

verantwoordelijk en transparant zijn voor wat wij willen.

The only form of ethical persuasion that exists

De enige vorm van ethische overreding die bestaat,

is when the goals of the persuader

is wanneer de doelen van de overreder

are aligned with the goals of the persuadee.

overeenstemmen met de doelen van de overrede.

And that involves questioning big things, like the business model of advertising.

Dat betekent vraagtekens zetten bij zaken als het bedrijfsmodel van adverteren.

Lastly,

Tot slot

hebben we een renaissance van design nodig,

we need a design renaissance,

want heb je eenmaal dit inzicht in de menselijke aard,

because once you have this view of human nature,

dat je de tijdlijn van een miljard mensen kan sturen --

that you can steer the timelines of a billion people --

realiseer je dat er mensen zijn die een wens hebben

just imagine, there's people who have some desire

about what they want to do and what they want to be thinking

over wat ze willen doen, en denken, en voelen,

and what they want to be feeling and how they want to be informed,

en hoe ze willen geïnformeerd worden,

en we worden gewoon in die andere richtingen getrokken.

and we're all just tugged into these other directions.

Een miljard mensen wordt gewoon in verschillende richtingen getrokken.

And you have a billion people just tugged into all these different directions.

Beeld je een volledige design-renaissance in

Well, imagine an entire design renaissance

that tried to orchestrate the exact and most empowering

die is gericht op het produceren

van de meest nuttige en meest gewenste tijdlijn.

time-well-spent way for those timelines to happen.

And that would involve two things:

En dat zou twee zaken inhouden:

de eerste is bescherming tegen tijdlijnen die we niet willen,

one would be protecting against the timelines

that we don't want to be experiencing,

de gedachten die we niet willen denken,

the thoughts that we wouldn't want to be happening,

so that when that ding happens, not having the ding that sends us away;

zodat wanneer die 'ping' klinkt, we er niet door worden weggezogen.

De tweede zou ons in staat stellen om het leven te leiden dat we willen.

and the second would be empowering us to live out the timeline that we want.

So let me give you a concrete example.

Laat me je een voorbeeld geven.

Vandaag zegt je vriend bijvoorbeeld een etentje af

Today, let's say your friend cancels dinner on you,

and you are feeling a little bit lonely.

en je voelt je een beetje eenzaam.

And so what do you do in that moment?

Dus wat doe je op dat moment?

Je opent Facebook.

You open up Facebook.

And in that moment,

Op dat moment

the designers in the control room want to schedule exactly one thing,

willen de ontwerpers in de controlekamer maar één ding:

je zo lang mogelijk aan het scherm houden.

which is to maximize how much time you spend on the screen.

Now, instead, imagine if those designers created a different timeline

Wat nu als die designers in plaats daarvan een tijdlijn maakten

that was the easiest way, using all of their data,

die op basis van alle gegevens die ze hadden

jou zouden helpen uit te gaan met mensen waar je om geeft?

to actually help you get out with the people that you care about?

Just think, alleviating all loneliness in society,

Stel je voor hoe alle eenzaamheid in de samenleving zou worden verzacht

if that was the timeline that Facebook wanted to make possible for people.

als Facebook de mensen die tijdlijn zou willen bieden.

Of beeld je een ander gesprek in.

Or imagine a different conversation.

Let's say you wanted to post something supercontroversial on Facebook,

Stel je wil iets heel controversieels posten op Facebook,

wat belangrijk is om te kunnen doen,

which is a really important thing to be able to do,

over controversiële zaken praten.

to talk about controversial topics.

Op dit moment is er dat grote vak voor je opmerking,

And right now, when there's that big comment box,

it's almost asking you, what key do you want to type?

alsof het je vraagt: welke toets wil je indrukken?

Ofwel, het heeft allerlei dingetjes gepland

In other words, it's scheduling a little timeline of things

die je op het scherm zult blijven doen.

you're going to continue to do on the screen.

Beeld je in dat er in plaats daarvan een andere knop was die zei:

And imagine instead that there was another button there saying,

"Waar zou je nu het meest bij gebaat zijn?"

what would be most time well spent for you?

En je klikt op 'een etentje geven'.

And you click "host a dinner."

And right there underneath the item it said,

En vlak daaronder staat:

"Who wants to RSVP for the dinner?"

"Wie wil er naar het etentje komen?"

And so you'd still have a conversation about something controversial,

Je zou nog steeds een gesprek hebben over iets controversieels,

but you'd be having it in the most empowering place on your timeline,

maar je zou het hebben op de beste plaats op jouw tijdlijn,

which would be at home that night with a bunch of a friends over

namelijk die avond thuis, met een paar vrienden om erover te praten.

to talk about it.

Dus beeld je in dat we een 'zoek en vervang' doen

So imagine we're running, like, a find and replace

op alle tijdlijnen die ons momenteel tot meer en meer schermtijd verleiden

on all of the timelines that are currently steering us

towards more and more screen time persuasively

en al die tijdlijnen vervangen door wat we in ons leven willen.

and replacing all of those timelines

with what do we want in our lives.

It doesn't have to be this way.

Het hoeft niet zo te zijn.

Instead of handicapping our attention,

In plaats van onze aandacht het lastig te maken,

imagine if we used all of this data and all of this power

stel dat we deze data en ons inzicht in de menselijke natuur zouden gebruiken

and this new view of human nature

om ons een bovenmenselijk vermogen te geven om te focussen,

to give us a superhuman ability to focus

een bovenmenselijk talent om onze aandacht te geven aan waar we van houden,

and a superhuman ability to put our attention to what we cared about

en een bovenmenselijk talent om conversaties te hebben

and a superhuman ability to have the conversations

that we need to have for democracy.

die we nodig hebben voor democratie.

The most complex challenges in the world

De meest complexe uitdagingen ter wereld

require not just us to use our attention individually.

vereisen niet alleen onze individuele aandacht.

They require us to use our attention and coordinate it together.

Ze vereisen het gezamenlijk gebruiken en coördineren van onze aandacht.

Climate change is going to require that a lot of people

De klimaatverandering zal vereisen

dat heel wat mensen hun aandacht samen kunnen coördineren

are being able to coordinate their attention

in the most empowering way together.

in de meest krachtige manier.

And imagine creating a superhuman ability to do that.

Stel dat we een bovenmenselijk vermogen ontwikkelen om dat te doen.

Soms zijn 's werelds meest dringende en belangrijke problemen

Sometimes the world's most pressing and important problems

niet deze hypothetische dingen die we zouden kunnen creëren in de toekomst.

are not these hypothetical future things that we could create in the future.

Sometimes the most pressing problems

Soms bevinden zich de meest dringende problemen vlak voor onze neus,

are the ones that are right underneath our noses,

the things that are already directing a billion people's thoughts.

de dingen die al de gedachten van een miljard mensen bepalen.

And maybe instead of getting excited about the new augmented reality

In plaats van opgewonden te worden over de nieuwe 'augmented reality'

en virtual reality en de coole dingen die zouden kunnen gebeuren,

and virtual reality and these cool things that could happen,

which are going to be susceptible to the same race for attention,

die ook onderhevig zullen zijn aan dezelfde race voor aandacht,

if we could fix the race for attention

moeten we misschien eerst de strijd om de aandacht verhelpen

on the thing that's already in a billion people's pockets.

op het ding dat iedereen al in zijn zak heeft.

In plaats ons van gek te laten maken

Maybe instead of getting excited

about the most exciting new cool fancy education apps,

door de spannendste, nieuwe, coole, chique onderwijs apps,

we could fix the way kids' minds are getting manipulated

kunnen we iets doen aan hoe het brein van kinderen wordt verkwist

into sending empty messages back and forth.

aan het heen en weer zenden van lege berichten.

(Applaus)

(Applause)

In plaats van ons zorgen te maken

Maybe instead of worrying

about hypothetical future runaway artificial intelligences

over gevaarlijke losgeslagen artificiële intelligentie in de toekomst

that are maximizing for one goal,

die maar één doel voor ogen hebben,

we could solve the runaway artificial intelligence

zouden we iets kunnen doen

aan de losgeslagen artificiële intelligentie die nu al bestaat,

that already exists right now,

which are these newsfeeds maximizing for one thing.

namelijk die nieuwsfeeds met maar één doel voor ogen.

Net zoals we in plaats van weg te lopen en op andere planeten te gaan leven,

It's almost like instead of running away to colonize new planets,

we could fix the one that we're already on.

we beter kunnen zorgen voor die waar we al zijn.

(Applaus)

(Applause)

Dit probleem oplossen

Solving this problem

is critical infrastructure for solving every other problem.

is cruciaal voor het oplossen van alle andere problemen.

There's nothing in your life or in our collective problems

Alles in ons leven en in onze collectieve problemen

that does not require our ability to put our attention where we care about.

vereist het vermogen om onze aandacht te richten op waar we om geven.

At the end of our lives,

Aan het einde van ons leven

all we have is our attention and our time.

hebben we alleen onze aandacht en onze tijd.

What will be time well spent for ours?

Waar kunnen we die het best aan besteden?

Thank you.

Dank je.

(Applause)

(Applaus)

Chris Anderson: Tristan, thank you. Hey, stay up here a sec.

Chris Anderson: Tristan, dank je. Wacht nog even.

First of all, thank you.

Allereerst, dank je.

Ik weet dat we je heel laat gevraagd hebben om te spreken

I know we asked you to do this talk on pretty short notice,

and you've had quite a stressful week

en dat je een stressvolle week had om dit samen te rapen, dus dank je.

getting this thing together, so thank you.

Some people listening might say, what you complain about is addiction,

Sommige luisteraars zullen zeggen dat je eigenlijk klaagt over verslaving

and all these people doing this stuff, for them it's actually interesting.

en voor de mensen die dit doen, is het feitelijk interessant.

Al deze design beslissingen

All these design decisions

have built user content that is fantastically interesting.

hebben gebruikersinhoud voortgebracht die fantastisch interessant is.

The world's more interesting than it ever has been.

De wereld is interessanter dan ooit.

Wat is daar mis mee?

What's wrong with that?

Tristan Harris: Ik vind dit heel interessant.

Tristan Harris: I think it's really interesting.

Als je YouTube bent, bijvoorbeeld,

One way to see this is if you're just YouTube, for example,

you want to always show the more interesting next video.

wil je altijd een volgende interessante video tonen.

Je wil die suggesties steeds beter maken.

You want to get better and better at suggesting that next video,

Maar zelfs al kon je de perfecte video voorstellen

but even if you could propose the perfect next video

die iedereen zou willen bekijken,

that everyone would want to watch,

je maakt de kijker alleen maar verslaafd aan video's kijken.

it would just be better and better at keeping you hooked on the screen.

Wat we missen is het uitvinden wat onze grenzen zouden zijn.

So what's missing in that equation

is figuring out what our boundaries would be.

Je zou willen dat YouTube iets wist over in slaap vallen.

You would want YouTube to know something about, say, falling asleep.

De CEO van Netflix zei pas:

The CEO of Netflix recently said,

"Onze grootste concurrenten zijn Facebook, YouTube en slaap."

"our biggest competitors are Facebook, YouTube and sleep."

And so what we need to recognize is that the human architecture is limited

Ook moeten we inzien dat de mens niet onbegrensd is

and that we have certain boundaries or dimensions of our lives

en dat we zekere grenzen of dimensies in ons leven hebben

that we want to be honored and respected,

die we geëerbiedigd en gerespecteerd willen zien.

and technology could help do that.

Technologie kan hierbij helpen.

(Applause)

(Applaus)

CA: I mean, could you make the case

CA: Zou je kunnen zeggen

dat een deel van het probleem hier is dat we een naïeve menselijke aard hebben?

that part of the problem here is that we've got a naïve model of human nature?

Veel hiervan is gerechtvaardigd omdat we dit zelf willen

So much of this is justified in terms of human preference,

where we've got these algorithms that do an amazing job

en die algoritmes doen juist geweldig hun werk

in het bedienen van die voorkeur.

of optimizing for human preference,

Maar welke voorkeur?

but which preference?

There's the preferences of things that we really care about

We hebben voorkeuren omtrent dingen

waarom we echt geven als we erover nadenken

when we think about them

versus the preferences of what we just instinctively click on.

versus onze instinctieve voorkeuren.

If we could implant that more nuanced view of human nature in every design,

Als we die nuances in de menselijke aard in de ontwerpen konden implementeren,

would that be a step forward?

zou dat een stap vooruit zijn?

TH: Absolutely. I mean, I think right now

TH: Absoluut.

Nu is het alsof onze technologie eigenlijk alleen aan ons oerbrein vraagt:

it's as if all of our technology is basically only asking our lizard brain

hoe hou ik je impulsief bezig met het eerstvolgende kleine dingetje.

what's the best way to just impulsively get you to do

the next tiniest thing with your time,

instead of asking you in your life

In plaats van

waar kun je in jouw leven nu het best tijd aan besteden?

what we would be most time well spent for you?

What would be the perfect timeline that might include something later,

Wat zou de perfecte tijdlijn zijn,

waar ben je op dit moment bij gebaat, tijdens je laatste dag bij TED.

would be time well spent for you here at TED in your last day here?

CA: Dus als Facebook en Google ons zouden vragen:

CA: So if Facebook and Google and everyone said to us first up,

"Hey, wil je dat we je beschouwende brein verbeteren

"Hey, would you like us to optimize for your reflective brain

of je oerbrein? Kies maar."

or your lizard brain? You choose."

TH: Right. That would be one way. Yes.

TH: Precies. Dat zou een manier zijn, ja.

CA: You said persuadability, that's an interesting word to me

CA: Je zei overreedbaarheid, dat is een interessant woord,

because to me there's two different types of persuadability.

want volgens mij zijn er twee soorten overreedbaarheid.

Er is de overreedbaarheid die we nu toepassen,

There's the persuadability that we're trying right now

of reason and thinking and making an argument,

van redeneren, denken en debatteren.

but I think you're almost talking about a different kind,

Maar ik denk dat je bijna over een andere soort praat,

a more visceral type of persuadability,

een meer instinctieve soort,

van overreed worden zonder te weten dat je nadenkt.

of being persuaded without even knowing that you're thinking.

TH: Exact. De reden dat ik zo veel om dit probleem geef,

TH: Exactly. The reason I care about this problem so much is

is dat ik studeerde in het Persuasive Technology Lab op Stanford

I studied at a lab called the Persuasive Technology Lab at Stanford

dat studenten exact deze technieken leerde.

that taught [students how to recognize] exactly these techniques.

Er zijn conferenties en workshops die mensen al deze listige manieren leren

There's conferences and workshops that teach people all these covert ways

om de aandacht van mensen te krijgen en hun leven te manipuleren.

of getting people's attention and orchestrating people's lives.

En het is omdat de meesten niet weten dat dat bestaat

And it's because most people don't know that that exists

that this conversation is so important.

dat deze conversatie zo belangrijk is.

CA: Tristan, you and I, we both know so many people from all these companies.

CA: Tristan, jij en ik kennen beiden zo veel mensen van deze bedrijven.

There are actually many here in the room,

Er zijn er zelfs veel hier aanwezig.

and I don't know about you, but my experience of them

Ik weet niet wat jij denkt,

maar mijn ervaring is dat er geen tekort is aan goede wil.

is that there is no shortage of good intent.

Mensen willen een betere wereld.

People want a better world.

They are actually -- they really want it.

Ze zijn eigenlijk - ze willen het echt.

And I don't think anything you're saying is that these are evil people.

Ik denk niet dat je wil zeggen dat dit kwaadwillige mensen zijn.

It's a system where there's these unintended consequences

Het is een systeem dat ongewilde consequenties heeft

die uit de hand zijn gelopen.

that have really got out of control --

TH: Ja, de strijd om de aandacht.

TH: Of this race for attention.

It's the classic race to the bottom when you have to get attention,

Het is de klassieke race naar de bodem wanneer je aandacht wil hebben

and it's so tense.

en het is zo gespannen.

De enige manier om meer te krijgen is lager op de hersenstam gaan,

The only way to get more is to go lower on the brain stem,

to go lower into outrage, to go lower into emotion,

lager naar woede, lager naar emotie,

to go lower into the lizard brain.

lager in het oerbrein.

CA: Heel erg bedankt om ons hierover iets wijzer te maken.

CA: Well, thank you so much for helping us all get a little bit wiser about this.

Tristan Harris, thank you. TH: Thank you very much.

Tristan Harris, dank je. TH: Dank je.

(Applause)

(Applaus)