What will a future without secrets look like? | Alessandro Acquisti

Vertaald door: Michael van Rhee Nagekeken door: Christel Foncke

I would like to tell you a story

Ik wil jullie graag een verhaal vertellen

connecting the notorious privacy incident

dat het beruchte privacy-incident

involving Adam and Eve,

van Adam en Eva

and the remarkable shift in the boundaries

verbindt met de merkwaardige verschuiving van de grenzen

between public and private which has occurred

tussen openbaar en privé

in the past 10 years.

in de laatste 10 jaar.

You know the incident.

Je kent het voorval.

Adam and Eve one day in the Garden of Eden

Op een dag realiseren Adam en Eva zich in het Hof van Eden

realize they are naked.

dat ze naakt zijn.

They freak out.

Ze schrikken zich rot ...

And the rest is history.

en de rest is geschiedenis.

Nowadays, Adam and Eve

Vandaag zouden Adam en Eva

would probably act differently.

waarschijnlijk anders reageren.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adam Gisteravond was geweldig! heerlijk die appel LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Eva yep.. schatje, maar weet je waar mijn onderbroek is?]

We do reveal so much more information

We geven veel meer informatie

about ourselves online than ever before,

over onszelf prijs op het internet dan ooit tevoren,

and so much information about us

en er wordt heel veel informatie over ons

is being collected by organizations.

verzameld door organisaties.

Now there is much to gain and benefit

Er valt veel winst te halen

from this massive analysis of personal information,

uit deze gigantische analyse van persoonlijke informatie,

or big data,

of grote hoeveelheden data,

but there are also complex tradeoffs that come

maar er komen ook complexe afwegingen kijken

from giving away our privacy.

bij het weggeven van onze privacy.

And my story is about these tradeoffs.

Mijn verhaal gaat over die afwegingen.

We start with an observation which, in my mind,

We beginnen met een vaststelling die voor mij

has become clearer and clearer in the past few years,

steeds duidelijker werd in de afgelopen jaren:

that any personal information

alle persoonlijke informatie kan

can become sensitive information.

ook gevoelige informatie worden.

Back in the year 2000, about 100 billion photos

In het jaar 2000 werden ongeveer 100 miljard foto's

were shot worldwide,

genomen over de hele wereld,

but only a minuscule proportion of them

maar slechts een minuscuul deel daarvan

were actually uploaded online.

werd daadwerkelijk online gezet.

In 2010, only on Facebook, in a single month,

In 2010 werden alleen op Facebook al, in één maand,

2.5 billion photos were uploaded,

2,5 miljard foto's geüpload,

most of them identified.

waarvan de meeste geïdentificeerd waren.

In the same span of time,

In dezelfde periode

computers' ability to recognize people in photos

werd het vermogen van computers voor gezichtsherkenning

improved by three orders of magnitude.

drie ordes van grootte beter.

What happens when you combine

Wat gebeurt er zodra je de volgende

these technologies together:

technologieën combineert:

increasing availability of facial data;

grotere beschikbaarheid van gezichtsdata,

improving facial recognizing ability by computers;

verbeterde gezichtsherkenning,

but also cloud computing,

én cloud computing,

which gives anyone in this theater

wat iedereen in deze zaal

the kind of computational power

de rekenkracht geeft

which a few years ago was only the domain

waarover een paar jaar geleden

of three-letter agencies;

enkel agentschappen met drie letters beschikten,

and ubiquitous computing,

en alomtegenwoordig computergebruik,

which allows my phone, which is not a supercomputer,

wat mijn telefoon in staat stelt, en dat is geen supercomputer,

to connect to the Internet

om verbinding te maken met het internet

and do there hundreds of thousands

en daar honderdduizenden

of face metrics in a few seconds?

gezichtsberekeningen te maken in een paar seconden?

Well, we conjecture that the result

We vermoeden dat als gevolg

of this combination of technologies

van de combinatie van deze technologieën

will be a radical change in our very notions

onze opvattingen over privacy en anonimiteit radicaal zullen veranderen

of privacy and anonymity.

onze opvattingen over privacy en anonimiteit radicaal zullen veranderen

To test that, we did an experiment

Als test voerden we een experiment uit

on Carnegie Mellon University campus.

op de campus van Carnegie Mellon University.

We asked students who were walking by

We vroegen studenten

to participate in a study,

om deel te nemen aan een onderzoek,

and we took a shot with a webcam,

we namen hun foto met een webcam.

and we asked them to fill out a survey on a laptop.

Daarna moesten ze een vragenlijst invullen op een laptop.

While they were filling out the survey,

Terwijl zij de vragenlijst invulden,

we uploaded their shot to a cloud-computing cluster,

uploadden wij hun foto naar een cloud computing wolk.

and we started using a facial recognizer

We gebruikten een gezichtsherkenner

to match that shot to a database

om de foto te vergelijken

of some hundreds of thousands of images

met honderdduizenden foto's

which we had downloaded from Facebook profiles.

die we hadden gedownload van Facebookprofielen.

By the time the subject reached the last page

Toen de deelnemer de laatste pagina

on the survey, the page had been dynamically updated

van de vragenlijst bereikte, was de pagina dynamisch geüpdatet

with the 10 best matching photos

met de 10 best overeenstemmende foto's

which the recognizer had found,

die de gezichtsherkenner had gevonden.

and we asked the subjects to indicate

We vroegen de deelnemers

whether he or she found themselves in the photo.

of ze zichzelf herkenden in één van de foto's.

Do you see the subject?

Zie je de deelnemer?

Well, the computer did, and in fact did so

De computer in ieder geval wel, en die deed dat zelfs

for one out of three subjects.

in één op de drie gevallen.

So essentially, we can start from an anonymous face,

We kunnen dus gewoon beginnen met een anoniem gezicht,

offline or online, and we can use facial recognition

offline of online, en gezichtsherkenning gebruiken

to give a name to that anonymous face

om een naam te plakken op dat anonieme gezicht

thanks to social media data.

dankzij gegevens van sociale media.

But a few years back, we did something else.

Een paar jaar geleden deden we iets anders.

We started from social media data,

We begonnen met data van sociale media,

we combined it statistically with data

en combineerden die met statistisch data

from U.S. government social security,

van de Amerikaanse overheid over sociale zekerheid,

and we ended up predicting social security numbers,

en uiteindelijk konden we sofinummers voorspellen,

which in the United States

wat in de Verenigde Staten

are extremely sensitive information.

extreem gevoelige informatie is.

Do you see where I'm going with this?

Volgen jullie mij?

So if you combine the two studies together,

Als je de twee onderzoeken samenvoegt,

then the question becomes,

dan wordt de vraag:

can you start from a face and,

kun je met een foto van een gezicht,

using facial recognition, find a name

met behulp van gezichtsherkenning een naam

and publicly available information

en openbaar beschikbare informatie

about that name and that person,

over die naam en die persoon vinden,

and from that publicly available information

en uit die openbare informatie

infer non-publicly available information,

afgeschermde informatie afleiden,

much more sensitive ones

veel gevoeligere informatie,

which you link back to the face?

die je weer koppelt aan het gezicht?

And the answer is, yes, we can, and we did.

Het antwoord is ja, dat kunnen we, en dat hebben we ook gedaan.

Of course, the accuracy keeps getting worse.

Natuurlijk neemt de nauwkeurigheid steeds meer af.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[27% van de eerste 5 cijfers van de sofinummers van de deelnemers geïdentificeerd (met 4 pogingen)]

But in fact, we even decided to develop an iPhone app

We ontwikkelden zelfs een iPhone app

which uses the phone's internal camera

die gebruikmaakt van de camera van de telefoon

to take a shot of a subject

om een foto te nemen van een deelnemer,

and then upload it to a cloud

die uploadt naar een wolk,

and then do what I just described to you in real time:

en vervolgens doet wat ik jullie zojuist heb uitgelegd:

looking for a match, finding public information,

zoeken naar een overeenkomst, openbare informatie opsporen,

trying to infer sensitive information,

gevoelige informatie afleiden,

and then sending back to the phone

en vervolgens terugsturen naar de telefoon,

so that it is overlaid on the face of the subject,

en bij het gezicht voegen.

an example of augmented reality,

Een voorbeeld van toegevoegde realiteit,

probably a creepy example of augmented reality.

een eng voorbeeld van toegevoegde realiteit.

In fact, we didn't develop the app to make it available,

We hebben deze app niet ontwikkeld om ze beschikbaar te maken,

just as a proof of concept.

maar alleen om te bewijzen dat het kan.

In fact, take these technologies

Stel dat je deze technologieën neemt

and push them to their logical extreme.

en ze tot het uiterste drijft.

Imagine a future in which strangers around you

Stel je eens een toekomst voor waarin onbekenden

will look at you through their Google Glasses

je aankijken door hun Google-bril

or, one day, their contact lenses,

of, ooit, hun contactlenzen,

and use seven or eight data points about you

en zeven of acht datapunten van jou gebruiken

to infer anything else

om alles af te leiden

which may be known about you.

wat er bekend is over jou.

What will this future without secrets look like?

Hoe zal deze toekomst zonder geheimen eruit zien?

And should we care?

Moeten we ons daarover zorgen maken?

We may like to believe

We geloven misschien graag

that the future with so much wealth of data

dat de toekomst, met die overvloed aan data,

would be a future with no more biases,

een toekomst zonder vooroordelen zal zijn.

but in fact, having so much information

Beschikken over een grote hoeveelheid informatie,

doesn't mean that we will make decisions

betekent niet dat we beslissingen gaan nemen

which are more objective.

die objectiever zijn.

In another experiment, we presented to our subjects

In een ander experiment legden we onze deelnemers

information about a potential job candidate.

informatie voor over een sollicitant.

We included in this information some references

Deze informatie bevatte wat verwijzingen

to some funny, absolutely legal,

naar wat grappige, volledig juiste,

but perhaps slightly embarrassing information

maar wellicht lichtelijk gênante informatie

that the subject had posted online.

die de deelnemer online had gedeeld.

Now interestingly, among our subjects,

Het was interessant dat, van onze deelnemers,

some had posted comparable information,

sommigen vergelijkbare informatie hadden gedeeld,

and some had not.

en sommigen niet.

Which group do you think

Welke groep denk je,

was more likely to judge harshly our subject?

beoordeelde onze deelnemer strenger?

Paradoxically, it was the group

Paradoxaal genoeg was het de groep

who had posted similar information,

die vergelijkbare informatie had gedeeld,

an example of moral dissonance.

een voorbeeld van morele dissonantie.

Now you may be thinking,

Nu denk je misschien,

this does not apply to me,

dit gaat niet op voor mij,

because I have nothing to hide.

want ik heb niets te verbergen.

But in fact, privacy is not about

Maar privacy gaat niet echt over

having something negative to hide.

het verbergen van iets negatiefs.

Imagine that you are the H.R. director

Stel je eens voor dat jij de H.R. directeur bent

of a certain organization, and you receive résumés,

van een bepaalde organisatie, en je ontvangt cv's,

and you decide to find more information about the candidates.

en je besluit meer informatie te zoeken over de kandidaten.

Therefore, you Google their names

Om die reden google je hun namen,

and in a certain universe,

en in een bepaalde werkelijkheid

you find this information.

vind je déze informatie.

Or in a parallel universe, you find this information.

In een alternatieve werkelijkheid vind je déze informatie.

Do you think that you would be equally likely

Denk je dat het je niet zou uitmaken

to call either candidate for an interview?

welke kandidaat je uitnodigt voor een sollicitatiegesprek?

If you think so, then you are not

Als je dat denkt, dan ben je niet

like the U.S. employers who are, in fact,

zoals Amerikaanse werkgevers,

part of our experiment, meaning we did exactly that.

die deel uitmaken van exact ditzelfde experiment.

We created Facebook profiles, manipulating traits,

We creëerden Facebookprofielen, manipuleerden eigenschappen,

then we started sending out résumés to companies in the U.S.,

waarna we cv's begonnen te verzenden naar bedrijven in de V.S.,

and we detected, we monitored,

en we achterhaalden, we controleerden,

whether they were searching for our candidates,

of ze op zoek waren naar onze kandidaten,

and whether they were acting on the information

en of ze reageerden op de informatie

they found on social media. And they were.

die ze vonden in sociale media. Dat deden ze.

Discrimination was happening through social media

Ze discrimineerden op basis van sociale media

for equally skilled candidates.

bij even bekwame kandidaten.

Now marketers like us to believe

Marketeers doen ons graag geloven

that all information about us will always

dat alle informatie over ons

be used in a manner which is in our favor.

altijd in ons voordeel gebruikt zal worden.

But think again. Why should that be always the case?

Maar denk eens na: waarom zou dat altijd het geval zijn?

In a movie which came out a few years ago,

'Minority Report', een film van een paar jaar geleden, heeft een beroemde scène

"Minority Report," a famous scene

'Minority Report', een film van een paar jaar geleden, heeft een beroemde scène

had Tom Cruise walk in a mall

waarin Tom Cruise in een winkelcentrum loopt

and holographic personalized advertising

en er holografische, gepersonaliseerde reclames

would appear around him.

om hem heen verschijnen.

Now, that movie is set in 2054,

Die film speelde zich af in 2054,

about 40 years from now,

binnen ongeveer 40 jaar dus,

and as exciting as that technology looks,

en hoe opwindend die technologie ook lijkt,

it already vastly underestimates

het onderschat al enorm

the amount of information that organizations

hoeveel informatie organisaties

can gather about you, and how they can use it

over jou te weten komen, en hoe ze het kunnen gebruiken

to influence you in a way that you will not even detect.

om je te beïnvloeden op zó'n manier, dat je het niet eens doorhebt.

So as an example, this is another experiment

Ter illustratie nog een lopend,

actually we are running, not yet completed.

nog niet voltooid experiment.

Imagine that an organization has access

Stel je een organisatie voor die toegang heeft

to your list of Facebook friends,

tot je vriendenlijst op Facebook.

and through some kind of algorithm

Met een bepaald algoritme

they can detect the two friends that you like the most.

kunnen ze achterhalen wie je twee beste vrienden zijn.

And then they create, in real time,

Vervolgens creëren ze, in het echt,

a facial composite of these two friends.

een samenstelling van de gezichten van je vrienden.

Now studies prior to ours have shown that people

Eerder onderzoeken toonden aan dat mensen

don't recognize any longer even themselves

zichzelf dan niet meer herkennen

in facial composites, but they react

in de samenstelling, maar ze reageren er wel

to those composites in a positive manner.

op een positieve manier op.

So next time you are looking for a certain product,

Als je binnenkort op zoek bent naar een bepaald product,

and there is an ad suggesting you to buy it,

en reclame ziet die je aanmoedigt om het te kopen,

it will not be just a standard spokesperson.

dan zal dat niet een gemiddelde woordvoerder zijn,

It will be one of your friends,

maar één van je vrienden,

and you will not even know that this is happening.

en je zal het niet eens doorhebben dat dat gebeurt.

Now the problem is that

Het probleem is dat

the current policy mechanisms we have

onze huidige beleidsmechanismen

to protect ourselves from the abuses of personal information

om onszelf te beschermen tegen misbruik van persoonlijke informatie,

are like bringing a knife to a gunfight.

volstrekt nutteloos zijn.

One of these mechanisms is transparency,

Eén van deze mechanismen is transparantie:

telling people what you are going to do with their data.

aan mensen vertellen wat je gaat doen met hun data.

And in principle, that's a very good thing.

In principe is dat iets heel goeds.

It's necessary, but it is not sufficient.

Het is noodzakelijk, maar het is niet voldoende.

Transparency can be misdirected.

Transparantie kan de verkeerde kant uitgaan.

You can tell people what you are going to do,

Je kunt mensen wel vertellen wat je gaat doen,

and then you still nudge them to disclose

en ze toch porren willekeurige hoeveelheden persoonlijke informatie prijs te geven.

arbitrary amounts of personal information.

en ze toch porren willekeurige hoeveelheden persoonlijke informatie prijs te geven.

So in yet another experiment, this one with students,

In nog een ander experiment, ditmaal met studenten,

we asked them to provide information

vroegen we om informatie te geven

about their campus behavior,

over hun gedrag op de campus,

including pretty sensitive questions, such as this one.

inclusief vrij gevoelige vragen, zoals de volgende.

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[Spiekte je ooit op een examen?]

De ene groep vertelden we:

"Only other students will see your answers."

"Alleen medestudenten zullen je antwoorden te zien krijgen."

To another group of subjects, we told them,

Een andere groep vertelden we:

"Students and faculty will see your answers."

"Zowel studenten als de faculteit zullen je antwoorden te zien krijgen."

Transparency. Notification. And sure enough, this worked,

Transparantie. Bekendmaking. En inderdaad, het werkte:

in the sense that the first group of subjects

de eerste deelnemersgroep

were much more likely to disclose than the second.

gaf veel sneller informatie prijs.

It makes sense, right?

Dat is logisch, toch?

But then we added the misdirection.

Maar toen voegden we de misleiding toe.

We repeated the experiment with the same two groups,

We herhaalden het experiment met dezelfde groepen,

this time adding a delay

maar ditmaal met een vertraging

between the time we told subjects

tussen het moment dat we de deelnemers vertelden

how we would use their data

hoe we hun data zouden gebruiken

and the time we actually started answering the questions.

en het moment waarop we daadwerkelijk de vragen afnamen.

How long a delay do you think we had to add

Hoeveel vertraging denk je dat er nodig was

in order to nullify the inhibitory effect

om het remmende effect teniet te doen

of knowing that faculty would see your answers?

van de kennis dat de faculteit je antwoorden te zien krijgt?

Ten minutes?

Tien minuten?

Five minutes?

Vijf minuten?

One minute?

Eén minuut?

How about 15 seconds?

Wat dacht je van 15 seconden?

Fifteen seconds were sufficient to have the two groups

Vijftien seconden was genoeg om de twee groepen

disclose the same amount of information,

evenveel informatie te laten onthullen,

as if the second group now no longer cares

alsof het de tweede groep niet meer uitmaakte

for faculty reading their answers.

dat de faculteit hun antwoorden te lezen zou krijgen.

Now I have to admit that this talk so far

Ik moet toegeven dat deze toespraak tot nu toe

may sound exceedingly gloomy,

misschien buitengewoon somber klinkt,

but that is not my point.

maar dat is niet mijn punt.

In fact, I want to share with you the fact that

Ik wil dat jullie weten dat er alternatieven zijn.

there are alternatives.

Ik wil dat jullie weten dat er alternatieven zijn.

The way we are doing things now is not the only way

De manier waarop we dingen nu doen, is niet de enige mogelijke manier,

they can done, and certainly not the best way

en zeker niet de beste manier

they can be done.

waarop het kan gedaan worden.

When someone tells you, "People don't care about privacy,"

Als iemand tegen je zegt: "Mensen geven niet om privacy,"

consider whether the game has been designed

ga dan na of het spelletje dusdanig ontworpen

and rigged so that they cannot care about privacy,

en gemanipuleerd is, dat ze niet om privacy kunnen geven.

and coming to the realization that these manipulations occur

Als je tot het besef komt dat deze manipulaties gebeuren,

is already halfway through the process

ben je al halverwege het proces

of being able to protect yourself.

om jezelf te beschermen.

When someone tells you that privacy is incompatible

Als iemand je vertelt dat privacy onverenigbaar is

with the benefits of big data,

met de voordelen van grote hoeveelheden data,

consider that in the last 20 years,

bedenk dan dat onderzoekers in de laatste 20 jaar

researchers have created technologies

technologieën hebben gecreëerd

to allow virtually any electronic transactions

die het mogelijk maken dat vrijwel elke elektronische transactie

to take place in a more privacy-preserving manner.

gebeurt op een privacybeschermende manier.

We can browse the Internet anonymously.

We kunnen anoniem surfen op het internet.

We can send emails that can only be read

We kunnen e-mails versturen die alleen gelezen kunnen worden

by the intended recipient, not even the NSA.

door de bedoelde ontvanger, niet eens de NSA.

We can have even privacy-preserving data mining.

We kunnen zelfs op privacybeschermende wijze doen aan datamining.

In other words, we can have the benefits of big data

Met andere woorden, we kunnen profiteren van grote hoeveelheden data,

while protecting privacy.

terwijl we onze privacy beschermen.

Of course, these technologies imply a shifting

Deze technologieën betekenen wel een verschuiving

of cost and revenues

van kosten en opbrengsten

between data holders and data subjects,

tussen gegevenshouders en de betrokkenen,

which is why, perhaps, you don't hear more about them.

wat misschien de reden is dat je niet erg veel over ze hoort.

Which brings me back to the Garden of Eden.

Dat brengt me terug bij het Hof van Eden.

There is a second privacy interpretation

Er is nog een tweede interpretatie van de privacy

of the story of the Garden of Eden

in het verhaal van het Hof van Eden,

which doesn't have to do with the issue

en die heeft niets te maken met het feit dat

of Adam and Eve feeling naked

Adam en Eva zich naakt voelen

and feeling ashamed.

en zich schamen.

You can find echoes of this interpretation

Je kunt de naklank van deze interpretatie vinden

in John Milton's "Paradise Lost."

in John Milton's "Paradise Lost".

In the garden, Adam and Eve are materially content.

In de tuin worden Adam en Eva voorzien in al hun behoeftes.

They're happy. They are satisfied.

Ze zijn blij. Ze zijn tevreden.

However, they also lack knowledge

Maar het ontbreekt ze aan kennis

and self-awareness.

en zelfbewustzijn.

The moment they eat the aptly named

Pas op het moment dat ze de zo treffend genoemde

fruit of knowledge,

'vrucht van kennis' opeten,

that's when they discover themselves.

ontdekken ze zichzelf.

They become aware. They achieve autonomy.

Ze worden bewust. Ze worden autonoom.

The price to pay, however, is leaving the garden.

Daarvoor moeten ze echter wel de tuin verlaten.

So privacy, in a way, is both the means

Privacy is dus zowel het middel

and the price to pay for freedom.

als de prijs die we betalen voor vrijheid.

Again, marketers tell us

Nogmaals, marketeers vertellen ons

that big data and social media

dat grote hoeveelheden data en sociale media

are not just a paradise of profit for them,

niet alleen een winstparadijs voor hen is,

but a Garden of Eden for the rest of us.

maar ook een Hof van Eden voor de rest van ons.

We get free content.

We krijgen gratis content.

We get to play Angry Birds. We get targeted apps.

We kunnen Angry Birds spelen. We krijgen doelgerichte apps.

But in fact, in a few years, organizations

Maar in feite zullen organisaties over een paar jaar

will know so much about us,

zoveel over ons weten,

they will be able to infer our desires

dat ze onze wensen zullen kunnen afleiden

before we even form them, and perhaps

nog voor we ze hebben gevormd, en misschien

buy products on our behalf

namens ons producten kopen,

before we even know we need them.

nog voordat we weten dat we ze nodig hebben.

Now there was one English author

Er was één Engelse auteur

who anticipated this kind of future

die anticipeerde op het soort toekomst

where we would trade away

waarin we onze autonomie en vrijheid

our autonomy and freedom for comfort.

zouden verhandelen voor comfort.

Even more so than George Orwell,

Meer nog dan George Orwell,

the author is, of course, Aldous Huxley.

want ik heb het natuurlijk over Aldous Huxley.

In "Brave New World," he imagines a society

In "Brave New World" beeldt hij zich een maatschappij in

where technologies that we created

waarin technologieën die we oorspronkelijk

originally for freedom

creëerden voor vrijheid,

end up coercing us.

ons uiteindelijk gaan bedwingen.

However, in the book, he also offers us a way out

Hij biedt ons in het boek ook een uitweg

of that society, similar to the path

van die maatschappij, vergelijkbaar met het pad

that Adam and Eve had to follow to leave the garden.

dat Adam en Eva moesten volgen om het Hof te verlaten.

In the words of the Savage,

In de woorden van de Savage,

regaining autonomy and freedom is possible,

het is mogelijk om autonomie en vrijheid terug te krijgen,

although the price to pay is steep.

maar daar hangt een duur prijskaartje aan.

So I do believe that one of the defining fights

Ik geloof dus dat één van de bepalende gevechten

of our times will be the fight

van onze tijd, het gevecht

for the control over personal information,

om de controle van persoonlijke informatie zal zijn,

the fight over whether big data will become a force

het gevecht dat bepaalt of grote hoeveelheden data een kracht worden

for freedom,

voor vrijheid,

rather than a force which will hiddenly manipulate us.

in plaats van een kracht die ons ongemerkt manipuleert.

Right now, many of us

Op dit moment weten velen van ons

do not even know that the fight is going on,

niet eens dat dit gevecht gaande is,

but it is, whether you like it or not.

maar dat is het wel, of je dat nou leuk vindt of niet.

And at the risk of playing the serpent,

Om te voorkomen dat wij de slang gaan spelen,

I will tell you that the tools for the fight

zal ik je vertellen dat de middelen voor dit gevecht

are here, the awareness of what is going on,

in je hoofd zitten, het besef van wat er gaande is,

and in your hands,

en in je handen,

just a few clicks away.

want het scheelt slechts een paar klikken.

Thank you.

Dankjewel.

(Applause)

(Applaus)