How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

Vertaald door: Faina Peeters Nagekeken door: Rik Delaet

Do you remember when you were a child,

Herinner je je dat je als kind

you probably had a favorite toy that was a constant companion,

waarschijnlijk een favoriet speelgoed had, dat je altijd gezelschap hield.

like Christopher Robin had Winnie the Pooh,

Zoals Christopher Robin Winnie the Pooh had

and your imagination fueled endless adventures?

en je verbeelding eindeloze avonturen creëerde?

What could be more innocent than that?

Wat kan er onschuldiger zijn dan dat?

Well, let me introduce you to my friend Cayla.

Wel, laat me je voorstellen aan mijn vriendin Cayla.

Cayla was voted toy of the year in countries around the world.

Cayla werd verkozen tot speelgoed van het jaar in landen wereldwijd.

Ze verbindt met het internet en gebruikt spraakherkenningstechnologie

She connects to the internet and uses speech recognition technology

to answer your child's questions,

om vragen van je kind te beantwoorden

respond just like a friend.

en reageert net als een vriend.

But the power doesn't lie with your child's imagination.

Maar de kracht ligt niet bij de verbeelding van je kind.

It actually lies with the company harvesting masses of personal information

Het ligt eigenlijk bij het bedrijf dat massa's persoonlijke informatie vergaart

while your family is innocently chatting away in the safety of their home,

terwijl je gezin

zich van geen kwaad bewust er thuis op los praat.

a dangerously false sense of security.

Een gevaarlijk vals gevoel van veiligheid.

This case sounded alarm bells for me,

Die zaak deed de alarmbellen bij me rinkelen.

as it is my job to protect consumers' rights in my country.

Het is mijn job consumentenrechten te beschermen in mijn land.

And with billions of devices such as cars,

Met miljarden apparaten als auto's,

energy meters and even vacuum cleaners expected to come online by 2020,

energiemeters en zelfs stofzuigers die tegen 2020 online zullen gaan,

we thought this was a case worth investigating further.

vonden we dit een zaak die verder onderzoek waard was.

Because what was Cayla doing

Want wat deed Cayla met al de interessante dingen die ze leerde?

with all the interesting things she was learning?

Did she have another friend she was loyal to and shared her information with?

Had ze een andere vriend waar ze trouw aan was en haar informatie mee deelde?

Yes, you guessed right. She did.

Ja, je raadt het correct.

Dat had ze.

In order to play with Cayla,

Om met Cayla te spelen,

you need to download an app to access all her features.

moet je een app downloaden om al haar functies te gebruiken.

Parents must consent to the terms being changed without notice.

Ouders stemmen toe met voorwaarden die kunnen wijzigen zonder kennisgeving.

The recordings of the child, her friends and family,

De opnames van het kind, haar vrienden en familie,

can be used for targeted advertising.

kunnen gebruikt worden voor gerichte reclame.

And all this information can be shared with unnamed third parties.

En al deze informatie kan gedeeld worden met ongenoemde derde partijen.

Enough? Not quite.

Genoeg?

Niet echt.

Anyone with a smartphone can connect to Cayla

Iedereen met een smartphone kan verbinding maken met Cayla

within a certain distance.

binnen een bepaalde afstand.

When we confronted the company that made and programmed Cayla,

Toen we dit voorlegden aan het bedrijf dat Cayla maakt en programmeert,

they issued a series of statements

gaven ze een reeks verklaringen

that one had to be an IT expert in order to breach the security.

dat iemand een IT-specialist moet zijn om de veiligheid te doorbreken.

Shall we fact-check that statement and live hack Cayla together?

Zullen we die uitspraak verifiëren en samen Cayla live hacken?

Here she is.

Hier is ze.

Cayla is equipped with a Bluetooth device

Cayla is voorzien van Bluetooth,

which can transmit up to 60 feet,

dat tot 18 meter uitzendt,

a bit less if there's a wall between.

een beetje minder als er een muur tussen staat.

That means I, or any stranger, can connect to the doll

Dat betekent dat ik, of elke vreemde, met de pop kan verbinden

while being outside the room where Cayla and her friends are.

van buiten de kamer waar Cayla en haar vrienden zijn.

And to illustrate this,

Om dit te illustreren,

I'm going to turn Cayla on now.

ga ik Cayla inschakelen.

Let's see, one, two, three.

Laten we kijken, één, twee, drie.

Zo, ze staat aan en ik heb een collega gevraagd

There. She's on. And I asked a colleague

to stand outside with his smartphone,

om buiten te gaan staan met zijn smartphone.

and he's connected,

En hij is verbonden.

and to make this a bit creepier ...

Om dit een beetje enger te maken ...

(Laughter)

(Gelach)

let's see what kids could hear Cayla say in the safety of their room.

Laten we kijken wat kinderen Cayla kunnen horen zeggen, veilig in hun kamer.

Man: Hi. My name is Cayla. What is yours?

Man: Hallo. Mijn naam is Cayla. Wat is jouw naam?

Finn Myrstad: Uh, Finn.

Finn Myrstad: Finn.

Man: Is your mom close by?

Man: Is je moeder er?

FM: Uh, no, she's in the store.

FM: Neen, ze is in de winkel.

Man: Ah. Do you want to come out and play with me?

Man: Kom je buiten met me spelen?

FM: That's a great idea.

FM: Dat is een geweldig idee.

Man: Ah, great.

Man: Geweldig.

FM: I'm going to turn Cayla off now.

Ik zet Cayla nu uit.

(Laughter)

(Gelach)

We needed no password

We hadden geen wachtwoord nodig

or to circumvent any other type of security to do this.

en moesten geen andere soort beveiliging omzeilen.

We published a report in 20 countries around the world,

We publiceerden een verslag in 20 landen wereldwijd,

exposing this significant security flaw

waarin we dit serieuze gebrek aan veiligheid blootlegden,

and many other problematic issues.

en veel andere problematische zaken.

So what happened?

En wat gebeurde er?

Cayla was banned in Germany,

Cayla werd verboden in Duitsland,

taken off the shelves by Amazon and Wal-Mart,

van de winkelrekken gehaald door Amazon en Walmart

and she's now peacefully resting

en ze ligt nu vredig te rusten in het Duitse Spionagemuseum in Berlijn.

at the German Spy Museum in Berlin.

(Laughter)

(Gelach)

However, Cayla was also for sale in stores around the world

Maar Cayla was ook te koop in winkels over de hele wereld,

for more than a year after we published our report.

nog langer dan een jaar nadat we ons verslag publiceerden.

Wat we blootlegden, is dat er weinig regels zijn die ons beschermen

What we uncovered is that there are few rules to protect us

and the ones we have are not being properly enforced.

en degene die we hebben, worden niet behoorlijk afgedwongen.

We need to get the security and privacy of these devices right

We moeten de veiligheid en privacy van deze toestellen juist krijgen,

before they enter the market,

alvorens ze op de markt komen.

because what is the point of locking a house with a key

Want waarom een huis afsluiten met een sleutel

if anyone can enter it through a connected device?

als iedereen binnen kan met een verbonden toestel?

You may well think, "This will not happen to me.

Je mag dan wel denken: "Dit zal mij niet overkomen.

I will just stay away from these flawed devices."

Ik koop deze foute toestellen gewoon niet."

But that won't keep you safe,

Maar dan ben je nog niet veilig.

because simply by connecting to the internet,

Want door simpelweg op het internet te gaan,

you are put in an impossible take-it-or-leave-it position.

word je in een onmogelijke te-nemen-of-te-laten positie geplaatst.

Let me show you.

Ik toon het jullie.

Like most of you, I have dozens of apps on my phone,

Zoals de meesten onder jullie, heb ik een dozijn apps op mijn gsm,

and used properly, they can make our lives easier,

en wanneer correct gebruikt, maken ze ons leven makkelijker,

more convenient and maybe even healthier.

handiger en misschien zelfs gezonder.

But have we been lulled into a false sense of security?

Maar zijn we in een vals gevoel van veiligheid gesust?

It starts simply by ticking a box.

Het begint simpelweg bij het aanvinken van een vakje.

Yes, we say,

We zeggen: "Ja.

I've read the terms.

Ik heb de voorwaarden gelezen."

But have you really read the terms?

Maar heb je de voorwaarden echt gelezen?

Are you sure they didn't look too long

Ben je zeker dat ze niet te lang leken

and your phone was running out of battery,

en was je batterij bijna plat?

and the last time you tried they were impossible to understand,

Of toen je het toch probeerde, waren ze onmogelijk te begrijpen

and you needed to use the service now?

en had je die app gelijk nodig?

And now, the power imbalance is established,

Zo krijg je een machtsonevenwicht,

because we have agreed to our personal information

want we hebben toegestaan dat onze persoonlijke informatie

being gathered and used on a scale we could never imagine.

verzameld wordt en gebruikt op een onvoorstelbare schaal.

This is why my colleagues and I decided to take a deeper look at this.

Daarom besloten mijn collega's en ik om er eens nader op in te gaan.

We set out to read the terms

We gingen de voorwaarden lezen

of popular apps on an average phone.

van populaire apps op een doorsnee telefoon.

En om de wereld te tonen hoe onrealistisch het is

And to show the world how unrealistic it is

om te verwachten dat consumenten de voorwaarden echt lezen,

to expect consumers to actually read the terms,

we printed them,

hebben we ze uitgeprint,

more than 900 pages,

meer dan 900 pagina's,

and sat down in our office and read them out loud ourselves,

en gingen ze in ons kantoor luidop lezen

streaming the experiment live on our websites.

terwijl we het experiment live op onze website uitbrachten.

As you can see, it took quite a long time.

Zoals je kan zien, duurde het lang.

It took us 31 hours, 49 minutes and 11 seconds

Het duurde 31 uur, 49 minuten en 11 seconden

om de voorwaarden te lezen op een doorsnee gsm.

to read the terms on an average phone.

That is longer than a movie marathon of the "Harry Potter" movies

Dat is langer dan een filmmarathon van alle 'Harry Potter'

and the "Godfather" movies combined.

en 'Godfather' films samen.

(Laughter)

(Gelach)

And reading is one thing.

En lezen is één ding.

Understanding is another story.

Begrijpen is nog een ander.

That would have taken us much, much longer.

Dat zou ons nog veel meer tijd hebben gekost.

And this is a real problem,

Dat is een serieus probleem,

because companies have argued for 20 to 30 years

want bedrijven hebben gedurende 20 tot 30 jaar lang

against regulating the internet better,

tegen een betere regulering van het internet geargumenteerd,

because users have consented to the terms and conditions.

omdat gebruikers instemden met de voorwaarden en bepalingen.

As we've shown with this experiment,

Zoals we met dit experiment aantoonden,

achieving informed consent is close to impossible.

kan je bijna onmogelijk een geïnformeerde toestemming geven.

Do you think it's fair to put the burden of responsibility on the consumer?

Vind je het terecht

om de verantwoordelijkheid bij de consument te leggen?

Ik niet.

I don't.

I think we should demand less take-it-or-leave-it

Ik vind dat we minder 'alles of niets' moeten eisen

and more understandable terms before we agree to them.

en meer begrijpbare voorwaarden voordat we met ze toestemmen.

(Applaus)

(Applause)

Thank you.

Dank je.

Now, I would like to tell you a story about love.

Ik wil jullie graag een verhaal over liefde vertellen.

Some of the world's most popular apps are dating apps,

Enkele van de meest populaire apps wereldwijd zijn dating-apps.

an industry now worth more than, or close to, three billion dollars a year.

Een industrie die nu meer dan drie miljard dollars per jaar waard is.

And of course, we're OK sharing our intimate details

Natuurlijk vinden we het oké om onze intieme details te delen

with our other half.

met onze wederhelft.

But who else is snooping,

Maar wie snuffelt er mee,

saving and sharing our information

slaat onze informatie op en deelt ze

while we are baring our souls?

terwijl wij onze ziel blootleggen?

My team and I decided to investigate this.

Mijn team en ik besloten dit te onderzoeken.

And in order to understand the issue from all angles

Om deze zaak vanuit alle hoeken te begrijpen

and to truly do a thorough job,

en om écht grondig te werk te gaan,

I realized I had to download

besefte ik dat ik zelf een van 's werelds populairste apps moest downloaden.

one of the world's most popular dating apps myself.

Dus ging ik naar mijn vrouw ...

So I went home to my wife ...

(Laughter)

(Gelach)

who I had just married.

Ik was net gehuwd.

"Is it OK if I establish a profile on a very popular dating app

"Is het oké dat ik een profiel aanmaak op een erg populaire dating-app

voor een puur wetenschappelijk doel?"

for purely scientific purposes?"

(Laughter)

(Gelach)

This is what we found.

Dit ontdekten we.

Hidden behind the main menu was a preticked box

Verscholen achter het hoofdmenu was een reeds aangekruist vakje

that gave the dating company access to all my personal pictures on Facebook,

dat de dating-app toegang gaf tot al mijn persoonlijke foto's op Facebook,

in my case more than 2,000 of them,

in mijn geval meer dan 2.000 foto's

and some were quite personal.

en sommige waren erg persoonlijk.

And to make matters worse,

Om de zaken nog erger te maken,

when we read the terms and conditions,

toen we de voorwaarden lazen, ontdekten we het volgende --

we discovered the following,

and I'm going to need to take out my reading glasses for this one.

hier heb ik even mijn leesbril voor nodig --

And I'm going to read it for you, because this is complicated.

ik lees het even voor, want het is ingewikkeld.

All right.

Oké.

"By posting content" --

"Door het posten van inhoud" --

and content refers to your pictures, chat

en inhoud verwijst naar je foto's, chat

en andere interacties op de datingdienst --

and other interactions in the dating service --

"as a part of the service,

"als deel van de dienst

you automatically grant to the company,

geef je het bedrijf, zijn partners, licentiehouders en opvolgers automatisch

its affiliates, licensees and successors

an irrevocable" -- which means you can't change your mind --

een onherroepelijk" -- dit betekent dat je niet van gedachte kan veranderen --

"perpetual" -- which means forever --

"voortdurend" dit betekent voor eeuwig --

"niet-exclusief, overdraagbaar, sublicencieerbaar, volledig betaald,

"nonexclusive, transferrable, sublicensable, fully paid-up,

wereldwijd recht en licentie op gebruik, kopie, opslag, voordracht,

worldwide right and license to use, copy, store, perform,

display, reproduce, record,

tentoonstelling, reproductie, opname,

play, adapt, modify and distribute the content,

afspelen, bewerking, aanpassing en verspreiding van inhoud,

prepare derivative works of the content,

het maken van afgeleide werken van de inhoud

or incorporate the content into other works

of opname in andere werken

en toestemming van sublicenties van het bovengemelde in eender welke media

and grant and authorize sublicenses of the foregoing in any media

now known or hereafter created."

die vandaag gekend is of hierna opgericht."

([Hijgt)

That basically means that all your dating history

Dat betekent in feite dat al je datinggeschiedenis

and everything related to it can be used for any purpose for all time.

en alles eraan verwant, altijd voor elk doeleinde gebruikt kan worden.

Just imagine your children seeing your sassy dating photos

Beeld je in dat je kinderen jullie stoute datingfoto's

in a birth control ad 20 years from now.

binnen 20 jaar in een advertentie voor anti-conceptie zien.

(Gelach)

But seriously, though --

Maar even serieus --

(Laughter)

(Gelach)

what might these commercial practices mean to you?

Wat kunnen deze commerciële praktijken betekenen voor jou?

For example, financial loss:

Bijvoorbeeld, financieel verlies:

based on your web browsing history,

op basis van je webgeschiedenis

algorithms might decide whether you will get a mortgage or not.

zouden algoritmes kunnen bepalen of je een lening al dan niet krijgt.

Subconscious manipulation:

Onderbewuste manipulatie:

companies can analyze your emotions based on your photos and chats,

bedrijven kunnen op basis van je foto's en chats je emoties analyseren,

en je met advertenties bestoken wanneer je het meest kwetsbaar bent.

targeting you with ads when you are at your most vulnerable.

Discrimination:

Discriminatie:

een fitness-app kan je gegevens verkopen aan een zorgverzekeraar

a fitness app can sell your data to a health insurance company,

preventing you from getting coverage in the future.

en verhinderen dat je in de toekomst een verzekering krijgt.

All of this is happening in the world today.

Dit alles gebeurt vandaag in de wereld.

But of course, not all uses of data are malign.

Maar natuurlijk is niet al het gebruik van data slecht.

Sommige zijn wat gebrekkig of moeten wat bijgewerkt worden,

Some are just flawed or need more work,

and some are truly great.

en sommige zijn echt geweldig.

And there is some good news as well.

Er is ook goed nieuws.

The dating companies changed their policies globally

De datingbedrijven hebben hun beleid wereldwijd aangepast

after we filed a legal complaint.

nadat we een juridische klacht hebben ingediend.

But organizations such as mine

Maar organisaties zoals de mijne,

that fight for consumers' rights can't be everywhere.

die voor consumentenrechten vechten, kunnen niet overal zijn.

Nor can consumers fix this on their own,

Noch kunnen consumenten dit op zichzelf oplossen,

want als we weten dat een onschuldige uitspraak

because if we know that something innocent we said

will come back to haunt us,

ons later last kan bezorgen, dan gaan we zwijgen.

we will stop speaking.

Als we weten dat we worden bekeken en opgevolgd,

If we know that we are being watched and monitored,

we will change our behavior.

zullen we ons gedrag aanpassen.

And if we can't control who has our data and how it is being used,

Als we niet kunnen controleren wie onze data heeft en hoe ze gebruikt worden,

we have lost the control of our lives.

dan hebben we de controle over ons leven verloren.

The stories I have told you today are not random examples.

De verhalen die ik vandaag vertelde, zijn geen toevallige voorbeelden.

They are everywhere,

Ze zijn overal.

and they are a sign that things need to change.

Ze zijn een teken dat de dingen moeten veranderen.

And how can we achieve that change?

Hoe kunnen we dat bereiken?

Well, companies need to realize that by prioritizing privacy and security,

Bedrijven moeten beseffen dat door onze privacy en veiligheid voorop te stellen,

they can build trust and loyalty to their users.

ze vertrouwen en trouw kunnen winnen bij gebruikers.

Governments must create a safer internet

Overheden moeten een veiliger internet creëren

by ensuring enforcement and up-to-date rules.

door gegarandeerde handhaving en door actuele regels.

And us, the citizens?

En wij, de burgers?

We can use our voice

We kunnen onze stem gebruiken om iedereen erop te wijzen

to remind the world that technology can only truly benefit society

dat technologie de maatschappij enkel werkelijk kan baten

if it respects basic rights.

als ze basisrechten respecteert.

Thank you so much.

Dankjewel.

(Applause)

(Applaus)