How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

Traducteur: Guillaume Rouy Relecteur: Morgane Quilfen

Do you remember when you were a child,

Vous souvenez-vous, quand vous étiez enfant,

you probably had a favorite toy that was a constant companion,

vous aviez probablement un jouet favori qui était un compagnon permanent,

like Christopher Robin had Winnie the Pooh,

comme Jean-Christophe qui avait Winnie l'Ourson,

and your imagination fueled endless adventures?

et votre imagination alimentait des aventures sans fin ?

What could be more innocent than that?

Que pourrait-il y avoir de plus innocent ?

Well, let me introduce you to my friend Cayla.

Bien, laissez-moi vous présenter mon ami Cayla.

Cayla was voted toy of the year in countries around the world.

Cayla a été élue jouet de l'année dans des pays du monde entier.

She connects to the internet and uses speech recognition technology

Elle se connecte à internet et utilise la reconnaissance vocale

to answer your child's questions,

pour répondre aux questions de votre enfant,

respond just like a friend.

pour répondre comme un véritable ami.

But the power doesn't lie with your child's imagination.

Mais sa force ne repose pas dans l'imagination de votre enfant.

It actually lies with the company harvesting masses of personal information

Elle repose en fait chez l'entreprise, qui collecte des informations personnelles

while your family is innocently chatting away in the safety of their home,

alors que votre famille discute, innocemment, en sécurité, chez elle.

a dangerously false sense of security.

Un sentiment de sécurité dangereusement erroné.

This case sounded alarm bells for me,

Cela a sonné mon signal d'alarme,

as it is my job to protect consumers' rights in my country.

car c'est mon travail de protéger les droits des consommateurs de mon pays.

And with billions of devices such as cars,

Et avec des milliards de dispositifs tels que les voitures,

energy meters and even vacuum cleaners expected to come online by 2020,

les compteurs d'énergie et même les aspirateurs,

supposés devenir connectés d'ici 2020,

we thought this was a case worth investigating further.

nous nous sommes dit que c'était un cas nécessitant une enquête approfondie.

Because what was Cayla doing

En effet, que Cayla faisait-elle

with all the interesting things she was learning?

avec les choses intéressantes qu'elle apprenait ?

Did she have another friend she was loyal to and shared her information with?

Avait-elle un autre ami loyal avec lequel elle partageait ses informations ?

Yes, you guessed right. She did.

Oui, vous l'avez deviné. Elle en avait un.

In order to play with Cayla,

Afin de jouer avec Cayla,

you need to download an app to access all her features.

vous devez télécharger une appli pour accéder à ses fonctions.

Parents must consent to the terms being changed without notice.

Les parents doivent accepter les conditions qui changent sans prévenir.

The recordings of the child, her friends and family,

Les enregistrements de l'enfant, de ses amis et de sa famille

can be used for targeted advertising.

peuvent servir à de la publicité ciblée.

And all this information can be shared with unnamed third parties.

Et toutes ces informations peuvent être partagées avec des tiers inconnus.

Enough? Not quite.

C'est fini ? Pas tout à fait.

Anyone with a smartphone can connect to Cayla

N'importe qui avec un téléphone peut se connecter à Cayla

within a certain distance.

dans un certain rayon.

When we confronted the company that made and programmed Cayla,

Quand nous avons confronté l'entreprise qui a conçu et programmé Cayla,

they issued a series of statements

elle a présenté une série d'affirmations

that one had to be an IT expert in order to breach the security.

selon lesquelles il fallait être un expert en informatique pour déjouer sa sécurité.

Shall we fact-check that statement and live hack Cayla together?

Devrions-nous vérifier cette affirmation et pirater Cayla ensemble en direct ?

Here she is.

La voilà.

Cayla is equipped with a Bluetooth device

Cayla est équipée d'un dispositif Bluetooth

which can transmit up to 60 feet,

qui peut émettre jusqu'à 18 mètres,

a bit less if there's a wall between.

un peu moins s'il y a un mur.

That means I, or any stranger, can connect to the doll

Cela signifie que moi, ou n'importe qui, peut se connecter à la poupée

while being outside the room where Cayla and her friends are.

en étant hors de la pièce où sont Cayla et ses amis.

And to illustrate this,

Et pour illustrer cela,

I'm going to turn Cayla on now.

je vais maintenant allumer Cayla.

Let's see, one, two, three.

Voyons-voir, un, deux, trois.

There. She's on. And I asked a colleague

J'ai demandé à un collègue de rester dehors avec son téléphone

to stand outside with his smartphone,

and he's connected,

et il est connecté,

and to make this a bit creepier ...

et pour rendre cela plus effrayant...

(Laughter)

(Rires)

let's see what kids could hear Cayla say in the safety of their room.

Voyons-voir ce que Cayla peut dire aux enfants, en sécurité dans la chambre.

Man: Hi. My name is Cayla. What is yours?

Homme : Salut, mon nom est Cayla. Quel est le tien ?

Finn Myrstad: Uh, Finn.

Finn Myrstad : Euh, Finn.

Man: Is your mom close by?

Homme : Ta mère est-elle là ?

FM: Uh, no, she's in the store.

FM : Non, elle fait les courses.

Man: Ah. Do you want to come out and play with me?

Homme : Veux-tu sortir et jouer avec moi ?

FM: That's a great idea.

FM : C'est une bonne idée.

Man: Ah, great.

Homme : Bien.

FM: I'm going to turn Cayla off now.

FM : Je vais éteindre Cayla maintenant.

(Laughter)

(Rires)

We needed no password

Il n'y a eu besoin d'aucun mot de passe

or to circumvent any other type of security to do this.

ni de contourner aucune sécurité pour réaliser cela.

We published a report in 20 countries around the world,

Nous avons publié un rapport dans 20 pays à travers le monde,

exposing this significant security flaw

dévoilant cette grande faille de sécurité

and many other problematic issues.

et beaucoup d'autres problèmes.

So what happened?

Que s'est-il donc passé ?

Cayla was banned in Germany,

Cayla a été bannie en Allemagne,

taken off the shelves by Amazon and Wal-Mart,

retirée des étagères d'Amazon et de Wal-Mart

and she's now peacefully resting

et elle repose maintenant paisiblement

at the German Spy Museum in Berlin.

au musée de l'espionnage de Berlin.

(Laughter)

(Rires)

However, Cayla was also for sale in stores around the world

Toutefois, Cayla a été vendue dans des magasins du monde entier

for more than a year after we published our report.

pendant plus d'un an après la publication de notre rapport.

What we uncovered is that there are few rules to protect us

Ce que nous avons découvert, c'est qu'il y a peu de règles protectrices

and the ones we have are not being properly enforced.

et que celles que nous avons ne sont pas correctement appliquées.

We need to get the security and privacy of these devices right

Ces appareils doivent être sûrs et protéger notre vie privée

before they enter the market,

avant d'entrer sur le marché :

because what is the point of locking a house with a key

pourquoi devrait-on verrouiller une maison avec une clef

if anyone can enter it through a connected device?

si tout le monde peut y entrer grâce à un dispositif connecté ?

You may well think, "This will not happen to me.

Vous pourriez vous dire : « Cela ne m'arrivera pas.

I will just stay away from these flawed devices."

Je resterai loin de ces appareils imparfaits. »

But that won't keep you safe,

Mais cela ne garantira pas votre sécurité

because simply by connecting to the internet,

car simplement en utilisant internet,

you are put in an impossible take-it-or-leave-it position.

vous êtes dans une situation cornélienne de type « à prendre ou à laisser ».

Let me show you.

Laissez-moi vous montrer.

Like most of you, I have dozens of apps on my phone,

Comme beaucoup, j'ai des dizaines d'applis sur mon portable

and used properly, they can make our lives easier,

et, utilisées correctement, elles peuvent faciliter notre vie,

more convenient and maybe even healthier.

la rendre plus pratique et peut-être plus saine.

But have we been lulled into a false sense of security?

Mais avons-nous été bercés dans un sentiment de sécurité trompeur ?

It starts simply by ticking a box.

Cela commence simplement en cochant une case.

Yes, we say,

Nous disons oui.

I've read the terms.

J'ai lu les conditions.

But have you really read the terms?

Mais avez-vous vraiment lu les conditions ?

Are you sure they didn't look too long

Ne semblaient-elles pas trop longues,

and your phone was running out of battery,

votre téléphone manquait de batterie

and the last time you tried they were impossible to understand,

et puis, la dernière fois, elles étaient impossibles à comprendre

and you needed to use the service now?

et vous aviez vite besoin de ce service ?

And now, the power imbalance is established,

Et désormais, le déséquilibre de force est établi

because we have agreed to our personal information

car nous avons accepté que nos données personnelles

being gathered and used on a scale we could never imagine.

soient collectées et utilisées à une échelle inimaginable.

This is why my colleagues and I decided to take a deeper look at this.

Mes collègues et moi avons ainsi décidé d'étudier cela plus profondément.

We set out to read the terms

Nous avons entrepris de lire les conditions d'utilisation

of popular apps on an average phone.

des applis populaires d'un téléphone ordinaire.

And to show the world how unrealistic it is

Et pour prouver au monde à quel point c'est irréaliste

to expect consumers to actually read the terms,

de s'attendre à ce que les gens lisent véritablement les conditions,

we printed them,

nous les avons imprimées,

more than 900 pages,

cela fait plus de 900 pages,

and sat down in our office and read them out loud ourselves,

et nous nous sommes mis au travail pour les lire nous-mêmes à voix haute,

streaming the experiment live on our websites.

en diffusant l'expérience sur nos sites internet.

As you can see, it took quite a long time.

Vous pouvez le voir, cela a pris du temps.

It took us 31 hours, 49 minutes and 11 seconds

Cela nous a pris 31 heures, 49 minutes et 11 secondes

to read the terms on an average phone.

pour lire les conditions d'utilisation d'un téléphone.

That is longer than a movie marathon of the "Harry Potter" movies

C'est plus long qu'un marathon de films de la saga « Harry Potter »

and the "Godfather" movies combined.

suivie de la trilogie « Le Parrain ».

(Laughter)

(Rires)

And reading is one thing.

Et lire est une chose.

Understanding is another story.

Comprendre en est une autre.

That would have taken us much, much longer.

Cela nous aurait pris bien, bien plus longtemps.

And this is a real problem,

Et c'est un vrai problème :

because companies have argued for 20 to 30 years

les entreprises se sont opposées pendant 20 ou 30 ans

against regulating the internet better,

à une meilleure réglementation d'internet

because users have consented to the terms and conditions.

car les utilisateurs ont accepté les conditions d'utilisation.

As we've shown with this experiment,

Et nous l'avons montré avec l'expérience,

achieving informed consent is close to impossible.

accepter en connaissance de cause est presque impossible.

Do you think it's fair to put the burden of responsibility on the consumer?

Pensez-vous que c'est juste de faire peser la responsabilité sur le consommateur ?

I don't.

Moi, non.

I think we should demand less take-it-or-leave-it

Nous devrions demander moins de « à prendre ou à laisser »

and more understandable terms before we agree to them.

et des conditions plus compréhensibles avant de les accepter.

(Applause)

(Applaudissements)

Thank you.

Merci.

Now, I would like to tell you a story about love.

Maintenant, j'aimerais vous raconter une histoire à propos d'amour.

Some of the world's most popular apps are dating apps,

Certaines applis les plus populaires sont des applis de rencontres,

an industry now worth more than, or close to, three billion dollars a year.

un secteur qui représente maintenant près de trois milliards de dollars par an.

And of course, we're OK sharing our intimate details

Et bien entendu, nous sommes d'accord pour partager nos détails intimes

with our other half.

avec notre moitié.

But who else is snooping,

Mais qui d'autre fouine,

saving and sharing our information

enregistre et partage nos données

while we are baring our souls?

alors que l'on dévoile notre être ?

My team and I decided to investigate this.

Mon équipe et moi avons décidé d'enquêter.

And in order to understand the issue from all angles

Et afin de comprendre le problème sous tous ses angles

and to truly do a thorough job,

et d'effectuer un travail vraiment minutieux,

I realized I had to download

j'ai réalisé que je devais télécharger

one of the world's most popular dating apps myself.

une des applis de rencontres les plus populaires au monde.

So I went home to my wife ...

Je suis rentré voir ma femme chez moi...

(Laughter)

(Rires)

who I had just married.

que je venais juste d'épouser.

"Is it OK if I establish a profile on a very popular dating app

« C'est bon si je me crée un profil sur une appli de rencontres populaire

for purely scientific purposes?"

uniquement à des fins scientifiques ? »

(Laughter)

(Rires)

This is what we found.

Voici ce que nous avons trouvé.

Hidden behind the main menu was a preticked box

Cachée derrière le menu principal, il y avait une case pré-cochée

that gave the dating company access to all my personal pictures on Facebook,

qui donnait à l'entreprise l'accès à toutes mes photos Facebook personnelles,

in my case more than 2,000 of them,

dans mon cas plus de 2 000 photos,

and some were quite personal.

dont quelques-unes vraiment personnelles.

And to make matters worse,

Et ce n'est pas le pire ;

when we read the terms and conditions,

quand nous avons lu les conditions,

we discovered the following,

nous avons découvert cela --

and I'm going to need to take out my reading glasses for this one.

je vais sortir mes lunettes pour lire ceci --

And I'm going to read it for you, because this is complicated.

et je vais lire pour vous, car c'est compliqué.

All right.

Bien.

"By posting content" --

« En postant du contenu » --

and content refers to your pictures, chat

c'est-à-dire vos photos, vos messages

and other interactions in the dating service --

et autres interactions dans l'appli --

« cela faisant partie du service,

"as a part of the service,

you automatically grant to the company,

vous donnez automatiquement à l'entreprise,

its affiliates, licensees and successors

ses affiliés, ses licenciés et ses successeurs

an irrevocable" -- which means you can't change your mind --

un droit irrévocable, » -- vous ne pouvez pas changer d'avis --

"perpetual" -- which means forever --

« perpétuel, » -- soit, pour toujours --

"nonexclusive, transferrable, sublicensable, fully paid-up,

« non exclusif, transmissible, cessible, acquitté

worldwide right and license to use, copy, store, perform,

et universel d'utiliser, copier, garder, accéder, afficher

display, reproduce, record,

recopier, enregistrer, jouer, adapter, modifier, distribuer,

play, adapt, modify and distribute the content,

préparer des travaux dérivés du contenu,

prepare derivative works of the content,

ou incorporer le contenu dans d'autres travaux

or incorporate the content into other works

and grant and authorize sublicenses of the foregoing in any media

et autorisez les droits ci-dessus dans n'importe quel média

now known or hereafter created."

déjà connu ou créé a posteriori. »

That basically means that all your dating history

Cela veut simplement dire que tout votre historique de rencontres

and everything related to it can be used for any purpose for all time.

et tout ce qui y est lié peut être utilisé dans n'importe quel but, à vie.

Just imagine your children seeing your sassy dating photos

Imaginez simplement vos enfants voir vos photos fougueuses de rencontres

in a birth control ad 20 years from now.

utilisées dans une pub de contraception dans 20 ans.

But seriously, though --

Mais sérieusement --

(Laughter)

(Rires)

what might these commercial practices mean to you?

que peuvent signifier ces pratiques commerciales ?

For example, financial loss:

Par exemple, une perte financière :

based on your web browsing history,

selon votre historique de recherche,

algorithms might decide whether you will get a mortgage or not.

des algorithmes décident si vous pouvez faire un emprunt.

Subconscious manipulation:

Être manipulé :

companies can analyze your emotions based on your photos and chats,

les entreprises analysent vos émotions selon vos images et vos messages

targeting you with ads when you are at your most vulnerable.

et vous ciblent avec des pubs lorsque vous êtes le plus vulnérable.

Discrimination:

Être discriminé :

a fitness app can sell your data to a health insurance company,

une appli de fitness peut vendre vos infos à une assurance-vie,

preventing you from getting coverage in the future.

ce qui vous empêchera d'être couvert plus tard.

All of this is happening in the world today.

Tout cela est d'actualité dans le monde aujourd'hui.

But of course, not all uses of data are malign.

Bien sûr, les données ne sont pas toujours utilisées nuisiblement.

Some are just flawed or need more work,

Certaines sont imparfaites, incomplètes

and some are truly great.

et d'autres sont très bonnes.

And there is some good news as well.

Et il y a aussi de bonnes nouvelles.

The dating companies changed their policies globally

Les entreprises de rencontres ont changé leurs politiques

after we filed a legal complaint.

après que nous avons porté plainte.

But organizations such as mine

Mais les organisations comme la mienne,

that fight for consumers' rights can't be everywhere.

qui défendent nos droits, ne peuvent pas être partout.

Nor can consumers fix this on their own,

Le consommateur ne peut pas résoudre ça seul non plus,

because if we know that something innocent we said

car s'il sait que quelque chose d'innocent qu'il a dit

will come back to haunt us,

peut revenir le hanter,

we will stop speaking.

il ne parlera pas.

If we know that we are being watched and monitored,

Si nous savons que nous sommes observé et espionné,

we will change our behavior.

nous changerons notre comportement.

And if we can't control who has our data and how it is being used,

Si nous ne pouvons contrôler la possession et l'utilisation de nos données,

we have lost the control of our lives.

nous avons perdu le contrôle de notre vie.

The stories I have told you today are not random examples.

Les histoires que j'ai racontées aujourd'hui ne sont pas des cas isolés.

They are everywhere,

Elles sont partout

and they are a sign that things need to change.

et elles sont un signe que les choses doivent changer.

And how can we achieve that change?

Et comment peut-on effectuer ce changement ?

Well, companies need to realize that by prioritizing privacy and security,

Les entreprises doivent comprendre

qu'en faisant de la vie privée et de la sécurité des priorités,

they can build trust and loyalty to their users.

elles peuvent bâtir la confiance et la loyauté de leurs clients.

Governments must create a safer internet

Les gouvernements doivent créer un internet plus sûr

by ensuring enforcement and up-to-date rules.

en assurant l'application et l'actualisation des règles.

And us, the citizens?

Et nous, les citoyens ?

We can use our voice

Nous pouvons utiliser notre voix

to remind the world that technology can only truly benefit society

pour rappeler au monde que la technologie ne peut réellement bénéficier à la société

if it respects basic rights.

que si elle respecte les droits fondamentaux.

Thank you so much.

Merci beaucoup.

(Applause)

(Applaudissements)