What you need to know about face surveillance | Kade Crockford

Traducteur: Morgane Quilfen Relecteur: Claire Ghyselen

How many of you have ever heard someone say

Combien d'entre vous ont entendu dire que la vie privée était morte ?

privacy is dead?

Raise your hand.

Levez la main.

How many of you have heard someone say

Combien d'entre vous ont entendu quelqu'un dire

they don't care about their privacy because they don't have anything to hide?

qu'il s'en fichait de la vie privée car il n'avait rien à cacher ?

Go on.

Allez-y.

(Laughter)

(Rires)

Now, how many of you use any kind of encryption software?

Combien d'entre vous utilisent un logiciel de chiffrement ?

Raise your hand.

Levez la main.

Or a password to protect an online account?

Ou un mot de passe pour protéger un compte en ligne ?

Or curtains or blinds on your windows at home?

Ou des rideaux ou des stores sur vos fenêtres chez vous ?

(Laughter)

(Rires)

OK, so that's everyone, I think.

Tout le monde, je crois.

(Laughter)

(Rires)

So why do you do these things?

Pourquoi faites-vous ces choses-là ?

My guess is,

Je suppose que c'est car protéger votre vie privée vous importe.

it's because you care about your privacy.

The idea that privacy is dead is a myth.

L'idée que la protection de la vie privée est morte est un mythe.

The idea that people don't care about their privacy

L'idée que les gens se fichent de protéger leur vie privée,

because "they have nothing to hide"

car « ils n'ont rien à cacher »

or they've done nothing wrong

ou n'ont rien fait de mal

is also a myth.

est également un mythe.

I'm guessing that you would not want to publicly share on the internet,

Je suppose que vous ne voudriez pas partager publiquement sur internet,

for the world to see,

aux yeux de tous,

all of your medical records.

vos dossiers médicaux.

Or your search histories from your phone or your computer.

Ou bien votre historique de recherches sur votre téléphone ou ordinateur.

And I bet

Et je parie que si le gouvernement voulait placer une puce dans votre cerveau

that if the government wanted to put a chip in your brain

to transmit every one of your thoughts to a centralized government computer,

pour transmettre toutes vos pensées à un ordinateur gouvernemental centralisé,

you would balk at that.

vous vous y opposeriez.

(Laughter)

(Rires)

That's because you care about your privacy,

C'est parce que votre vie privée vous importe,

like every human being.

comme à tout être humain.

So, our world has changed fast.

Notre monde a changé rapidement.

And today, there is understandably a lot of confusion

Aujourd'hui, il y a naturellement une grande confusion

about what privacy is and why it matters.

quant à ce qu'est la vie privée et pourquoi cela importe.

Privacy is not secrecy.

La vie privée, ce n'est pas le secret.

It's control.

C'est le contrôle.

I share information with my doctor about my body and my health,

Je partage des informations avec mon médecin

au sujet de mon corps et de ma santé

expecting that she is not going to turn around

en m'attendant à ce qu'il ne se retourne pas

and share that information with my parents,

pour partager ces informations avec mes parents,

or my boss or my kids.

mon patron ou mes enfants.

That information is private, not secret.

Ces informations sont privées, pas secrètes.

I'm in control over how that information is shared.

Je contrôle comment ces informations sont partagées.

You've probably heard people say that there's a fundamental tension

Vous avez dû entendre des gens dire qu'il y a un conflit fondamental

between privacy on the one hand

entre la protection de la vie privée

and safety on the other.

et la sécurité.

But the technologies that advance our privacy

Mais les technologies protégeant notre vie privée

also advance our safety.

améliorent aussi notre sécurité.

Think about fences, door locks,

Pensez aux clôtures, aux verrous,

curtains on our windows, passwords,

aux rideaux aux fenêtres, aux mots de passe,

encryption software.

aux logiciels de chiffrement.

All of these technologies

Toutes ces technologies

simultaneously protect our privacy and our safety.

protègent à la fois notre vie privée et notre sécurité.

Dragnet surveillance, on the other hand, protects neither.

La surveillance de masse, d'un autre côté, ne protège ni l'une ni l'autre.

In recent years,

Les dernières années,

the federal government tasked a group of experts

le gouvernement fédéral a chargé un groupe d'experts,

called The Privacy and Civil Liberties Oversight Board

le conseil de supervision de la vie privée et des libertés civiles,

with examining post-9/11 government surveillance programs,

d'examiner les programmes de surveillance après le 11 septembre,

dragnet surveillance programs.

des programmes de surveillance de masse.

Those experts could not find a single example

Ces experts n'ont pas pu trouver un seul exemple

of that dragnet surveillance advancing any safety --

de cette surveillance de masse améliorant la sécurité --

didn't identify or stop a single terrorist attack.

elle n'a identifié ou empêché aucun attentat terroriste.

You know what that information was useful for, though?

Mais savez-vous à quoi ces informations ont été utiles ?

Helping NSA employees spy on their romantic interests.

Aider les employés de la NSA à espionner ceux qui les intéressaient romantiquement.

(Laughter)

(Audience: Wow.)

(Rires)

Public : Waouh.

Another example is closer to home.

Un autre exemple plus proche de nous :

So millions of people across the United States and the world

des millions de gens aux États-Unis et le monde

are adopting so-called "smart home" devices,

adoptent des appareils de « maison intelligente »

like internet-connected surveillance cameras.

tels que des caméras de surveillance connectées.

But we know that any technology connected to the internet

Mais nous savons que toute technologie connectée à internet peut être piratée.

can be hacked.

And so if a hacker

Si un pirate

gets into your internet-connected surveillance camera at home,

pénètre la caméra de surveillance à votre domicile connectée à internet,

they can watch you and your family coming and going,

il peut observer vos allers-retours, à vous et votre famille,

finding just the right time to strike.

pour trouver le moment où frapper.

You know what can't be hacked remotely?

Qu'est-ce qui ne peut pas être piraté à distance ?

Curtains.

Des rideaux.

(Laughter)

(Rires)

Fences.

Une clôture.

Door locks.

Des verrous.

(Laughter)

(Rires)

Privacy is not the enemy of safety.

La vie privée n'est pas l'ennemie de la sécurité,

It is its guarantor.

c'est son garant.

Nonetheless, we daily face a propaganda onslaught

Néanmoins, nous sommes confrontés quotidiennement

à un déferlement de propagande

telling us that we have to give up some privacy in exchange for safety

qui nous dit que nous devons renoncer à de la vie privée contre de la sécurité

through surveillance programs.

via des programmes de surveillance.

Face surveillance is the most dangerous of these technologies.

La surveillance faciale est la plus dangereuse de ces technologies.

There are two primary ways today governments use technologies like this.

Les gouvernements utilisent de telles technologies surtout de deux façons.

One is face recognition.

L'une est la reconnaissance faciale.

That's to identify someone in an image.

C'est pour identifier quelqu'un sur une image.

The second is face surveillance,

La seconde est la surveillance faciale,

which can be used in concert

qui peut être utilisée conjointement à des réseaux de caméras de surveillance

with surveillance-camera networks and databases

et des bases de données

to create records of all people's public movements,

pour établir des archives des mouvements publics des gens,

habits and associations,

leurs habitudes et leurs fréquentations,

effectively creating a digital panopticon.

créant dans les faits un panoptique numérique.

This is a panopticon.

Voici un panoptique.

It's a prison designed to allow a few guards in the center

C'est une prison conçue pour permettre à quelques gardes au milieu

to monitor everything happening in the cells around the perimeter.

de surveiller tout ce qu'il se passe dans les cellules du périmètre.

The people in those prison cells can't see inside the guard tower,

Les gens dans cellules ne peuvent pas voir l'intérieur de la tour de garde

but the guards can see into every inch of those cells.

mais les gardes peuvent voir chaque centimètre carré de ces cellules.

The idea here

L'idée ici,

is that if the people in those prison cells

c'est que si les gens dans ces cellules de prison

know they're being watched all the time,

savent qu'ils sont constamment surveillés,

or could be,

ou sont susceptibles de l'être,

they'll behave accordingly.

ils se comporteront en conséquence.

Similarly, face surveillance enables a centralized authority --

Similairement, la surveillance faciale permet à une autorité centralisée --

in this case, the state --

dans ce cas, l'État, --

to monitor the totality of human movement and association

de surveiller l'intégralité des mouvements et des fréquentations humains

in public space.

dans l'espace public.

And here's what it looks like

Voici ce à quoi cela ressemble

in real life.

dans la vraie vie.

In this case, it's not a guard in a tower,

Dans ce cas, ce n'est pas un garde dans une tour,

but rather a police analyst in a spy center.

mais plutôt un analyste de la police dans un centre d'espionnage.

The prison expands beyond its walls,

La prison s'étend au-delà de ses murs,

encompassing everyone,

englobant tout le monde,

everywhere, all the time.

partout, tout le temps.

In a free society,

Dans une société libre,

this should terrify us all.

cela devrait tous nous terrifier.

For decades now, we've watched cop shows

Depuis des décennies, nous regardons des séries policières

that push a narrative that says

promouvant un récit qui dit

technologies like face surveillance ultimately serve the public good.

que les technologies comme la surveillance faciale

servent l'intérêt public.

But real life is not a cop drama.

Mais la vraie vie n'est pas une série policière.

The bad guy didn't always do it,

Le méchant n'est pas toujours coupable,

the cops definitely aren't always the good guys

les policiers ne sont certainement pas toujours les gentils

and the technology doesn't always work.

et la technologie ne fonctionne pas toujours.

Take the case of Steve Talley,

Prenez le cas de Steve Talley,

a financial analyst from Colorado.

un analyste financier du Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

En 2015, Talley a été arrêté et accusé de braquage de banque

on the basis of an error in a facial recognition system.

sur la base d'une erreur du système de reconnaissance faciale.

Talley fought that case

Talley s'est battu

and he eventually was cleared of those charges,

et a fini par être innocenté de ces accusations,

but while he was being persecuted by the state,

mais pendant qu'il était persécuté par l'État,

he lost his house, his job and his kids.

il a perdu sa maison, son travail et ses enfants.

Steve Talley's case is an example

L'affaire Steve Talley est un exemple

of what can happen when the technology fails.

de ce qui peut arriver quand la technologie défaillit.

But face surveillance is just as dangerous when it works as advertized.

Mais la surveillance faciale est tout aussi dangereuse

quand elle fonctionne comme prévu.

Just consider how trivial it would be

Considérez à quel point il serait aisé

for a government agency to put a surveillance camera

pour une agence gouvernementale de mettre une caméra

outside a building where people meet for Alcoholics Anonymous meetings.

devant un bâtiment où les gens se retrouvent

pour des réunions des Alcooliques anonymes.

They could connect that camera

Ils pourraient la connecter

to a face-surveillance algorithm and a database,

à un algorithme et une base de données de surveillance faciale,

press a button and sit back and collect

appuyer sur un bouton et collecter une liste

a record of every person receiving treatment for alcoholism.

de toutes les personnes sous traitement pour alcoolisme.

It would be just as easy for a government agency

Il serait facile pour une agence gouvernementale

to use this technology to automatically identify

d'utiliser cette technologie pour identifier automatiquement

every person who attended the Women's March

tous ceux ayant été à une marche des femmes

or a Black Lives Matter protest.

ou une manifestation Black Lives Matter.

Even the technology industry is aware of the gravity of this problem.

Même l'industrie technologique a conscience de la gravité de ce problème.

Microsoft's president Brad Smith has called on Congress to intervene.

Le président de Microsoft, Brad Smith, a appelé le Congrès à intervenir.

Google, for its part,

Google, de son côté,

has publicly declined to ship a face surveillance product,

a publiquement refusé de vendre un produit de surveillance faciale,

in part because of these grave human and civil rights concerns.

en partie du fait de ces sérieuses inquiétudes

pour les droits humains et civils.

And that's a good thing.

C'est une bonne chose.

Because ultimately,

Car au final,

protecting our open society is much more important

protéger notre société libre est bien plus important

than corporate profit.

que des profits commerciaux.

The ACLU's nationwide campaign

La campagne de l'Union américaine pour les libertés civiles

to get the government to pump the brakes

incitant le gouvernement à interrompre l'adoption de cette technologie dangereuse

on the adoption of this dangerous technology

has prompted reasonable questions from thoughtful people.

a suscité des questions raisonnables de la part de gens réfléchis.

What makes this technology in particular so dangerous?

Qu'est-ce qui fait que cette technologie en particulier est dangereuse ?

Why can't we just regulate it?

Pourquoi ne pas la réglementer ?

In short, why the alarm?

Bref, pourquoi tirer la sonnette d'alarme ?

Face surveillance is uniquely dangerous for two related reasons.

La surveillance faciale est particulièrement dangereuse

pour deux raisons connexes.

One is the nature of the technology itself.

Une est la nature de la technologie en elle-même.

And the second is that our system

La deuxième est qu'il manque à notre système

fundamentally lacks the oversight and accountability mechanisms

les mécanismes d'audit et de traçabilité

that would be necessary

qui seraient nécessaires

to ensure it would not be abused in the government's hands.

pour nous assurer que le gouvernement n'en abuse pas.

First, face surveillance enables a totalizing form of surveillance

Tout d'abord, la surveillance faciale permet une forme de surveillance totale

never before possible.

jamais vue jusqu'à présent.

Every single person's every visit to a friend's house,

Les visites de chacun à la maison d'un ami,

a government office,

à un bureau gouvernemental,

a house of worship,

à un lieu de culte,

a Planned Parenthood,

au planning familial,

a cannabis shop,

à un magasin vendant du cannabis,

a strip club;

à un club de strip-tease --

every single person's public movements, habits and associations

les déplacements, habitudes et fréquentations publics de chacun

documented and catalogued,

documentés et catalogués,

not on one day, but on every day,

pas au cours d'une journée, mais au quotidien,

merely with the push of a button.

simplement en appuyant sur un bouton.

This kind of totalizing mass surveillance

Ce genre de surveillance de masse

fundamentally threatens what it means to live in a free society.

menace fondamentalement la vie dans une société libre.

Our freedom of speech, freedom of association,

Notre liberté de parole, notre liberté d'association,

freedom of religion,

notre liberté religieuse,

freedom of the press,

notre liberté de la presse,

our privacy,

notre vie privée,

our right to be left alone.

notre droit d'être laissé tranquille.

You may be thinking,

Vous pensez peut-être :

"OK, come on, but there are tons of ways the government can spy on us."

« D'accord, mais le gouvernement peut nous espionner de tas de façons. »

And yes, it's true,

Oui, c'est vrai,

the government can track us through our cell phones,

le gouvernement peut nous localiser via nos téléphones,

but if I want to go to get an abortion,

mais si je veux avorter,

or attend a political meeting,

assister à une rencontre politique

or even just call in sick and play hooky and go to the beach ...

ou dire au travail que je suis malade,

faire l'école buissonnière et aller à la plage,

(Laughter)

(Rires)

I can leave my phone at home.

je peux laisser mon téléphone chez moi.

I cannot leave my face at home.

Je ne peux pas laisser mon visage chez moi.

And that brings me to my second primary concern:

Cela m'amène à ma seconde grande inquiétude :

How we might meaningfully regulate this technology.

comment réglementer efficacement cette technologie.

Today, if the government wants to know where I was last week,

Aujourd'hui, si un gouvernement veut savoir où j'étais la semaine dernière,

they can't just hop into a time machine and go back in time and follow me.

il ne peut pas sauter dans une machine à remonter le temps et me suivre.

And they also, the local police right now,

Actuellement, la police ne maintient pas de système de surveillance centralisé

don't maintain any centralized system of tracking,

where they're cataloging every person's public movements all the time,

où elle répertorie

les déplacements publics de chacun à tout moment,

just in case that information some day becomes useful.

juste au cas où cette information deviendrait un jour utile.

Today, if the government wants to know where I was last week,

Si le gouvernement veut savoir où j'étais la semaine dernière,

or last month or last year,

le mois dernier ou l'année dernière,

they have to go to a judge, get a warrant

il doit aller voir un juge, obtenir un mandat

and then serve that warrant on my phone company,

et présenter ce mandat à ma compagnie de téléphone,

which by the way, has a financial interest in protecting my privacy.

qui, au passage, a un intérêt financier à protéger ma vie privée.

With face surveillance,

Avec la surveillance faciale,

no such limitations exist.

de telles limitations n'existent pas.

This is technology that is 100 percent controlled by the government itself.

C'est une technologie entièrement contrôlée par le gouvernement.

So how would a warrant requirement work in this context?

Dans ce contexte, comment fonctionnerait la nécessité d'avoir un mandat ?

Is the government going to go to a judge

Le gouvernement ira-t-il voir un juge

and get a warrant,

pour obtenir un mandat

and then serve the warrant on themselves?

puis se présentera lui-même le mandat ?

That would be like me giving you my diary,

Ce serait comme vous donner mon journal intime

and saying, "Here, you can hold on to this forever,

et dire : « Vous pouvez le garder pour toujours,

but you can't read it until I say it's OK."

mais vous ne pouvez pas le lire sans mon autorisation. »

So what can we do?

Que pouvons-nous faire ?

The only answer to the threat

La seule réponse à la menace

posed by the government's use of face surveillance

que présente l'utilisation gouvernementale de la surveillance faciale

is to deny the government the capacity to violate the public's trust,

est de refuser au gouvernement la capacité de violer la confiance publique

by denying the government the ability

en refusant au gouvernement la capacité

to build these in-house face-surveillance networks.

de créer ces réseaux de surveillance faciale en interne.

And that's exactly what we're doing.

C'est exactement ce que nous faisons.

The ACLU is part of a nationwide campaign

L'Association américaine des libertés civiles

participe à une campagne pour mettre un stop

to pump the brakes on the government's use of this dangerous technology.

à l'utilisation gouvernementale de cette dangereuse technologie.

We've already been successful,

Nous avons connu des réussites,

from San Francisco to Somerville, Massachusetts,

de San Francisco à Somerville, dans le Massachusetts,

we have passed municipal bans

des interdictions municipales ont été adoptées

on the government's use of this technology.

quant à son utilisation.

And plenty of other communities here in Massachusetts

Nombre d'autres communautés ici, au Massachusetts,

and across the country

et à travers le pays

are debating similar measures.

débattent des mesures similaires.

Some people have told me that this movement is bound to fail.

Certaines personnes m'ont dit que ce mouvement était voué à l'échec.

That ultimately,

Finalement,

merely because the technology exists,

simplement car la technologie existe,

it will be deployed in every context

elle sera déployée dans tous les contextes

by every government everywhere.

et par tous les gouvernements, partout dans le monde.

Privacy is dead, right?

La vie privée est morte, non ?

So the narrative goes.

C'est ce que dit l'histoire.

Well, I refuse to accept that narrative.

Mais je refuse d'accepter cette histoire.

And you should, too.

Et vous devriez en faire de même.

We can't allow Jeff Bezos or the FBI

Nous ne pouvons pas permettre à Jeff Bezos ou au FBI

to determine the boundaries of our freedoms in the 21st century.

de déterminer les limites de nos libertés au XXIe siècle.

If we live in a democracy,

Si nous vivons dans une démocratie,

we are in the driver's seat,

nous tenons les rênes,

shaping our collective future.

nous façonnons notre avenir commun.

We are at a fork in the road right now.

Nous sommes actuellement à une croisée des chemins.

We can either continue with business as usual,

Nous pouvons poursuivre comme avant,

allowing governments to adopt and deploy these technologies unchecked,

permettant aux gouvernements d'adopter et de déployer ces technologies

in our communities, our streets and our schools,

en toute impunité

dans nos communautés, nos rues et nos écoles,

or we can take bold action now

ou nous pouvons prendre des mesures audacieuses maintenant

to press pause on the government's use of face surveillance,

pour mettre en pause

l'utilisation gouvernementale de la surveillance faciale,

protect our privacy

protéger notre vie privée

and to build a safer, freer future

et bâtir un avenir plus sûr et plus libre

for all of us.

pour nous tous.

Thank you.

Merci.

(Applause and cheers)

(Applaudissements et acclamations)