What you need to know about face surveillance | Kade Crockford

Vertaald door: Peter van de Ven Nagekeken door: Oeds Eilander

How many of you have ever heard someone say

Wie van jullie hoort mensen zeggen dat privacy niet meer bestaat?

privacy is dead?

Raise your hand.

Steek je hand eens op.

How many of you have heard someone say

Wie van jullie heeft iemand horen zeggen

they don't care about their privacy because they don't have anything to hide?

dat hun privacy hen niks uitmaakt, omdat ze toch niks te verbergen hebben?

Go on.

Laat maar zien.

(Laughter)

(Gelach)

Now, how many of you use any kind of encryption software?

Wie van jullie gebruikt enige vorm van encryptiesoftware --

Raise your hand.

steek je hand op --

Or a password to protect an online account?

of een wachtwoord om een online account te beveiligen,

Or curtains or blinds on your windows at home?

of gordijnen of luxaflex voor je ramen thuis?

(Laughter)

(Gelach)

OK, so that's everyone, I think.

Nou, dat zijn we allemaal wel, denk ik.

(Laughter)

(Gelach)

So why do you do these things?

Waarom doe je dit soort dingen?

Een gokje:

My guess is,

omdat je graag wat privacy hebt.

it's because you care about your privacy.

The idea that privacy is dead is a myth.

Het idee dat privacy niet meer bestaat,

is een mythe.

The idea that people don't care about their privacy

Het idee dat mensen niet om hun privacy geven,

because "they have nothing to hide"

omdat ze 'niets te verbergen hebben' of omdat ze niets verkeerd doen,

or they've done nothing wrong

is also a myth.

is ook een mythe.

I'm guessing that you would not want to publicly share on the internet,

Volgens mij zou je niet op het internet willen openbaren --

for the world to see,

voor wie het maar wil zien --

all of your medical records.

wat je medische verleden is.

Or your search histories from your phone or your computer.

Of je historie van zoekopdrachten op je telefoon of computer.

And I bet

En ik durf te wedden

that if the government wanted to put a chip in your brain

dat als de regering een chip in je hoofd wilde stoppen

to transmit every one of your thoughts to a centralized government computer,

die al je gedachten naar een centrale computer zou sturen,

you would balk at that.

dat je zou protesteren.

(Laughter)

(Gelach)

That's because you care about your privacy,

Dat komt omdat je prijs stelt op je privacy,

like every human being.

zoals ieder menselijk wezen.

So, our world has changed fast.

Onze wereld is snel veranderd

And today, there is understandably a lot of confusion

en het is niet vreemd dat er behoorlijk wat verwarring is

about what privacy is and why it matters.

over wat privacy is en waarom het belangrijk is.

Privacy is not secrecy.

Privacy is geen geheimzinnigheid.

It's control.

Het is zeggenschap.

I share information with my doctor about my body and my health,

Ik geef informatie aan mijn dokter over mijn lichaam en mijn gezondheid,

expecting that she is not going to turn around

ervan uitgaande dat zij zich niet omdraait

and share that information with my parents,

en het allemaal aan mijn ouders laat weten,

or my boss or my kids.

of aan mijn baas of mijn kinderen.

That information is private, not secret.

Die informatie is privé, niet geheim.

I'm in control over how that information is shared.

Ik ben degene die bepaalt, wie over die informatie mag beschikken.

You've probably heard people say that there's a fundamental tension

Je hoort wellicht ook wel eens

dat er een spanningsveld bestaat tussen privacy enerzijds

between privacy on the one hand

and safety on the other.

en veiligheid anderzijds.

But the technologies that advance our privacy

Maar de technologieën die onze privacy ondersteunen,

also advance our safety.

ondersteunen ook onze veiligheid.

Think about fences, door locks,

Denk maar aan hekken,

sloten,

curtains on our windows, passwords,

gordijnen voor je ramen,

wachtwoorden,

encryption software.

encryptiesoftware.

All of these technologies

Al die technologieën beschermen simultaan onze privacy en onze veiligheid.

simultaneously protect our privacy and our safety.

Dragnet surveillance, on the other hand, protects neither.

Algehele surveillance echter beschermt geen van beide.

In recent years,

De afgelopen jaren

the federal government tasked a group of experts

belastte de Amerikaanse overheid een groep experts,

called The Privacy and Civil Liberties Oversight Board

The Privacy and Civil Liberties Oversight Board genaamd,

with examining post-9/11 government surveillance programs,

met de taak om de surveillanceprogramma's van na 9/11 te onderzoeken --

dragnet surveillance programs.

sleepnetsurveillanceprogramma's.

Those experts could not find a single example

Die experts konden geen enkel voorbeeld vinden

of that dragnet surveillance advancing any safety --

waarin zo'n sleepnetsurveillance de veiligheid had bevorderd --

didn't identify or stop a single terrorist attack.

geen enkele terroristische aanval werd ontdekt of voorkomen.

You know what that information was useful for, though?

Weet je waar die informatie wel handig voor was?

Helping NSA employees spy on their romantic interests.

Veiligheidsdienstmedewerkers hielden hun liefjes ermee in de gaten.

(Laughter)

(Gelach en gemompel)

(Audience: Wow.)

Another example is closer to home.

Dit voorbeeld staat dichter bij ons.

So millions of people across the United States and the world

Miljoenen mensen in de VS en in de wereld omarmen zogenaamde 'smart home'-apparaten,

are adopting so-called "smart home" devices,

like internet-connected surveillance cameras.

zoals op het internet aangesloten bewakingscamera's.

But we know that any technology connected to the internet

Maar we weten dat alle op het internet aangesloten technologieën

can be hacked.

gehackt kunnen worden.

And so if a hacker

Dus als een hacker via het internet op je bewakingscamera thuis inbreekt,

gets into your internet-connected surveillance camera at home,

they can watch you and your family coming and going,

dan kunnen ze op hun gemak jullie dagschema bekijken,

finding just the right time to strike.

zodat ze precies weten wanneer ze kunnen toeslaan.

You know what can't be hacked remotely?

Weet je wat ze niet op afstand kunnen hacken?

Curtains.

Gordijnen ...

(Laughter)

(Gelach)

Fences.

hekken ...

Door locks.

sloten.

(Laughter)

(Gelach)

Privacy is not the enemy of safety.

Privacy is niet de vijand van veiligheid.

It is its guarantor.

Het is er de borgsteller van.

Nonetheless, we daily face a propaganda onslaught

Desalniettemin ondergaan we dagelijks de propaganda

telling us that we have to give up some privacy in exchange for safety

die ons zegt dat we wat privacy moeten opgeven voor veiligheid

through surveillance programs.

door surveillanceprogramma's.

Face surveillance is the most dangerous of these technologies.

Gezichtssurveillance is de gevaarlijkste van deze technologieën.

There are two primary ways today governments use technologies like this.

Dit zijn de twee belangrijkste manieren waarop dit tegenwoordig wordt gebruikt.

One is face recognition.

De eerste is gezichtsherkenning --

That's to identify someone in an image.

het identificeren van iemand op een afbeelding.

The second is face surveillance,

De tweede is gezichtssurveillance,

which can be used in concert

wat gebruikt kan worden

in combinatie met databases en netwerken van surveillancecamera's

with surveillance-camera networks and databases

to create records of all people's public movements,

om ermee te registreren waar we ons allemaal begeven

habits and associations,

en wat onze gewoonten en relaties zijn --

effectively creating a digital panopticon.

feitelijk een digitaal panopticum.

This is a panopticon.

Dit is een panopticum.

It's a prison designed to allow a few guards in the center

Het is een gevangenis die zo is ontworpen

dat een paar bewakers in het midden in de gaten kunnen houden

to monitor everything happening in the cells around the perimeter.

wat er in de cellen eromheen gebeurt.

The people in those prison cells can't see inside the guard tower,

De mensen in de cellen kunnen niet in de bewakerstoren kijken,

but the guards can see into every inch of those cells.

maar de bewakers kunnen iedere centimeter in die cellen zien.

The idea here

Het gaat uit van het idee

is that if the people in those prison cells

dat als de mensen in die cellen weten dat ze voortdurend bekeken worden --

know they're being watched all the time,

or could be,

of dat het zou kunnen --

they'll behave accordingly.

dat ze zich dan zouden gedragen.

Similarly, face surveillance enables a centralized authority --

Evenzo biedt gezichtssurveillance mogelijkheden aan een centrale autoriteit,

in this case, the state --

in dit geval de staat,

to monitor the totality of human movement and association

om in het publieke domein ieders locatie en relaties te monitoren

in public space.

And here's what it looks like

En zo ziet dat eruit in de werkelijkheid.

in real life.

In this case, it's not a guard in a tower,

In dit geval is het niet een bewaker in een toren,

but rather a police analyst in a spy center.

maar een analist van de politie in een spionagecentrum.

The prison expands beyond its walls,

De gevangenis strekt zich uit tot buiten zijn muren

encompassing everyone,

en bestrijkt iedereen,

everywhere, all the time.

overal en altijd.

In a free society,

In een vrije maatschappij zou dit ons moeten doen griezelen.

this should terrify us all.

For decades now, we've watched cop shows

Al tientallen jaren kijken we naar politieprogramma's

that push a narrative that says

die het verhaal verkondigen

technologies like face surveillance ultimately serve the public good.

dat technologieën als gezichtssurveillance uiteindelijk de publieke zaak dienen.

But real life is not a cop drama.

Maar het echte leven is geen politieserie.

The bad guy didn't always do it,

De boef heeft het niet altijd gedaan,

the cops definitely aren't always the good guys

de politie staat zeker niet altijd aan de goede kant

and the technology doesn't always work.

en de technologie werkt niet altijd.

Take the case of Steve Talley,

Neem het geval van Steve Talley,

a financial analyst from Colorado.

een financieel analist uit Colorado.

In 2015 werd Talley gearresteerd en beschuldigd van bankroof

In 2015, Talley was arrested, and he was charged with bank robbery

on the basis of an error in a facial recognition system.

op basis van een fout in een gezichtsherkenningssysteem.

Talley fought that case

Talley vocht dat aan

en de aanklacht werd uiteindelijk ingetrokken,

and he eventually was cleared of those charges,

but while he was being persecuted by the state,

maar tijdens de procesgang

he lost his house, his job and his kids.

raakte hij zijn huis, baan en kinderen kwijt.

Steve Talley's case is an example

Deze zaak is een voorbeeld van wat er kan gebeuren

of what can happen when the technology fails.

als de technologie faalt.

But face surveillance is just as dangerous when it works as advertized.

Maar gezichtssurveillance is net zo eng als het wel werkt zoals bedoeld.

Just consider how trivial it would be

Bedenk eens hoe banaal het zou zijn,

for a government agency to put a surveillance camera

zou de overheid een surveillancecamera plaatsen

bij een gebouw waar de vereniging Anonieme Alcoholisten vergadert.

outside a building where people meet for Alcoholics Anonymous meetings.

They could connect that camera

Stel ze verbinden die camera

to a face-surveillance algorithm and a database,

met een database en een algoritme voor gezichtssurveillance,

press a button and sit back and collect

en met een druk op de knop

krijgen ze de gegevens van alle mensen die voor alcoholisme behandeld worden.

a record of every person receiving treatment for alcoholism.

It would be just as easy for a government agency

Het zou net zo simpel zijn voor de overheid

to use this technology to automatically identify

om met deze technologie automatisch vast te stellen

every person who attended the Women's March

wie er meededen aan de Woman's March

or a Black Lives Matter protest.

of een 'Black Lives Matter'-demonstratie.

Even the technology industry is aware of the gravity of this problem.

Zelfs de technologische industrie weet hoe zwaarwegend dit probleem is.

Microsoft's president Brad Smith has called on Congress to intervene.

De directeur van Microsoft, Brad Smith, heeft het Congress gevraagd in te grijpen.

Google, for its part,

Google heeft op haar beurt openbaar geweigerd

has publicly declined to ship a face surveillance product,

om software te leveren voor gezichtssurveillance,

in part because of these grave human and civil rights concerns.

onder meer vanwege deze zorgen over mensen- en burgerrechten.

And that's a good thing.

En dat is maar goed ook.

Because ultimately,

Want onze open maatschappij beschermen is uiteindelijk veel belangrijker

protecting our open society is much more important

than corporate profit.

dan bedrijfswinsten.

The ACLU's nationwide campaign

De campagne van de burgerrechtenbeweging om de overheid op de rem te laten trappen

to get the government to pump the brakes

on the adoption of this dangerous technology

inzake de acceptatie van deze gevaarlijk technologie,

has prompted reasonable questions from thoughtful people.

heeft verstandige mensen redelijke vragen ontlokt.

What makes this technology in particular so dangerous?

Wat maakt deze technologie nou precies zo gevaarlijk?

Why can't we just regulate it?

Kunnen we het niet gewoon reguleren?

Ofwel: vanwaar het alarm?

In short, why the alarm?

Face surveillance is uniquely dangerous for two related reasons.

Gezichtssurveillance is om twee redenen op een unieke manier gevaarlijk.

One is the nature of the technology itself.

Eén is de aard van de technologie zelf.

And the second is that our system

En de tweede is dat ons systeem

fundamentally lacks the oversight and accountability mechanisms

fundamenteel de toezicht- en aansprakelijkheidsmechanismen mist

that would be necessary

die nodig zouden zijn

to ensure it would not be abused in the government's hands.

om ervoor te zorgen dat de overheid het niet zou misbruiken.

First, face surveillance enables a totalizing form of surveillance

Om te beginnen maakt gezichtssurveillance een totale vorm van surveillance mogelijk

never before possible.

die we niet voor mogelijk hielden.

Elk bezoek van ieder persoon aan het huis van een vriend,

Every single person's every visit to a friend's house,

a government office,

een overheidsgebouw,

a house of worship,

een religieus gebouw,

a Planned Parenthood,

een abortuskliniek,

a cannabis shop,

een koffieshop,

a strip club;

een stripclub;

every single person's public movements, habits and associations

ieders publieke bewegingen, gewoonten en relaties

documented and catalogued,

gedocumenteerd en gecatalogiseerd,

not on one day, but on every day,

niet één dag, maar iedere dag,

merely with the push of a button.

met slechts één druk op de knop.

This kind of totalizing mass surveillance

Dit soort totale massasurveillance bedreigt fundamenteel

fundamentally threatens what it means to live in a free society.

wat wij een vrije samenleving noemen:

Our freedom of speech, freedom of association,

onze vrijheid van meningsuiting en vrijheid van vereniging,

freedom of religion,

vrijheid van godsdienst,

freedom of the press,

persvrijheid,

our privacy,

onze privacy,

our right to be left alone.

ons recht met rust gelaten te worden.

You may be thinking,

Nou denk je misschien:

"OK, come on, but there are tons of ways the government can spy on us."

maar er zijn zoveel manieren waarop de overheid ons kan bespioneren.

And yes, it's true,

En dat is waar.

the government can track us through our cell phones,

De overheid weet waar we zijn door onze telefoons, maar ...

but if I want to go to get an abortion,

als ik een abortus wil

or attend a political meeting,

of naar een politieke vergadering,

or even just call in sick and play hooky and go to the beach ...

of zelfs als ik me ziek meld en gewoon naar het strand ga ...

(Laughter)

(Gelach)

I can leave my phone at home.

dan kan ik mijn telefoon thuislaten.

I cannot leave my face at home.

Mijn gezicht kan ik niet thuislaten.

And that brings me to my second primary concern:

En dat brengt me bij mijn tweede belangrijke zorg:

How we might meaningfully regulate this technology.

hoe we deze technologie effectief kunnen reguleren.

Today, if the government wants to know where I was last week,

Als de overheid nu wil weten waar ik vorige week was,

they can't just hop into a time machine and go back in time and follow me.

kunnen ze niet zomaar in een tijdmachine stappen

en me even gaan volgen.

And they also, the local police right now,

En de lokale politie houdt op dit moment niet centraal bij waar mensen zijn,

don't maintain any centralized system of tracking,

where they're cataloging every person's public movements all the time,

waarbij ze ieders publieke bewegingen voortdurend documenteren,

just in case that information some day becomes useful.

voor het geval dat die informatie op een dag van pas kan komen.

Today, if the government wants to know where I was last week,

Als de overheid vandaag wil weten waar ik vorige week was,

or last month or last year,

of vorige maand of vorig jaar,

they have to go to a judge, get a warrant

dan moeten ze naar een rechter voor een machtiging,

and then serve that warrant on my phone company,

waarmee ze naar mijn telefoonprovider stappen --

which by the way, has a financial interest in protecting my privacy.

die trouwens een financieel belang heeft om mijn privacy te beschermen.

With face surveillance,

Met gezichtssurveillance

no such limitations exist.

bestaan zulke beperkingen niet.

This is technology that is 100 percent controlled by the government itself.

Dit is technologie die voor 100% in handen is van de overheid zelf.

So how would a warrant requirement work in this context?

En als je een machtiging in deze context verplicht zou stellen?

Is the government going to go to a judge

Gaat de overheid dan naar een rechter voor een machtiging,

and get a warrant,

die ze dan aan zichzelf voorleggen?

and then serve the warrant on themselves?

That would be like me giving you my diary,

Dat is alsof ik je mijn dagboek geef

and saying, "Here, you can hold on to this forever,

en zeg: 'Hier, je mag dit voor altijd houden,

but you can't read it until I say it's OK."

maar je mag het niet lezen tot ik zeg dat het mag.'

So what can we do?

Dus wat kunnen we doen?

The only answer to the threat

Het enige antwoord op de dreiging

posed by the government's use of face surveillance

die het gevaar van gezichtssurveillance door de overheid oplevert,

is to deny the government the capacity to violate the public's trust,

is de overheid de bevoegdheid te ontzeggen het publieke vertrouwen te schenden,

by denying the government the ability

door de overheid de bevoegdheid te ontzeggen

to build these in-house face-surveillance networks.

deze gezichtssurveillancenetwerken voor zichzelf te bouwen.

And that's exactly what we're doing.

En dat is precies wat we doen.

The ACLU is part of a nationwide campaign

De burgerrechtenbeweging is een landelijk initiatief

to pump the brakes on the government's use of this dangerous technology.

om de rem te zetten op het gebruik van deze technologie door de overheid.

We hebben al successen behaald.

We've already been successful,

from San Francisco to Somerville, Massachusetts,

Van San Francisco tot Somerville in Massachusetts

we have passed municipal bans

is het nu gemeentelijk verboden dat de overheid deze technologie gebruikt.

on the government's use of this technology.

En veel andere gemeenschappen in Massachusetts en doorheen het land

And plenty of other communities here in Massachusetts

and across the country

are debating similar measures.

overwegen ook zoiets te doen.

Some people have told me that this movement is bound to fail.

Sommigen zeggen dat deze beweging onvermijdelijk zal falen.

That ultimately,

Dat het uiteindelijk,

merely because the technology exists,

gewoon omdat de technologie er is,

it will be deployed in every context

in iedere context zal worden toegepast --

by every government everywhere.

door alle overheden en wel overal.

Privacy bestaat niet meer, toch?

Privacy is dead, right?

So the narrative goes.

Dat zegt men tenminste.

Well, I refuse to accept that narrative.

Nou, ik weiger dat te accepteren.

And you should, too.

Zou jij ook moeten doen.

We can't allow Jeff Bezos or the FBI

We kunnen het niet aan Jeff Bezos of de FBI overlaten

to determine the boundaries of our freedoms in the 21st century.

om voor ons de grenzen van onze vrijheid in de 21e eeuw te bepalen.

If we live in a democracy,

Als we in een democratie leven,

we are in the driver's seat,

maken wij zelf uit

shaping our collective future.

hoe onze toekomst eruitziet.

We are at a fork in the road right now.

We staan op een kruispunt hier.

We can either continue with business as usual,

We kunnen ofwel op dezelfde voet doorgaan

allowing governments to adopt and deploy these technologies unchecked,

en overheden toestaan deze technologieën ongecontroleerd in te zetten,

in our communities, our streets and our schools,

in onze gemeenschappen, in onze straten en scholen,

or we can take bold action now

of we kunnen nu actie ondernemen

to press pause on the government's use of face surveillance,

en het gebruik van gezichtssurveillance door de overheid stoppen,

protect our privacy

onze privacy beschermen

and to build a safer, freer future

en een veiligere, vrijere toekomst bouwen

for all of us.

voor ons allemaal.

Thank you.

Dankjewel.

(Applause and cheers)

(Applaus en gejuich)