What you need to know about face surveillance | Kade Crockford

Traduttore: Chiara Polesinanti Revisore: Nicoletta Pedrana

How many of you have ever heard someone say

Chi di voi ha mai sentito dire:

privacy is dead?

la privacy è morta?

Raise your hand.

Alzate la mano.

How many of you have heard someone say

Chi di voi ha mai sentito qualcuno dire

they don't care about their privacy because they don't have anything to hide?

di non essere preoccupato della privacy perché non ha nulla da nascondere?

Go on.

Forza.

(Laughter)

(Risate)

Now, how many of you use any kind of encryption software?

Ora, chi di voi usa un qualsiasi programma di criptazione?

Raise your hand.

Alzate la mano.

Or a password to protect an online account?

O una password per proteggere un account?

Or curtains or blinds on your windows at home?

O ha delle tende alle finestre di casa?

(Laughter)

(Risate)

OK, so that's everyone, I think.

Ok, direi tutti.

(Laughter)

(Risate)

So why do you do these things?

Allora, perché lo fate?

My guess is,

Immagino che sia perché vi interessa la vostra privacy.

it's because you care about your privacy.

The idea that privacy is dead is a myth.

L’idea che la privacy sia morta è una leggenda.

The idea that people don't care about their privacy

L’idea che alle persone non importi della propria privacy

because "they have nothing to hide"

perché “non hanno nulla da nascondere”,

or they've done nothing wrong

non hanno fatto nulla di sbagliato,

is also a myth.

anche questo è un mito.

I'm guessing that you would not want to publicly share on the internet,

Immagino che non vogliate condividere pubblicamente in internet,

for the world to see,

con tutto il mondo,

all of your medical records.

i vostri referti medici.

Or your search histories from your phone or your computer.

O la cronologia delle vostre ricerche fatte sul telefono o al computer.

And I bet

E scommetto che se il governo volesse mettere un chip nel vostro cervello

that if the government wanted to put a chip in your brain

to transmit every one of your thoughts to a centralized government computer,

per trasmettere ognuno dei vostri pensieri a un computer centrale del governo,

you would balk at that.

vi opporreste a tutto questo.

(Laughter)

(Risate)

That's because you care about your privacy,

Questo perché vi interessa la vostra privacy,

like every human being.

come a qualsiasi essere umano.

So, our world has changed fast.

Il nostro mondo è cambiato velocemente.

And today, there is understandably a lot of confusion

E oggi, c’è comprensibilmente una grande confusione

about what privacy is and why it matters.

su cosa sia la privacy e perché sia importante.

Privacy is not secrecy.

La privacy non è segretezza.

It's control.

È controllo.

I share information with my doctor about my body and my health,

Io condivido con il mio dottore informazioni sul mio corpo, la mia salute,

expecting that she is not going to turn around

aspettandomi che non vada in giro a raccontarle ai miei genitori

and share that information with my parents,

or my boss or my kids.

o al mio capo o ai miei figli.

That information is private, not secret.

Quelle sono informazioni private, non segrete.

I'm in control over how that information is shared.

Ho io il controllo su come vengono condivise.

You've probably heard people say that there's a fundamental tension

Avrete probabilmente sentito la gente dire che c’è una tensione fondamentale

between privacy on the one hand

tra la privacy da una parte e la sicurezza dall'altra.

and safety on the other.

But the technologies that advance our privacy

Ma quelle tecnologie che favoriscono la privacy

also advance our safety.

favoriscono anche la sicurezza.

Think about fences, door locks,

Pensate ai cancelli, le serrature, le tende alle finestre,

curtains on our windows, passwords,

le password, i programmi di criptaggio.

encryption software.

All of these technologies

Tutte queste tecnologie

simultaneously protect our privacy and our safety.

proteggono simultaneamente la nostra privacy e la nostra sicurezza.

Dragnet surveillance, on the other hand, protects neither.

Una sorveglianza di massa, invece, non protegge nessuna delle due.

In recent years,

Negli ultimi anni,

the federal government tasked a group of experts

il governo federale ha incaricato un gruppo di esperti,

called The Privacy and Civil Liberties Oversight Board

The Privacy and Civil Liberties Oversight Board,

with examining post-9/11 government surveillance programs,

di esaminare i programmi di sorveglianza successivi all’11 settembre,

dragnet surveillance programs.

i programmi di sorveglianza di massa.

Those experts could not find a single example

Questi esperti non sono riusciti a trovare un solo esempio

of that dragnet surveillance advancing any safety --

di miglioramento della sicurezza da parte di quella rete di sorveglianza:

didn't identify or stop a single terrorist attack.

non ha identificato o fermato un solo attacco terroristico.

You know what that information was useful for, though?

Sapete quelle informazioni in cosa sono state utili, però?

Helping NSA employees spy on their romantic interests.

Nell’aiutare i dipendenti dell’NSA a spiare per i propri interessi amorosi.

(Laughter)

(Risate)

(Audience: Wow.)

(Pubblico: Wow)

Another example is closer to home.

Un altro esempio ci tocca più da vicino.

So millions of people across the United States and the world

Milioni di persone negli Stati Uniti e nel mondo

are adopting so-called "smart home" devices,

stanno scegliendo apparecchi per una casa domotica,

like internet-connected surveillance cameras.

come telecamere di sorveglianza connesse a internet.

But we know that any technology connected to the internet

Ma noi sappiamo che ogni tecnologia connessa a internet può essere hackerata.

can be hacked.

And so if a hacker

E così, un hacker

potrebbe entrare nella vostra telecamera di sorveglianza connessa a internet,

gets into your internet-connected surveillance camera at home,

they can watch you and your family coming and going,

guardare voi e la vostra famiglia andare e venire,

finding just the right time to strike.

e individuare il momento migliore in cui colpire.

You know what can't be hacked remotely?

Sapete cosa si può hackerare da remoto?

Curtains.

Tende.

(Laughter)

(Risate)

Fences.

Recinzioni.

Door locks.

Serrature.

(Laughter)

(Risate)

Privacy is not the enemy of safety.

La privacy non è il nemico della sicurezza.

It is its guarantor.

È il suo garante.

Nonetheless, we daily face a propaganda onslaught

Ciononostante, ogni giorno siamo esposti a un assalto propagandistico

telling us that we have to give up some privacy in exchange for safety

che ci dice che dobbiamo rinunciare a un po’ di privacy

in cambio della sicurezza,

through surveillance programs.

attraverso i programmi di sorveglianza.

Face surveillance is the most dangerous of these technologies.

La sorveglianza facciale è la più pericolosa di queste tecnologie.

There are two primary ways today governments use technologies like this.

Ci sono due modi principali, oggi, in cui i governi usano tecnologie come questa.

One is face recognition.

Uno è il riconoscimento facciale,

ossia l’identificazione di una persona in una immagine.

That's to identify someone in an image.

The second is face surveillance,

Il secondo è la sorveglianza facciale,

which can be used in concert

che può essere usata,

insieme alla rete e al database delle videocamere di sorveglianza,

with surveillance-camera networks and databases

to create records of all people's public movements,

per creare archivi di tutti i movimenti,

le abitudini e le associazioni di tutti noi,

habits and associations,

effectively creating a digital panopticon.

creando di fatto un panopticon digitale.

This is a panopticon.

Ecco cos'è un panopticon.

It's a prison designed to allow a few guards in the center

È una prigione progettata per consentire alle poche guardie al centro

to monitor everything happening in the cells around the perimeter.

di osservare tutto quello che accade nelle celle attorno al perimetro.

The people in those prison cells can't see inside the guard tower,

I prigionieri nelle celle non riescono a vedere dentro alla torre di guardia,

but the guards can see into every inch of those cells.

ma le guardie possono vedere ogni centimetro all’interno di tutte le celle.

The idea here

L'idea è che se le persone in quelle celle sanno di essere osservate tutto il tempo,

is that if the people in those prison cells

know they're being watched all the time,

or could be,

o che potrebbero esserlo,

they'll behave accordingly.

si comporteranno di conseguenza.

Similarly, face surveillance enables a centralized authority --

Allo stesso modo, la sorveglianza facciale consente a un’autorità centrale --

in this case, the state --

in questo caso, lo Stato --

di osservare continuamente la totalità dei movimenti e delle associazioni

to monitor the totality of human movement and association

in public space.

sul suolo pubblico.

Ed ecco cosa succede nella vita reale.

And here's what it looks like

in real life.

In this case, it's not a guard in a tower,

In questo caso, non si tratta di una guardia in una torre,

but rather a police analyst in a spy center.

ma piuttosto di un analista della polizia in un centro di spionaggio.

The prison expands beyond its walls,

La prigione si espande oltre le proprie mura,

encompassing everyone,

includendo chiunque, dovunque, tutto il tempo.

everywhere, all the time.

In a free society,

In una società libera,

this should terrify us all.

questo dovrebbe terrorizzarci tutti quanti.

For decades now, we've watched cop shows

Sono decenni ormai che vediamo polizieschi

that push a narrative that says

che spacciano una narrazione

secondo cui tecnologie come la sorveglianza facciale,

technologies like face surveillance ultimately serve the public good.

in sostanza, servono il bene pubblico.

But real life is not a cop drama.

Ma la vita reale non è un film poliziesco.

The bad guy didn't always do it,

Non sempre è stato il cattivo.

the cops definitely aren't always the good guys

I poliziotti, di sicuro, non sempre sono i buoni

and the technology doesn't always work.

e la tecnologia non sempre funziona.

Take the case of Steve Talley,

Prendiamo il caso di Steve Talley, un analista finanziario del Colorado.

a financial analyst from Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

Nel 2015, Talley fu arrestato, e accusato per una rapina in banca

on the basis of an error in a facial recognition system.

in base a un errore in un sistema di riconoscimento facciale.

Talley fought that case

Talley si batté in quel caso e alla fine fu assolto dalle accuse,

and he eventually was cleared of those charges,

but while he was being persecuted by the state,

ma, mentre veniva perseguito dallo Stato, perse la casa, il lavoro e i figli.

he lost his house, his job and his kids.

Steve Talley's case is an example

Il caso di Steve Talley è un esempio di ciò che può accadere

of what can happen when the technology fails.

quando la tecnologia non funziona.

Ma la sorveglianza facciale è altrettanto pericolosa

But face surveillance is just as dangerous when it works as advertized.

quando funziona come pubblicizzato.

Just consider how trivial it would be

Pensiamo solo come sarebbe semplice, per un’agenzia governativa,

for a government agency to put a surveillance camera

mettere una telecamera di sorveglianza fuori da un edificio

outside a building where people meet for Alcoholics Anonymous meetings.

dove si svolgono incontri dell’Alcolisti Anonimi.

Potrebbero connettere quelle telecamere

They could connect that camera

to a face-surveillance algorithm and a database,

a un algoritmo di sorveglianza facciale e a un database,

press a button and sit back and collect

premere un bottone, mettersi comodi,

a record of every person receiving treatment for alcoholism.

e raccogliere un registro di tutti quelli in terapia per alcolismo.

It would be just as easy for a government agency

Sarebbe altrettanto facile per un’agenzia governativa

to use this technology to automatically identify

usare questa tecnologia per identificare automaticamente

every person who attended the Women's March

chiunque partecipi a una Marcia delle Donne

or a Black Lives Matter protest.

o a una protesta del Movimento “Black Lives Matter”.

Even the technology industry is aware of the gravity of this problem.

Anche il settore tecnologico è consapevole della serietà di questo problema.

Microsoft's president Brad Smith has called on Congress to intervene.

Il presidente di Microsoft, Brad Smith, ha chiesto al Congresso di intervenire.

Google, for its part,

Google, da parte sua,

has publicly declined to ship a face surveillance product,

ha declinato pubblicamente l'incarico per un prodotto di sorveglianza facciale,

in part because of these grave human and civil rights concerns.

in parte per queste serie preoccupazioni relative ai diritti umani e civili.

And that's a good thing.

E questa è un’ottima cosa.

Because ultimately,

Perché dopotutto,

protecting our open society is much more important

proteggere la nostra società aperta è molto più importante

del profitto aziendale.

than corporate profit.

The ACLU's nationwide campaign

La campagna nazionale della ACLU

to get the government to pump the brakes

per convincere il governo a frenare

on the adoption of this dangerous technology

sull’adozione di questa tecnologia pericolosa

has prompted reasonable questions from thoughtful people.

ha indotto le persone attente a porre domande ragionevoli:

What makes this technology in particular so dangerous?

Cosa rende queste tecnologie in particolare, così pericolose?

Why can't we just regulate it?

Perché non si può semplicemente regolamentarle?

In short, why the alarm?

In breve, perché tanta preoccupazione?

Face surveillance is uniquely dangerous for two related reasons.

La sorveglianza facciale è pericolosa, in modo unico, per due motivi correlati:

One is the nature of the technology itself.

la natura della tecnologia stessa,

And the second is that our system

e inoltre il nostro sistema

fundamentally lacks the oversight and accountability mechanisms

manca sostanzialmente dei meccanismi di supervisione e responsabilità

that would be necessary

che sarebbero necessari

to ensure it would not be abused in the government's hands.

per assicurare che non se ne faccia cattivo uso nelle mani del governo.

First, face surveillance enables a totalizing form of surveillance

La sorveglianza facciale rende possibile una forma totalizzante di controllo

never before possible.

prima impossibile.

Every single person's every visit to a friend's house,

Ogni visita di ogni singola persona a casa di un amico,

a government office,

a un ufficio governativo,

a house of worship,

a un luogo di culto,

a Planned Parenthood,

a un Centro di Genitorialità Pianificata,

a cannabis shop,

un cannabis shop,

a strip club;

uno strip-club;

every single person's public movements, habits and associations

i movimenti pubblici di ogni singola persona, le abitudini e le associazioni,

documented and catalogued,

documentati e catalogati,

not on one day, but on every day,

non per un giorno, ma tutti i giorni,

merely with the push of a button.

semplicemente premendo un bottone.

This kind of totalizing mass surveillance

Questo tipo di sorveglianza totalizzante di massa

fundamentally threatens what it means to live in a free society.

minaccia alla base il significato del vivere in una società libera.

Our freedom of speech, freedom of association,

La nostra libertà di parola, libertà di associazione,

freedom of religion,

libertà di culto,

freedom of the press,

libertà di stampa,

our privacy,

la nostra privacy,

our right to be left alone.

il nostro diritto di essere lasciati in pace.

You may be thinking,

E forse pensate:

"OK, come on, but there are tons of ways the government can spy on us."

“Ok, ma dai, ci sono un sacco di modi in cui il governo può spiarci”.

And yes, it's true,

Ed è vero,

the government can track us through our cell phones,

il governo può tracciarci attraverso i nostri cellulari,

ma, se volessi andare ad abortire,

but if I want to go to get an abortion,

or attend a political meeting,

o partecipare a un incontro politico,

or even just call in sick and play hooky and go to the beach ...

o anche solo darmi malata e bigiare e andare al mare ...

(Laughter)

(Risate)

I can leave my phone at home.

potrei sempre lasciare il mio telefono a casa.

I cannot leave my face at home.

Ma non posso lasciare la mia faccia a casa.

And that brings me to my second primary concern:

E questo mi porta all'altra grande preoccupazione:

How we might meaningfully regulate this technology.

come si può regolamentare, in modo significativo, questa tecnologia.

Today, if the government wants to know where I was last week,

Oggi, se un governo vuole sapere dov’ero la scorsa settimana,

they can't just hop into a time machine and go back in time and follow me.

non può saltare in una macchina del tempo, tornare indietro nel tempo e seguirmi.

And they also, the local police right now,

Inoltre, la polizia locale, in questo momento,

don't maintain any centralized system of tracking,

non gestisce nessun sistema di tracciamento centralizzato,

where they're cataloging every person's public movements all the time,

con cui catalogare costantemente i movimenti pubblici di ogni persona,

just in case that information some day becomes useful.

giusto in caso quelle informazioni possano un giorno rivelarsi utili.

Today, if the government wants to know where I was last week,

Oggi, se il governo vuole sapere dov’ero la scorsa settimana,

or last month or last year,

o il mese scorso o l’anno scorso,

they have to go to a judge, get a warrant

deve andare da un giudice, ottenere un mandato

and then serve that warrant on my phone company,

e poi notificarlo al mio gestore telefonico,

which by the way, has a financial interest in protecting my privacy.

che, tra parentesi, ha l'interesse economico di proteggere la mia privacy.

With face surveillance,

Con la sorveglianza facciale,

no such limitations exist.

queste limitazioni non esistono.

This is technology that is 100 percent controlled by the government itself.

Questa è una tecnologia controllata al 100% dal governo stesso.

So how would a warrant requirement work in this context?

Come funzionerebbe, in questo caso, il requisito del mandato?

Is the government going to go to a judge

Il governo andrebbe da un giudice

and get a warrant,

e otterrebbe un mandato,

and then serve the warrant on themselves?

e poi notificherebbe il mandato a sé stesso?

That would be like me giving you my diary,

Sarebbe come se io vi dessi il mio diario,

and saying, "Here, you can hold on to this forever,

e vi dicessi: “Ecco, potete tenerlo per sempre,

but you can't read it until I say it's OK."

ma non potete leggerlo finché non vi darò il premesso”.

So what can we do?

Allora, cosa si può fare?

The only answer to the threat

L’unica risposta alla minaccia

posed by the government's use of face surveillance

posta dall’uso da parte del governo della sorveglianza facciale

is to deny the government the capacity to violate the public's trust,

è quella di negare al governo la capacità di violare la fiducia del pubblico,

by denying the government the ability

negando al governo la capacità

to build these in-house face-surveillance networks.

di costruire queste reti interne di sorveglianza facciale.

And that's exactly what we're doing.

Ed è esattamente quello che stiamo facendo.

The ACLU is part of a nationwide campaign

La ACLU è parte di una campagna nazionale

to pump the brakes on the government's use of this dangerous technology.

per frenare l’uso da parte del governo di queste tecnologie pericolose.

We've already been successful,

Siamo già riusciti,

from San Francisco to Somerville, Massachusetts,

da San Franciso a Sommerville, nel Massachusetts,

we have passed municipal bans

a far approvare divieti comunali

on the government's use of this technology.

sull’uso di questa tecnologia da parte del governo.

And plenty of other communities here in Massachusetts

E molte altre comunità, qui in Massachusetts,

and across the country

e in tutto il paese,

are debating similar measures.

stanno discutendo misure simili.

Some people have told me that this movement is bound to fail.

Qualcuno mi ha detto

che questo movimento è destinato a fallire.

That ultimately,

Che in definitiva,

merely because the technology exists,

per il semplice fatto che questa tecnologia esiste,

it will be deployed in every context

verrà impiegata in ogni contesto

by every government everywhere.

da tutti i governi, dappertutto.

Privacy is dead, right?

La privacy è morta, giusto?

So the narrative goes.

Così è, come ci dice la storia.

Well, I refuse to accept that narrative.

Ma io mi rifiuto di accettare questa storia.

And you should, too.

E dovreste farlo anche voi.

We can't allow Jeff Bezos or the FBI

Non possiamo permettere a Jeff Bezos o all’FBI

to determine the boundaries of our freedoms in the 21st century.

di stabilire i limiti delle nostre libertà nel ventunesimo secolo.

If we live in a democracy,

Se viviamo in una democrazia,

we are in the driver's seat,

siamo noi alla guida,

shaping our collective future.

a modellare il nostro futuro collettivo.

We are at a fork in the road right now.

Ci troviamo a un bivio.

We can either continue with business as usual,

Possiamo continuare a fare affari come al solito,

allowing governments to adopt and deploy these technologies unchecked,

permettendo ai governi di adottare, schierare queste tecnologie, senza freni,

in our communities, our streets and our schools,

nelle nostre comunità, nelle nostre strade, nelle nostre scuole,

or we can take bold action now

oppure,

possiamo agire con coraggio ora,

per mettere in pausa l'uso da parte del governo della sorveglianza facciale,

to press pause on the government's use of face surveillance,

protect our privacy

proteggere la nostra privacy

and to build a safer, freer future

e costruire un futuro più sicuro e più libero

for all of us.

per tutti noi.

Thank you.

Grazie.

(Applause and cheers)

(Applausi)