What you need to know about face surveillance | Kade Crockford

Traducător: Anamaria Gogu Corector: Bianca-Ioanidia Mirea

How many of you have ever heard someone say

Câți ați auzit pe cineva spunând că nu mai există intimitate?

privacy is dead?

Raise your hand.

Sus mâna!

How many of you have heard someone say

Câți ați auzit pe cineva spunând

they don't care about their privacy because they don't have anything to hide?

că nu le pasă de intimitatea lor pentru că nu au nimic de ascuns?

Go on.

Haideți!

(Laughter)

(Râsete)

Now, how many of you use any kind of encryption software?

Câți folosiți programe de criptare?

Raise your hand.

Sus mâna!

Or a password to protect an online account?

Sau o parolă la un cont online?

Sau perdele și jaluzele la geamurile de acasă?

Or curtains or blinds on your windows at home?

(Laughter)

(Râsete)

Bine, toți, cred.

OK, so that's everyone, I think.

(Râsete)

(Laughter)

So why do you do these things?

Așadar, de ce faceți asta?

Bănuiala mea e:

My guess is,

pentru că vă pasă de intimitatea voastră.

it's because you care about your privacy.

The idea that privacy is dead is a myth.

Ideea că intimitatea nu mai există e un mit.

The idea that people don't care about their privacy

Ideea că oamenilor nu le pasă de intimitatea lor

because "they have nothing to hide"

pentru că „n-au ce ascunde”

sau că n-au greșit cu nimic

or they've done nothing wrong

is also a myth.

este de asemenea un mit.

I'm guessing that you would not want to publicly share on the internet,

Bănuiesc că nu ai vrea să distribui public pe internet,

for the world to see,

ca toți să vadă,

all of your medical records.

tot istoricul tău medical.

Or your search histories from your phone or your computer.

Sau istoricul de căutare de pe telefon sau computer.

And I bet

Și pun pariu

that if the government wanted to put a chip in your brain

că dacă guvernul ar vrea să îți pună un cip în creier

to transmit every one of your thoughts to a centralized government computer,

care să-ți transmită toate gândurile către un computer al guvernului,

you would balk at that.

ai respinge ideea.

(Laughter)

(Râsete)

That's because you care about your privacy,

Pentru că îți pasă de intimitatea ta,

like every human being.

ca oricărui om.

So, our world has changed fast.

Deci, lumea noastră s-a schimbat rapid.

And today, there is understandably a lot of confusion

Iar azi e de înțeles că există multă confuzie

about what privacy is and why it matters.

despre ce e intimitatea și de ce contează.

Privacy is not secrecy.

Intimitatea nu este un secret.

It's control.

E o putere.

I share information with my doctor about my body and my health,

Împărtășesc informații cu doctorul despre corpul și sănătatea mea,

expecting that she is not going to turn around

așteptându-mă că nu va încerca

să împărtășească asta și cu părinții mei,

and share that information with my parents,

or my boss or my kids.

cu șeful sau copiii mei.

That information is private, not secret.

Aceste informații sunt confidențiale, nu secrete.

I'm in control over how that information is shared.

Eu dețin controlul asupra modului în care sunt împărtășite.

You've probably heard people say that there's a fundamental tension

Probabil ați auzit oameni spunând că există un conflict fundamental

between privacy on the one hand

între intimitate, pe de o parte,

and safety on the other.

și siguranță, pe de altă parte.

But the technologies that advance our privacy

Dar tehnologiile care promovează intimitatea

also advance our safety.

promovează și siguranța noastră.

Think about fences, door locks,

Gândiți-vă la garduri, încuietori de uși,

curtains on our windows, passwords,

perdele la geamurile noastre, parole,

programe de criptare.

encryption software.

All of these technologies

Toate tehnologiile acestea

simultaneously protect our privacy and our safety.

protejează simultan intimitatea și siguranța noastră.

Dragnet surveillance, on the other hand, protects neither.

Supravegherea electronică prin Dragnet nu protejează niciuna.

In recent years,

În ultimii ani,

the federal government tasked a group of experts

guvernul federal a însărcinat un grup de experți

called The Privacy and Civil Liberties Oversight Board

denumit Consiliul de Supraveghere al Vieții Private și Libertății Civile,

with examining post-9/11 government surveillance programs,

după atentatele din 11 septembrie, cu examinarea programelor e supraveghere

dragnet surveillance programs.

cum ar fi cele dragnet.

Those experts could not find a single example

Experții n-au găsit niciun exemplu

of that dragnet surveillance advancing any safety --

cum că supravegherea dragnet promovează siguranță,

didn't identify or stop a single terrorist attack.

n-a identificat sau oprit niciun atac terorist.

You know what that information was useful for, though?

Știți măcar la ce foloseau acele informații?

Helping NSA employees spy on their romantic interests.

Ajutau angajații NSA să spioneze idilele lor romantice.

(Laughter)

(Râsete)

(Audience: Wow.)

(Publicul: Wow!)

Another example is closer to home.

Un alt exemplu ne e mai cunoscut.

So millions of people across the United States and the world

Milioane de oameni din SUA și din lume

are adopting so-called "smart home" devices,

folosesc dispozitive inteligente pentru casă,

like internet-connected surveillance cameras.

precum camere de supraveghere conectate la internet.

But we know that any technology connected to the internet

Dar știm că orice tehnologie care e conectată la internet

can be hacked.

poate fi spartă.

And so if a hacker

Deci dacă un hacker

gets into your internet-connected surveillance camera at home,

accesează camerele de supraveghere conectate la internet,

they can watch you and your family coming and going,

te poate urmări pe tine și pe familia ta când veniți sau plecați,

finding just the right time to strike.

găsind momentul oportun să atace.

You know what can't be hacked remotely?

Știi ce nu pot fi sparte de la distanță?

Curtains.

Perdelele.

(Laughter)

(Râsete)

Fences.

Gardurile.

Încuietorile de la ușă.

Door locks.

(Râsete)

(Laughter)

Privacy is not the enemy of safety.

Intimitatea nu e inamicul siguranței.

It is its guarantor.

Este garantul acesteia.

Nonetheless, we daily face a propaganda onslaught

Totuși, zilnic ne confruntăm cu un atac propagandistic

telling us that we have to give up some privacy in exchange for safety

care ne spune să renunțăm la intimitate în schimbul siguranței,

through surveillance programs.

prin programe de supraveghere.

Face surveillance is the most dangerous of these technologies.

Cea mai periculoasă e însă supravegherea prin recunoaștere facială.

There are two primary ways today governments use technologies like this.

Există două moduri principale prin care guvernul folosește astfel de tehnologii.

Una e recunoașterea facială.

One is face recognition.

That's to identify someone in an image.

Identifică o persoană dintr-o imagine.

The second is face surveillance,

A doua e supravegherea prin recunoaștere facială,

which can be used in concert

folosită la concerte

with surveillance-camera networks and databases

prin rețele de supraveghere video și baze de date,

to create records of all people's public movements,

pentru a crea o evidență a mișcării publice a oamenilor,

habits and associations,

a obiceiurilor și prieteniilor lor,

effectively creating a digital panopticon.

creând astfel un panoptic digital.

This is a panopticon.

Asta e un panoptic.

It's a prison designed to allow a few guards in the center

Este o închisoare creată pentru a permite câtorva gardieni

să monitorizeze tot ce se întâmplă în celulele din jurul perimetrului.

to monitor everything happening in the cells around the perimeter.

The people in those prison cells can't see inside the guard tower,

Oamenii din celule nu văd în interiorul turnul de pază,

but the guards can see into every inch of those cells.

dar gardienii pot vedea fiecare centimetru din acele celule.

The idea here

Ideea este

is that if the people in those prison cells

că dacă oamenii din celule

know they're being watched all the time,

știu că sunt priviți mereu,

or could be,

sau că ar putea fi,

they'll behave accordingly.

se vor purta în consecință.

Similarly, face surveillance enables a centralized authority --

La fel, supravegherea prin recunoaștere facială permite unei autorități,

in this case, the state --

în cazul acesta, statul,

să monitorizeze totalitatea mișcărilor oamenilor

to monitor the totality of human movement and association

in public space.

în spațiile publice.

And here's what it looks like

Și așa arată în viața reală.

in real life.

In this case, it's not a guard in a tower,

În acest caz, nu este un paznic în turn,

but rather a police analyst in a spy center.

ci mai degrabă un analist al poliției într-un centru de spionaj.

The prison expands beyond its walls,

Închisoarea se extinde după ziduri,

encompassing everyone,

cuprinzând pe toată lumea,

everywhere, all the time.

peste tot, tot timpul.

In a free society,

Într-o societate liberă,

this should terrify us all.

asta ar trebui să ne sperie pe toți.

For decades now, we've watched cop shows

De zeci de ani am început să urmărim seriale polițiste

that push a narrative that says

care argumentează faptul că tehnologiile

technologies like face surveillance ultimately serve the public good.

precum supravegherea facială servesc binelui comun.

But real life is not a cop drama.

Dar viața reală nu e un serial polițist.

Nu e întotdeauna vina personajului negativ,

The bad guy didn't always do it,

polițiștii nu sunt mereu personajele pozitive,

the cops definitely aren't always the good guys

and the technology doesn't always work.

iar tehnologia nu funcționează mereu.

Take the case of Steve Talley,

Să luăm exemplul lui Steve Talley,

a financial analyst from Colorado.

un analist financiar din Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

În 2015 a fost arestat și acuzat de jefuirea unei bănci

on the basis of an error in a facial recognition system.

pe baza unei erori a sistemul de recunoaștere facială.

Talley fought that case

Talley i-a dat în judecată și în final a scăpat de acuzații,

and he eventually was cleared of those charges,

dar în timpul în care a fost persecutat de stat,

but while he was being persecuted by the state,

și-a pierdut casa, locul de muncă și copiii.

he lost his house, his job and his kids.

Steve Talley's case is an example

Cazul lui Steve Talley e un exemplu

of what can happen when the technology fails.

de ce se poate întâmpla când tehnologia eșuează.

But face surveillance is just as dangerous when it works as advertized.

Dar supravegherea facială e la fel de periculoasă și când e eficientă.

Just consider how trivial it would be

Imaginează-ți cât de banal ar fi

for a government agency to put a surveillance camera

ca o agenție guvernamentală să instaleze o cameră video

în afara unei clădiri destinate pentru Alcoolicii Anonimi.

outside a building where people meet for Alcoholics Anonymous meetings.

They could connect that camera

Pot conecta acea cameră

to a face-surveillance algorithm and a database,

la un algoritm cu recunoaștere facială și la o bază de date,

press a button and sit back and collect

apasă un buton și află astfel

a record of every person receiving treatment for alcoholism.

toate persoanele aflate sub tratament pentru alcoolism.

It would be just as easy for a government agency

Ar fi la fel de simplu pentru o agenție guvernamentală

to use this technology to automatically identify

să folosească tehnologia pentru a identifica automat

every person who attended the Women's March

cine a participat la Marșul Femeilor

or a Black Lives Matter protest.

sau la un protest Black Lives Matter.

Chiar și industria tehnologiei e conștientă de gravitatea problemei.

Even the technology industry is aware of the gravity of this problem.

Microsoft's president Brad Smith has called on Congress to intervene.

Președintele de la Microsoft, Brad Smith, a solicitat intervenția Congresului.

Google, la rândul său,

Google, for its part,

has publicly declined to ship a face surveillance product,

a refuzat public transmiterea unui produs cu astfel de supraveghere,

in part because of these grave human and civil rights concerns.

din cauza preocupărilor legate de drepturile omului și drepturile civile.

And that's a good thing.

Și este un lucru bun.

Because ultimately,

Pentru că în cele din urmă,

protecting our open society is much more important

protejarea societății noastre e mult mai importantă

decât profitul corporativ.

than corporate profit.

Campania națională ACLU de a opri guvernul să adopte

The ACLU's nationwide campaign

to get the government to pump the brakes

on the adoption of this dangerous technology

această tehnologie periculoasă

has prompted reasonable questions from thoughtful people.

a atras întrebări firești din partea oamenilor preocupați.

What makes this technology in particular so dangerous?

De ce e această tehnologie atât de periculoasă?

Why can't we just regulate it?

De ce n-o putem reglementa?

Pe scurt, de ce atâta agitație?

In short, why the alarm?

Face surveillance is uniquely dangerous for two related reasons.

Supravegherea prin recunoaștere facială e periculoasă din două motive.

One is the nature of the technology itself.

Primul motiv e natura tehnologiei.

And the second is that our system

Iar al doilea e că sistemului nostru

fundamentally lacks the oversight and accountability mechanisms

îi lipsește controlul și mecanismele de responsabilizare

that would be necessary

care sunt necesare

to ensure it would not be abused in the government's hands.

pentru a ne asigura că guvernul nu va abuza de ele.

First, face surveillance enables a totalizing form of surveillance

În primul rând, supravegherea facială permite o formă de supraveghere

never before possible.

ce nu a mai fost posibilă vreodată.

Toate vizitele unei persoane la prieteni,

Every single person's every visit to a friend's house,

a government office,

la o instituție,

a house of worship,

la un lăcaș de cult,

a Planned Parenthood,

la o clinică de avort,

a cannabis shop,

la un magazin de canabis,

a strip club;

la un club de striptease;

every single person's public movements, habits and associations

toate mișcările publice, obiceiurile și prieteniile fiecăruia,

documentate și catalogate,

documented and catalogued,

not on one day, but on every day,

nu doar o zi, ci zilnic,

merely with the push of a button.

cu doar o apăsare de buton.

This kind of totalizing mass surveillance

Acest tip de supraveghere în masă

amenință în mod fundamental ceea ce înseamnă o societate liberă.

fundamentally threatens what it means to live in a free society.

Our freedom of speech, freedom of association,

Libertatea noastră de exprimare, libertatea de asociere,

freedom of religion,

libertatea credinței,

freedom of the press,

libertatea presei,

our privacy,

intimitatea noastră,

our right to be left alone.

dreptul de a fi lăsați în pace.

You may be thinking,

Poate te gândești:

"OK, come on, but there are tons of ways the government can spy on us."

„Bun, dar există mii de moduri cu care guvernul ne poate spiona.”

And yes, it's true,

Și da, e adevărat,

the government can track us through our cell phones,

guvernul ne poate urmări prin telefoane,

dar dacă vreau să fac un avort,

but if I want to go to get an abortion,

or attend a political meeting,

sau să particip la o întrunire politică,

or even just call in sick and play hooky and go to the beach ...

sau doar să-mi iau concediu medical ca să pot juca hochei și să merg la plajă,

(Laughter)

(Râsete)

îmi pot lăsa telefonul acasă.

I can leave my phone at home.

Nu-mi pot lăsa fața acasă.

I cannot leave my face at home.

And that brings me to my second primary concern:

Ceea ce mă duce la a doua problemă principală:

How we might meaningfully regulate this technology.

cum putem reglementa această tehnologie.

Today, if the government wants to know where I was last week,

Azi, dacă guvernul vrea să știe unde am fost săptămâna trecută,

they can't just hop into a time machine and go back in time and follow me.

nu pot să călătorească în timp și să mă urmărească.

And they also, the local police right now,

Și de asemenea, în prezent poliția locală

don't maintain any centralized system of tracking,

nu deține un sistem centralizat de urmărire

where they're cataloging every person's public movements all the time,

prin care înregistrează mereu mișcările publice ale fiecărui om,

în caz că acea informație va fi cândva de folos.

just in case that information some day becomes useful.

Today, if the government wants to know where I was last week,

Azi, dacă guvernul vrea să știe unde am fost săptămâna trecută,

or last month or last year,

sau luna trecută sau anul trecut,

they have to go to a judge, get a warrant

trebuie să obțină un mandat de la judecător

and then serve that warrant on my phone company,

și să arate mandatul companiei mele telefonice,

which by the way, has a financial interest in protecting my privacy.

care, apropo, are un interes financiar în protejarea intimității mele.

Cu recunoașterea facială,

With face surveillance,

no such limitations exist.

nu mai există astfel de limite.

This is technology that is 100 percent controlled by the government itself.

E o tehnologie controlată 100% de guvern.

So how would a warrant requirement work in this context?

Deci, cum ar funcționa un mandat în acest context?

Is the government going to go to a judge

Va merge guvernul la un judecător

and get a warrant,

să ceară un mandat,

and then serve the warrant on themselves?

și apoi vor prezenta mandatul lor înșiși?

Ar fi ca și cum ți-aș da jurnalul meu și aș spune:

That would be like me giving you my diary,

and saying, "Here, you can hold on to this forever,

„Poți să-l păstrezi toată viața, dar nu-l poți citi până când zic eu.”

but you can't read it until I say it's OK."

Deci ce putem face?

So what can we do?

The only answer to the threat

Singurul răspuns la amenințarea

posed by the government's use of face surveillance

guvernului de a folosi supravegherea prin recunoaștere facială

is to deny the government the capacity to violate the public's trust,

e să nu permitem de la început ca guvernul să poată încălca încrederea cetățenilor,

by denying the government the ability

nepermițând guvernului

to build these in-house face-surveillance networks.

să construiască aceste rețele de supraveghere prin recunoaștere facială.

And that's exactly what we're doing.

Și asta e exact ce facem.

The ACLU is part of a nationwide campaign

ACLU face parte dintr-o campanie națională

to pump the brakes on the government's use of this dangerous technology.

de a împiedica guvernul să folosească această tehnologie periculoasă.

We've already been successful,

Am avut deja succes,

from San Francisco to Somerville, Massachusetts,

din San Francisco până în Somerville, Massachusetts,

we have passed municipal bans

am reușit să interzicem în orașe

on the government's use of this technology.

folosirea de către guvern a acestei tehnologii.

And plenty of other communities here in Massachusetts

Și multe comunități din Massachusetts

and across the country

și din toată țara

are debating similar measures.

dezbat măsuri similare.

Some people have told me that this movement is bound to fail.

Câțiva oameni mi-au spus că această mișcare va eșua.

That ultimately,

Că în final,

merely because the technology exists,

doar pentru că tehnologia există,

it will be deployed in every context

va fi folosită în orice context

by every government everywhere.

de către fiecare guvern, peste tot.

Intimitatea nu mai există, așa-i?

Privacy is dead, right?

So the narrative goes.

Așa se spune.

Ei bine, refuz să accept asta.

Well, I refuse to accept that narrative.

And you should, too.

Și la fel ar trebui și voi.

We can't allow Jeff Bezos or the FBI

Nu putem permite lui Jeff Bezos sau FBI-ului

să stabilească limitele libertății noastre în secolul XXI.

to determine the boundaries of our freedoms in the 21st century.

If we live in a democracy,

Dacă trăim în democrație,

we are in the driver's seat,

noi stăm pe locul șoferului,

shaping our collective future.

noi ne construim viitorul comun.

We are at a fork in the road right now.

Suntem la o răscruce de drumuri acum.

We can either continue with business as usual,

Putem continua la fel ca până acum,

allowing governments to adopt and deploy these technologies unchecked,

permițând guvernelor să adopte și să instaleze aceste tehnologii,

in our communities, our streets and our schools,

în comunitățile, străzile și în școlile noastre,

or we can take bold action now

sau putem acționa hotărât acum

to press pause on the government's use of face surveillance,

pentru a opri folosirea de către guverne a supravegherii prin recunoaștere facială,

protect our privacy

să ne protejăm intimitatea

și să ne construim un viitor mai sigur și mai liber

and to build a safer, freer future

for all of us.

pentru fiecare dintre noi.

Thank you.

Vă mulțumesc!

(Applause and cheers)

(Aplauze și urale)