What you need to know about face surveillance | Kade Crockford

Tradutor: Leori de Camargo Jr. Revisor: Raissa Mendes

How many of you have ever heard someone say

Quantos de vocês já ouviram dizer que a privacidade está morta?

privacy is dead?

Raise your hand.

Levantem a mão.

How many of you have heard someone say

Quantos de vocês já ouviram alguém dizer

they don't care about their privacy because they don't have anything to hide?

que não se importam com privacidade, pois não têm nada a esconder?

Go on.

Vamos lá.

(Laughter)

Quantos de vocês usam algum tipo de software criptografado?

Now, how many of you use any kind of encryption software?

Raise your hand.

Levantem a mão.

Or a password to protect an online account?

Ou senha pra proteger uma conta on-line?

Or curtains or blinds on your windows at home?

Cortinas ou persianas nas janelas em casa?

(Laughter)

(Risos)

OK, so that's everyone, I think.

Tá bem, acho que todo mundo.

(Laughter)

(Risos)

So why do you do these things?

Por que vocês fazem isso?

My guess is,

Acho que é porque se importam com sua privacidade.

it's because you care about your privacy.

The idea that privacy is dead is a myth.

A ideia de que a privacidade está morta é um mito.

The idea that people don't care about their privacy

E a que as pessoas não se importam com a própria privacidade

because "they have nothing to hide"

porque não têm "nada a esconder" ou não fizeram nada de errado

or they've done nothing wrong

is also a myth.

também é.

I'm guessing that you would not want to publicly share on the internet,

Acho que nenhum de vocês gostaria de compartilhar na internet,

for the world to see,

para o mundo inteiro ver,

all of your medical records.

sua ficha médica,

Or your search histories from your phone or your computer.

ou o histórico de busca no seu telefone ou computador.

And I bet

E aposto que, se o governo quisesse implantar um chip em seu cérebro

that if the government wanted to put a chip in your brain

to transmit every one of your thoughts to a centralized government computer,

para transmitir todos seus pensamentos a uma central de informações,

you would balk at that.

vocês relutariam.

(Laughter)

(Risos)

That's because you care about your privacy,

Pois vocês se importam com sua privacidade,

like every human being.

como qualquer ser humano.

So, our world has changed fast.

O mundo tem mudado rápido.

And today, there is understandably a lot of confusion

E hoje, compreensivelmente, há muita discussão

about what privacy is and why it matters.

sobre o que é privacidade e por que ela é importante.

Privacy is not secrecy.

Privacidade não é segredo,

It's control.

é controle.

I share information with my doctor about my body and my health,

Compartilho, com minha médica, informações sobre meu corpo e minha saúde,

expecting that she is not going to turn around

esperando que ela não irá sair e compartilhá-las com meus pais,

and share that information with my parents,

or my boss or my kids.

meu chefe ou meus filhos.

That information is private, not secret.

Essas informações são particulares, não secretas.

I'm in control over how that information is shared.

Eu controlo como essas informações são compartilhadas.

You've probably heard people say that there's a fundamental tension

Vocês já devem ter ouvido falar que há uma tensão

between privacy on the one hand

entre privacidade, de um lado,

and safety on the other.

e segurança, do outro.

But the technologies that advance our privacy

Mas as tecnologias que melhoram nossa privacidade

also advance our safety.

também aumentam nossa segurança.

Think about fences, door locks,

Pensem em cercas, portas, fechaduras,

curtains on our windows, passwords,

cortinas nas janelas, senhas,

encryption software.

softwares codificados.

All of these technologies

Tudo isso

simultaneously protect our privacy and our safety.

protege nossa privacidade e segurança simultaneamente.

Dragnet surveillance, on the other hand, protects neither.

A vigilância dragnet, por outro lado, não protege nenhuma das duas.

In recent years,

Nos últimos anos, o governo federal designou um grupo de peritos,

the federal government tasked a group of experts

called The Privacy and Civil Liberties Oversight Board

chamado The Privacy and Civil Liberties Oversight Board,

with examining post-9/11 government surveillance programs,

para examinar programas do governo pós-11 de setembro,

dragnet surveillance programs.

programas de vigilância dragnet.

Those experts could not find a single example

Os peritos não conseguiram encontrar um único exemplo

of that dragnet surveillance advancing any safety --

da vigilância dragnet melhorando segurança alguma;

didn't identify or stop a single terrorist attack.

não identificaram nem impediram um único ataque terrorista.

You know what that information was useful for, though?

Sabem para que a informação foi útil?

Helping NSA employees spy on their romantic interests.

Ajudar funcionários da NSA a espiar a vida amorosa das pessoas.

(Laughter)

(Risos)

(Audience: Wow.)

Another example is closer to home.

Outro exemplo é mais perto de casa.

So millions of people across the United States and the world

Milhões de pessoas nos EUA e no mundo estão adotando

are adopting so-called "smart home" devices,

os tais aparelhos "smart home",

like internet-connected surveillance cameras.

tipo câmeras de vigilância conectadas à internet.

But we know that any technology connected to the internet

Mas sabemos que qualquer tecnologia com conexão à internet

can be hacked.

pode ser hackeada.

And so if a hacker

Então, se um hacker

gets into your internet-connected surveillance camera at home,

acessa a câmera de vigilância de sua casa, conectada à internet,

they can watch you and your family coming and going,

ele pode observar você e sua família indo e vindo,

finding just the right time to strike.

e só esperar o momento certo para dar o bote.

You know what can't be hacked remotely?

Sabem o que não pode ser hackeado remotamente?

Curtains.

Cortinas.

(Laughter)

(Risos)

Fences.

Cercas.

Door locks.

Fechaduras.

(Laughter)

Privacy is not the enemy of safety.

A privacidade não é inimiga da segurança,

It is its guarantor.

é sua garantidora.

Nonetheless, we daily face a propaganda onslaught

Contudo, enfrentamos diariamente um discurso

telling us that we have to give up some privacy in exchange for safety

dizendo que devemos abrir mão da privacidade em troca de segurança

through surveillance programs.

por meio de programas de vigilância.

Face surveillance is the most dangerous of these technologies.

A vigilância facial é a mais perigosa de todas.

There are two primary ways today governments use technologies like this.

Hoje, os governos utilizam tecnologias de duas maneiras básicas.

One is face recognition.

Uma é o reconhecimento facial,

That's to identify someone in an image.

que reconhece pessoas em uma imagem.

The second is face surveillance,

A segunda é a vigilância facial,

which can be used in concert

que pode ser usada ao vivo

with surveillance-camera networks and databases

com redes de câmeras de vigilância e bancos de dados

to create records of all people's public movements,

para criar registros de todos os movimentos em público das pessoas,

habits and associations,

seus hábitos e associações,

effectively creating a digital panopticon.

criando efetivamente um panóptico digital.

This is a panopticon.

Isso aqui é um panóptico.

It's a prison designed to allow a few guards in the center

É uma prisão projetada para permitir que alguns guardas no centro

to monitor everything happening in the cells around the perimeter.

monitorem tudo o que acontece nas celas no perímetro.

The people in those prison cells can't see inside the guard tower,

Quem está nas celas não enxerga dentro da torre de vigilância,

but the guards can see into every inch of those cells.

mas os guardas enxergam cada centímetro das celas.

The idea here

A ideia aqui

is that if the people in those prison cells

é que, se as pessoas nas celas sabem

know they're being watched all the time,

que estão sendo vigiadas o tempo todo,

or could be,

ou podem estar sendo,

they'll behave accordingly.

irão se comportar bem.

Similarly, face surveillance enables a centralized authority --

Da mesma maneira, a vigilância facial permite que uma autoridade centralizada,

in this case, the state --

nesse caso o estado,

to monitor the totality of human movement and association

monitore todos os movimentos e associações humanas

in public space.

no espaço público.

And here's what it looks like

E é assim que parece na vida real.

in real life.

In this case, it's not a guard in a tower,

Aqui, não é um guarda em uma torre,

but rather a police analyst in a spy center.

mas um analista de polícia em uma central de espionagem.

The prison expands beyond its walls,

A prisão se estende para além das paredes,

encompassing everyone,

abrangendo a todos,

everywhere, all the time.

em todo lugar, o tempo todo.

In a free society,

Em uma sociedade livre,

this should terrify us all.

isso deveria aterrorizar a todos nós.

For decades now, we've watched cop shows

Há décadas assistimos a programas policiais

that push a narrative that says

forçando a narrativa

technologies like face surveillance ultimately serve the public good.

de que tecnologias como a vigilância facial são para o bem das pessoas.

But real life is not a cop drama.

Mas a vida real não é uma série policial.

The bad guy didn't always do it,

O vilão nem sempre cometeu o crime,

the cops definitely aren't always the good guys

os policiais certamente nem sempre são os mocinhos,

and the technology doesn't always work.

e a tecnologia nem sempre funciona.

Take the case of Steve Talley,

Vejam o caso de Steve Talley,

a financial analyst from Colorado.

um analista financeiro do Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

Em 2015, ele foi preso acusado de roubo a banco

on the basis of an error in a facial recognition system.

com base em um erro no sistema de reconhecimento facial.

Talley fought that case

Ele lutou em sua defesa e, no fim, foi absolvido das acusações;

and he eventually was cleared of those charges,

but while he was being persecuted by the state,

mas, enquanto era processado pelo estado,

he lost his house, his job and his kids.

perdeu a casa, o emprego e os filhos.

Steve Talley's case is an example

O caso de Steve Talley é um exemplo

of what can happen when the technology fails.

do que pode acontecer quando a tecnologia falha.

But face surveillance is just as dangerous when it works as advertized.

Mas a vigilância facial também é perigosa quando funciona conforme anunciado.

Just consider how trivial it would be

Imaginem como seria banal

for a government agency to put a surveillance camera

para uma agência do governo instalar câmeras de vigilância

outside a building where people meet for Alcoholics Anonymous meetings.

no lado de fora de um prédio

onde ocorrem reuniões dos Alcoólicos Anônimos.

They could connect that camera

Eles poderiam conectar a câmera

to a face-surveillance algorithm and a database,

a um algoritmo e a um banco de dados,

press a button and sit back and collect

apertar um botão e coletar

a record of every person receiving treatment for alcoholism.

um registro de todos que fazem tratamento para alcoolismo.

It would be just as easy for a government agency

Seria muito fácil para um órgão do governo

to use this technology to automatically identify

usar essa tecnologia para identificar automaticamente

every person who attended the Women's March

todos que foram a protestos como a Marcha das Mulheres

or a Black Lives Matter protest.

ou ao protesto Black Lives Matter.

Even the technology industry is aware of the gravity of this problem.

Até a indústria da tecnologia está ciente da gravidade do problema.

Microsoft's president Brad Smith has called on Congress to intervene.

O presidente da Microsoft, Brad Smith, pediu para que o Congresso interviesse.

Google, for its part,

O Google negou-se a enviar um produto de vigilância por reconhecimento facial,

has publicly declined to ship a face surveillance product,

in part because of these grave human and civil rights concerns.

em parte por conta de preocupações com os direitos humanos e civis.

And that's a good thing.

E isso é bom,

Because ultimately,

porque, no fim,

protecting our open society is much more important

proteger nossa sociedade aberta é muito mais importante

than corporate profit.

do que o lucro corporativo.

The ACLU's nationwide campaign

A campanha nacional da ACLU,

to get the government to pump the brakes

para que o governo desista de adotar essa tecnologia perigosa

on the adoption of this dangerous technology

has prompted reasonable questions from thoughtful people.

tem provocado perguntas sensatas em pessoas cuidadosas.

What makes this technology in particular so dangerous?

O que torna essa tecnologia específica tão perigosa?

Why can't we just regulate it?

Por que não a regulamos?

In short, why the alarm?

Em resumo, por que o barulho?

Face surveillance is uniquely dangerous for two related reasons.

A vigilância facial é perigosa por dois motivos correlacionados.

One is the nature of the technology itself.

Um é a própria natureza da tecnologia.

And the second is that our system

O segundo é que nosso sistema

fundamentally lacks the oversight and accountability mechanisms

carece de mecanismos de supervisão e prestação de contas

that would be necessary

que seriam necessários

to ensure it would not be abused in the government's hands.

para garantir que não haja abusos por parte do governo.

First, face surveillance enables a totalizing form of surveillance

Primeiro: a vigilância facial permite

uma forma de vigilância totalitarista

never before possible.

nunca antes possível.

Every single person's every visit to a friend's house,

Cada visita de cada pessoa a casa de um amigo,

a government office,

a um escritório do governo,

a house of worship,

a uma igreja,

a Planned Parenthood,

à Paternidade Planejada,

a cannabis shop,

a uma loja de maconha,

a strip club;

a um clube de strip;

every single person's public movements, habits and associations

todos os movimentos públicos, hábitos e associações das pessoas

documented and catalogued,

documentados e catalogados,

not on one day, but on every day,

não de um dia, mas de todos,

merely with the push of a button.

com o mero aperto de um botão.

This kind of totalizing mass surveillance

Essa vigilância totalitária em grande escala

fundamentally threatens what it means to live in a free society.

ameaça tudo o que significa viver em uma sociedade livre:

Our freedom of speech, freedom of association,

a liberdade de expressão, de associação,

freedom of religion,

religiosa e da mídia,

freedom of the press,

our privacy,

a nossa privacidade,

our right to be left alone.

o nosso direito de ser deixados em paz.

You may be thinking,

Vocês devem estar pensando:

"OK, come on, but there are tons of ways the government can spy on us."

"Certo, mas há diversas maneiras de o governo nos espionar".

And yes, it's true,

Sim, é verdade. O governo pode nos rastrear por nossos celulares.

the government can track us through our cell phones,

Mas, se eu quiser fazer um aborto,

but if I want to go to get an abortion,

or attend a political meeting,

ir à uma reunião política

or even just call in sick and play hooky and go to the beach ...

ou ligar para o trabalho, dizer que estou doente e ir à praia,

(Laughter)

(Risos)

I can leave my phone at home.

posso deixar meu celular em casa.

I cannot leave my face at home.

Não posso deixar meu rosto em casa.

And that brings me to my second primary concern:

Isso me leva à minha segunda preocupação principal:

How we might meaningfully regulate this technology.

como podemos regular essa tecnologia significativamente.

Today, if the government wants to know where I was last week,

Hoje, se o governo quiser saber onde estive semana passada,

they can't just hop into a time machine and go back in time and follow me.

não pode entrar em uma máquina do tempo, voltar ao passado e me seguir.

And they also, the local police right now,

Hoje em dia, a polícia local

don't maintain any centralized system of tracking,

também não tem nenhum sistema de rastreio centralizado

where they're cataloging every person's public movements all the time,

para catalogar cada movimento público de alguém o tempo todo,

just in case that information some day becomes useful.

caso a informação seja útil um dia.

Today, if the government wants to know where I was last week,

Hoje, se o governo quiser saber onde estive semana passada,

or last month or last year,

mês ou ano passado,

they have to go to a judge, get a warrant

tem que ir até um juiz, conseguir um mandado

and then serve that warrant on my phone company,

e expedi-lo à minha empresa de telefonia

which by the way, has a financial interest in protecting my privacy.

que, por sinal, tem interesses financeiros em proteger minha privacidade.

With face surveillance,

Com vigilância facial,

no such limitations exist.

não existem tais limitações.

This is technology that is 100 percent controlled by the government itself.

Essa tecnologia é 100% controlada pelo próprio governo.

So how would a warrant requirement work in this context?

Como uma solicitação de mandado funcionaria nesse contexto?

Is the government going to go to a judge

O governo iria até um juiz,

and get a warrant,

conseguiria um mandado para executar ele mesmo?

and then serve the warrant on themselves?

That would be like me giving you my diary,

Isso seria como eu dar meu diário a vocês

and saying, "Here, you can hold on to this forever,

e dizer: "Tomem, podem ficar com ele para sempre,

but you can't read it until I say it's OK."

mas não leiam até eu dizer que tudo bem".

So what can we do?

Então, o que podemos fazer?

The only answer to the threat

A única resposta à ameaça

posed by the government's use of face surveillance

representada pelo uso da vigilância facial pelo governo

is to deny the government the capacity to violate the public's trust,

é negar a ele a capacidade de violar a confiança pública,

by denying the government the ability

negando o poder

to build these in-house face-surveillance networks.

de construir redes de vigilância facial internas.

And that's exactly what we're doing.

É exatamente o que estamos fazendo.

The ACLU is part of a nationwide campaign

A ACLU faz parte de uma campanha nacional

to pump the brakes on the government's use of this dangerous technology.

para frear o uso dessa tecnologia perigosa pelo governo.

We've already been successful,

Já tivemos sucesso,

from San Francisco to Somerville, Massachusetts,

de São Francisco a Somerville, em Massachusetts,

we have passed municipal bans

conseguimos passar vetos municipais

on the government's use of this technology.

contra o uso dessa tecnologia.

And plenty of other communities here in Massachusetts

E muitas outras comunidades aqui, em Massachusetts,

and across the country

e por todo o país, estão debatendo medidas similares.

are debating similar measures.

Some people have told me that this movement is bound to fail.

Alguns me dizem que esse movimento está fadado ao fracasso.

That ultimately,

Em última instância, simplesmente porque essa tecnologia existe,

merely because the technology exists,

it will be deployed in every context

será implantada por todos os governos, em todos os contextos,

by every government everywhere.

em todos os lugares.

Privacy is dead, right?

A privacidade está morta, certo?

So the narrative goes.

É o que dizem.

Well, I refuse to accept that narrative.

Bem, eu me recuso a aceitá-la,

And you should, too.

e vocês também deveriam.

We can't allow Jeff Bezos or the FBI

Não podemos deixar Jeff Bezos ou o FBI

to determine the boundaries of our freedoms in the 21st century.

determinarem o limite de nossa liberdade no século 21.

If we live in a democracy,

Se vivemos em uma democracia,

we are in the driver's seat,

temos de estar no comando,

shaping our collective future.

moldando nosso futuro coletivo.

We are at a fork in the road right now.

Estamos numa encruzilhada.

We can either continue with business as usual,

Podemos deixar do jeito que está,

allowing governments to adopt and deploy these technologies unchecked,

deixando os governos implantarem tecnologias sem verificação

in our communities, our streets and our schools,

em nossas comunidades, ruas e escolas,

or we can take bold action now

ou... podemos tomar uma atitude corajosa agora

to press pause on the government's use of face surveillance,

e apertar "pausar" no uso da vigilância facial pelo governo,

protect our privacy

proteger nossa privacidade

and to build a safer, freer future

e construir um futuro mais seguro e mais livre

for all of us.

para todos nós.

Thank you.

Obrigada.

(Applause and cheers)

(Aplausos) (Vivas)