What you need to know about face surveillance | Kade Crockford

Tradutor: Monica Claro Revisora: Margarida Ferreira

How many of you have ever heard someone say

Quantos de vocês já ouviram dizer que a privacidade morreu?

privacy is dead?

Raise your hand.

Levantem a mão.

How many of you have heard someone say

Quantos de vocês já ouviram alguém dizer

they don't care about their privacy because they don't have anything to hide?

que não se preocupam com a sua privacidade pois não têm nada a esconder?

Go on.

Continuem.

(Laughter)

(Risos)

Agora, quantos de vocês usam

Now, how many of you use any kind of encryption software?

qualquer tipo de "software" de criptografia?

Raise your hand.

Levantem a mão.

Or a password to protect an online account?

Ou uma senha, para proteger uma conta "online"?

Or curtains or blinds on your windows at home?

Ou cortinas ou estores nas vossas janelas de casa?

(Laughter)

(Risos)

OK, so that's everyone, I think.

OK, isso é toda a gente, acho eu.

(Laughter)

(Risos)

So why do you do these things?

Porque é que fazemos isso?

My guess is,

O meu palpite

it's because you care about your privacy.

é porque estamos preocupamos com a nossa privacidade.

The idea that privacy is dead is a myth.

A ideia de que a privacidade morreu é um mito.

The idea that people don't care about their privacy

A ideia de que as pessoas

não estão preocupadas com a privacidade

because "they have nothing to hide"

porque "não têm nada a esconder"

or they've done nothing wrong

ou não fizeram nada de errado

is also a myth.

é um mito também.

I'm guessing that you would not want to publicly share on the internet,

Suponho que não queiram ter toda a vossa informação clínica disponível na Internet

for the world to see,

para o mundo ver todos os vossos dados médicos.

all of your medical records.

Or your search histories from your phone or your computer.

Ou o vosso histórico de pesquisas no telemóvel ou no computador.

And I bet

Eu aposto mesmo

that if the government wanted to put a chip in your brain

que, se o governo quisesse colocar um "chip" no vosso cérebro

to transmit every one of your thoughts to a centralized government computer,

para transmitir os vossos pensamentos a um computador central do governo,

you would balk at that.

vocês iriam opor-se a isso.

(Laughter)

(Risos)

That's because you care about your privacy,

Isso é porque se preocupam com a vossa privacidade

like every human being.

como qualquer ser humano.

So, our world has changed fast.

Então, o mundo está em rápida mudança.

And today, there is understandably a lot of confusion

e hoje, compreensivelmente, há muita confusão

about what privacy is and why it matters.

sobre o que é a privacidade e porque é que é importante.

Privacy is not secrecy.

A privacidade não é secretismo.

It's control.

É controlo.

I share information with my doctor about my body and my health,

Eu partilho informação com a minha médica sobre o meu corpo e saúde,

expecting that she is not going to turn around

esperando que ela não dê meia volta

and share that information with my parents,

e partilhe essa informação com os meus pais,

or my boss or my kids.

ou com o meu patrão, ou com os meus filhos.

That information is private, not secret.

Essas informações são privadas, não são secretas.

I'm in control over how that information is shared.

Sou eu quem controla a forma como as informações são partilhadas.

You've probably heard people say that there's a fundamental tension

Provavelmente, têm ouvido pessoas dizer que há uma tensão fundamental

between privacy on the one hand

entre a privacidade, por um lado,

and safety on the other.

e a segurança, por outro.

But the technologies that advance our privacy

Mas as tecnologias que promovem a nossa privacidade

also advance our safety.

também promovem a nossa segurança.

Think about fences, door locks,

Pensem, por exemplo, em cercas, cadeados,

curtains on our windows, passwords,

cortinas nas janelas, palavras-passe,

encryption software.

"software" de encriptação.

All of these technologies

Todas estas tecnologias

simultaneously protect our privacy and our safety.

protegem simultaneamente a nossa privacidade e a nossa segurança.

Dragnet surveillance, on the other hand, protects neither.

Já uma vigilância em rede não protege nenhuma das duas.

In recent years,

Nos últimos anos,

the federal government tasked a group of experts

o governo federal encarregou um grupo de especialistas

called The Privacy and Civil Liberties Oversight Board

chamado Conselho de Vigilância da Privacidade e das Liberdades Civis

with examining post-9/11 government surveillance programs,

de examinar programas governamentais de vigilância após o 11 de Setembro,

dragnet surveillance programs.

programas de vigilância em rede.

Those experts could not find a single example

Esses especialistas não conseguiram encontrar um único exemplo

of that dragnet surveillance advancing any safety --

de como esses programas de vigilância em rede beneficiam a segurança

didn't identify or stop a single terrorist attack.

— não identificaram nem evitaram um único ataque terrorista.

You know what that information was useful for, though?

Sabem para o que é que essa informação foi útil?

Helping NSA employees spy on their romantic interests.

Para ajudar os empregados da NSA a espiar os seus interesses românticos.

(Laughter)

(Risos)

(Audience: Wow.)

Another example is closer to home.

Outro exemplo está ainda mais perto.

So millions of people across the United States and the world

Milhões de pessoas, nos EUA e no mundo,

are adopting so-called "smart home" devices,

estão a adotar os dispositivos conhecidos por "smart-home",

like internet-connected surveillance cameras.

por exemplo, sistemas de câmaras de vigilância conectados à Internet.

But we know that any technology connected to the internet

Mas todos sabemos que qualquer sistema conectado à Internet

can be hacked.

pode ser pirateado.

And so if a hacker

Então, se um pirata

gets into your internet-connected surveillance camera at home,

entrar no nosso sistema de vigilância da casa com ligação à Internet,

they can watch you and your family coming and going,

eles podem ver-nos e à nossa família a sair e a voltar,

finding just the right time to strike.

e encontrar o momento certo para atacar.

You know what can't be hacked remotely?

Sabem o que pode ser pirateado remotamente?

Curtains.

Cortinas.

(Laughter)

(Risos)

Fences.

Vedações.

Door locks.

Fechaduras de portas.

(Laughter)

(Risos)

Privacy is not the enemy of safety.

A privacidade não é inimiga da segurança.

It is its guarantor.

É o que a garante.

Nonetheless, we daily face a propaganda onslaught

Não obstante, enfrentamos diariamente uma propaganda agressiva

telling us that we have to give up some privacy in exchange for safety

que nos diz que temos de trocar alguma privacidade por segurança,

through surveillance programs.

feita por intermédio de programas de vigilância.

Face surveillance is the most dangerous of these technologies.

A vigilância facial é a tecnologia mais perigosa.

There are two primary ways today governments use technologies like this.

Os governos estão a utilizar estas tecnologias de duas formas.

One is face recognition.

Uma é o reconhecimento facial.

That's to identify someone in an image.

Que é a identificação de alguém numa imagem.

The second is face surveillance,

A segunda é a vigilância facial,

which can be used in concert

que pode ser usada em combinação

with surveillance-camera networks and databases

com redes de câmaras de vigilância e bases de dados

to create records of all people's public movements,

para criar registos de todos os movimentos públicos das pessoas,

habits and associations,

dos seus hábitos e associações,

effectively creating a digital panopticon.

criando na prática um pan-ótico digital.

This is a panopticon.

Isto é um pan-ótico.

It's a prison designed to allow a few guards in the center

Uma prisão concebida para permitir que alguns guardas no centro

to monitor everything happening in the cells around the perimeter.

monitorizem tudo o que acontece nas celas à volta do perímetro.

The people in those prison cells can't see inside the guard tower,

As pessoas nas celas desta prisão não conseguem ver o interior

da torre dos guardas,

but the guards can see into every inch of those cells.

mas os guardas conseguem ver cada centímetro dessas celas.

The idea here

A ideia aqui

is that if the people in those prison cells

é que, se as pessoas nestas celas souberem

know they're being watched all the time,

que estão a ser observadas todo o tempo,

or could be,

ou que podem estar,

they'll behave accordingly.

vão comportar-se de acordo com isso.

Similarly, face surveillance enables a centralized authority --

igualmente, a vigilância facial permite que uma autoridade centralizada

in this case, the state --

neste caso, o estado

to monitor the totality of human movement and association

monitorize a totalidade do movimento e associações humanas

in public space.

no espaço público.

And here's what it looks like

E é assim que se passa na vida real.

in real life.

In this case, it's not a guard in a tower,

Neste caso, não é um guarda numa torre,

but rather a police analyst in a spy center.

mas antes um polícia analista

num centro de espionagem.

The prison expands beyond its walls,

A prisão expande-se para além das suas paredes,

encompassing everyone,

envolvendo todos,

everywhere, all the time.

em qualquer lugar em todos os momentos.

In a free society,

Numa sociedade livre,

this should terrify us all.

isto devia aterrorizar-nos a todos.

For decades now, we've watched cop shows

Durante décadas, temos visto programas policiais

that push a narrative that says

que apresentam a narrativa

de que tecnologias como a vigilância facial

technologies like face surveillance ultimately serve the public good.

em última análise, servem o bem público.

But real life is not a cop drama.

Mas a vida real não é nenhum drama policial.

The bad guy didn't always do it,

O mau da fita nem sempre age,

the cops definitely aren't always the good guys

os policias definitivamente não são sempre os bons da fita

and the technology doesn't always work.

e a tecnologia nem sempre funciona.

Take the case of Steve Talley,

Tomem como exemplo o caso de Steve Talley,

a financial analyst from Colorado.

um analista financeiro numa empresa no Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

Em 2015, Talley foi detido e foi acusado de roubo bancário

on the basis of an error in a facial recognition system.

com base num erro no sistema de reconhecimento facial.

Talley fought that case

Talley contestou o caso,

and he eventually was cleared of those charges,

e essas acusações acabaram por ser esclarecidas.

but while he was being persecuted by the state,

Mas enquanto estava a ser acusado pelo estado,

he lost his house, his job and his kids.

perdeu a casa, o trabalho e os filhos.

Steve Talley's case is an example

O caso do Steve Talle é um exemplo

of what can happen when the technology fails.

do que pode acontecer quando a tecnologia falha.

But face surveillance is just as dangerous when it works as advertized.

Mas a vigilância facial é igualmente perigosa

quando funciona como anunciado.

Just consider how trivial it would be

Considerem apenas como poderá ser insignificante

for a government agency to put a surveillance camera

para o governo colocar uma câmara de vigilância

outside a building where people meet for Alcoholics Anonymous meetings.

no exterior de um edifício usado para encontros dos Alcoólicos Anónimos.

They could connect that camera

Eles podem conectar essa câmara

to a face-surveillance algorithm and a database,

a um algoritmo de reconhecimento facial e a uma base de dados,

press a button and sit back and collect

carregar num botão e aguardar

a record of every person receiving treatment for alcoholism.

enquanto recolhem registos de cada pessoa

que recebe tratamento para o alcoolismo.

It would be just as easy for a government agency

Seria fácil para uma agência do governo

to use this technology to automatically identify

usar esta tecnologia para identificar automaticamente

every person who attended the Women's March

cada pessoa que compareceu na Women's March

or a Black Lives Matter protest.

ou no protesto de Black Lives Matter.

Even the technology industry is aware of the gravity of this problem.

Até a indústria tecnológica está ciente da gravidade deste problema.

Microsoft's president Brad Smith has called on Congress to intervene.

O presidente da Microsoft, Brad Smith, pediu ao Congresso que interviesse.

Google, for its part,

Quanto à Google, recusou publicamente

has publicly declined to ship a face surveillance product,

o envio de produtos de reconhecimento facial,

in part because of these grave human and civil rights concerns.

em parte devido a estas graves preocupações humanas e de direitos civis.

And that's a good thing.

E isto é algo positivo.

Because ultimately,

Porque, em última instância,

protecting our open society is much more important

proteger a nossa sociedade aberta é muito mais importante

than corporate profit.

que o lucro corporativo.

The ACLU's nationwide campaign

A campanha nacional da ACLU

to get the government to pump the brakes

para levar o governo a recuar

on the adoption of this dangerous technology

na adoção destas tecnologias perigosas

has prompted reasonable questions from thoughtful people.

levou a um questionamento sensato por parte de alguns pensadores.

What makes this technology in particular so dangerous?

O que é que faz com que esta tecnologia em particular seja tão perigosa?

Why can't we just regulate it?

Porque é que não podemos apenas regulá-la?

In short, why the alarm?

Abreviando, porquê o alarme?

Face surveillance is uniquely dangerous for two related reasons.

A vigilância facial é especialmente perigosa por duas razões relacionadas.

One is the nature of the technology itself.

Uma é a natureza da tecnologia em si.

And the second is that our system

E a segunda é que o nosso sistema

fundamentally lacks the oversight and accountability mechanisms

carece fundamentalmente de supervisão e de mecanismos de responsabilidade

that would be necessary

que seriam necessários

to ensure it would not be abused in the government's hands.

para garantir que não haveria abusos nas mãos do governo.

First, face surveillance enables a totalizing form of surveillance

Primeiro, a vigilância facial permite uma forma total de vigilância

never before possible.

nunca antes possível.

Every single person's every visit to a friend's house,

Cada pessoa, cada visita a casa de um amigo,

a government office,

ao escritório do governo,

a house of worship,

a uma casa de culto,

a Planned Parenthood,

a uma Paternidade Planeada,

a cannabis shop,

a uma loja de canábis,

a strip club;

a um bar de "strip";

every single person's public movements, habits and associations

todos e quaisquer movimentos hábitos e associações

de uma pessoa no espaço público,

documented and catalogued,

documentadas e catalogadas,

not on one day, but on every day,

não num dia só, mas todos os dias,

merely with the push of a button.

apenas pressionando um botão.

This kind of totalizing mass surveillance

Este tipo de vigilância totalitária em massa

fundamentally threatens what it means to live in a free society.

ameaça fundamentalmente aquilo que significa viver numa sociedade livre.

Our freedom of speech, freedom of association,

A liberdade de expressão, a liberdade de associação,

freedom of religion,

a liberdade religiosa,

freedom of the press,

a liberdade de imprensa,

our privacy,

a nossa privacidade,

our right to be left alone.

o nosso direito de sermos deixados em paz.

You may be thinking,

Talvez estejam a pensar:

"OK, come on, but there are tons of ways the government can spy on us."

"OK, mas há muitas formas de o governo nos espiar."

And yes, it's true,

E sim, é verdade,

the government can track us through our cell phones,

o governo pode rastrear-nos a partir dos telemóveis,

but if I want to go to get an abortion,

mas, se eu for fazer um aborto,

or attend a political meeting,

ou comparecer num encontro politico,

or even just call in sick and play hooky and go to the beach ...

ou mesmo se telefonar para o trabalho a dizer que estou doente

mas depois vou para a praia ...

(Laughter)

(Risos)

I can leave my phone at home.

eu posso deixar o meu telemóvel em casa.

I cannot leave my face at home.

Eu não posso deixar a minha cara em casa.

And that brings me to my second primary concern:

E isto leva-me à minha segunda preocupação:

How we might meaningfully regulate this technology.

Como é que podemos regular significativamente esta tecnologia.

Today, if the government wants to know where I was last week,

Hoje, se o governo quiser saber onde estive a semana passada,

they can't just hop into a time machine and go back in time and follow me.

não consegue entrar numa máquina do tempo

e andar para trás no tempo

para me perseguirem.

And they also, the local police right now,

E neste momento, a policia local

também não mantém qualquer sistema centralizado de rastreamento,

don't maintain any centralized system of tracking,

where they're cataloging every person's public movements all the time,

onde catalogam todas as pessoas, e os seus movimentos no espaço público,

just in case that information some day becomes useful.

para o caso de a informação vier a tornar-se útil um dia.

Today, if the government wants to know where I was last week,

Hoje, se o governo quer saber onde é que eu estive a semana passada,

or last month or last year,

ou o mês passado, ou o ano passado,

they have to go to a judge, get a warrant

têm de ir ter com um juiz, obter um mandado

and then serve that warrant on my phone company,

e depois apresentar esse mandado na companhia de telecomunicações,

which by the way, has a financial interest in protecting my privacy.

que, a propósito, tem interesse financeiro em proteger a minha privacidade.

With face surveillance,

Com a vigilância facial,

no such limitations exist.

essas limitações deixam de existir.

This is technology that is 100 percent controlled by the government itself.

Isto é uma tecnologia 100% controlada pelo governo.

So how would a warrant requirement work in this context?

Então, como poderia funcionar o pedido de um mandado neste contexto?

Is the government going to go to a judge

É o governo que vai a um juiz e requer um mandado

and get a warrant,

and then serve the warrant on themselves?

e depois aplica o mandado a si mesmo?

That would be like me giving you my diary,

Isso seria como oferecer-vos o meu diário e dizer:

and saying, "Here, you can hold on to this forever,

"Toma lá, podes guardá-lo para sempre,

but you can't read it until I say it's OK."

"mas só podes lê-lo quando eu disser OK."

Então o que é que podemos fazer?

So what can we do?

The only answer to the threat

A única resposta a esta ameaça feita pelo governo

posed by the government's use of face surveillance

quanto ao uso da vigilância facial

is to deny the government the capacity to violate the public's trust,

é rejeitar a capacidade do governo em violar a confiança pública

by denying the government the ability

negando a capacidade do governo

to build these in-house face-surveillance networks.

de construir estes espaços internos de redes de vigilância facial.

And that's exactly what we're doing.

É isso exatamente o que estamos a fazer.

The ACLU is part of a nationwide campaign

A campanha nacional de que a ACLU faz parte

to pump the brakes on the government's use of this dangerous technology.

serve para desacelerar o uso destas tecnologias perigosas pelo Governo.

We've already been successful,

Já fomos bem sucedidos,

from San Francisco to Somerville, Massachusetts,

de São Francisco a Somerville, em Massachusetts.

we have passed municipal bans

Temos aprovado proibições municipais

on the government's use of this technology.

ao uso dessas tecnologias por parte dos municípios.

And plenty of other communities here in Massachusetts

E muitas outras comunidades aqui em Massachussetts e por todo o país

and across the country

are debating similar measures.

estão a debater medidas similares.

Some people have told me that this movement is bound to fail.

Algumas pessoas têm-me dito que este movimento está destinado a falhar.

That ultimately,

Porque, em última análise, a tecnologia já existe,

merely because the technology exists,

it will be deployed in every context

e será implementada em qualquer contexto

by every government everywhere.

por qualquer governo em qualquer lado.

Privacy is dead, right?

A privacidade morreu, não é?

So the narrative goes.

Assim se desenrola a narrativa.

Well, I refuse to accept that narrative.

Bem, eu recuso-me a aceitar essa narrativa.

And you should, too.

E vocês também deviam recusar.

We can't allow Jeff Bezos or the FBI

Não podemos deixar o Jeff Bezos ou o FBI

to determine the boundaries of our freedoms in the 21st century.

determinar as fronteiras da nossa liberdade no século XXI.

If we live in a democracy,

Se nós vivemos numa democracia,

we are in the driver's seat,

estamos no lugar do condutor,

shaping our collective future.

modelando o nosso futuro coletivo.

We are at a fork in the road right now.

Estamos numa bifurcação da estrada, neste momento.

We can either continue with business as usual,

Podemos continuar com os negócios, como normalmente,

allowing governments to adopt and deploy these technologies unchecked,

permitindo que os governos adotem e implementem

estas tecnologias sem verificação

in our communities, our streets and our schools,

nas nossas comunidades, nas ruas e nas escolas,

or we can take bold action now

ou podemos tomar uma ação corajosa agora

to press pause on the government's use of face surveillance,

e pressionar o governo a deixar de usar a vigilância facial

protect our privacy

e proteger a nossa privacidade

and to build a safer, freer future

e construir um futuro mais seguro e livre

for all of us.

para todos nós.

Thank you.

Muito obrigada.

(Applause and cheers)

(Aplausos)