What you need to know about face surveillance | Kade Crockford

Traductor: Cristina Chaparro Revisor: Lidia Cámara de la Fuente

How many of you have ever heard someone say

¿Cuántos de Uds. han oído decir

privacy is dead?

que la privacidad ha muerto?

Raise your hand.

Levanten la mano.

How many of you have heard someone say

¿Cuántos han escuchado a alguien decir

they don't care about their privacy because they don't have anything to hide?

que no les importa su privacidad porque no tienen nada que esconder?

Go on.

Venga.

(Laughter)

(Risas)

Ahora, ¿cuántos utilizan algún tipo de software de cifrado?

Now, how many of you use any kind of encryption software?

Raise your hand.

Levanten la mano.

Or a password to protect an online account?

¿O alguna contraseña para proteger una cuenta?

Or curtains or blinds on your windows at home?

¿O cortinas o persianas en las ventanas de su casa?

(Laughter)

(Risas)

OK, so that's everyone, I think.

Somos todos, creo.

(Laughter)

(Risas)

So why do you do these things?

¿Y por qué hacen esas cosas?

My guess is,

Yo creo que es

it's because you care about your privacy.

porque les importa su propia privacidad.

The idea that privacy is dead is a myth.

La idea de que la privacidad ha muerto es un mito.

The idea that people don't care about their privacy

La idea de que a la gente no le importa su privacidad

because "they have nothing to hide"

porque "no tienen nada que esconder"

or they've done nothing wrong

o porque no han hecho nada malo

is also a myth.

también es un mito.

I'm guessing that you would not want to publicly share on the internet,

Imagino que a ninguno les gustaría compartir públicamente en internet,

for the world to see,

para que el mundo lo viera,

all of your medical records.

todo su historial médico.

Or your search histories from your phone or your computer.

O el historial de búsqueda de su móvil o su computadora

And I bet

Y puedo apostar

that if the government wanted to put a chip in your brain

que si el gobierno quisiera poneros un chip en el cerebro

to transmit every one of your thoughts to a centralized government computer,

para transmitir cada uno de sus pensamientos a una computadora

you would balk at that.

Uds. dirían que no.

(Laughter)

(Risas)

That's because you care about your privacy,

Eso es porque les importa su privacidad,

like every human being.

como a cualquier ser humano.

So, our world has changed fast.

Nuestro mundo ha cambiado muy rápido.

And today, there is understandably a lot of confusion

Y hoy en día, comprensiblemente, hay mucha confusión

about what privacy is and why it matters.

sobre qué es la privacidad y por qué es importante.

Privacy is not secrecy.

La privacidad no es secretismo.

It's control.

Es control.

I share information with my doctor about my body and my health,

Comparto información con mi médico sobre mi cuerpo y mi salud,

expecting that she is not going to turn around

esperando que no le falte tiempo

and share that information with my parents,

y comparta esa información con mis padres,

or my boss or my kids.

mi jefe o mis hijos.

That information is private, not secret.

Esa información es privada, no secreta.

I'm in control over how that information is shared.

Yo controlo cómo se comparte esa información.

You've probably heard people say that there's a fundamental tension

Probablemente hayan oído decir que hay una tensión fundamental

between privacy on the one hand

entre, por un lado, la privacidad,

and safety on the other.

y, por otro, la seguridad.

But the technologies that advance our privacy

Pero las tecnologías que mejoran nuestra privacidad

also advance our safety.

también mejoran nuestra seguridad.

Think about fences, door locks,

Piensen en las vallas, cerraduras,

curtains on our windows, passwords,

cortinas para nuestras ventanas, contraseñas,

encryption software.

software de cifrado.

All of these technologies

Todas estas tecnologías

simultaneously protect our privacy and our safety.

protegen simultáneamente nuestra privacidad y nuestra seguridad.

Dragnet surveillance, on the other hand, protects neither.

La red policial de vigilancia, por otro lado, no protege ninguna.

In recent years,

En los últimos años,

the federal government tasked a group of experts

el gobierno federal encargó a un grupo de expertos,

called The Privacy and Civil Liberties Oversight Board

la Junta de Vigilancia de Derechos Civiles y Privados,

with examining post-9/11 government surveillance programs,

que examinara los programas de vigilancia del gobierno tras el 11-S,

dragnet surveillance programs.

programas de la red policial de vigilancia.

Those experts could not find a single example

Esos expertos no pudieron encontrar un solo ejemplo

of that dragnet surveillance advancing any safety --

de esa red policial de vigilancia que mejorase la seguridad...

didn't identify or stop a single terrorist attack.

No identificaron o evitaron ni un ataque terrorista.

You know what that information was useful for, though?

Pero ¿saben para qué fue útil esa información?

Helping NSA employees spy on their romantic interests.

Para que los empleados de la NSA espiaran por intereses románticos.

(Laughter)

(Risas)

(Audience: Wow.)

(Público: Ohhhh).

Another example is closer to home.

Otro ejemplo más cercano:

So millions of people across the United States and the world

millones de personas en EE. UU. y en el mundo

are adopting so-called "smart home" devices,

están adoptando dispositivos de hogar inteligente

like internet-connected surveillance cameras.

como cámaras de vigilancia conectadas a internet.

But we know that any technology connected to the internet

Pero sabemos que toda la tecnología que se conecta a internet

can be hacked.

puede ser hackeada.

And so if a hacker

Así que si un hacker

gets into your internet-connected surveillance camera at home,

accede a tu cámara de vigilancia de casa,

they can watch you and your family coming and going,

puede verte a ti y a tu familia yendo y viniendo,

finding just the right time to strike.

y encontrar el momento perfecto para atacar.

You know what can't be hacked remotely?

¿Saben qué no se puede hackear de forma remota?

Curtains.

Las cortinas.

(Laughter)

(Risas)

Fences.

Las vallas

Door locks.

Las cerraduras.

(Laughter)

(Risas).

Privacy is not the enemy of safety.

La privacidad no es el enemigo de la seguridad.

It is its guarantor.

Es su aval.

Nonetheless, we daily face a propaganda onslaught

Aun así, nos enfrentamos diariamente a propaganda agresiva que nos dice

telling us that we have to give up some privacy in exchange for safety

que tenemos que ceder algo de privacidad a cambio de seguridad

through surveillance programs.

mediante programas de vigilancia.

Face surveillance is the most dangerous of these technologies.

La vigilancia facial es la más peligrosa de estas tecnologías.

There are two primary ways today governments use technologies like this.

Hoy en día hay principalmente dos maneras en que los gobiernos la utilizan.

One is face recognition.

Una es el reconocimiento facial.

That's to identify someone in an image.

Sirve para identificar a alguien en una imagen.

The second is face surveillance,

La segunda es la vigilancia facial,

which can be used in concert

que se puede utilizar en un concierto

with surveillance-camera networks and databases

con redes de cámaras de vigilancia y bases de datos

to create records of all people's public movements,

para crear registros de todos los movimientos de la gente en público,

habits and associations,

sus hábitos y asociaciones,

effectively creating a digital panopticon.

creando de manera efectiva un panóptico digital.

This is a panopticon.

Esto es un panóptico.

It's a prison designed to allow a few guards in the center

Es una cárcel diseñada para que pueda haber guardias en el centro

to monitor everything happening in the cells around the perimeter.

y monitorizar todo lo que ocurre en las celdas del perímetro.

The people in those prison cells can't see inside the guard tower,

Las personas que están en esas celdas no pueden ver dentro de la torre,

but the guards can see into every inch of those cells.

pero los guardias pueden ver cada centímetro de sus celdas.

The idea here

La idea aquí

is that if the people in those prison cells

es que si las personas dentro de esas celdas

know they're being watched all the time,

saben que están vigiladas constantemente,

or could be,

o podrían estarlo,

they'll behave accordingly.

se comportarán de acuerdo a eso.

Similarly, face surveillance enables a centralized authority --

De un modo similar, la vigilancia facial permite que una autoridad centralizada,

in this case, the state --

en este caso, el Estado,

to monitor the totality of human movement and association

pueda monitorizar la totalidad de los movimientos humanos y conexiones

in public space.

en el espacio público.

And here's what it looks like

Y así es como se ve

in real life.

en la vida real.

In this case, it's not a guard in a tower,

En este caso, no es un guardia en una torre,

but rather a police analyst in a spy center.

sino un policía analista en un centro de espionaje.

The prison expands beyond its walls,

La prisión va más allá de las paredes,

encompassing everyone,

envolviendo a todo el mundo,

everywhere, all the time.

en todas partes, todo el tiempo.

In a free society,

En una sociedad libre,

this should terrify us all.

esto debería darnos miedo.

For decades now, we've watched cop shows

Durante décadas hemos visto series policíacas

that push a narrative that says

que impulsan una narrativa que dice

technologies like face surveillance ultimately serve the public good.

que tecnologías como la vigilancia facial sirven al bien común al final.

But real life is not a cop drama.

Pero la vida real no es una serie de policías.

The bad guy didn't always do it,

El malo no siempre cometió el crimen,

the cops definitely aren't always the good guys

la policía definitivamente no son siempre los buenos,

and the technology doesn't always work.

y la tecnología no siempre funciona.

Take the case of Steve Talley,

Veamos el caso de Steve Talley,

a financial analyst from Colorado.

un analista financiero de Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

En 2015 fue arrestado y acusado de haber robado un banco

on the basis of an error in a facial recognition system.

basándose en un error de un sistema de reconocimiento facial.

Talley fought that case

Talley peleó el caso

and he eventually was cleared of those charges,

y con el tiempo fue absuelto de los cargos,

but while he was being persecuted by the state,

pero mientras el estado le perseguía,

he lost his house, his job and his kids.

perdió su casa, su trabajo y a sus hijos.

Steve Talley's case is an example

El caso de Talley es un ejemplo

of what can happen when the technology fails.

de lo que puede pasar cuando la tecnología falla.

But face surveillance is just as dangerous when it works as advertized.

Pero la vigilancia facial es igual de peligrosa cuando funciona como debe.

Just consider how trivial it would be

Imaginen lo trivial que sería

for a government agency to put a surveillance camera

que el gobierno instalara una cámara de vigilancia

outside a building where people meet for Alcoholics Anonymous meetings.

a la salida de un edificio donde organizan encuentros de Alcohólicos Anónimos.

They could connect that camera

Podrían conectar una cámara

to a face-surveillance algorithm and a database,

a un algoritmo de vigilancia facial y a una base de datos,

press a button and sit back and collect

darle a un botón y esperar a recibir

a record of every person receiving treatment for alcoholism.

un registro de cada persona que es tratada por alcoholismo.

It would be just as easy for a government agency

Sería igual de fácil para una agencia del gobierno

to use this technology to automatically identify

usar esta tecnología para identificar automáticamente

every person who attended the Women's March

a todo el que asistiera a la manifestación de las mujeres

or a Black Lives Matter protest.

o a las protestas del Black Lives Matter.

Even the technology industry is aware of the gravity of this problem.

Incluso la industria de la tecnología es consciente de la gravedad del problema.

Microsoft's president Brad Smith has called on Congress to intervene.

El presidente de Microsoft, Brad Smith, ha pedido al Congreso que intervenga.

Google, for its part,

Google, por su parte,

has publicly declined to ship a face surveillance product,

se ha negado públicamente a lanzar un producto de vigilancia facial,

in part because of these grave human and civil rights concerns.

en parte por los derechos humanos y los derechos civiles.

And that's a good thing.

Y eso es bueno.

Because ultimately,

Porque, en última instancia,

protecting our open society is much more important

proteger nuestra sociedad abierta es mucho más importante

than corporate profit.

que el beneficio de las corporaciones.

The ACLU's nationwide campaign

La campaña nacional de la ACLU

to get the government to pump the brakes

para que el gobierno cese

on the adoption of this dangerous technology

en la adopción de esta tecnología tan peligrosa

has prompted reasonable questions from thoughtful people.

ha propiciado preguntas razonables de personas reflexivas.

What makes this technology in particular so dangerous?

¿Qué convierte a esta tecnología en particular en algo tan peligroso?

Why can't we just regulate it?

¿Por qué no podemos simplemente regularla?

In short, why the alarm?

Resumiendo: ¿por qué tanta alarma?

Face surveillance is uniquely dangerous for two related reasons.

La vigilancia facial es particularmente peligrosa por dos razones relacionadas:

One is the nature of the technology itself.

una es la naturaleza de la tecnología misma.

And the second is that our system

Y la segunda es que nuestro sistema

fundamentally lacks the oversight and accountability mechanisms

fundamentalmente carece de los mecanismos de supervisión y responsabilidad

that would be necessary

que serían necesarios

to ensure it would not be abused in the government's hands.

para asegurar que no se abusaría de ello en manos del gobierno.

First, face surveillance enables a totalizing form of surveillance

Primero, la vigilancia facial permite una forma de vigilancia totalizada

never before possible.

nunca antes posible.

Every single person's every visit to a friend's house,

Cada visita de alguien a casa de un amigo,

a government office,

a una oficina gubernamental,

a house of worship,

a un templo,

a Planned Parenthood,

a planificación familiar,

a cannabis shop,

a una tienda de cannabis,

a strip club;

a un club de strippers;

every single person's public movements, habits and associations

cada movimiento, hábito y asociación de una persona,

documented and catalogued,

documentado y catalogado,

not on one day, but on every day,

y no solo uno, sino todos los días,

merely with the push of a button.

solo con darle a un botón.

This kind of totalizing mass surveillance

Este tipo de totalización de la vigilancia masiva

fundamentally threatens what it means to live in a free society.

fundamentalmente amenaza lo que significa vivir en una sociedad libre.

Our freedom of speech, freedom of association,

Nuestra libertad de expresión, de asociación,

freedom of religion,

la libertad religiosa,

freedom of the press,

la libertad de prensa,

our privacy,

nuestra privacidad,

our right to be left alone.

nuestro derecho a que nos dejen solos.

You may be thinking,

Quizá estén pensado

"OK, come on, but there are tons of ways the government can spy on us."

"Vale, pero hay muchas maneras de que el gobierno nos espíe".

And yes, it's true,

Y sí, es verdad.

the government can track us through our cell phones,

El gobierno puede seguir nuestros teléfonos,

but if I want to go to get an abortion,

pero si quiero abortar,

or attend a political meeting,

o ir a un mitin,

or even just call in sick and play hooky and go to the beach ...

o incluso decir que estoy enferma y faltar al trabajo para ir a la playa...

(Laughter)

(Risas)

I can leave my phone at home.

Puedo dejarme el móvil en casa.

I cannot leave my face at home.

Pero no puedo dejarme la cara en casa.

And that brings me to my second primary concern:

Y eso me lleva a mi segunda preocupación más importante:

How we might meaningfully regulate this technology.

cómo podríamos regular esta tecnología significativamente.

Today, if the government wants to know where I was last week,

Hoy, si el gobierno quiere saber dónde estuve la semana pasada,

they can't just hop into a time machine and go back in time and follow me.

no pueden simplemente viajar en el tiempo y seguirme.

And they also, the local police right now,

Y la policía local ahora mismo

don't maintain any centralized system of tracking,

no mantiene ningún sistema de seguimiento centralizado

where they're cataloging every person's public movements all the time,

donde cataloguen los movimientos públicos de la gente constantemente,

just in case that information some day becomes useful.

por si acaso algún día esa información es útil.

Today, if the government wants to know where I was last week,

Hoy, si el gobierno quiere saber dónde estuve la semana pasada,

or last month or last year,

o el mes pasado, o el año pasado,

they have to go to a judge, get a warrant

tiene que ir a un juez, conseguir una orden,

and then serve that warrant on my phone company,

y presentar esa orden a mi compañía de teléfonos

which by the way, has a financial interest in protecting my privacy.

que, por cierto, tiene interés económico en proteger mi privacidad.

With face surveillance,

Con la vigilancia facial,

no such limitations exist.

esas limitaciones no existen.

This is technology that is 100 percent controlled by the government itself.

Esta tecnología está 100 % controlada por el propio gobierno.

So how would a warrant requirement work in this context?

Así que, ¿cómo podría funcionar una orden judicial en este contexto?

Is the government going to go to a judge

¿Va a ir el gobierno a un juez

and get a warrant,

a por una orden judicial

and then serve the warrant on themselves?

y luego presentársela ante sí mismos?

That would be like me giving you my diary,

Eso sería como si yo les diera mi diario

and saying, "Here, you can hold on to this forever,

y les dijera "toma, quédatelo para siempre,

but you can't read it until I say it's OK."

pero no lo puedes leer hasta que yo lo diga".

So what can we do?

¿Qué podemos hacer?

The only answer to the threat

La única respuesta a la amenaza

posed by the government's use of face surveillance

que supone que el gobierno utilice reconocimiento facial

is to deny the government the capacity to violate the public's trust,

es negarle al gobierno la capacidad de violar la confianza de lo público,

by denying the government the ability

negarle al gobierno la capacidad

to build these in-house face-surveillance networks.

de construir estas redes internas de reconocimiento facial.

And that's exactly what we're doing.

Y eso es exactamente lo que estamos haciendo.

The ACLU is part of a nationwide campaign

La ACLU es parte de una campaña nacional

to pump the brakes on the government's use of this dangerous technology.

para evitar que el gobierno haga uso de esta tecnología tan peligrosa.

We've already been successful,

Ya hemos tenido éxito,

from San Francisco to Somerville, Massachusetts,

desde San Francisco a Somerville, Massachussets,

we have passed municipal bans

hemos aprobado prohibiciones municipales

on the government's use of this technology.

en el uso del gobierno de estas tecnologías.

And plenty of other communities here in Massachusetts

Y muchas otras comunidades, aquí, en Massachussets,

and across the country

y por todo el país,

are debating similar measures.

debaten medidas similares.

Some people have told me that this movement is bound to fail.

Hay quien me ha dicho que este movimiento está condenado al fracaso.

That ultimately,

Que, en última instancia,

merely because the technology exists,

simplemente porque la tecnología existe,

it will be deployed in every context

será implementada en todos los contextos

by every government everywhere.

por cada gobierno en todas partes.

Privacy is dead, right?

La privacidad ha muerto, ¿no?

So the narrative goes.

Continúa la narrativa.

Well, I refuse to accept that narrative.

Bien, yo me niego a aceptar esa narrativa.

And you should, too.

Y Uds. también deberían negarse.

We can't allow Jeff Bezos or the FBI

No podemos permitir a Jeff Bezos o el FBI

to determine the boundaries of our freedoms in the 21st century.

que determinen los límites de nuestras libertades en el siglo XXI.

If we live in a democracy,

Si vivimos en una democracia,

we are in the driver's seat,

estamos en el asiento del conductor,

shaping our collective future.

dando forma a nuestro futuro colectivo.

We are at a fork in the road right now.

Estamos en una bifurcación ahora mismo.

We can either continue with business as usual,

Podemos continuar con lo que estábamos haciendo,

allowing governments to adopt and deploy these technologies unchecked,

permitiendo a los gobiernos adoptar e implementar estas tecnologías

in our communities, our streets and our schools,

no verificadas en nuestras comunidades, calles, y escuelas,

or we can take bold action now

o podemos ir a la acción ahora y hacer

to press pause on the government's use of face surveillance,

que el gobierno detenga su actividad en el uso de la vigilancia facial,

protect our privacy

podemos proteger nuestra privacidad

and to build a safer, freer future

y construir un futuro más seguro y libre

for all of us.

para todos nosotros.

Thank you.

Gracias.

(Applause and cheers)

(Aplausos y vítores).