What will a future without secrets look like? | Alessandro Acquisti

Alessandro Acquisti: La importancia de la privacidad

Traductor: Sebastian Betti Revisor: Carlos Arturo Morales

I would like to tell you a story

Quiero contarles una historia

connecting the notorious privacy incident

que conecta el célebre incidente de privacidad

involving Adam and Eve,

que involucró a Adán y Eva,

and the remarkable shift in the boundaries

y el cambio notorio de los límites

between public and private which has occurred

entre lo público y lo privado

in the past 10 years.

ocurrido en los últimos 10 años.

You know the incident.

Ya conocen el incidente.

Adam and Eve one day in the Garden of Eden

Adán y Eva, un día en el Jardín del Edén,

realize they are naked.

se dan cuenta de que están desnudos.

They freak out.

Se asustan.

And the rest is history.

Y el resto es historia.

Nowadays, Adam and Eve

Hoy en día, Adán y Eva

would probably act differently.

probablemente actuarían diferente.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adan ¡Lo de anoche fue genial! Me encantó la manzana LOL] (Risas)

[@Eve yep.. babe, know what happened to my pants tho?]

(Risas) [@Eva Sip... bebé, ¿sabes qué le pasó a mis pantalones?]

We do reveal so much more information

Revelamos mucha más información

about ourselves online than ever before,

personal en línea que nunca antes,

and so much information about us

y las empresas recolectan mucha más

is being collected by organizations.

información sobre nosotros.

Now there is much to gain and benefit

Podemos ganar mucho y beneficiarnos

from this massive analysis of personal information,

del análisis masivo de esta información personal,

or big data,

o "big data",

but there are also complex tradeoffs that come

pero también hay un precio grande que pagar en términos de privacidad,

[Salí por una pizza] [Mis amigos y la NSA]

from giving away our privacy.

en contraprestación.

And my story is about these tradeoffs.

Mi historia trata de esas contraprestaciones.

We start with an observation which, in my mind,

Empecemos con un verdad que, en mi opinión,

has become clearer and clearer in the past few years,

se ha hecho cada vez más evidente en los últimos años:

that any personal information

toda información personal

can become sensitive information.

puede volverse sensible.

Back in the year 2000, about 100 billion photos

En el 2000, se tomaron unos 100 000 millones

were shot worldwide,

de fotos en el mundo,

but only a minuscule proportion of them

pero solo una ínfima parte de ellas

were actually uploaded online.

se subíeron a la Web.

In 2010, only on Facebook, in a single month,

En el 2010, solo en Facebook, en un solo mes,

2.5 billion photos were uploaded,

se subieron 2500 millones de fotos,

most of them identified.

la mayoría identificadas.

In the same span of time,

En el mismo lapso de tiempo,

computers' ability to recognize people in photos

la capacidad de las computadoras para reconocer personas en las fotos

improved by three orders of magnitude.

mejoró en tres órdenes de magnitud.

What happens when you combine

¿Qué ocurre cuando uno combina

these technologies together:

estas tecnologías:

increasing availability of facial data;

aumento de la disponibilidad de datos faciales;

improving facial recognizing ability by computers;

mejora en el reconocimiento facial informático;

but also cloud computing,

y también la computación en la nube,

which gives anyone in this theater

que nos da a todos los presentes en la sala

the kind of computational power

el poder computacional

which a few years ago was only the domain

que hace unos años estaba disponible

of three-letter agencies;

solo para agencias gubernamentales;

and ubiquitous computing,

y la computación ubicua,

which allows my phone, which is not a supercomputer,

que le permite a mi móvil, que no es una supercomputadora,

to connect to the Internet

conectarse a Internet

and do there hundreds of thousands

y tomar allí cientos de miles

of face metrics in a few seconds?

de medidas faciales en unos pocos segundos?

Well, we conjecture that the result

Bueno, pensamos que el resultado

of this combination of technologies

de esta combinación de tecnologías

will be a radical change in our very notions

será un cambio radical en nuestras nociones

of privacy and anonymity.

de privacidad y anonimato.

To test that, we did an experiment

Para comprobalo hicimos un experimento

on Carnegie Mellon University campus.

en el campus del Carnegie Mellon.

We asked students who were walking by

Le pedimos a los estudiantes que pasaban por allí

to participate in a study,

que participaran en un estudio,

and we took a shot with a webcam,

les tomamos una foto con una cámara web

and we asked them to fill out a survey on a laptop.

y les pedimos que completaran una encuesta en el portátil.

While they were filling out the survey,

Mientras completaban la encuesta,

we uploaded their shot to a cloud-computing cluster,

subimos la foto a un clúster de computación en la nube,

and we started using a facial recognizer

y usamos un reconocedor facial

to match that shot to a database

para cotejar esa foto con una base de datos

of some hundreds of thousands of images

de cientos de miles de imágenes

which we had downloaded from Facebook profiles.

que habíamos bajado de perfiles de Facebook.

By the time the subject reached the last page

Para cuando el sujeto llegaba al final

on the survey, the page had been dynamically updated

de la encuesta, la página se había actualizado en forma dinámica

with the 10 best matching photos

con las 10 fotos encontradas por el reconocedor

which the recognizer had found,

que mejor concordaban,

and we asked the subjects to indicate

y le pedímos al sujeto que indicara

whether he or she found themselves in the photo.

si se encontraba en la foto.

Do you see the subject?

¿Ven al sujeto?

Well, the computer did, and in fact did so

Bueno, la computadora sí, y de hecho,

for one out of three subjects.

reconoció 1 de cada 3 sujetos.

So essentially, we can start from an anonymous face,

En esencia, podemos partir de un rostro anónimo,

offline or online, and we can use facial recognition

en disco o en la web, y usar el reconocimiento facial

to give a name to that anonymous face

para ponerle nombre a ese rostro anónimo

thanks to social media data.

gracias a las redes sociales.

But a few years back, we did something else.

Pero hace unos años hicimos algo más.

We started from social media data,

Partimos de datos de redes sociales,

we combined it statistically with data

los combinamos estadísticamente con datos

from U.S. government social security,

de la seguridad social del gobierno de EE.UU.

and we ended up predicting social security numbers,

y terminamos prediciendo los números de la seguridad social,

which in the United States

que en Estados Unidos

are extremely sensitive information.

son una información extremadamente sensible.

Do you see where I'm going with this?

¿Ven a dónde quiero llegar con esto?

So if you combine the two studies together,

Si combinan los dos estudios,

then the question becomes,

entonces la pregunta pasa a ser:

can you start from a face and,

¿Podemos partir de un rostro

using facial recognition, find a name

y mediante reconocimiento facial, hallar un nombre

and publicly available information

e información pública

about that name and that person,

sobre ese nombre y esa persona,

and from that publicly available information

y a partir de esa información pública

infer non-publicly available information,

inferir información no pública,

much more sensitive ones

mucho más sensible,

which you link back to the face?

para luego asociarla a aquel rostro?

And the answer is, yes, we can, and we did.

La respuesta es sí se puede, y lo hicimos.

Of course, the accuracy keeps getting worse.

Por supuesto, la precisión va desmejorando a cada paso.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[Se identificó el 27% de los 5 primeros dígitos del SSN de los sujetos (con 4 intentos)]

But in fact, we even decided to develop an iPhone app

Decidimos incluso, desarrollar una app para iPhone,

which uses the phone's internal camera

que usa la cámara interna del móvil

to take a shot of a subject

para tomar una foto del sujeto

and then upload it to a cloud

y subirla a la nube,

and then do what I just described to you in real time:

y luego hacer lo que les describí en tiempo real:

looking for a match, finding public information,

cotejarla, encontrar información pública,

trying to infer sensitive information,

tratar de inferir información sensible,

and then sending back to the phone

y luego enviarla nuevamente al móvil

so that it is overlaid on the face of the subject,

para ser superpuesta en el rostro del sujeto,

an example of augmented reality,

un ejemplo de realidad aumentada,

probably a creepy example of augmented reality.

quizá un ejemplo escalofriante de realidad aumentada.

In fact, we didn't develop the app to make it available,

De hecho, no desarrollamos la app para que estuviera disponible,

just as a proof of concept.

sino como una prueba de concepto.

In fact, take these technologies

Incluso tomamos estas tecnologías

and push them to their logical extreme.

y las llevamos al extremo lógico.

Imagine a future in which strangers around you

Imaginen un futuro en el que los extraños que los rodeen

will look at you through their Google Glasses

los miren con sus gafas Google

or, one day, their contact lenses,

o, algún día, con sus lentes de contacto,

and use seven or eight data points about you

y usen 7 o 8 datos de ustedes

to infer anything else

para inferir todo lo demás

which may be known about you.

que pueda saberse.

What will this future without secrets look like?

¿Cómo será ese futuro sin secretos?

And should we care?

¿Debería importarnos?

We may like to believe

Nos gustaría creer

that the future with so much wealth of data

que un futuro con tanta riqueza de datos

would be a future with no more biases,

sería un futuro sin más prejuicios,

but in fact, having so much information

pero, de hecho, contar con tanta información

doesn't mean that we will make decisions

no significa que tomaremos decisiones

which are more objective.

más objetivas.

In another experiment, we presented to our subjects

En otro experimento, presentamos a nuestros sujetos

information about a potential job candidate.

información sobre un potencial candidato laboral.

We included in this information some references

incluimos algunas referencias

to some funny, absolutely legal,

a cierta información totalmente legal,

but perhaps slightly embarrassing information

divertida pero un poco embarazosa,

that the subject had posted online.

que el candidato había publicado en línea.

Now interestingly, among our subjects,

Curiosamente, entre nuestros sujetos

some had posted comparable information,

algunos habían publicado información similar

and some had not.

y otros no.

Which group do you think

¿Qué grupo ceeen

was more likely to judge harshly our subject?

que mostró propensión a juzgar con más severidad a nuestro sujeto?

Paradoxically, it was the group

Paradójicamente, fue el grupo

who had posted similar information,

que había publicado información similar,

an example of moral dissonance.

un ejemplo de disonancia moral.

Now you may be thinking,

Quizá estén pensando

this does not apply to me,

que eso no los afecta a Uds.

because I have nothing to hide.

porque no tienen nada que ocultar.

But in fact, privacy is not about

Pero, de hecho, la privacidad no tiene que ver

having something negative to hide.

con tener algo negativo que ocultar.

Imagine that you are the H.R. director

Imaginen que son el director de RR.HH.

of a certain organization, and you receive résumés,

de cierta empresa, que reciben unas hojas de vida

and you decide to find more information about the candidates.

y deciden buscar más información sobre los candidatos.

Therefore, you Google their names

Entonces, googlean sus nombres

and in a certain universe,

y en determinado universo

you find this information.

encuentran esta información--

Or in a parallel universe, you find this information.

O en un universo paralelo, encuentran esta información.

Do you think that you would be equally likely

¿Creen que todos los candidatos tendrían con Uds.

to call either candidate for an interview?

la misma oportunidad de ser llamados para una entrevista?

If you think so, then you are not

Si piensan que sí, entonces no son

like the U.S. employers who are, in fact,

como los empleadores de EE.UU. ya que, de hecho,

part of our experiment, meaning we did exactly that.

en algún punto de nuestro experimento hicimos exactamente eso.

We created Facebook profiles, manipulating traits,

Creamos perfiles de Facebook, manipulamos los rasgos,

then we started sending out résumés to companies in the U.S.,

y luego empezamos a enviar hojas de vida a empresas en EE.UU.,

and we detected, we monitored,

y detectamos, monitoreamos,

whether they were searching for our candidates,

si estaban buscando información de nuestros candidatos,

and whether they were acting on the information

y si actuaban con base en la información

they found on social media. And they were.

que encontraban en los medios sociales. Y lo hicieron.

Discrimination was happening through social media

Se discriminó con base en los medios sociales

for equally skilled candidates.

a candidatos con iguales habilidades.

Now marketers like us to believe

Los vendedores quieren que creamos

that all information about us will always

que toda la información sobre nosotros siempre

be used in a manner which is in our favor.

será usada a nuestro favor.

But think again. Why should that be always the case?

Pero piensen de nuevo. ¿Por qué habría de ser siempre así?

In a movie which came out a few years ago,

En una película de hace unos años,

"Minority Report," a famous scene

"Minority Report", en una escena famosa

had Tom Cruise walk in a mall

Tom Cruise camina por un centro comercial

and holographic personalized advertising

rodeado de publicidad

would appear around him.

holográfica personalizada.

Now, that movie is set in 2054,

La película transcurre en el 2054,

about 40 years from now,

dentro de unos 40 años,

and as exciting as that technology looks,

y aunque la tecnología luce emocionante,

it already vastly underestimates

subestima en mucho

the amount of information that organizations

la cantidad de información que las organizaciones

can gather about you, and how they can use it

pueden recolectar sobre nosotros, y la forma de usarla

to influence you in a way that you will not even detect.

para influir en nosotros de maneras imperceptibles.

So as an example, this is another experiment

Como ejemplo, está este otro experimento

actually we are running, not yet completed.

que estamos haciendo y que todavía no terminamos.

Imagine that an organization has access

Imaginemos que una organización tiene acceso

to your list of Facebook friends,

a tu lista de amigos de Facebook,

and through some kind of algorithm

y mediante algún tipo de algoritmo

they can detect the two friends that you like the most.

puede identificar sus dos mejores amigos.

And then they create, in real time,

Que luego crean, en tiempo real,

a facial composite of these two friends.

un rostro compuesto de estos dos amigos.

Now studies prior to ours have shown that people

Estudios previos al nuestro han demostrado que las personas

don't recognize any longer even themselves

no se reconocen ni a sí mismas

in facial composites, but they react

en rostros compuestos, pero reaccionan

to those composites in a positive manner.

a esas composiciones de manera positiva.

So next time you are looking for a certain product,

Y entonces, la próxima vez que busquen algún producto

and there is an ad suggesting you to buy it,

y que haya una publicidad sugiriéndoles que lo compren,

it will not be just a standard spokesperson.

no será un vendedor común.

It will be one of your friends,

Será uno de sus amigos,

and you will not even know that this is happening.

y ni siquiera sabrán lo que está pasando.

Now the problem is that

El problema es que

the current policy mechanisms we have

los mecanismos que tenemos en la política acutal

to protect ourselves from the abuses of personal information

para la protección contra los abusos de la información personal

are like bringing a knife to a gunfight.

son como llevar un cuchillo a un tiroteo.

One of these mechanisms is transparency,

Uno de estos mecanismos es la transparencia,

telling people what you are going to do with their data.

decirle a las personas lo que uno va a hacer con sus datos.

And in principle, that's a very good thing.

En principio, eso es algo muy bueno.

It's necessary, but it is not sufficient.

Es necesario, pero no es suficiente.

Transparency can be misdirected.

La transparencia puede estar mal dirigida.

You can tell people what you are going to do,

Uno puede contarle a la gente lo que hará,

and then you still nudge them to disclose

y luego empujarlos a revelar

arbitrary amounts of personal information.

cantidades arbitrarias de información personal.

So in yet another experiment, this one with students,

Por eso en un experimento más, este con estudiantes,

we asked them to provide information

les pedimos que nos dieran información

about their campus behavior,

sobre su comportamiento en el campus,

including pretty sensitive questions, such as this one.

formulándoles preguntas tan sensibles como estas.

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[¿Alguna vez te copiaste en un examen?]

A un grupo de sujetos les dijimos:

"Only other students will see your answers."

"Solo otro grupo de estudiantes verá sus respuestas".

To another group of subjects, we told them,

A otro grupo de sujetos les dijimos:

"Students and faculty will see your answers."

"Sus respuestas serán vistas por estudiantes y profesores".

Transparency. Notification. And sure enough, this worked,

Transparencia. Notificación. Y por supuesto, esto funcionó,

in the sense that the first group of subjects

en el sentido de que el primer grupo de sujetos

were much more likely to disclose than the second.

fue mucho más propenso a revelar información que el segundo.

It makes sense, right?

Tiene sentido, ¿no?

But then we added the misdirection.

Pero luego añadimos un distractor.

We repeated the experiment with the same two groups,

Repetimos el experimento con los mismos dos grupos,

this time adding a delay

esta vez añadiendo una demora

between the time we told subjects

entre el tiempo en que le dijimos a los sujetos

how we would use their data

cómo usaríamos sus datos

and the time we actually started answering the questions.

y el tiempo en que empezamos a [formular] las preguntas.

How long a delay do you think we had to add

¿Cuánta demora creen que tuvimos que añadir

in order to nullify the inhibitory effect

para anular el efecto inhibidor

of knowing that faculty would see your answers?

de saber que los profesores verían sus respuestas?

Ten minutes?

¿10 minutos?

Five minutes?

¿5 minutos?

One minute?

¿1 minuto?

How about 15 seconds?

¿Qué tal 15 segundos?

Fifteen seconds were sufficient to have the two groups

Quince segundos fueron suficientes para que ambos grupos

disclose the same amount of information,

revelaran la misma cantidad de información,

as if the second group now no longer cares

como si al segundo grupo no le importara más

for faculty reading their answers.

que los profesores leyeran sus respuestas.

Now I have to admit that this talk so far

Tengo que admitir que esta charla hasta ahora

may sound exceedingly gloomy,

puede sonar en extremo negativa,

but that is not my point.

pero esa no es mi intención.

In fact, I want to share with you the fact that

De hecho, quiero compartir con Uds.

there are alternatives.

las alternativas que hay.

The way we are doing things now is not the only way

La forma en que hacemos las cosas ahora no es la única

they can done, and certainly not the best way

forma de hacerlas, y ciertamente no es la mejor

they can be done.

forma en que pueden ser hechas.

When someone tells you, "People don't care about privacy,"

Cuando alguien les diga: "La gente no se preocupa por la privacidad",

consider whether the game has been designed

piensen si el juego no ha sido diseñado

and rigged so that they cannot care about privacy,

y manipulado para que no se preocupen por la privacidad,

and coming to the realization that these manipulations occur

y cuando concluyamos que que estas manipulaciones ocurren,

is already halfway through the process

ya estaremos a mitad de camino

of being able to protect yourself.

de poder autoprotegernos.

When someone tells you that privacy is incompatible

Si alguien les dice que la privacidad es incompatible

with the benefits of big data,

con los beneficios del "big data",

consider that in the last 20 years,

piensen que en los últimos 20 años,

researchers have created technologies

los investigadores han creado tecnologías

to allow virtually any electronic transactions

que permiten que virtualmente cualquier transacción electrónica

to take place in a more privacy-preserving manner.

se realice en formas más preservadoras de la privacidad.

We can browse the Internet anonymously.

Podemos navegar Internet en forma anónima.

We can send emails that can only be read

Podemos enviar correos electrónicos que solo pueda leer

by the intended recipient, not even the NSA.

el destinatario, y no la NSA [agencia de seguridad].

We can have even privacy-preserving data mining.

Podemos proteger incluso la privacidad de la minería de datos.

In other words, we can have the benefits of big data

En otras palabras, podemos tener los beneficios del "big data"

while protecting privacy.

y proteger la privacidad.

Of course, these technologies imply a shifting

Estas tecnologías, claro está, implican una inversión

of cost and revenues

de la relacón costo- beneficio

between data holders and data subjects,

para los tenedores de los datos,

which is why, perhaps, you don't hear more about them.

razón por la cual, quizá, no escuchamos mucho de ellas.

Which brings me back to the Garden of Eden.

Eso me lleva de vuelta al Jardín del Edén.

There is a second privacy interpretation

Hay una segunda interpretación de la privacidad

of the story of the Garden of Eden

en la historia del Jardín del Edén

which doesn't have to do with the issue

que no tiene que ver con el tema

of Adam and Eve feeling naked

del desnudo de Adán y Eva

and feeling ashamed.

ni con sentir vergüenza.

You can find echoes of this interpretation

Pueden encontrar ecos de esta interpretación

in John Milton's "Paradise Lost."

en "El paraíso perdido" de John Milton.

In the garden, Adam and Eve are materially content.

En el jardín, Adán y Eva están materialmente contentos.

They're happy. They are satisfied.

Están felices. Están satisfechos.

However, they also lack knowledge

No obstante, carecen de conocimiento

and self-awareness.

y de autoconciencia.

The moment they eat the aptly named

En el momento en que comen el bien llamado

fruit of knowledge,

fruto del conocimiento,

that's when they discover themselves.

es cuando se descubren a sí mismos.

They become aware. They achieve autonomy.

Se hacen conscientes. Logran autonomía.

The price to pay, however, is leaving the garden.

El precio a pagar, sin embargo, es abandonar el jardín.

So privacy, in a way, is both the means

La privacidad, en cierto modo, es tanto el medio

and the price to pay for freedom.

como el precio a pagar por la libertad.

Again, marketers tell us

Y los vendedores otra vez nos dicen

that big data and social media

que el "big data" y los medios sociales

are not just a paradise of profit for them,

no son solo un paraíso de ganancias para ellos,

but a Garden of Eden for the rest of us.

sino el Jardín del Edén para el resto de nosotros.

We get free content.

Recibimos contenido gratis.

We get to play Angry Birds. We get targeted apps.

Podemos jugar a Angry Birds. Tenemos aplicaciones específicas.

But in fact, in a few years, organizations

Pero, de hecho, en unos años, las organizaciones

will know so much about us,

sabrán tanto de nosotros

they will be able to infer our desires

que podrán inferir nuestros deseos

before we even form them, and perhaps

incluso antes de formularlos y quizá hasta

buy products on our behalf

compren productos en nuestro nombre

before we even know we need them.

antes de que sepamos que los necesitamos.

Now there was one English author

Hay un escritor inglés

who anticipated this kind of future

que anticipó esta especie de futuro

where we would trade away

en el que cambiaríamos

our autonomy and freedom for comfort.

nuestra autonomía y libertad por comodidad--

Even more so than George Orwell,

Incluso más que George Orwell.

the author is, of course, Aldous Huxley.

El autor es, por supuesto, Aldous Huxley.

In "Brave New World," he imagines a society

En "Un mundo feliz", él imagina una sociedad

where technologies that we created

en la que las tecnologías que creamos

originally for freedom

en principio para la libertad

end up coercing us.

terminan coaccionándonos.

However, in the book, he also offers us a way out

Sin embargo, en el libro, él también nos ofrece una salida

of that society, similar to the path

de esa sociedad, similar al sendero

that Adam and Eve had to follow to leave the garden.

que Adán y Eva tuvieron que seguir para salir del jardín.

In the words of the Savage,

En palabras de Savage,

regaining autonomy and freedom is possible,

recuperar la autonomía y la libertad es posible,

although the price to pay is steep.

aunque el precio a pagar es elevado.

So I do believe that one of the defining fights

Por eso creo que una de las peleas decisivas

of our times will be the fight

de nuestros tiempos será la pelea

for the control over personal information,

por el control de la información personal,

the fight over whether big data will become a force

la pelea porque el "big data" se vuelva una fuerza

for freedom,

de libertad,

rather than a force which will hiddenly manipulate us.

en lugar de una fuerza que nos manipule desde las sombras.

Right now, many of us

Muchos de nosotros

do not even know that the fight is going on,

ni siquiera sabemos que se está dando esta pelea,

but it is, whether you like it or not.

pero es así, nos guste o no.

And at the risk of playing the serpent,

Y a riesgo de interpretar a la serpiente,

I will tell you that the tools for the fight

les diré que las herramientas para pelear

are here, the awareness of what is going on,

están aquí, la conciencia de lo que ocurre,

and in your hands,

y en sus manos,

just a few clicks away.

a unos pocos clics de distancia.

Thank you.

Gracias.

(Applause)

(Aplausos)