What will a future without secrets look like? | Alessandro Acquisti

Tradutor: Catarina Tavares Teles Revisora: Margarida Ferreira

I would like to tell you a story

Gostava de vos contar uma história

connecting the notorious privacy incident

que liga o conhecido incidente de privacidade

involving Adam and Eve,

que envolveu Adão e Eva,

and the remarkable shift in the boundaries

e a mudança notável nas fronteiras

between public and private which has occurred

entre o público e o privado,

que ocorreu nos últimos 10 anos.

in the past 10 years.

You know the incident.

Vocês conhecem o incidente.

Adam and Eve one day in the Garden of Eden

Um dia, no jardim do Éden,

Adão e Eva apercebem-se de que estão nus.

realize they are naked.

They freak out.

Ficam doidos.

And the rest is history.

E o resto é história.

Nowadays, Adam and Eve

Nos dias de hoje, provavelmente, Adão e Eva agiriam de forma diferente

would probably act differently.

[@Adam Last nite was a blast! loved dat apple LOL]

[ @Adão A noite ontem foi baril! Adorei a maçã LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Eva ya... fofo, onde estão as minhas calças?]

We do reveal so much more information

Hoje, revelamos "online" mais informações

about ourselves online than ever before,

sobre nós próprios do que nunca.

and so much information about us

Essas informações todas sobre nós

is being collected by organizations.

estão a ser recolhidas por organizações.

Now there is much to gain and benefit

Hoje, há muito a ganhar e a beneficiar

from this massive analysis of personal information,

com esta análise maciça de informações pessoais,

or big data,

ou seja, os metadados,

but there are also complex tradeoffs that come

mas há também complexos inconvenientes,

from giving away our privacy.

que advêm de abdicarmos da nossa privacidade.

And my story is about these tradeoffs.

A minha história é sobre esses inconvenientes.

We start with an observation which, in my mind,

Começamos com uma observação que, quanto a mim,

has become clearer and clearer in the past few years,

se tornou cada vez mais clara nos últimos anos:

that any personal information

quaisquer informações pessoais

can become sensitive information.

podem tornar-se em informações sensíveis.

Back in the year 2000, about 100 billion photos

No ano 2000, tiraram-se em todo o mundo

cerca de 100 mil milhões de fotos,

were shot worldwide,

but only a minuscule proportion of them

mas apenas uma proporção minúscula dessas fotos

were actually uploaded online.

foram carregadas na Internet.

In 2010, only on Facebook, in a single month,

Em 2010, só no Facebook, num único mês,

2.5 billion photos were uploaded,

foram carregadas 2500 milhões de fotos,

most of them identified.

a maior parte delas identificadas.

In the same span of time,

No mesmo período de tempo,

computers' ability to recognize people in photos

a capacidade, por parte dos computadores, de reconhecer pessoas em fotos

improved by three orders of magnitude.

aumentou para o triplo.

What happens when you combine

O que acontece quando combinamos

these technologies together:

todas as tecnologias?

increasing availability of facial data;

a crescente disponibilidade de dados faciais;

improving facial recognizing ability by computers;

a crescente capacidade de os computadores reconhecerem caras;

but also cloud computing,

e também a computação em nuvem,

which gives anyone in this theater

que fornece a qualquer pessoa neste teatro

the kind of computational power

o tipo de poder computacional

which a few years ago was only the domain

que, há uns anos, estava apenas na posse de agências secretas;

of three-letter agencies;

and ubiquitous computing,

e a computação omnipresente,

which allows my phone, which is not a supercomputer,

que permite que o meu telemóvel, — que não é um super computador —

to connect to the Internet

se ligue à Internet

and do there hundreds of thousands

e realize centenas de milhares

of face metrics in a few seconds?

de medições faciais em poucos segundos.

Well, we conjecture that the result

Bem, nós presumimos que o resultado

of this combination of technologies

desta combinação de tecnologias

will be a radical change in our very notions

será uma mudança radical

nas nossas noções de privacidade e anonimato.

of privacy and anonymity.

To test that, we did an experiment

Para testar isso, fizemos uma experiência

on Carnegie Mellon University campus.

no campus da Universidade de Carnegie Mellon.

We asked students who were walking by

Pedimos a estudantes, que estavam a passar,

to participate in a study,

para participarem num estudo,

and we took a shot with a webcam,

e tirámos-lhes uma fotografia com uma "webcam".

and we asked them to fill out a survey on a laptop.

Pedimos-lhes para preencherem um questionário num portátil.

While they were filling out the survey,

Enquanto eles preenchiam o questionário,

we uploaded their shot to a cloud-computing cluster,

carregámos a fotografia numa nuvem de computação

and we started using a facial recognizer

e iniciámos um processo de reconhecimento facial

to match that shot to a database

para combinar essa foto com uma base de dados

of some hundreds of thousands of images

de algumas centenas de milhares de imagens

which we had downloaded from Facebook profiles.

que tínhamos descarregado dos perfis no Facebook.

By the time the subject reached the last page

Quando os participantes chegavam à ultima página do questionário,

on the survey, the page had been dynamically updated

a página tinha-se alterado dinamicamente

with the 10 best matching photos

com as dez fotografias mais compatíveis

which the recognizer had found,

que o programa de reconhecimento tinha encontrado.

and we asked the subjects to indicate

Pedimos aos participantes para indicar

whether he or she found themselves in the photo.

se se conseguiam encontrar nas fotos.

Do you see the subject?

Veem o indivíduo?

Well, the computer did, and in fact did so

O computador conseguiu ver, e de facto fê-lo

for one out of three subjects.

para um em cada três participantes.

So essentially, we can start from an anonymous face,

Portanto, podemos começar com uma face anónima

offline or online, and we can use facial recognition

"offline" ou "online", e podemos usar o reconhecimento facial

to give a name to that anonymous face

para dar um nome a essa face anónima,

thanks to social media data.

graças aos dados das redes sociais.

But a few years back, we did something else.

Aqui há uns anos, fizemos outra coisa.

We started from social media data,

Começámos com dados de redes sociais,

we combined it statistically with data

que combinámos estatisticamente

com dados da Segurança Social do governo dos EUA,

from U.S. government social security,

and we ended up predicting social security numbers,

e acabámos por prever números da segurança social,

which in the United States

que, nos EUA, são informações extremamente confidenciais.

are extremely sensitive information.

Do you see where I'm going with this?

Percebem onde quero chegar com isto?

So if you combine the two studies together,

Portanto, se combinarmos os dois estudos,

then the question becomes,

a pergunta passa a ser:

can you start from a face and,

Podemos começar com uma face

using facial recognition, find a name

e, usando o reconhecimento facial,

and publicly available information

encontrar um nome e informações disponíveis publicamente

about that name and that person,

acerca desse nome e dessa pessoa?

and from that publicly available information

A partir dessa informação pública disponível,

infer non-publicly available information,

inferir as que não estão disponíveis,

much more sensitive ones

muito mais confidenciais,

which you link back to the face?

que poderemos relacionar com a face?

And the answer is, yes, we can, and we did.

A resposta é: "Sim, podemos e fizemos".

Of course, the accuracy keeps getting worse.

É claro, a precisão vai ficando pior.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[27% (em 4 tentativas)]

But in fact, we even decided to develop an iPhone app

Mas, de facto, até decidimos desenvolver uma aplicação para iPhone

which uses the phone's internal camera

que usa a câmara interna do telemóvel

to take a shot of a subject

para tirar uma fotografia do participante e, depois, carregá-la para a nuvem.

and then upload it to a cloud

and then do what I just described to you in real time:

Faz em tempo real o que descrevi:

looking for a match, finding public information,

procura uma compatibilidade, informações públicas,

trying to infer sensitive information,

tenta inferir informações confidenciais,

and then sending back to the phone

e depois envia de novo para o telemóvel

so that it is overlaid on the face of the subject,

para que fique sobreposto na cara do participante.

an example of augmented reality,

É um exemplo de "realidade aumentada",

probably a creepy example of augmented reality.

provavelmente um exemplo assustador de realidade aumentada.

In fact, we didn't develop the app to make it available,

Não desenvolvemos a aplicação para a tornar disponível,

just as a proof of concept.

mas apenas como validação do conceito.

In fact, take these technologies

Peguem nestas tecnologias

and push them to their logical extreme.

e levem-nas até ao seu extremo lógico.

Imagine a future in which strangers around you

Imaginem um futuro em que estranhos à nossa volta

will look at you through their Google Glasses

vão olhar para nós com os seus óculos Google

or, one day, their contact lenses,

ou, um dia, com as suas lentes de contacto,

and use seven or eight data points about you

e vão usar sete ou oito dados sobre nós

to infer anything else

para deduzir tudo o resto

which may be known about you.

que pode ser conhecida sobre nós.

What will this future without secrets look like?

Com o que é que se vai parecer este futuro sem segredos?

And should we care?

Devemo-nos importar?

We may like to believe

Podemos querer acreditar

that the future with so much wealth of data

que o futuro, com tanta riqueza de dados,

would be a future with no more biases,

será um futuro sem mais preconceitos,

but in fact, having so much information

mas o facto de termos tanta informação

doesn't mean that we will make decisions

não significa que vamos tomar decisões mais objetivas.

which are more objective.

In another experiment, we presented to our subjects

Noutra experiência, apresentámos aos participantes

information about a potential job candidate.

informações sobre candidatos potenciais a um emprego.

We included in this information some references

Incluímos, nestas informações, algumas referências

to some funny, absolutely legal,

a informações engraçadas, absolutamente legais,

but perhaps slightly embarrassing information

mas talvez um pouco embaraçosas,

that the subject had posted online.

que o indivíduo tinha publicado na Internet.

Now interestingly, among our subjects,

Curiosamente, entre os participantes,

some had posted comparable information,

alguns tinham publicado "online" informações semelhantes,

and some had not.

outros não.

Which group do you think

Que grupo acham

was more likely to judge harshly our subject?

que avaliou mais severamente o indivíduo?

Paradoxically, it was the group

Paradoxalmente, foi o grupo

who had posted similar information,

que tinha colocado informações semelhantes.

an example of moral dissonance.

Um exemplo de dissonância moral.

Now you may be thinking,

Podem estar a pensar:

this does not apply to me,

"Isto não se aplica a mim,

because I have nothing to hide.

"porque eu não tenho nada a esconder."

But in fact, privacy is not about

Mas, na realidade, a privacidade

having something negative to hide.

não se trata de ter coisas negativas a esconder.

Imagine that you are the H.R. director

Imaginem que são o diretor de Recursos Humanos

of a certain organization, and you receive résumés,

duma certa organização, recebem currículos,

and you decide to find more information about the candidates.

e decidem procurar mais informações sobre os candidatos.

Therefore, you Google their names

Por isso, procuram os nomes no Google

and in a certain universe,

e, num determinado universo,

you find this information.

encontram esta informação.

Or in a parallel universe, you find this information.

Ou, num universo paralelo, encontram esta informação.

Do you think that you would be equally likely

Acham que a probabilidade de chamarem um ou outro candidato

to call either candidate for an interview?

para uma entrevista seria a mesma?

If you think so, then you are not

Se concordam, então não são

like the U.S. employers who are, in fact,

como os empregadores norte-americanos

part of our experiment, meaning we did exactly that.

que tomaram parte na nossa experiência — fizemos isso mesmo.

We created Facebook profiles, manipulating traits,

Criámos perfis no Facebook, manipulámos características

then we started sending out résumés to companies in the U.S.,

e depois enviámos currículos para empresas nos EUA.

and we detected, we monitored,

Detetámos, monitorizámos

whether they were searching for our candidates,

se elas investigaram os nossos candidatos,

and whether they were acting on the information

e se agiram baseando-se nas informações

they found on social media. And they were.

que encontraram nas redes sociais. E agiram.

Discrimination was happening through social media

A discriminação acontecia a partir das redes sociais

for equally skilled candidates.

entre candidatos com habilitações iguais.

Now marketers like us to believe

Os publicitários gostariam que acreditássemos

that all information about us will always

que todas as nossas informações pessoais

be used in a manner which is in our favor.

serão sempre usadas em nosso favor.

But think again. Why should that be always the case?

Mas pensem novamente. Por que razão será sempre assim?

In a movie which came out a few years ago,

Num filme que saiu há uns anos,

"Minority Report," a famous scene

o "Relatório Minoritário", existe uma cena famosa

had Tom Cruise walk in a mall

em que Tom Cruise anda a passear num centro comercial

and holographic personalized advertising

e, à sua volta, aparece

publicidade holográfica personalizada.

would appear around him.

Now, that movie is set in 2054,

Esse filme passa-se em 2054,

about 40 years from now,

daqui a cerca de 40 anos.

and as exciting as that technology looks,

Por mais empolgante que essa tecnologia pareça,

it already vastly underestimates

subestima largamente

the amount of information that organizations

a quantidade de informações que as organizações recolhem sobre nós

can gather about you, and how they can use it

e a maneira como a podem usar

to influence you in a way that you will not even detect.

para nos influenciar duma maneira que nem sequer vamos detetar.

So as an example, this is another experiment

Como exemplo, eis outra experiência

actually we are running, not yet completed.

que ainda está a decorrer, ainda não está finalizada.

Imagine that an organization has access

Imaginem que uma organização tem acesso

to your list of Facebook friends,

à nossa lista de amigos no Facebook

and through some kind of algorithm

e, através de um qualquer algoritmo,

they can detect the two friends that you like the most.

consegue detetar dois dos nossos amigos mais chegados.

And then they create, in real time,

Depois criam, em tempo real,

a facial composite of these two friends.

um compósito facial desses dois amigos.

Now studies prior to ours have shown that people

Estudos anteriores ao nosso mostram que as pessoas

don't recognize any longer even themselves

já não se reconhecem a si mesmos nesses compósitos faciais,

in facial composites, but they react

to those composites in a positive manner.

mas reagem a eles duma maneira positiva.

So next time you are looking for a certain product,

Por isso, da próxima vez que estiverem à procura de um certo produto

and there is an ad suggesting you to buy it,

e existir uma campanha sugerindo que compre aquele,

it will not be just a standard spokesperson.

não será um apresentador qualquer.

It will be one of your friends,

será um dos nossos amigos,

and you will not even know that this is happening.

e nós nem percebemos que isso está a acontecer.

Now the problem is that

Neste momento, o problema

the current policy mechanisms we have

é que os atuais mecanismos políticos que temos

to protect ourselves from the abuses of personal information

para nos protegermos do abuso de informações pessoais

are like bringing a knife to a gunfight.

funcionam como levar uma faca para um duelo de pistolas.

One of these mechanisms is transparency,

Um destes mecanismos é a transparência,

telling people what you are going to do with their data.

dizer às pessoas o que vão fazer com os seus dados.

And in principle, that's a very good thing.

Em princípio, isso é uma coisa boa.

It's necessary, but it is not sufficient.

É necessário, mas não é suficiente.

Transparency can be misdirected.

A transparência pode ser mal direcionada.

You can tell people what you are going to do,

Podem dizer às pessoas o que vão fazer,

and then you still nudge them to disclose

e, mesmo assim, incitá-las

arbitrary amounts of personal information.

a revelar quantidades arbitrárias de informações pessoais.

So in yet another experiment, this one with students,

Ainda noutra experiência, — esta com estudantes —

we asked them to provide information

pedimos para fornecerem informações

about their campus behavior,

sobre o seu comportamento no campus,

including pretty sensitive questions, such as this one.

incluindo algumas questões sensíveis, como esta.

[Alguma vez copiaram num exame?]

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

A um grupo dissemos:

"Only other students will see your answers."

"As respostas só serão vistas por outros estudantes".

To another group of subjects, we told them,

A outro grupo dissemos:

"Students and faculty will see your answers."

"As respostas vão ser vistas pelos outros estudantes e professores".

Transparency. Notification. And sure enough, this worked,

Transparência. Notificação. Isso resultou.

in the sense that the first group of subjects

O primeiro grupo de participantes

were much more likely to disclose than the second.

estava mais disposto a revelar as informações do que o outro.

It makes sense, right?

But then we added the misdirection.

Faz sentido, não faz?

Mas depois induzimo-los em erro.

We repeated the experiment with the same two groups,

Repetimos a experiência com os mesmos dois grupos,

this time adding a delay

mas desta vez adicionando um atraso

between the time we told subjects

entre a altura em que lhes dissemos

how we would use their data

como iríamos usar os dados deles

and the time we actually started answering the questions.

e a altura em que começámos a fzer as perguntas.

How long a delay do you think we had to add

Que atraso acham que tivemos de adicionar

in order to nullify the inhibitory effect

no sentido de anular o efeito inibitório

of knowing that faculty would see your answers?

de saber que os membros da faculdade iriam ver as suas respostas?

Ten minutes?

Dez minutos?

Five minutes?

Cinco minutos?

One minute?

Um minuto?

How about 15 seconds?

Que tal quinze segundos?

Fifteen seconds were sufficient to have the two groups

Quinze segundos chegaram para que os dois grupos

disclose the same amount of information,

revelassem a mesma quantidade de informações,

as if the second group now no longer cares

como se o segundo grupo já não se importasse

for faculty reading their answers.

com o facto de os membros da faculdade irem ler as suas respostas.

Now I have to admit that this talk so far

Tenho que reconhecer que esta palestra, até agora,

may sound exceedingly gloomy,

pode ter soado excessivamente sombria

but that is not my point.

mas não é isso que me interessa.

In fact, I want to share with you the fact that

Quero partilhar convosco o facto

there are alternatives.

de que existem alternativas.

The way we are doing things now is not the only way

A maneira como estamos a fazer as coisas

não é a única maneira de as fazer

they can done, and certainly not the best way

e certamente também não é a melhor maneira de serem feitas.

they can be done.

When someone tells you, "People don't care about privacy,"

Quando alguém vos diz: "As pessoas não ligam à sua privacidade",

consider whether the game has been designed

considerem se a ideia foi desenvolvida

and rigged so that they cannot care about privacy,

e manipulada para que elas não se importem.

and coming to the realization that these manipulations occur

Chegar à conclusão de que estas manipulações ocorrem

is already halfway through the process

é já meio caminho andado para sermos capazes de nos protegermos.

of being able to protect yourself.

When someone tells you that privacy is incompatible

Quando alguém nos diz que a privacidade é incompatível

with the benefits of big data,

com os benefícios dos metadados,

consider that in the last 20 years,

considerem que, nos últimos 20 anos,

researchers have created technologies

os investigadores criaram tecnologias

to allow virtually any electronic transactions

que permitem que, virtualmente, qualquer transação eletrónica

to take place in a more privacy-preserving manner.

ocorra de uma maneira que preserve a privacidade dos envolvidos.

We can browse the Internet anonymously.

Podemos navegar anonimamente pela Internet.

We can send emails that can only be read

Podemos enviar "emails" que só poderão ser lidos

by the intended recipient, not even the NSA.

pelo destinatário pretendido, nem mesmo pela NSA.

We can have even privacy-preserving data mining.

Podemos até realizar extração de dados preservando a nossa privacidade.

In other words, we can have the benefits of big data

Em suma, podemos ter os benefícios das grandes base de dados

while protecting privacy.

enquanto protegemos a nossa privacidade.

Of course, these technologies imply a shifting

É claro, estas tecnologias implicam

of cost and revenues

uma mudança de custos e receitas

between data holders and data subjects,

entre os detentores de dados e os titulares dos dados,

which is why, perhaps, you don't hear more about them.

o que é, talvez, a razão de não se ouvir falar mais sobre isto.

Which brings me back to the Garden of Eden.

O que me traz de novo ao jardim do Éden.

There is a second privacy interpretation

Há uma segunda interpretação da privacidade

of the story of the Garden of Eden

na história do jardim do Éden

which doesn't have to do with the issue

que não tem a ver com o facto

of Adam and Eve feeling naked

de Adão e Eva se sentirem nus e envergonhados.

and feeling ashamed.

You can find echoes of this interpretation

É possível encontrar ecos desta interpretação

in John Milton's "Paradise Lost."

em "Paraíso Perdido", de John Milton.

In the garden, Adam and Eve are materially content.

No jardim, Adão e Eva estavam materialmente contentes.

They're happy. They are satisfied.

Eram felizes. Estavam satisfeitos.

However, they also lack knowledge

Contudo, eles não possuíam conhecimento nem consciência.

and self-awareness.

The moment they eat the aptly named

No momento em que comem

o apropriadamente chamado "fruto do conhecimento",

fruit of knowledge,

that's when they discover themselves.

descobrem-se a eles próprios.

They become aware. They achieve autonomy.

Tornam-se conscientes. Alcançam a autonomia.

The price to pay, however, is leaving the garden.

O preço a pagar, porém, é sair do jardim.

So privacy, in a way, is both the means

Daí que a privacidade engloba igualmente

and the price to pay for freedom.

os meios e o preço a pagar pela liberdade.

Again, marketers tell us

De novo, os publicitários dizem-nos

that big data and social media

que os metadados e as redes sociais

are not just a paradise of profit for them,

não são apenas um paraíso de lucro para eles,

but a Garden of Eden for the rest of us.

mas um Jardim do Éden para todos nós.

We get free content.

Temos um conteúdo livre.

We get to play Angry Birds. We get targeted apps.

Podemos jogar Angry Birds. Temos aplicativos direcionados.

But in fact, in a few years, organizations

Mas, na verdade, dentro de poucos anos,

as organizações vão saber tanto sobre nós

will know so much about us,

they will be able to infer our desires

que serão capazes de inferir os nossos desejos

before we even form them, and perhaps

antes de nós os formularmos,

buy products on our behalf

e talvez até comprar produtos em nosso nome

before we even know we need them.

antes sequer de sabermos que precisamos deles.

Now there was one English author

Existiu um autor inglês

who anticipated this kind of future

que previu este tipo de futuro

where we would trade away

em que trocaremos a nossa autonomia e liberdade pelo conforto,

our autonomy and freedom for comfort.

Even more so than George Orwell,

ainda mais do que George Orwell,

the author is, of course, Aldous Huxley.

O autor é, naturalmente, Aldous Huxley.

In "Brave New World," he imagines a society

Em "Admirável Mundo Novo", ele imagina uma sociedade

where technologies that we created

em que as tecnologias que criámos,

originally for freedom

inicialmente para a liberdade,

end up coercing us.

acabam por nos controlar.

However, in the book, he also offers us a way out

No entanto, no livro, ele também nos oferece uma saída dessa sociedade,

of that society, similar to the path

semelhante ao caminho que Adão e Eva tiveram de seguir

that Adam and Eve had to follow to leave the garden.

para sair do jardim.

In the words of the Savage,

Nas palavras da personagem Selvagem,

regaining autonomy and freedom is possible,

é possível recuperar a autonomia e a liberdade ,

although the price to pay is steep.

embora o preço a pagar seja acentuado.

So I do believe that one of the defining fights

Então, eu acredito que uma das lutas decisivas dos nossos tempos

of our times will be the fight

será a luta pelo controlo dessas informações pessoais,

for the control over personal information,

the fight over whether big data will become a force

a luta sobre se os metadados vão tornar-se uma força pela liberdade,

for freedom,

rather than a force which will hiddenly manipulate us.

em vez duma força que nos manipula secretamente.

Right now, many of us

Neste momento, muitos de nós

do not even know that the fight is going on,

nem sequer sabemos que a luta está a acontecer,

but it is, whether you like it or not.

mas está, gostem ou não.

And at the risk of playing the serpent,

Correndo o risco de fazer o papel da serpente,

I will tell you that the tools for the fight

vou dizer-vos que as ferramentas para a luta

are here, the awareness of what is going on,

estão aqui, a consciência do que está a acontecer,

and in your hands,

e nas nossas mãos,

just a few clicks away.

apenas a alguns cliques de distância.

Thank you.

Obrigado.

(Applause)

(Aplausos)