What will a future without secrets look like? | Alessandro Acquisti

Traduttore: Alessandra Tadiotto Revisore: Anna Cristiana Minoli

I would like to tell you a story

Vorrei raccontarvi una storia

connecting the notorious privacy incident

che collega il famoso incidente sulla privacy

involving Adam and Eve,

di Adamo ed Eva

and the remarkable shift in the boundaries

e il notevole cambiamento nei confini

between public and private which has occurred

tra pubblico e privato

in the past 10 years.

avvenuto negli ultimi 10 anni.

You know the incident.

Conoscete i fatti.

Adam and Eve one day in the Garden of Eden

Un giorno nel giardino dell'Eden Adamo ed Eva

realize they are naked.

si accorgono di essere nudi.

They freak out.

Vanno fuori di testa.

And the rest is history.

E il resto è storia.

Nowadays, Adam and Eve

Oggi, Adamo ed Eva probabilmente

would probably act differently.

agirebbero in modo diverso

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adam La scorsa notte è stato fantastico. Ho adorato quella mela LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Eva sì... tesoro, sai dove sono finiti i miei slip?]

We do reveal so much more information

Riveliamo più informazioni che mai

about ourselves online than ever before,

su noi stessi on-line,

and so much information about us

e queste informazioni su di noi

is being collected by organizations.

vengono raccolte da organizzazioni.

Now there is much to gain and benefit

C'è molto da guadagnarci e da fare profitto

from this massive analysis of personal information,

dall'analisi massiccia dei dati personali,

or big data,

o grandi dati,

but there are also complex tradeoffs that come

ma c'è anche una complessa rete di compromessi

from giving away our privacy.

che deriva dal rinunciare alla nostra privacy.

And my story is about these tradeoffs.

E la mia storia riguarda questi compromessi.

We start with an observation which, in my mind,

Cominciamo con un'osservazione che, a mio avviso,

has become clearer and clearer in the past few years,

è divenuta sempre più chiara negli ultimi anni,

that any personal information

e cioé che ogni singola informazione personale

can become sensitive information.

può diventare un dato sensibile.

Back in the year 2000, about 100 billion photos

Nel 2000, circa 100 miliardi di foto

were shot worldwide,

vennero scattate in tutto il mondo,

but only a minuscule proportion of them

ma solo una minuscola parte

were actually uploaded online.

venne di fatto caricata online.

In 2010, only on Facebook, in a single month,

Nel 2010, solo su Facebook, in un solo mese,

2.5 billion photos were uploaded,

ne sono state caricate 2,5 miliardi,

most of them identified.

e la maggior parte identificata.

In the same span of time,

Nello stesso arco di tempo,

computers' ability to recognize people in photos

la capacità dei computer di riconoscere le persone nelle foto

improved by three orders of magnitude.

si è triplicata.

What happens when you combine

Che cosa succede quando

these technologies together:

si mettono insieme tutte queste tecnologie?

increasing availability of facial data;

Un aumento della disponibilità di dati facciali,

improving facial recognizing ability by computers;

un miglioramento nella capacità dei computer di riconoscere i volti

but also cloud computing,

ma anche il cloud computing,

which gives anyone in this theater

che offre a chiunque qui presente

the kind of computational power

un potere di gestione della infrastruttura informatica

which a few years ago was only the domain

che qualche anno fa era appannaggio solo

of three-letter agencies;

delle agenzie di sicurezza:

and ubiquitous computing,

e l'onnipresenza dell'informatica,

which allows my phone, which is not a supercomputer,

che permette al mio telefono, che è anche un supercomputer,

to connect to the Internet

di connettersi a internet

and do there hundreds of thousands

ed eseguire centinaia di migliaia

of face metrics in a few seconds?

di analisi facciali in pochi secondi.

Well, we conjecture that the result

Riteniamo che il risultato di questa

of this combination of technologies

combinazione di tecnologie

will be a radical change in our very notions

porterà a un cambio radicale della nostra concezione

of privacy and anonymity.

di privacy e anonimato.

To test that, we did an experiment

Per verificarlo, abbiamo fatto un esperimento

on Carnegie Mellon University campus.

al campus della Carnegie Mellon University.

We asked students who were walking by

Abbiamo chiesto agli studenti che passavano di lì

to participate in a study,

di partecipare a uno studio.

and we took a shot with a webcam,

Abbiamo scattato una foto con la webcam,

and we asked them to fill out a survey on a laptop.

e abbiamo chiesto loro di compilare un questionario su un pc portatile.

While they were filling out the survey,

Mentre compilavano il questionario,

we uploaded their shot to a cloud-computing cluster,

abbiamo caricato le foto su un cluster di cloud-computing,

and we started using a facial recognizer

e abbiamo iniziato a utilizzare un riconoscitore facciale

to match that shot to a database

per incrociare quello scatto con un database

of some hundreds of thousands of images

contenente centinaia di migliaia di immagini

which we had downloaded from Facebook profiles.

che avevamo scaricato dai profili di Facebook.

By the time the subject reached the last page

Quando il soggetto aveva compilato l'ultima pagina del questionario

on the survey, the page had been dynamically updated

la pagina era già stata aggiornata dinamicamente

with the 10 best matching photos

con le 10 foto che meglio combaciavano

which the recognizer had found,

trovate dal sistema di riconoscimento facciale

and we asked the subjects to indicate

e abbiamo chiesto ai soggetti di indicare

whether he or she found themselves in the photo.

se si ritrovavano nella foto.

Do you see the subject?

Vedete il soggetto?

Well, the computer did, and in fact did so

Bene, il computer ci riusciva, riconosceva

for one out of three subjects.

un soggetto su tre.

So essentially, we can start from an anonymous face,

Quindi, in sintesi, partendo da un volto anonimo,

offline or online, and we can use facial recognition

offline o online, siamo in grado di usare il riconoscimento facciale

to give a name to that anonymous face

e dare un nome a quel volto anonimo

thanks to social media data.

grazie ai dati presenti sui social media.

But a few years back, we did something else.

Ma qualche anno fa, abbiamo fatto quacosa in più.

We started from social media data,

Partendo dai dati dei social media,

we combined it statistically with data

li abbiamo combinati statisticamente con i dati

from U.S. government social security,

del sistemi del sistame previdenziale americano,

and we ended up predicting social security numbers,

e siamo riusciti a prevedere i codici fiscali,

which in the United States

che negli Stati Uniti

are extremely sensitive information.

sono dati estremamente sensibili.

Do you see where I'm going with this?

Capite dove voglio arrivare?

So if you combine the two studies together,

Se uniamo i due studi,

then the question becomes,

allora la domanda è:

can you start from a face and,

è possibile partire da un volto e,

using facial recognition, find a name

usando il riconoscimento facciale, trovare un nome

and publicly available information

e altre informazioni disponibili pubblicamente

about that name and that person,

sul quel nome e su quella persona,

and from that publicly available information

e da tali informazioni pubbliche

infer non-publicly available information,

dedurre informazioni non disponibili pubblicamente,

much more sensitive ones

dati molto più sensibili

which you link back to the face?

riconducibili a quel volto?

And the answer is, yes, we can, and we did.

E la risposta è sì, possiamo farlo, e l'abbiamo fatto.

Of course, the accuracy keeps getting worse.

Naturalmente, il grado di accuratezza diminuisce.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[abbiamo identificato il 27% delle prime 5 cifre del codice fiscale (con 4 tentativi)]

But in fact, we even decided to develop an iPhone app

Ma abbiamo anche deciso di sviluppare un'applicazione iPhone

which uses the phone's internal camera

che utilizza la fotocamera interna del telefono

to take a shot of a subject

scatta una foto del soggetto,

and then upload it to a cloud

la carica sul cloud

and then do what I just described to you in real time:

e poi fa in tempo reale esattamente quello che vi ho descritto:

looking for a match, finding public information,

cerca un raffronto, recupera informazioni pubbliche,

trying to infer sensitive information,

cerca di desumere dati sensibili,

and then sending back to the phone

e poi le rinvia al telefono

so that it is overlaid on the face of the subject,

così da sovrapporle al volto del soggetto:

an example of augmented reality,

È un esempio di realtà aumentata,

probably a creepy example of augmented reality.

probabilmente ne è un esempio raccapricciante.

In fact, we didn't develop the app to make it available,

Di fatto, non abbiamo sviluppato l'applicazione per renderla disponibile sul mercato,

just as a proof of concept.

ma solo come dimostrazione del concetto.

In fact, take these technologies

Infatti, prendete queste tecnologie

and push them to their logical extreme.

e portatele all'estremo.

Imagine a future in which strangers around you

Immaginate un futuro dove estranei attorno a voi

will look at you through their Google Glasses

vi guarderanno attraverso i loro occhiali Google

or, one day, their contact lenses,

o, un giorno, attraverso le loro lenti a contatto

and use seven or eight data points about you

e useranno sette od otto punti di infomazione su di voi

to infer anything else

per dedurre ulteriori informazioni

which may be known about you.

su di voi.

What will this future without secrets look like?

Come sarà questo futuro senza segreti?

And should we care?

E dovremmo preoccuparcene?

We may like to believe

Ci piacerebbe credere

that the future with so much wealth of data

che un futuro così, con un'enorme quantità di dati

would be a future with no more biases,

sarebbe un futuro senza pregiudizi,

but in fact, having so much information

ma in verità, essere in possesso di così tante informazioni

doesn't mean that we will make decisions

non significa prendere decisioni

which are more objective.

più obiettive.

In another experiment, we presented to our subjects

In un altro esperimento, abbiamo presentato ai nostri soggetti

information about a potential job candidate.

informazioni su un potenziale candidato per un lavoro.

We included in this information some references

Abbiamo incluso alcuni riferimenti

to some funny, absolutely legal,

ad alcune informazioni divertenti, assolutamente legali,

but perhaps slightly embarrassing information

ma forse leggermente imbarazzanti

that the subject had posted online.

che quel soggetto aveva pubblicato online

Now interestingly, among our subjects,

Stranamente, tra i nostri soggetti,

some had posted comparable information,

alcuni avevano pubblicato delle informazioni simili,

and some had not.

altri no.

Which group do you think

Quale gruppo pensate

was more likely to judge harshly our subject?

era più propenso a giudicare severamente il nostro soggetto?

Paradoxically, it was the group

Paradossalmente, il gruppo

who had posted similar information,

che aveva pubblicato informazioni simili:

an example of moral dissonance.

un esempio di dissonanza morale.

Now you may be thinking,

Forse starete pensando:

this does not apply to me,

questo non mi riguarda,

because I have nothing to hide.

perché io non ho nulla da nascondere.

But in fact, privacy is not about

Ma in realtà la privacy non riguarda

having something negative to hide.

qualcosa di negativo da nascondere.

Imagine that you are the H.R. director

Immaginate di essere il direttore delle risorse umane

of a certain organization, and you receive résumés,

di una certa organizzazione, ricevete dei CV,

and you decide to find more information about the candidates.

e decidete di trovare ulteriori informazioni sui candidati.

Therefore, you Google their names

Allora, digitate su Google i loro nomi,

and in a certain universe,

e in un certo universo,

you find this information.

trovate tali informazioni.

Or in a parallel universe, you find this information.

O in un universo parallelo, trovate queste informazioni.

Do you think that you would be equally likely

Credete davvero che sarete obiettivi

to call either candidate for an interview?

nel chiamare questo o quel candidato per un colloquio?

If you think so, then you are not

Se lo pensate, allora non siete

like the U.S. employers who are, in fact,

come i datori di lavoro statunitensi

part of our experiment, meaning we did exactly that.

che hanno partecipato al nostro esperimento. Abbiamo fatto proprio questo.

We created Facebook profiles, manipulating traits,

Abbiamo creato dei profili su facebook, manipolando le caratteristiche,

then we started sending out résumés to companies in the U.S.,

poi abbiamo inviato dei CV a delle aziende negli Stati Uniti,

and we detected, we monitored,

e abbiamo rilevato e monitorato

whether they were searching for our candidates,

eventuali ricerche sui nostri candidati,

and whether they were acting on the information

e se ciò avveniva sulla base delle informazioni

they found on social media. And they were.

che si potevano reperire sui social media. E accadeva proprio questo.

Discrimination was happening through social media

Candidati ugualmente dotati venivano discriminati

for equally skilled candidates.

attraverso i social media.

Now marketers like us to believe

Gli esperti di marketing amano farci credere

that all information about us will always

che tutte queste informazioni su di noi verrano sempre usate

be used in a manner which is in our favor.

in nostro favore.

But think again. Why should that be always the case?

Ma pensateci bene. Perché dovrebbe essere sempre così?

In a movie which came out a few years ago,

In un film uscito qualche anno fa,

"Minority Report," a famous scene

"Minority Report", c'è una scena famosa

had Tom Cruise walk in a mall

in cui Tom Cruise cammina in un centro commerciale

and holographic personalized advertising

e attorno a lui appaiono

would appear around him.

messagi pubblicitari personalizzati.

Now, that movie is set in 2054,

Quel film è ambientato nel 2054,

about 40 years from now,

fra circa 40 anni,

and as exciting as that technology looks,

e per quanto affascinante appaia quella tecnologia,

it already vastly underestimates

sottovaluta grandemente

the amount of information that organizations

la quantità di informazioni che le organizzazioni

can gather about you, and how they can use it

possono raccogliere su di noi, e come le possono usare

to influence you in a way that you will not even detect.

per influenzarci in modi di cui non siamo consapevoli.

So as an example, this is another experiment

Ne è un esempio l'esperimento

actually we are running, not yet completed.

che stiamo conducendo, non ancora portato a termine.

Imagine that an organization has access

Immaginate che un'organizzazione abbia accesso

to your list of Facebook friends,

alla lista dei vostri amici su Facebook,

and through some kind of algorithm

e che attraverso un algoritmo

they can detect the two friends that you like the most.

sia in grado di rilevare i due amici che amate di più.

And then they create, in real time,

Poi creano in tempo reale

a facial composite of these two friends.

un composito facciale di questi due amici.

Now studies prior to ours have shown that people

Studi precedenti hanno dimostrato che le persone

don't recognize any longer even themselves

non riconoscono nemmeno più se stesse

in facial composites, but they react

nei compositi facciali, ma che reagiscono

to those composites in a positive manner.

positivamente a quei compositi.

So next time you are looking for a certain product,

Così la prossima volta che cercate un prodotto

and there is an ad suggesting you to buy it,

e una pubblicità vi suggerisce di comprare quel prodotto,

it will not be just a standard spokesperson.

potrebbe non esserci un normale portavoce,

It will be one of your friends,

potrebbe essere uno dei vostri amici,

and you will not even know that this is happening.

e voi non ne sarete nemmeno consapevoli.

Now the problem is that

Il problema è che

the current policy mechanisms we have

attualmente i meccanismi normativi che abbiamo

to protect ourselves from the abuses of personal information

a disposizione per difenderci agli abusi di dati personali

are like bringing a knife to a gunfight.

sono totalmente inadeguati.

One of these mechanisms is transparency,

Uno di questi è la trasparenza,

telling people what you are going to do with their data.

ovvero comunicare alle persone come verrano usati i loro dati.

And in principle, that's a very good thing.

E in linea di principio, è una buona cosa.

It's necessary, but it is not sufficient.

È necessario, ma non sufficiente.

Transparency can be misdirected.

La trasparenza può essere manipolata.

You can tell people what you are going to do,

Potete dire alle persone cosa avete intenzione di fare,

and then you still nudge them to disclose

e in seguito spingerli a rivelare

arbitrary amounts of personal information.

una gran quantità di dati personali.

So in yet another experiment, this one with students,

Così, in un altro esperimento

we asked them to provide information

abbiamo chiesto a degli studenti di fornire informazioni

about their campus behavior,

inerenti il loro comportamento nel campus,

including pretty sensitive questions, such as this one.

comprese molte domande sensibili, come questa:

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[Hai mai copiato ad un esame?]

A un gruppo di soggetti abbiamo detto

"Only other students will see your answers."

"Le tue risposte verrano viste solo da altri studenti."

To another group of subjects, we told them,

A un altro gruppo di soggetti, abbiamo detto,

"Students and faculty will see your answers."

"Gli studenti e la facoltà vedranno le tue risposte".

Transparency. Notification. And sure enough, this worked,

Trasparenza. Notifica. E certo, ha funzionato,

in the sense that the first group of subjects

nel senso che il primo gruppo

were much more likely to disclose than the second.

era molto più propenso a fornire dati sensibili rispetto al secondo gruppo.

It makes sense, right?

Ha senso, non è vero?

But then we added the misdirection.

Ma poi abbiamo aggiunto indicazioni fuorvianti.

We repeated the experiment with the same two groups,

Abbiamo ripetuto l'esperimento con gli stessi due gruppi,

this time adding a delay

questa volta facendo passare un lasso di tempo

between the time we told subjects

tra il momento in cui abbiamo detto agli studenti

how we would use their data

come avremmo usato i loro dati

and the time we actually started answering the questions.

e il momento in cui abbiamo cominciato effettivamente a raccogliere le risposte.

How long a delay do you think we had to add

Quanto deve durare l'intervallo di tempo

in order to nullify the inhibitory effect

affinché si annulli l'effetto inibitorio

of knowing that faculty would see your answers?

di sapere che la facoltà leggerà le vostre risposte?

Ten minutes?

Dieci minuti?

Five minutes?

Cinque minuti?

One minute?

Un minuto?

How about 15 seconds?

Che ne dite di 15 secondi?

Fifteen seconds were sufficient to have the two groups

Quindici secondi sono stati sufficienti per far sì che entrambi i gruppi

disclose the same amount of information,

fornissero le stesse informazioni,

as if the second group now no longer cares

come se ora al secondo gruppo non importasse più

for faculty reading their answers.

che la facoltà leggesse le loro risposte.

Now I have to admit that this talk so far

Devo ammettere che il mio intervento finora

may sound exceedingly gloomy,

può sembrare eccessivamente pessimista,

but that is not my point.

ma non è questo il punto.

In fact, I want to share with you the fact that

In realtà, voglio condividere con voi il fatto che

there are alternatives.

ci sono alternative.

The way we are doing things now is not the only way

Il modo in cui stiamo facendo le cose non è l'unico modo,

they can done, and certainly not the best way

e certo non è il modo migliore

they can be done.

con cui farle.

When someone tells you, "People don't care about privacy,"

Quando qualcuno vi dice, "Le persone non si preoccupano della privacy"

consider whether the game has been designed

considerate se il gioco è stato progettato

and rigged so that they cannot care about privacy,

e manipolato in modo che non possano preoccuparsi della privacy.

and coming to the realization that these manipulations occur

Comprendere che queste manipolazioni si verificano

is already halfway through the process

è già metà della strada da compiere

of being able to protect yourself.

per poter essere in grado di proteggersi.

When someone tells you that privacy is incompatible

Quando qualcuno vi dice che la riservatezza è incompatibile

with the benefits of big data,

con i vantaggi dei grandi dati,

consider that in the last 20 years,

considerate che negli ultimi 20 anni,

researchers have created technologies

i ricercatori hanno creato tecnologie

to allow virtually any electronic transactions

per far sì che qualsiasi transazione elettronica

to take place in a more privacy-preserving manner.

avvenga in modo da garantire maggiormente la privacy.

We can browse the Internet anonymously.

Possiamo navigare in Internet in modo anonimo.

We can send emails that can only be read

Possiamo inviare email che possono essere lette solo

by the intended recipient, not even the NSA.

dal destinatario, nemmeno dalla NSA.

We can have even privacy-preserving data mining.

Possiamo anche estrarre dati preservando la privacy.

In other words, we can have the benefits of big data

In altre parole, possiamo avere i benefici dei grandi dati

while protecting privacy.

proteggendo la privacy.

Of course, these technologies imply a shifting

Naturalmente, queste tecnologie implicano uno spostamento

of cost and revenues

di costi e ricavi

between data holders and data subjects,

tra i titolari di dati e i soggetti dei dati,

which is why, perhaps, you don't hear more about them.

che è il motivo per cui non ne sentiamo parlare molto.

Which brings me back to the Garden of Eden.

Il che mi riporta al Giardino dell'Eden.

There is a second privacy interpretation

C'è una seconda interpretazione sulla privacy

of the story of the Garden of Eden

nella storia del Giardino dell'Eden

which doesn't have to do with the issue

che non ha nulla a che fare con il fatto

of Adam and Eve feeling naked

che Adamo ed Eva si sentono nudi

and feeling ashamed.

e si vergognano.

You can find echoes of this interpretation

Si possono trovare echi di questa interpretazione

in John Milton's "Paradise Lost."

nel "Paradiso Perduto" di John Milton.

In the garden, Adam and Eve are materially content.

Nel giardino, Adamo ed Eva sono materialmente contenti.

They're happy. They are satisfied.

Sono felici. Sono soddisfatti.

However, they also lack knowledge

Tuttavia, mancano della conoscenza

and self-awareness.

e della consapevolezza di sé.

The moment they eat the aptly named

Il momento in cui mangiano il giustamente chiamato

fruit of knowledge,

frutto della conoscenza,

that's when they discover themselves.

è il momento in cui scoprono se stessi.

They become aware. They achieve autonomy.

Diventano consapevoli. Raggiungono l'autonomia.

The price to pay, however, is leaving the garden.

Tuttavia, Il prezzo da pagare è lasciare il giardino.

So privacy, in a way, is both the means

Così la privacy, in un certo senso, è sia il mezzo

and the price to pay for freedom.

sia il prezzo da pagare per la libertà.

Again, marketers tell us

Ancora una volta, il marketing ci dice

that big data and social media

che i big data e i social media

are not just a paradise of profit for them,

non sono solo un paradiso di profitto per loro,

but a Garden of Eden for the rest of us.

ma un Giardino dell'Eden per il resto di noi.

We get free content.

Otteniamo contenuti gratuiti.

We get to play Angry Birds. We get targeted apps.

Possiamo giocare a Angry Birds. Scarichiamo applicazioni mirate.

But in fact, in a few years, organizations

Ma in realtà, in pochi anni, le organizzazioni

will know so much about us,

socpriranno così tanto di noi,

they will be able to infer our desires

che saranno in grado di dedurre i nostri desideri

before we even form them, and perhaps

prima ancora che si formulino

buy products on our behalf

e forse acquisteranno prodotti per nostro conto

before we even know we need them.

prima ancora che ci rendiamo conto di averne bisogno.

Now there was one English author

C'è stato un autore inglese

who anticipated this kind of future

che ha previsto questo tipo di futuro

where we would trade away

dove avremmo venduto

our autonomy and freedom for comfort.

la nostra autonomia e libertà per il comfort.

Even more so than George Orwell,

Ancora più che George Orwell,

the author is, of course, Aldous Huxley.

l'autore è, naturalmente, Aldous Huxley.

In "Brave New World," he imagines a society

In "Il Mondo Nuovo", immagina una società

where technologies that we created

dove le tecnologie che abbiamo creato

originally for freedom

originariamente per la libertà

end up coercing us.

finiscono per controllarci.

However, in the book, he also offers us a way out

Tuttavia, nel libro, ci offre anche una via d'uscita

of that society, similar to the path

da quella società, simile al percorso

that Adam and Eve had to follow to leave the garden.

che Adamo ed Eva hanno dovuto seguire per lasciare il giardino.

In the words of the Savage,

Nelle parole del Selvaggio,

regaining autonomy and freedom is possible,

riconquistare l'autonomia e la libertà è possibile,

although the price to pay is steep.

anche se il prezzo da pagare è caro.

So I do believe that one of the defining fights

Quindi credo che una delle lotte principali

of our times will be the fight

dei nostri tempi sarà la lotta

for the control over personal information,

per il controllo delle informazioni personali,

the fight over whether big data will become a force

la lotta per determinare se i big data diventeranno una forza

for freedom,

per la libertà,

rather than a force which will hiddenly manipulate us.

o una forza che ci manipolerà di nascosto.

Right now, many of us

Ora, molti di noi

do not even know that the fight is going on,

non sanno nemmeno che la lotta è in corso,

but it is, whether you like it or not.

ma è così, che vi piaccia o no.

And at the risk of playing the serpent,

E a rischio di fare la parte del serpente,

I will tell you that the tools for the fight

vi dirò che gli strumenti per la lotta

are here, the awareness of what is going on,

sono qui, la consapevolezza di ciò che sta succedendo,

and in your hands,

e nelle vostre mani,

just a few clicks away.

a pochi clic di distanza.

Thank you.

Grazie.

(Applause)

(Applausi)