What will a future without secrets look like? | Alessandro Acquisti

Traducător: Cristina Nedelcu Corector: Ariana Bleau Lugo

I would like to tell you a story

A dori să vă împărtășesc o poveste

connecting the notorious privacy incident

care leagă binecunoscutul fapt al intimității,

involving Adam and Eve,

care îi include pe Adam și pe Eva,

and the remarkable shift in the boundaries

și remarcabila schimbare între frontierele

between public and private which has occurred

dintre public și privat, care a avut loc

in the past 10 years.

în ultimii 10 ani.

You know the incident.

Cunoașteți incidentul.

Adam and Eve one day in the Garden of Eden

Adam și Eva erau într-o zi în gradina Eden

realize they are naked.

și au realizat ca sunt goi.

They freak out.

S-au panicat.

And the rest is history.

Iar restul este istorie.

Nowadays, Adam and Eve

În zilele noastre, Adam și Eva

would probably act differently.

s-ar comporta probabil diferit.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adam Aseară a fost o nebunie! mi-a plăcut mărul LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

@ Eva dap..pui, știi ce s-a întâmplat cu pantalonii mei totuși?

We do reveal so much more information

Dezvăluim mai multe informații

about ourselves online than ever before,

despre noi online ca niciodată

and so much information about us

și atât de multe informații despre noi

is being collected by organizations.

sunt adunate de diferite organizații.

Now there is much to gain and benefit

Sunt multe lucruri de câștigat de pe urma cărora beneficiezi

from this massive analysis of personal information,

din această masivă analiză a datelor personale,

or big data,

sau big data,

but there are also complex tradeoffs that come

dar există și complexe compromisuri care rezultă

from giving away our privacy.

din distribuirea intimității.

And my story is about these tradeoffs.

Povestea mea este despre aceste compromisuri.

We start with an observation which, in my mind,

Începem cu o observație care, în mintea mea,

has become clearer and clearer in the past few years,

a devenit din ce în ce mai clară în ultimii ani,

that any personal information

și anume că orice date personale

can become sensitive information.

pot deveni informații susceptibile.

Back in the year 2000, about 100 billion photos

În anul 2000, aproximativ 100 de miliarde de poze

were shot worldwide,

au fost făcute pe glob,

but only a minuscule proportion of them

dar numai o minusculă parte

were actually uploaded online.

au fost încărcate online.

In 2010, only on Facebook, in a single month,

În 2010, doar pe Facebook, într-o singură lună,

2.5 billion photos were uploaded,

2.5 miliarde de poze au fost încărcate,

most of them identified.

cele mai multe identificate.

In the same span of time,

În același interval de timp,

computers' ability to recognize people in photos

capacitatea calculatoarelor de a recunoaște persoane în poze

improved by three orders of magnitude.

s-a îmbunătățit cu trei ordine de mărire.

What happens when you combine

Ce se întâmplă când combini

these technologies together:

aceste trei tehnologii:

increasing availability of facial data;

crește disponibilitatea datelor feței;

improving facial recognizing ability by computers;

se îmbunătățește abilitatea recunoașterii faciale a calculatoarelor;

but also cloud computing,

și, de asemenea, cloud computing,

which gives anyone in this theater

care dă oricui în acest ansamblu

the kind of computational power

genul de putere cibernetică

which a few years ago was only the domain

care în urma cu câțiva ani era doar domeniul

of three-letter agencies;

agențiilor din trei litere;

and ubiquitous computing,

și informatica omniprezentă,

which allows my phone, which is not a supercomputer,

care permite telefonului meu, care nu e un supercalculator,

to connect to the Internet

să se conecteze la internet

and do there hundreds of thousands

și să facă sute de mii

of face metrics in a few seconds?

de măsurători faciale în câteva secunde?

Well, we conjecture that the result

Ei bine, presupunem că rezultatul

of this combination of technologies

acestei combinații de tehnologii

will be a radical change in our very notions

va fi o schimbare radicală în propriile noțiuni

of privacy and anonymity.

de intimitate și anonimitate.

To test that, we did an experiment

Pentru a testa, am făcut un experiment

on Carnegie Mellon University campus.

în campusul Universității Carnegie Mellon.

We asked students who were walking by

Am rugat studenții care treceau pe langă noi

to participate in a study,

să participe la un studiu,

and we took a shot with a webcam,

și am făcut o poză cu o cameră web,

and we asked them to fill out a survey on a laptop.

i-am rugat să completeze un formular pe un laptop.

While they were filling out the survey,

În timp ce ei completau formularul,

we uploaded their shot to a cloud-computing cluster,

noi am încărcat poza într-un grup cloud computer,

and we started using a facial recognizer

și am folosit un program de recunoaștere facială

to match that shot to a database

pentru a potrivi poza cu baza de date

of some hundreds of thousands of images

a câtorva sute de mii de imagini

which we had downloaded from Facebook profiles.

pe care le-am descărcat de pe profilurile de Facebook.

By the time the subject reached the last page

Până voluntarul ajungea la ultima pagină

on the survey, the page had been dynamically updated

a formularului, pagina era actualizată dinamic

with the 10 best matching photos

cu 10 dintre cele mai bune poze care se potriveau

which the recognizer had found,

pe care le-a găsit programul de recunoaștere

and we asked the subjects to indicate

și am întrebat voluntarii să ne arate

whether he or she found themselves in the photo.

dacă se regăseau în poză.

Do you see the subject?

Vedeți individul?

Well, the computer did, and in fact did so

Ei bine,computerul a reușit

for one out of three subjects.

pentru unul din trei voluntari.

So essentially, we can start from an anonymous face,

Așadar, putem porni de la un portret anonim,

offline or online, and we can use facial recognition

offline sau online și putem folosi recunoașterea facială

to give a name to that anonymous face

pentru a da un nume chipului anonim,

thanks to social media data.

asta mulțumită datelor sociale mass-media.

But a few years back, we did something else.

Dar în urmă cu câțiva ani, am făcut altceva.

We started from social media data,

Am început de la datele sociale mass-media,

we combined it statistically with data

le-am combinat statistic cu date

from U.S. government social security,

de la securitatea socială a guvernului Statelor Unite

and we ended up predicting social security numbers,

și am ajuns să prezicem numerele securității sociale,

which in the United States

care în Statele Unite

are extremely sensitive information.

reprezintă informații sensibile.

Do you see where I'm going with this?

Vedeți unde vreau să ajung cu asta?

So if you combine the two studies together,

Așadar, dacă punem cele două studii împreună,

then the question becomes,

întrebarea devine --

can you start from a face and,

poți începe cu o față, și,

using facial recognition, find a name

folosind recunoașterea facială să găsești un nume

and publicly available information

și informații publice disponibile

about that name and that person,

despre numele și aceea persoană,

and from that publicly available information

iar de la acele informații publice disponibile

infer non-publicly available information,

să deduci informații private

much more sensitive ones

mult mai sensibile decât cele

which you link back to the face?

pe care le asociezi chipului?

And the answer is, yes, we can, and we did.

Iar răspunsul este da, putem, și chiar am făcut acest lucru.

Of course, the accuracy keeps getting worse.

Desigur, acuratețea devine din ce în ce mai slabă.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[27% dintre primele 5 cifre SSN identificate ale voluntarilor( cu 4 încercări)]

But in fact, we even decided to develop an iPhone app

De fapt, ne-am decis să dezvoltăm o aplicație pentru iPhone

which uses the phone's internal camera

care utilizează camera internă a telefonului

to take a shot of a subject

pentru a face o poză subiectului

and then upload it to a cloud

și pentru a o încărca într-un nor,

and then do what I just described to you in real time:

iar apoi să facă ceea ce tocmai v-am descris în timp real:

looking for a match, finding public information,

căutând o potrivire, găsind informații publice,

trying to infer sensitive information,

să caute informații sensibile

and then sending back to the phone

și apoi să le trimită înapoi în telefon

so that it is overlaid on the face of the subject,

pentru a fi suprapus pe chipul subiectului,

an example of augmented reality,

un exemplu de realitate sporită,

probably a creepy example of augmented reality.

probabil un exemplu înfiorător de realitate sporită.

In fact, we didn't develop the app to make it available,

De fapt, nu am dezvoltat aplicația pentru a o face disponibilă,

just as a proof of concept.

ci doar ca dovadă a conceptului.

In fact, take these technologies

De fapt, luați aceste tehnologii

and push them to their logical extreme.

și împingeți-le până la logica lor extremă.

Imagine a future in which strangers around you

Imaginați-vă un viitor în care străinii din jurul vostru

will look at you through their Google Glasses

se vor uita la voi prin Google Glasses,

or, one day, their contact lenses,

sau, într-o zi, prin lentilele lor de contact,

and use seven or eight data points about you

și vor folosi șapte sau opt puncte de date despre voi

to infer anything else

pentru a deduce altceva

which may be known about you.

care ar putea fi știut despre voi.

What will this future without secrets look like?

Cum ar arăta viitorul fără secrete?

And should we care?

Ar trebui să ne pese?

We may like to believe

Poate ne-ar plăcea să credem

that the future with so much wealth of data

că viitorul cu atâta bogăție de date

would be a future with no more biases,

ar putea fi un viitor fără părtiniri,

but in fact, having so much information

dar de fapt, având atât de multe informații

doesn't mean that we will make decisions

nu înseamnă că vom lua decizii

which are more objective.

care vor fi mai obiective.

In another experiment, we presented to our subjects

În cadrul unui alt experiment, am prezentat subiecților

information about a potential job candidate.

informații despre un potențial candidat la o slujbă

We included in this information some references

Am inclus în aceste informații niște referințe,

to some funny, absolutely legal,

unele informații amuzante, absolut legale,

but perhaps slightly embarrassing information

dar poate puțin rușinoase

that the subject had posted online.

pe care subiectul le-a postat online.

Now interestingly, among our subjects,

Interesant, dintre subiecți,

some had posted comparable information,

unii au postat informații comparabile,

and some had not.

iar alții nu.

Which group do you think

Care grup credeți că,

was more likely to judge harshly our subject?

cel mai probabil, au judecat mai aspru subiectul nostru?

Paradoxically, it was the group

Paradoxal, a fost grupul

who had posted similar information,

care a postat informați asemănătoare,

an example of moral dissonance.

un exemplu de disonanță morală.

Now you may be thinking,

Acum, s-ar putea să vă gândiți

this does not apply to me,

că asta nu se aplică și în cazul meu,

because I have nothing to hide.

deoarece eu nu am nimic de ascuns.

But in fact, privacy is not about

Dar, de fapt, intimitatea nu se rezumă

having something negative to hide.

la a avea ceva negativ de ascuns.

Imagine that you are the H.R. director

Imaginați-vă că sunteți Directorul de Resurse Umane

of a certain organization, and you receive résumés,

al unei anumite organizații și primiți CV-uri,

and you decide to find more information about the candidates.

și decideți să căutați mai multe date despre candidați.

Therefore, you Google their names

Așadar, căutați pe Google numele lor

and in a certain universe,

și într-un anumit univers,

you find this information.

găsiți aceste informații.

Or in a parallel universe, you find this information.

Sau, într-un univers paralel, găsiți aceste informații.

Do you think that you would be equally likely

Credeți că ați chema

to call either candidate for an interview?

vreunul dintre candidați pentru interviu?

If you think so, then you are not

Dacă așa credeți, atunci nu sunteți

like the U.S. employers who are, in fact,

precum angajatorii americani, care, de fapt,

part of our experiment, meaning we did exactly that.

sunt o parte din experimentul nostru, ceea ce înseamnă că am făcut exact asta.

We created Facebook profiles, manipulating traits,

Am creat profile de Facebook, manipulând trăsături,

then we started sending out résumés to companies in the U.S.,

apoi am început să trimitem CV-urile companiilor din Statele Unite,

and we detected, we monitored,

și am detectat, am monitorizat,

whether they were searching for our candidates,

dacă îi căutau pe candidați,

and whether they were acting on the information

și dacă acționau pe baza informațiilor

they found on social media. And they were.

găsite în mass-media social. Și chiar făceau asta.

Discrimination was happening through social media

Discriminarea se petrecea prin mass-media social

for equally skilled candidates.

între candidați cu calificări similare.

Now marketers like us to believe

Marketerii doresc să credem

that all information about us will always

că toate informațiile despre noi vor fi întotdeauna

be used in a manner which is in our favor.

folosite într-o manieră avantajoasă pentru noi.

But think again. Why should that be always the case?

Mai gândiți-vă. De ce ar trebui să fie cazul de fiecare dată?

In a movie which came out a few years ago,

Într-un film care a apărut acum câțiva ani,

"Minority Report," a famous scene

„Raport Special", o scenă celebră,

had Tom Cruise walk in a mall

îl avea pe Tom Cruise într-un mall,

and holographic personalized advertising

iar o reclamă holografică personalizată

would appear around him.

apărea în jurul său

Now, that movie is set in 2054,

Filmul se desfășoară în anul 2054,

about 40 years from now,

cam peste 40 de ani,

and as exciting as that technology looks,

și pe cât de captivantă pare acea tehnologie,

it already vastly underestimates

deja subestimează enorm

the amount of information that organizations

cantitatea de informații pe care organizațiile

can gather about you, and how they can use it

o pot aduna despre tine și cum o pot folosi

to influence you in a way that you will not even detect.

să te influențeze într-o manieră de care nici nu îți vei da seama.

So as an example, this is another experiment

Ca și exemplu, acesta este un alt experiment

actually we are running, not yet completed.

încă în desfășurare, nu este terminat.

Imagine that an organization has access

Imaginați-vă că o organizație ar avea acces

to your list of Facebook friends,

la lista prietenilor tăi de pe Facebook,

and through some kind of algorithm

iar printr-un fel de algoritm

they can detect the two friends that you like the most.

pot detecta pe cei doi prieteni pe care îi placi cel mai mult.

And then they create, in real time,

Și creează în viața reală

a facial composite of these two friends.

un compozit facial al acestor doi prieteni.

Now studies prior to ours have shown that people

Studiile prioritare față de ale noastre au demonstrat că oamenii

don't recognize any longer even themselves

nu se mai recunosc pe ei înșiși

in facial composites, but they react

în compozitele faciale, dar reacționează

to those composites in a positive manner.

la acele compozite în mod pozitiv

So next time you are looking for a certain product,

Așadar, data viitoare când căutați un anume produs

and there is an ad suggesting you to buy it,

și este o reclamă care vă sugerează să îl cumpărați,

it will not be just a standard spokesperson.

nu va fi doar un purtător de cuvânt obișnuit.

It will be one of your friends,

Va fi unul dintre prietenii tăi,

and you will not even know that this is happening.

iar tu nici măcar nu vei ști că acest lucru se întâmplă.

Now the problem is that

Acum, problema este că

the current policy mechanisms we have

mecanismele poliței curente pe care le avem

to protect ourselves from the abuses of personal information

pentru a ne proteja de abuzul informațiilor personale

are like bringing a knife to a gunfight.

sunt precum cuțitul împotriva unui pistol.

One of these mechanisms is transparency,

Unul dintre aceste mecanisme este transparența,

telling people what you are going to do with their data.

să le spui oamenilor ce vei face cu informațiile lor.

And in principle, that's a very good thing.

Și în principiu, acesta e un lucru foarte bun.

It's necessary, but it is not sufficient.

E necesar, dar nu suficient.

Transparency can be misdirected.

Transparența poate fi rău direcționată.

You can tell people what you are going to do,

Poți spune oamenilor ce vei face,

and then you still nudge them to disclose

și apoi tot îi împingi să dezvăluie

arbitrary amounts of personal information.

anumite informații personale.

So in yet another experiment, this one with students,

Așadar, într-un alt experiment cu studenți,

we asked them to provide information

i-am rugat să ne furnizeze informații

about their campus behavior,

despre comportamentul lor în campus,

including pretty sensitive questions, such as this one.

incluzând întrebări sensibile, precum aceasta.

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[Ați copiat vreodată la vreun examen?]

Unui grup de indivizi le-am spus

"Only other students will see your answers."

„Doar alți studenți vor vedea răspunsurile voastre."

To another group of subjects, we told them,

Unui alt grup le-am spus:

"Students and faculty will see your answers."

„Studenții și facultatea vor vedea răspunsurile voastre."

Transparency. Notification. And sure enough, this worked,

Transparență. Notificare. Și destul de sigur, a funcționat

in the sense that the first group of subjects

în sensul că primul grup de studenți

were much more likely to disclose than the second.

era mai predispus să dezvăluie decât cel de-al doilea grup.

It makes sense, right?

Logic, nu?

But then we added the misdirection.

Apoi am adăugat o îndrumare greșită.

We repeated the experiment with the same two groups,

Am repetat experimentul cu aceleași două grupuri,

this time adding a delay

de data aceasta adăugând un timp

between the time we told subjects

între momentul când le-am spus subiecților

how we would use their data

cum le vom folosi informațiile

and the time we actually started answering the questions.

și momentul când am început de fapt să răspundem la întrebări.

How long a delay do you think we had to add

Cât timp credeți că a trebuit să adăugăm

in order to nullify the inhibitory effect

pentru a elimina efectul inhibitor

of knowing that faculty would see your answers?

de a ști că facultatea îți va vedea răspunsurile?

Ten minutes?

Zece minute?

Five minutes?

Cinci minute?

One minute?

Un minut?

How about 15 seconds?

Ce ziceți de 15 secunde?

Fifteen seconds were sufficient to have the two groups

Cincisprezece secunde au fost suficiente pentru ca cele două grupuri

disclose the same amount of information,

să dezvăluie aceleași informații,

as if the second group now no longer cares

ca și cum celui de-al doilea grup nici nu-i mai păsa

for faculty reading their answers.

că facultatea le citește răspunsurile.

Now I have to admit that this talk so far

Trebuie să admit că acest discurs până acum

may sound exceedingly gloomy,

poate suna extrem de sumbru,

but that is not my point.

dar nu asta vreau să spun.

In fact, I want to share with you the fact that

De fapt, vreau să împărtășesc cu voi faptul că

there are alternatives.

există alternative.

The way we are doing things now is not the only way

Modul în care facem lucrurile astăzi nu e singura modalitate

they can done, and certainly not the best way

în care se pot face și cu siguranță nu cea mai bună cale

they can be done.

prin care pot fi făcute.

When someone tells you, "People don't care about privacy,"

Când cineva își spune că, „Oamenilor nu le pasă de intimitate,"

consider whether the game has been designed

gândește-te dacă jocul a fost creat

and rigged so that they cannot care about privacy,

și falsificat pentru ca lor să nu le mai pese de intimitate,

and coming to the realization that these manipulations occur

și au ajuns să realizeze că apariția acestor manipulări

is already halfway through the process

este deja la jumătatea drumului

of being able to protect yourself.

de a fi capabil să te protejezi singur.

When someone tells you that privacy is incompatible

Când cineva îți spune că intimitatea e incompatibilă

with the benefits of big data,

cu beneficiile datelor uriașe,

consider that in the last 20 years,

consideră că în ultimii 20 de ani,

researchers have created technologies

cercetătorii au creat tehnologii

to allow virtually any electronic transactions

care permit desfășurarea virtuală a oricărei tranzacții

to take place in a more privacy-preserving manner.

într-o manieră mult mai eficientă de conservare a intimității.

We can browse the Internet anonymously.

Putem să navigăm pe internet în mod anonim.

We can send emails that can only be read

Putem trimite emailuri care pot fi citite doar

by the intended recipient, not even the NSA.

de destinatarul intenționat, nici măcar de ANS.

We can have even privacy-preserving data mining.

Putem avea chiar și exploatare a datelor într-o manieră de prezervare a intimității.

In other words, we can have the benefits of big data

Cu alte cuvinte, putem avea beneficiile datelor uriașe

while protecting privacy.

în timp ce ne protejăm intimitatea.

Of course, these technologies imply a shifting

Desigur, aceste tehnologii presupun o deplasare

of cost and revenues

de costuri și venituri

between data holders and data subjects,

între deținătorii de date și persoanele vizate,

which is why, perhaps, you don't hear more about them.

motiv pentru care nu auziți mai multe despre ei.

Which brings me back to the Garden of Eden.

Lucru care mă readuce la Grădina Eden.

There is a second privacy interpretation

Există o a doua interpretare a inimității

of the story of the Garden of Eden

poveștii din Grădina Edenului,

which doesn't have to do with the issue

care n-are legătură cu această problemă

of Adam and Eve feeling naked

a lui Adam și Eva de a se simți dezbrăcați

and feeling ashamed.

și de a se simți rușinați.

You can find echoes of this interpretation

Puteți găsi variante ale acestei interpretări

in John Milton's "Paradise Lost."

în „Paradisul pierdut" a lui John Milton.

In the garden, Adam and Eve are materially content.

În grădină, Adam și Eva sunt conținut material.

They're happy. They are satisfied.

Sunt fericiți. Sunt satisfăcuți.

However, they also lack knowledge

Dar le lipsește cunoștința

and self-awareness.

și conștiința de sine.

The moment they eat the aptly named

În momentul în care mănâncă fructul, numit pe bună dreptate,

fruit of knowledge,

al cunoștinței,

that's when they discover themselves.

atunci se descoperă pe sine.

They become aware. They achieve autonomy.

Devin conștienți. Ating autonomia.

The price to pay, however, is leaving the garden.

Prețul care trebuie plătit, totuși, este părăsirea grădinii.

So privacy, in a way, is both the means

Așadar intimitatea, într-un fel, este și modalitatea

and the price to pay for freedom.

și prețul care trebuie plătit pentru libertate.

Again, marketers tell us

Din nou, marketerii ne spun

that big data and social media

că big data și mass-media socială

are not just a paradise of profit for them,

nu sunt doar un paradis de profit pentru ei,

but a Garden of Eden for the rest of us.

dar și o Grădină a Edenului pentru restul dintre noi.

We get free content.

Obținem conținut gratuit.

We get to play Angry Birds. We get targeted apps.

Putem să jucăm Angry Birds. Putem să luăm aplicații vizate.

But in fact, in a few years, organizations

Dar de fapt, în câțiva ani, organizațiile

will know so much about us,

care cunosc atât de multe despre noi,

they will be able to infer our desires

vor putea să deducă dorințele noastre

before we even form them, and perhaps

înainte ca noi să ni le formăm, și poate

buy products on our behalf

să cumpere produse în contul nostru

before we even know we need them.

înainte ca noi să fim conștienți că avem nevoie de ele.

Now there was one English author

A fost un autor englez

who anticipated this kind of future

care a anticipat acest gen de viitor

where we would trade away

unde ne vom vinde

our autonomy and freedom for comfort.

autonomia și libertatea pentru confort.

Even more so than George Orwell,

Chiar mai neașteptat decât George Orwell,

the author is, of course, Aldous Huxley.

autorul este, desigur, Aldous Huxley.

In "Brave New World," he imagines a society

În „Brave New World", el își imaginează o societate

where technologies that we created

unde tehnologiile pe care le-am creat

originally for freedom

inițial pentru libertate,

end up coercing us.

ne vor constrânge.

However, in the book, he also offers us a way out

Totuși, în carte, el oferă de asemenea o cale de ieșire

of that society, similar to the path

din acea societate, asemănătoare cu drumul

that Adam and Eve had to follow to leave the garden.

pe care Adam și Eva au trebuit să îl urmeze pentru a părăsi grădina.

In the words of the Savage,

În limba băștinașilor,

regaining autonomy and freedom is possible,

recâștigarea autonomiei și a libertății este posibilă,

although the price to pay is steep.

dar prețul care trebuie plătit este piperat.

So I do believe that one of the defining fights

Așadar, una dintre bătăliile definitorii

of our times will be the fight

ale timpului nostru ar fi lupta

for the control over personal information,

pentru controlul informațiilor personale,

the fight over whether big data will become a force

lupta pentru big data va deveni o forță

for freedom,

pentru libertate,

rather than a force which will hiddenly manipulate us.

decât o forță care ne va manipula în tăcere.

Right now, many of us

Acum, mulți dintre noi

do not even know that the fight is going on,

nu suntem conștienți că lupta are loc,

but it is, whether you like it or not.

dar are, chiar dacă vă place sau nu.

And at the risk of playing the serpent,

Iar cu riscul de a juca rolul șarpelui,

I will tell you that the tools for the fight

vă voi spune că instrumentele pentru luptă

are here, the awareness of what is going on,

sunt aici, conștientizarea a ceea ce se întâmplă,

and in your hands,

iar în mâinile voastre,

just a few clicks away.

doar la câteva click-uri distanță.

Thank you.

Mulțumesc.

(Applause)

(Aplauze)