What will a future without secrets look like? | Alessandro Acquisti

Översättare: Jenny Lillie Granskare: Stephanie Green

I would like to tell you a story

Jag vill berätta en historia för er,

connecting the notorious privacy incident

genom att länka samman det berömda integritetsmissödet

involving Adam and Eve,

som involverade Adam och Eva,

and the remarkable shift in the boundaries

med ett anmärkningsvärt skifte som skett i gränsen

between public and private which has occurred

mellan det offentliga och det privata livet

in the past 10 years.

under de senaste tio åren.

You know the incident.

Ni känner till missödet.

Adam and Eve one day in the Garden of Eden

Adam och Eva är i Edens lustgård

realize they are naked.

och inser att de är nakna.

They freak out.

De blir utom sig.

And the rest is history.

Och resten är historia.

Nowadays, Adam and Eve

I dagens värld skulle Adam och Eva

would probably act differently.

troligen agera på ett annat sätt.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adam Igår kväll var helskoj! Älskade äpplet LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Eva japp..älskling, vad hände med mina byxor??]

We do reveal so much more information

Vi avslöjar mer information

about ourselves online than ever before,

om oss själva på nätet än någonsin förut

and so much information about us

och så mycket information om oss

is being collected by organizations.

samlas in av olika organisationer.

Now there is much to gain and benefit

Det finns mycket att vinna

from this massive analysis of personal information,

från denna massiva analys av personlig information,

or big data,

eller stora datamängd,

but there are also complex tradeoffs that come

men det för också med sig komplexa kostnader

from giving away our privacy.

när man ger bort sitt privatliv. (Skratt)

And my story is about these tradeoffs.

Min historia handlar om dessa kostnader.

We start with an observation which, in my mind,

Vi börjar med en observation som enligt mig

has become clearer and clearer in the past few years,

har klarnat alltmer under de senaste åren;

that any personal information

all personlig information

can become sensitive information.

kan bli känslig information.

Back in the year 2000, about 100 billion photos

År 2000 togs det omkring 100 miljarder foton

were shot worldwide,

i hela världen

but only a minuscule proportion of them

men enbart en minimal del av dem

were actually uploaded online.

lades ut på nätet.

In 2010, only on Facebook, in a single month,

År 2010 lades det bara på Facebook ut

2.5 billion photos were uploaded,

2,5 miljarder foton under en månad,

most of them identified.

varav de flesta var identifierade.

In the same span of time,

Inom samma tidsram

computers' ability to recognize people in photos

blev datorernas förmåga att känna igen människor på foton

improved by three orders of magnitude.

ungefär 1000 gånger bättre.

What happens when you combine

Vad händer när du kombinerar

these technologies together:

dessa två teknologier:

increasing availability of facial data;

en ökad tillgång av ansiktsdata;

improving facial recognizing ability by computers;

en förbättrad förmåga hos datorer att känna igen ansikten;

but also cloud computing,

men också hos molntjänster

which gives anyone in this theater

som ger vem som helst inom denna arena

the kind of computational power

den typen av datormakt

which a few years ago was only the domain

som för några år sedan enbart förbehölls

of three-letter agencies;

trebokstaviga regeringsorgan;

and ubiquitous computing,

och heltäckande datornät

which allows my phone, which is not a supercomputer,

som tillåter min mobil, som inte är någon superdator,

to connect to the Internet

att kopplas till Internet

and do there hundreds of thousands

och där göra hundratusentals

of face metrics in a few seconds?

ansiktskontroller på några sekunder?

Well, we conjecture that the result

Vi kan förmoda att resultatet

of this combination of technologies

av att kombinera dessa teknologier

will be a radical change in our very notions

kommer att vara en radikalt ändrad syn på

of privacy and anonymity.

privatliv och anonymitet.

To test that, we did an experiment

För att testa detta gjorde vi ett experiment

on Carnegie Mellon University campus.

på Carnegie Mellons universitetsområde.

We asked students who were walking by

Vi tillfrågade studenter som gick förbi

to participate in a study,

om att delta i en studie.

and we took a shot with a webcam,

Vi tog ett foto av dem med en webbkamera

and we asked them to fill out a survey on a laptop.

och bad dem fylla i en enkät på en laptop.

While they were filling out the survey,

Medan de fyllde i enkäten

we uploaded their shot to a cloud-computing cluster,

laddade vi upp fotona av dem i ett datormoln,

and we started using a facial recognizer

och vi använde ett igenkänningsprogram

to match that shot to a database

för att matcha bilderna med en databas

of some hundreds of thousands of images

bestående av hundratusentals bilder

which we had downloaded from Facebook profiles.

som vi hade laddat ner från Facebook-profiler.

By the time the subject reached the last page

När den tillfrågade personen kommit till sista sidan

on the survey, the page had been dynamically updated

av enkäten, så hade sidan dynamiskt uppdaterats

with the 10 best matching photos

med de tio bäst matchande bilderna

which the recognizer had found,

som programmet hade hittat

and we asked the subjects to indicate

och vi bad personen att ange om

whether he or she found themselves in the photo.

han eller hon var med på bilderna.

Do you see the subject?

Ser du personen?

Well, the computer did, and in fact did so

Datorn gjorde det - och det samma gällde

for one out of three subjects.

en av tre personer i studien.

So essentially, we can start from an anonymous face,

Så i princip kan vi börja med ett helt anonymt ansikte,

offline or online, and we can use facial recognition

off-line eller på nätet, och sedan kan ansiktsigenkänning

to give a name to that anonymous face

ge ett namn till det anonyma ansiktet

thanks to social media data.

med hjälp av sociala medier.

But a few years back, we did something else.

Men för några år sedan gjorde vi något annat.

We started from social media data,

Vi utgick från sociala medier

we combined it statistically with data

och kombinerade datan statistiskt med information

from U.S. government social security,

från amerikanska socialförsäkringsmyndigheten

and we ended up predicting social security numbers,

och det slutade med att vi kunde förutse socialförsäkringsnummer, som i USA är

which in the United States

are extremely sensitive information.

extremt känslig information.

Do you see where I'm going with this?

Ser ni vart jag är på väg med detta?

So if you combine the two studies together,

Om man kombinerar dessa två studier

then the question becomes,

så uppkommer frågan;

can you start from a face and,

kan du utgå från ett ansikte och genom att

using facial recognition, find a name

använda ansiktsigenkänning, hitta namn

and publicly available information

och offentligt tillgänglig information

about that name and that person,

om det namnet och den personen

and from that publicly available information

och utifrån den offentliga informationen

infer non-publicly available information,

få fram icke offentlig information,

much more sensitive ones

mycket känsligare sådan

which you link back to the face?

som sammanlänkas till ansiktet?

And the answer is, yes, we can, and we did.

Och svaret är ja, vi kan, och vi gjorde det.

Of course, the accuracy keeps getting worse.

Självklart blir precisionen bara värre.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[27 % av personernas 5 första siffror identifierade]

But in fact, we even decided to develop an iPhone app

Vi beslöt oss att utveckla en iPhone-app

which uses the phone's internal camera

som använder mobilens inbyggda kamera

to take a shot of a subject

för att ta en bild av en person

and then upload it to a cloud

och ladda upp den i ett datormoln

and then do what I just described to you in real time:

och göra exakt det jag beskrivit för er i realtid:

looking for a match, finding public information,

matcha bilden, söka offentlig information,

trying to infer sensitive information,

försöka få fram känslig information,

and then sending back to the phone

och sedan skicka den tillbaks till mobilen

so that it is overlaid on the face of the subject,

så att den ligger ovanpå bilden av personen -

an example of augmented reality,

ett exempel på en utvidgad verklighet,

probably a creepy example of augmented reality.

förmodligen ett skräckexempel på utvidgad verklighet.

In fact, we didn't develop the app to make it available,

Vi utvecklade inte appen för att göra den tillgänglig,

just as a proof of concept.

utan enbart för att bevisa något.

In fact, take these technologies

Faktum är att om man tar dessa teknologier

and push them to their logical extreme.

och drar dem till sin spets,

Imagine a future in which strangers around you

tänk dig en framtid där främlingar omkring dig

will look at you through their Google Glasses

tittar på dig genom sina Google-glasögon

or, one day, their contact lenses,

eller kanske en dag genom sina kontaktlinser,

and use seven or eight data points about you

som tar fram sju eller åtta tillgängliga uppgifter om dig

to infer anything else

som sedan antyder allt möjligt annat

which may be known about you.

som kan tas reda på om dig.

What will this future without secrets look like?

Hur kommer denna framtid utan hemligheter att se ut?

And should we care?

Borde vi bry oss?

We may like to believe

Vi vill gärna tro

that the future with so much wealth of data

att en framtid som är så rik på information

would be a future with no more biases,

skulle vara en framtid utan fördomar,

but in fact, having so much information

men att ha tillgång till så mycket information

doesn't mean that we will make decisions

innebär inte att vi kommer ta beslut

which are more objective.

som är mer objektiva.

In another experiment, we presented to our subjects

I ett annat experiment presenterade vi

information om en arbetssökande för testpersonerna.

information about a potential job candidate.

We included in this information some references

Vi inkluderade hänvisningar till

to some funny, absolutely legal,

skojig, absolut laglig

but perhaps slightly embarrassing information

men kanske rätt pinsam information

that the subject had posted online.

som kandidaten lagt upp på nätet.

Now interestingly, among our subjects,

Det intressanta var att en del av våra försökspersoner

some had posted comparable information,

hade lagt upp liknande information,

and some had not.

och andra hade inte gjort det.

Which group do you think

Vilken grupp tror du var mest benägen

was more likely to judge harshly our subject?

att döma vår kandidat hårdare?

Paradoxically, it was the group

Paradoxalt nog var det gruppen

who had posted similar information,

som hade lagt upp liknande information,

an example of moral dissonance.

ett exempel på moralisk dissonans.

Now you may be thinking,

Nu kanske du tänker

this does not apply to me,

att detta inte gäller dig

because I have nothing to hide.

eftersom du inte har något att gömma.

But in fact, privacy is not about

Men faktum är att ditt privatliv

having something negative to hide.

inte handlar om att gömma något negativt.

Imagine that you are the H.R. director

Tänk dig att du är rekryteringschef

of a certain organization, and you receive résumés,

på en organisation, du får CV:n,

and you decide to find more information about the candidates.

och du bestämmer dig för att ta reda på mer om kandidaterna.

Therefore, you Google their names

Du googlar därför deras namn

and in a certain universe,

och i ett visst universum

you find this information.

hittar du denna information.

Or in a parallel universe, you find this information.

I ett annat universum, hittar du denna information.

Do you think that you would be equally likely

Tror du att du skulle vara lika benägen

to call either candidate for an interview?

att kalla båda kandidaterna till en intervju?

If you think so, then you are not

Om du tror det, så är du inte

like the U.S. employers who are, in fact,

som de amerikanska arbetsgivarna som var

part of our experiment, meaning we did exactly that.

delaktiga i vårt experiment. Vi gjorde exakt detta.

We created Facebook profiles, manipulating traits,

Vi skapade Facebookprofiler, manipulerade grunddragen,

then we started sending out résumés to companies in the U.S.,

och började skicka ut CV:n till olika företag i USA,

and we detected, we monitored,

och sedan bevakade vi

whether they were searching for our candidates,

om de sökte efter våra kandidater

and whether they were acting on the information

och om de agerade utifrån informationen

they found on social media. And they were.

som de fann på sociala medier. Och det gjorde de.

Discrimination was happening through social media

Diskriminering skedde genom sociala medier

for equally skilled candidates.

bland kandidater med likvärdiga meriter.

Now marketers like us to believe

Marknadsförare vill få oss att tro

that all information about us will always

att all information om oss alltid kommer att användas

be used in a manner which is in our favor.

på ett sätt som gynnar oss.

But think again. Why should that be always the case?

Men tänk om. Varför skulle det alltid vara så?

In a movie which came out a few years ago,

I en film som kom ut för några år sedan -

"Minority Report," a famous scene

"Minority Report" - i en berömd scen

had Tom Cruise walk in a mall

gick Tom Cruise omkring i ett shoppingcenter

and holographic personalized advertising

och holografisk, personlig reklam

would appear around him.

uppkom omkring honom.

Now, that movie is set in 2054,

Den filmen utspelar sig år 2054,

about 40 years from now,

omkring 40 år framåt,

and as exciting as that technology looks,

och hur spännande den teknologin än ser ut,

it already vastly underestimates

så underskattar den avsevärt

the amount of information that organizations

den mängd information som organisationer

can gather about you, and how they can use it

kan samla in om dig och hur de kan använda den

to influence you in a way that you will not even detect.

för att influera dig på sätt du inte märker.

So as an example, this is another experiment

Här är ett exempel på ett annat experiment

actually we are running, not yet completed.

som vi håller på med just nu.

Imagine that an organization has access

Tänk dig att en organisation har tillgång till

to your list of Facebook friends,

din lista av Facebookvänner

and through some kind of algorithm

och genom någon algoritm

they can detect the two friends that you like the most.

kan de upptäcka de två vänner du gillar mest.

And then they create, in real time,

Sedan kan de, i realtid, skapa

a facial composite of these two friends.

ett sammansatt ansikte av dessa två vänner.

Now studies prior to ours have shown that people

Studier gjorda innan dem vi gjort, har visat att folk

don't recognize any longer even themselves

inte ens känner igen sig själva i

in facial composites, but they react

ett sammansatt ansikte men de reagerar

to those composites in a positive manner.

på bilden på ett positivt sätt.

So next time you are looking for a certain product,

Så nästa gång du söker efter en specifik produkt

and there is an ad suggesting you to buy it,

och du ser en reklamannons för produkten,

it will not be just a standard spokesperson.

så kommer det inte vara vilket ansikte som helst i reklamen.

It will be one of your friends,

Det kommer vara en av dina vänner

and you will not even know that this is happening.

och du kommer inte veta att det är så.

Now the problem is that

Problemet just nu är

the current policy mechanisms we have

att de aktuella mekanismer vi har

to protect ourselves from the abuses of personal information

för att skydda oss från att personlig information om oss missbrukas,

are like bringing a knife to a gunfight.

är som att ta med sig en kniv till en skottlossning.

One of these mechanisms is transparency,

En av dessa mekanismer är öppenhet;

telling people what you are going to do with their data.

låta folk veta hur informationen om dem kommer att användas.

And in principle, that's a very good thing.

Och i princip är det en bra sak.

It's necessary, but it is not sufficient.

Det är nödvändigt, men inte tillräckligt.

Transparency can be misdirected.

Öppenhet kan vara vilseledande.

You can tell people what you are going to do,

Man kan säga till folk vad man tänker göra

and then you still nudge them to disclose

och sedan ändå påverka dem att avslöja

arbitrary amounts of personal information.

godtyckliga mängder av personlig information.

So in yet another experiment, this one with students,

Så i ett annat experiment - denna gång bland studenter -

we asked them to provide information

bad vi dem att förse oss med information

about their campus behavior,

om deras vanor på universitetet,

including pretty sensitive questions, such as this one.

bland annat rätt känsliga frågor som de här:

[Har du fuskat på ett prov?]

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

Till en grupp av studenter sade vi att

"Only other students will see your answers."

"Enbart andra studenter kommer se dina svar".

To another group of subjects, we told them,

Till en annan grupp sade vi att

"Students and faculty will see your answers."

"Studenter och lärare kommer se dina svar".

Transparency. Notification. And sure enough, this worked,

Öppenhet. Och helt klart så fungerade det

in the sense that the first group of subjects

genom att den första gruppen

were much more likely to disclose than the second.

var mycket mer benägen att avslöja sig än den andra.

It makes sense, right?

Verkar vettigt, eller hur?

But then we added the misdirection.

Men sedan lade vi till vilseledning.

We repeated the experiment with the same two groups,

Vi upprepade experimentet med samma två grupper,

this time adding a delay

denna gång med en fördröjning

between the time we told subjects

mellan tidpunkten då vi berättade

how we would use their data

hur vi skulle använda informationen

and the time we actually started answering the questions.

och tidpunkten då de faktiskt började besvara frågorna.

How long a delay do you think we had to add

Hur lång fördröjning tror ni vi behövde lägga till

in order to nullify the inhibitory effect

för att omintetgöra den hämmande effekten

of knowing that faculty would see your answers?

av att veta att lärare skulle se dina svar?

Ten minutes?

Tio minuter?

Five minutes?

Fem minuter?

One minute?

En minut?

How about 15 seconds?

Vad sägs om 15 sekunder?

Femton sekunder var tillräckligt för att de två grupperna

Fifteen seconds were sufficient to have the two groups

disclose the same amount of information,

skulle avslöja samma mängd information,

as if the second group now no longer cares

som om den andra gruppen inte längre brydde sig om

for faculty reading their answers.

att lärarna skulle läsa svaren.

Now I have to admit that this talk so far

Jag måste erkänna att detta tal hittills

may sound exceedingly gloomy,

låter överdrivet dystert,

but that is not my point.

men det är inte min avsikt.

In fact, I want to share with you the fact that

Jag vill dela med mig av vetskapen

there are alternatives.

att det finns alternativ.

The way we are doing things now is not the only way

Det sätt vi gör saker på nu är inte det enda sättet

they can done, and certainly not the best way

och definitivt inte det bästa sättet

they can be done.

att göra dem på.

When someone tells you, "People don't care about privacy,"

Om någon säger till dig, "Folk bryr sig inte om sitt privatliv",

consider whether the game has been designed

begrunda då om spelets regler har designats

och manipulerats så att de inte kan bry sig om sina privatliv

and rigged so that they cannot care about privacy,

and coming to the realization that these manipulations occur

och att när de kommer underfund med att denna manipulering sker

is already halfway through the process

är de redan halvvägs genom processen

of being able to protect yourself.

av att kunna skydda sig själva.

When someone tells you that privacy is incompatible

Om någon säger till dig att ett privatliv inte är kompatibelt

with the benefits of big data,

med förmånerna av big data,

consider that in the last 20 years,

ta då i beaktande att under de senaste 20 åren

researchers have created technologies

har forskare skapat teknologier

to allow virtually any electronic transactions

som möjliggör vilken elektronisk transaktion som helst

to take place in a more privacy-preserving manner.

att äga rum på ett sätt som skyddar individen.

We can browse the Internet anonymously.

Vi kan surfa på nätet anonymt.

We can send emails that can only be read

Vi kan skicka mejl som enbart kan läsas

by the intended recipient, not even the NSA.

av den avsedda mottagaren, inte ens av NSA.

We can have even privacy-preserving data mining.

Vi kan till och med skydda individen inom datautvinning.

In other words, we can have the benefits of big data

Med andra ord kan vi ha förmånerna av stora mängder data

while protecting privacy.

på samma gång som vi skyddar individen.

Of course, these technologies imply a shifting

Dessa teknologier innebär förstås ett skifte

of cost and revenues

i kostnader och intäkter

between data holders and data subjects,

mellan informationsinnehavare och privatpersoner

which is why, perhaps, you don't hear more about them.

vilket kanske är orsaken till att vi inte hör mer om dem.

Which brings me back to the Garden of Eden.

Detta för mig tillbaka till Edens lustgård.

There is a second privacy interpretation

Det finns en annan tolkning

of the story of the Garden of Eden

av historien om Edens lustgård

which doesn't have to do with the issue

som inte har något att göra med att

of Adam and Eve feeling naked

Adam och Eva känner sig nakna

and feeling ashamed.

och skamfyllda.

You can find echoes of this interpretation

Du kan höra ekon av denna tolkning

in John Milton's "Paradise Lost."

i John Miltons "Det förlorade paradiset".

In the garden, Adam and Eve are materially content.

I lustgården så är Adam och Eva materiellt nöjda.

They're happy. They are satisfied.

De är lyckliga. De är nöjda.

However, they also lack knowledge

Men, de saknar också kunskap

and self-awareness.

och självmedvetenhet.

The moment they eat the aptly named

I samma stund som de äter av

fruit of knowledge,

kunskapens frukt,

that's when they discover themselves.

upptäcker de sig själva.

They become aware. They achieve autonomy.

De blir medvetna. De blir självständiga.

The price to pay, however, is leaving the garden.

Priset de får betala är att de måste lämna lustgården.

So privacy, in a way, is both the means

Så ett privatliv innebär både tillgången

and the price to pay for freedom.

och priset att betala för friheten.

Again, marketers tell us

Återigen säger marknadsförare

that big data and social media

att big data och sociala medier

are not just a paradise of profit for them,

inte bara är ett paradis av vinster för dem

but a Garden of Eden for the rest of us.

men också en Edens lustgård för oss andra.

We get free content.

Vi får ett fritt innehåll.

We get to play Angry Birds. We get targeted apps.

Vi får spela Angry Birds. Vi får målinriktade appar.

But in fact, in a few years, organizations

Men inom några år så vet organisationer

will know so much about us,

så mycket om oss

they will be able to infer our desires

att de kan dra slutsatsen om våra önskemål

before we even form them, and perhaps

innan vi ens hunnit forma dem och kanske

buy products on our behalf

köpa produkter på våra vägnar

before we even know we need them.

innan vi ens visste att vi behövde dem.

Now there was one English author

Det fanns en engelsk författare

who anticipated this kind of future

som anade en sådan framtid

where we would trade away

där vi skulle byta ut vår

our autonomy and freedom for comfort.

självständighet och frihet för bekvämlighet.

Even more so than George Orwell,

Ännu mer än författaren George Orwell,

the author is, of course, Aldous Huxley.

jag talar förstås om Aldous Huxley.

In "Brave New World," he imagines a society

I "Du sköna nya värld" föreställer han sig ett samhälle

where technologies that we created

där de teknologier som vi skapat,

originally for freedom

ursprungligen för frihet,

end up coercing us.

till slut förtrycker oss.

However, in the book, he also offers us a way out

I boken erbjuder han emellertid en väg ut ur

of that society, similar to the path

det samhället, som liknar den väg

that Adam and Eve had to follow to leave the garden.

som Adam och Eva måste följa för att lämna lustgården.

In the words of the Savage,

Enligt Vildens ord

regaining autonomy and freedom is possible,

är det möjligt att återfå självstyre och frihet,

although the price to pay is steep.

men priset att betala är svindlande.

So I do believe that one of the defining fights

Så jag tror att en av vår tids

of our times will be the fight

viktigaste kamper kommer att vara kampen

for the control over personal information,

om kontroll över personlig information,

the fight over whether big data will become a force

kampen om huruvida big data kommer bli en kraft

for freedom,

för frihet, istället för en kraft

rather than a force which will hiddenly manipulate us.

som manipulerar oss i det fördolda.

Right now, many of us

Just nu är det många av oss

do not even know that the fight is going on,

som inte ens vet om att kampen pågår,

but it is, whether you like it or not.

men det gör den, vare sig du vill det eller inte.

And at the risk of playing the serpent,

Och med risken att ta ormens roll,

I will tell you that the tools for the fight

vill jag säga till er att redskapen för kampen är,

are here, the awareness of what is going on,

vetskapen om vad som pågår,

and in your hands,

och att det ligger i era händer,

just a few clicks away.

bara några klick bort.

Thank you.

Tack.

(Applause)

(Applåder)