What will a future without secrets look like? | Alessandro Acquisti

Tłumaczenie: Joanna Zając Korekta: Agata Leśnicka

I would like to tell you a story

Opowiem historię,

connecting the notorious privacy incident

związaną z głośnym przypadkiem dotyczącym prywatności

involving Adam and Eve,

z Adamem i Ewą w roli głównej,

and the remarkable shift in the boundaries

i znaczącym przesunięciem granicy

between public and private which has occurred

pomiędzy sferą publiczną i prywatną

in the past 10 years.

w ciągu ostatnich 10 lat.

You know the incident.

Znacie tę historię.

Adam and Eve one day in the Garden of Eden

Pewnego dnia w raju, Adam i Ewa

realize they are naked.

spostrzegli, że są nadzy.

They freak out.

Spanikowali.

And the rest is history.

Reszta jest historią.

Nowadays, Adam and Eve

Obecnie, Adam i Ewa

would probably act differently.

pewnie zachowaliby się inaczej.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adam Super ubaw wczoraj! jabłko ekstra LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Ewa no... kotku, wiesz co się stało z moimi spodniami?]

We do reveal so much more information

Ujawniamy w internecie znacznie więcej informacji

about ourselves online than ever before,

niż kiedyś,

and so much information about us

a organizacje zbierają o nas

is being collected by organizations.

coraz więcej danych.

Now there is much to gain and benefit

Można wiele skorzystać

from this massive analysis of personal information,

z masowej analizy informacji osobistych

or big data,

i dużej ilości danych,

but there are also complex tradeoffs that come

lecz oddawanie prywatności

from giving away our privacy.

odbywa się kosztem złożonych kompromisów.

And my story is about these tradeoffs.

O tym jest ta historia.

We start with an observation which, in my mind,

Zacznijmy od pewnej obserwacji, która dla mnie

has become clearer and clearer in the past few years,

stawała się coraz wyraźniejsza w ostatnich latach.

that any personal information

Każdy rodzaj danych osobowych

can become sensitive information.

może stać się informacją wrażliwą.

Back in the year 2000, about 100 billion photos

W roku 2000 wykonano na całym świecie

were shot worldwide,

około 100 miliardów zdjęć,

but only a minuscule proportion of them

ale tylko minimalny ich procent

were actually uploaded online.

znalazł się w Internecie.

In 2010, only on Facebook, in a single month,

W roku 2010 tylko na Facebooku, w ciągu miesiąca,

2.5 billion photos were uploaded,

umieszczono 2,5 miliarda zdjęć,

most of them identified.

w większości opisanych.

In the same span of time,

W tym samym przedziale czasu

computers' ability to recognize people in photos

zdolność komputerów do rozpoznania fotografii ludzi

improved by three orders of magnitude.

poprawiła się o trzy rzędy wielkości.

What happens when you combine

Co się dzieje

these technologies together:

po połączeniu tych technologii:

increasing availability of facial data;

wzrasta dostępność do zdjęć twarzy,

improving facial recognizing ability by computers;

poprawia się zdolność komputerów do ich rozpoznania

but also cloud computing,

a chmury obliczeniowe,

which gives anyone in this theater

dają każdemu użytkownikowi

the kind of computational power

moc obliczeniową,

which a few years ago was only the domain

która jeszcze kilka lat temu

of three-letter agencies;

była domeną tylko trzyliterowych agencji,

and ubiquitous computing,

plus wszechobecne obliczenia,

which allows my phone, which is not a supercomputer,

pozwalające mojemu telefonowi, który nie jest superkomputerem,

to connect to the Internet

na połączenie z Internetem

and do there hundreds of thousands

i zebranie setek tysięcy danych

of face metrics in a few seconds?

o twarzach w ciągu sekund?

Well, we conjecture that the result

Podejrzewamy,

of this combination of technologies

że połączenie tych technologii

will be a radical change in our very notions

spowoduje znaczącą zmianę

of privacy and anonymity.

w postrzeganiu prywatności i anonimowości.

To test that, we did an experiment

By to sprawdzić, przeprowadziliśmy eksperyment

on Carnegie Mellon University campus.

na kampusie Carnegie Mellon University.

We asked students who were walking by

Poprosiliśmy przechodzących studentów

to participate in a study,

o udziału w badaniu.

and we took a shot with a webcam,

Zrobiliśmy im zdjęcia kamerą internetową,

and we asked them to fill out a survey on a laptop.

i poprosiliśmy o wypełnienie ankiety na laptopie.

While they were filling out the survey,

W międzyczasie

we uploaded their shot to a cloud-computing cluster,

przesłaliśmy ich zdjęcia na klaster chmur obliczeniowych

and we started using a facial recognizer

i przy użyciu rozpoznawania twarzy

to match that shot to a database

zaczęliśmy szukać dopasowań

of some hundreds of thousands of images

wśród setek tysięcy zdjęć

which we had downloaded from Facebook profiles.

ściągniętych z profili na Facebooku.

By the time the subject reached the last page

Zanim badany dotarł do ostatniej strony ankiety,

on the survey, the page had been dynamically updated

ona już zawierała

with the 10 best matching photos

10 najbardziej pasujących zdjęć,

which the recognizer had found,

które znalazł identyfikator.

and we asked the subjects to indicate

Poprosiliśmy badanych

whether he or she found themselves in the photo.

o stwierdzenie,czy odnaleźli się na tych zdjęciach.

Do you see the subject?

Widzicie badanego?

Well, the computer did, and in fact did so

Komputer go zobaczył,

for one out of three subjects.

i było tak dla jednej trzeciej badanych.

So essentially, we can start from an anonymous face,

A więc możemy zacząć od anonimowej twarzy,

offline or online, and we can use facial recognition

offline, czy online, użyć identyfikacji twarzy,

to give a name to that anonymous face

aby dzięki danym z mediów społecznościowych

thanks to social media data.

nadać jej imię.

But a few years back, we did something else.

Kilka lat temu zrobiliśmy coś innego.

We started from social media data,

Zaczęliśmy od danych z portali społecznościowych,

we combined it statistically with data

które połączyliśmy zależnościami statystycznymi

from U.S. government social security,

z danymi z amerykańskiego rządowego systemu ubezpieczeń społecznych.

and we ended up predicting social security numbers,

Udało nam się przewidzieć numery ubezpieczeń społecznych,

which in the United States

które w USA

are extremely sensitive information.

są niezwykle wrażliwymi danymi.

Do you see where I'm going with this?

Rozumiecie, dokąd zmierzam?

So if you combine the two studies together,

Jeśli połączymy te dwa badania,

then the question becomes,

powstaje pytanie,

can you start from a face and,

czy można zacząć od twarzy,

using facial recognition, find a name

i używając identyfikatora twarzy,

and publicly available information

znaleźć imię i informacje publicznie dostępne

about that name and that person,

na temat danej osoby,

and from that publicly available information

a potem, używając tych informacji,

infer non-publicly available information,

dotrzeć do danych publicznie niedostępnych,

much more sensitive ones

które są

which you link back to the face?

znacznie bardziej wrażliwe?

And the answer is, yes, we can, and we did.

Odpowiedź brzmi: tak i to właśnie zrobiliśmy.

Of course, the accuracy keeps getting worse.

Oczywiście przy kolejnych dopasowaniach spada dokładność.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[zidentyfikowano 5 pierwszych cyfr numeru ubezpieczenia w 27% (po 4 próbach)]

But in fact, we even decided to develop an iPhone app

Stworzyliśmy aplikację na iPhone'a,

which uses the phone's internal camera

która wykorzystuje wbudowaną kamerę

to take a shot of a subject

do zrobienia zdjęcia obiektu,

and then upload it to a cloud

a potem wysyła je do chmury

and then do what I just described to you in real time:

i robi opisywane rzeczy w czasie rzeczywistym:

looking for a match, finding public information,

dopasowuje, wyszukuje dane publiczne,

trying to infer sensitive information,

próbuje pozyskać poufne dane,

and then sending back to the phone

a potem przesyła je z powrotem

so that it is overlaid on the face of the subject,

i nakłada na twarz obiektu,

an example of augmented reality,

dając, pewnie trochę przerażający,

probably a creepy example of augmented reality.

przykład rzeczywistości rozszerzonej.

In fact, we didn't develop the app to make it available,

Ta aplikacja nie powstała do użytku publicznego,

just as a proof of concept.

tylko żeby udowodnić, że to możliwe.

In fact, take these technologies

Spójrzmy na te technologie

and push them to their logical extreme.

i wyobraźmy sobie ich ekstremalne zastosowania.

Imagine a future in which strangers around you

Wyobraźmy sobie przyszłość,

will look at you through their Google Glasses

w której obcy ludzie patrzą na nas przez Google Glass,

or, one day, their contact lenses,

a kiedyś, przez soczewki kontaktowe,

and use seven or eight data points about you

i używając siedmiu czy ośmiu informacji

to infer anything else

docierają do wszelkich innych

which may be known about you.

dostępnych o nas danych.

What will this future without secrets look like?

Jak będzie wyglądać przyszłość bez tajemnic?

And should we care?

I czy powinno nas to obchodzić?

We may like to believe

Możemy chcieć wierzyć,

that the future with so much wealth of data

że przyszłość z taką ilością dostępnych danych

would be a future with no more biases,

będzie pozbawiona zniekształceń,

but in fact, having so much information

ale w zasadzie

doesn't mean that we will make decisions

posiadanie tak wielu danych nie oznacza,

which are more objective.

że nasze decyzje będą bardziej obiektywne.

In another experiment, we presented to our subjects

W kolejnym eksperymencie dostarczyliśmy badanym

information about a potential job candidate.

dane o potencjalnym kandydacie do pracy.

We included in this information some references

Były tam wzmianki

to some funny, absolutely legal,

o pewnych zabawnych, całkowicie legalnych,

but perhaps slightly embarrassing information

ale trochę żenujących sprawach,

that the subject had posted online.

które kandydat umieścił w Internecie.

Now interestingly, among our subjects,

Co ciekawe,

some had posted comparable information,

niektórzy z naszych badanych

and some had not.

zamieszczali podobne informacje, a niektórzy nie.

Which group do you think

Jak myślicie,

was more likely to judge harshly our subject?

która grupa była bardziej surowa w ocenie?

Paradoxically, it was the group

Paradoksalnie, to ci,

who had posted similar information,

którzy umieszczali w sieci podobne informacje.

an example of moral dissonance.

To przykład dysonansu moralnego.

Now you may be thinking,

Możecie myśleć,

this does not apply to me,

że was to nie dotyczy,

because I have nothing to hide.

bo nie macie nic do ukrycia.

But in fact, privacy is not about

Ale faktycznie, w prywatności nie chodzi o to,

having something negative to hide.

że mamy coś negatywnego do ukrycia.

Imagine that you are the H.R. director

Wyobraźcie sobie, że jesteście dyrektorami personalnymi

of a certain organization, and you receive résumés,

w pewnej organizacji i dostajecie CV.

and you decide to find more information about the candidates.

Postanawiacie dowiedzieć się więcej o kandydatach.

Therefore, you Google their names

Szukacie ich w Google,

and in a certain universe,

i w jednym przypadku

you find this information.

znajdujecie określoną informację.

Or in a parallel universe, you find this information.

A drugim, inną informację.

Do you think that you would be equally likely

Sądzicie, że bylibyście tak samo skłonni

to call either candidate for an interview?

zaprosić każdego z kandydatów na rozmowę?

If you think so, then you are not

Jeśli tak, to nie jesteście podobni

like the U.S. employers who are, in fact,

do amerykańskich pracodawców,

part of our experiment, meaning we did exactly that.

którzy uczestniczyli w naszym badaniu.

We created Facebook profiles, manipulating traits,

Stworzyliśmy profile na Facebooku, manipulując cechami,

then we started sending out résumés to companies in the U.S.,

a potem porozsyłaliśmy CV do amerykańskich firm.

and we detected, we monitored,

Obserwowaliśmy

whether they were searching for our candidates,

czy szukają naszych kandydatów,

and whether they were acting on the information

i czy wykorzystują informacje,

they found on social media. And they were.

z portali społecznościowych. I wykorzystywali.

Discrimination was happening through social media

Dla tak samo wykwalifikowanych kandydatów

for equally skilled candidates.

media te powodowały dyskryminację.

Now marketers like us to believe

Marketingowcy chcą nas przekonać,

that all information about us will always

że każda informacja o nas

be used in a manner which is in our favor.

zawsze będzie wykorzystana na naszą korzyść.

But think again. Why should that be always the case?

Ale zastanówcie się. Dlaczego miałoby tak być?

In a movie which came out a few years ago,

W filmie sprzed kilku lat

"Minority Report," a famous scene

"Raport Mniejszości", w słynnej scenie

had Tom Cruise walk in a mall

Tom Cruise idzie przez centrum handlowe,

and holographic personalized advertising

a obok niego pojawia się

would appear around him.

hologram ze spersonalizowaną reklamą.

Now, that movie is set in 2054,

Akcja filmu dzieje się w 2054 roku,

about 40 years from now,

za jakieś 40 lat,

and as exciting as that technology looks,

i jakkolwiek ekscytująco wygląda ta technologia,

it already vastly underestimates

to już znacznie nie docenia

the amount of information that organizations

ilości informacji, które organizacje

can gather about you, and how they can use it

są w stanie o nas zebrać,

to influence you in a way that you will not even detect.

i jak niezauważalnie mogą na nas wpływać.

So as an example, this is another experiment

I kolejne badanie,

actually we are running, not yet completed.

jeszcze nie jest skończone.

Imagine that an organization has access

Wyobraźcie sobie, że organizacja ma dostęp

to your list of Facebook friends,

do listy waszych przyjaciół na Facebooku,

and through some kind of algorithm

i dzięki jakiemuś algorytmowi

they can detect the two friends that you like the most.

potrafi stwierdzić, których dwóch lubicie najbardziej.

And then they create, in real time,

Potrafi w czasie rzeczywistym

a facial composite of these two friends.

stworzyć połączenie twarzy tych osób.

Now studies prior to ours have shown that people

Poprzednie badania wskazują,

don't recognize any longer even themselves

że w przypadku kombinacji rysów twarzy,

in facial composites, but they react

ludzie nie rozpoznają nawet siebie,

to those composites in a positive manner.

ale reagują w pozytywny sposób.

So next time you are looking for a certain product,

Zatem następnym razem, poszukując jakiegoś produktu,

and there is an ad suggesting you to buy it,

zobaczycie reklamę, w której nie wystąpi

it will not be just a standard spokesperson.

zwykły aktor,

It will be one of your friends,

ale jeden z waszych przyjaciół,

and you will not even know that this is happening.

a wy nawet nie będziecie tego świadomi.

Now the problem is that

Problem w tym,

the current policy mechanisms we have

że obecne mechanizmy

to protect ourselves from the abuses of personal information

chroniące przed nadużyciami danych osobowych,

are like bringing a knife to a gunfight.

są jak przyniesienie noża na strzelaninę.

One of these mechanisms is transparency,

Jednym z nich jest przejrzystość,

telling people what you are going to do with their data.

nakazująca informowanie ludzi, co zrobisz z ich danymi.

And in principle, that's a very good thing.

W teorii to dobra rzecz.

It's necessary, but it is not sufficient.

Potrzebna, ale niewystarczająca.

Transparency can be misdirected.

Przejrzystość można przeinaczyć.

You can tell people what you are going to do,

Możesz powiedzieć, co chcesz zrobić,

and then you still nudge them to disclose

a potem nadal przekonywać ich

arbitrary amounts of personal information.

do ujawnienia kolejnych prywatnych danych.

So in yet another experiment, this one with students,

W innym eksperymencie poproszono studentów

we asked them to provide information

o dostarczenie informacji

about their campus behavior,

na temat ich zachowań studenckich,

including pretty sensitive questions, such as this one.

między innymi dość wrażliwych kwestii, na przykład:

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

["Czy kiedyś ściągałeś na egzaminie?"]

Jednej grupie powiedzieliśmy:

"Only other students will see your answers."

"Tylko inni studenci zobaczą wasze odpowiedzi".

To another group of subjects, we told them,

Drugiej zaś:

"Students and faculty will see your answers."

"Wasze odpowiedzi zobaczą studenci i wykładowcy".

Transparency. Notification. And sure enough, this worked,

Przejrzystość. Powiadomienie. I zadziałało.

in the sense that the first group of subjects

Pierwsza grupa badanych

were much more likely to disclose than the second.

znacznie chętniej ujawniała informacje.

It makes sense, right?

Ma to sens, prawda?

But then we added the misdirection.

Potem odwróciliśmy kota ogonem.

We repeated the experiment with the same two groups,

Powtórzyliśmy eksperyment z tymi samymi grupami,

this time adding a delay

tym razem robiąc przerwę

between the time we told subjects

pomiędzy informacją,

how we would use their data

jak wykorzystamy dane,

and the time we actually started answering the questions.

a faktycznym czasem odpowiadania na pytania.

How long a delay do you think we had to add

Jak długa musiała być przerwa,

in order to nullify the inhibitory effect

by usunąć zahamowania

of knowing that faculty would see your answers?

powstałe z wiedzy o pokazaniu odpowiedzi wykładowcom?

Ten minutes?

Dziesięć minut?

Five minutes?

Pięć?

One minute?

Jedną minutę?

How about 15 seconds?

Może 15 sekund?

Fifteen seconds were sufficient to have the two groups

Wystarczyło 15 sekund,

disclose the same amount of information,

żeby obie grupy ujawniły tyle samo informacji,

as if the second group now no longer cares

tak jakby drugiej grupy już nie obchodziło,

for faculty reading their answers.

że wykładowcy zobaczą ich odpowiedzi.

Now I have to admit that this talk so far

Muszę przyznać, że na razie moje wystąpienie

may sound exceedingly gloomy,

brzmi strasznie przygnębiająco,

but that is not my point.

a nie o to mi chodzi.

In fact, I want to share with you the fact that

Naprawdę chcę powiedzieć,

there are alternatives.

że są inne rozwiązania.

The way we are doing things now is not the only way

Sposób, w jaki działamy teraz,

they can done, and certainly not the best way

to nie jedyna możliwość,

they can be done.

a na pewno nie najlepsza.

When someone tells you, "People don't care about privacy,"

Kiedy ktoś wam mówi: "Ludzi nie obchodzi prywatność",

consider whether the game has been designed

zastanówcie się, czy nie zaprojektowano tego tak,

and rigged so that they cannot care about privacy,

by nie byli w stanie o tym pomyśleć.

and coming to the realization that these manipulations occur

Zrozumienie takiej manipulacji

is already halfway through the process

to połowa drogi

of being able to protect yourself.

do ochrony siebie.

When someone tells you that privacy is incompatible

Kiedy mówią wam, że prywatność nie idzie w parze

with the benefits of big data,

z korzyściami, które dają wielkie zbiory danych,

consider that in the last 20 years,

pomyślcie, że za 20 lat

researchers have created technologies

badacze stworzą technologie,

to allow virtually any electronic transactions

które pozwolą dokonywać transakcji elektronicznych

to take place in a more privacy-preserving manner.

w sposób bardziej chroniący prywatność.

We can browse the Internet anonymously.

Możemy anonimowo przeglądać internet.

We can send emails that can only be read

Możemy wysyłać e-maile, czytane przez adresata

by the intended recipient, not even the NSA.

a nie przez agencję bezpieczeństwa wewnętrznego.

We can have even privacy-preserving data mining.

Możemy nawet mieć chroniącą prywatność eksplorację danych.

In other words, we can have the benefits of big data

Innymi słowy, możemy mieć korzyści z wielkich zbiorów danych,

while protecting privacy.

chroniąc jednocześnie prywatność.

Of course, these technologies imply a shifting

Oczywiście, wprowadzenie tych technologii

of cost and revenues

oznacza przesunięcie kosztu i przychodu

between data holders and data subjects,

pomiędzy właścicielami danych i ich podmiotami

which is why, perhaps, you don't hear more about them.

i pewnie dlatego nie słyszy się o tym więcej.

Which brings me back to the Garden of Eden.

Wracam więc do raju.

There is a second privacy interpretation

Jest druga interpretacja tej historii,

of the story of the Garden of Eden

jeśli chodzi o prywatność.

which doesn't have to do with the issue

Nie chodzi o to,

of Adam and Eve feeling naked

że Adam i Ewa poczuli się nadzy

and feeling ashamed.

i zawstydzeni.

You can find echoes of this interpretation

Echo tej interpretacji mamy

in John Milton's "Paradise Lost."

w "Raju utraconym" Johna Miltona.

In the garden, Adam and Eve are materially content.

W ogrodzie Adam i Ewa są naprawdę zadowoleni.

They're happy. They are satisfied.

Szczęśliwi. Usatysfakcjonowani.

However, they also lack knowledge

Jednak brak im wiedzy

and self-awareness.

i samoświadomości.

The moment they eat the aptly named

Kiedy zjadają, trafnie nazwany,

fruit of knowledge,

owoc poznania,

that's when they discover themselves.

odkrywają samych siebie.

They become aware. They achieve autonomy.

Zyskują świadomość i niezależność.

The price to pay, however, is leaving the garden.

Ceną jest opuszczenie ogrodu.

So privacy, in a way, is both the means

Prywatność zatem,

and the price to pay for freedom.

jest zarówno drogą do wolności, jak i jej kosztem.

Again, marketers tell us

Marketingowcy mówią nam,

that big data and social media

że wielkie zbiory danych i media społecznościowe

are not just a paradise of profit for them,

to nie tylko raj korzyści dla nich,

but a Garden of Eden for the rest of us.

ale i dla nas.

We get free content.

Dostajemy darmowe udogodnienia:

We get to play Angry Birds. We get targeted apps.

Angry Birds czy spersonalizowane aplikacje.

But in fact, in a few years, organizations

Tak naprawdę, za kilka lat

will know so much about us,

organizacje będą wiedziały o nas tak wiele,

they will be able to infer our desires

że będą znać nasze potrzeby,

before we even form them, and perhaps

zanim my je odkryjemy,

buy products on our behalf

kupować w naszym imieniu produkty,

before we even know we need them.

zanim zorientujemy się, że ich potrzebujemy.

Now there was one English author

Był pewien angielski pisarz,

who anticipated this kind of future

który przewidział taką przyszłość,

where we would trade away

w której oddawalibyśmy

our autonomy and freedom for comfort.

naszą niezależność i wolność za wygodę.

Even more so than George Orwell,

Bardziej niż George Orwell

the author is, of course, Aldous Huxley.

był nim Aldous Huxley.

In "Brave New World," he imagines a society

W "Nowym wspaniałym świecie" opisuje społeczeństwo,

where technologies that we created

w którym nacisk wywierają technologie,

originally for freedom

pierwotnie stworzone

end up coercing us.

dla wolności.

However, in the book, he also offers us a way out

Jednak proponuje także

of that society, similar to the path

sposób ucieczki z tego społeczeństwa,

that Adam and Eve had to follow to leave the garden.

podobny do opuszczenia raju przez Adama i Ewę.

In the words of the Savage,

Savage twierdzi,

regaining autonomy and freedom is possible,

że odzyskanie niezależności i wolności jest możliwe,

although the price to pay is steep.

jakkolwiek cena jest wygórowana.

So I do believe that one of the defining fights

Wierzę zatem, że jedną z decydujących wojen

of our times will be the fight

naszych czasów,

for the control over personal information,

będzie walka o kontrolę nad danymi osobowymi.

the fight over whether big data will become a force

Walka o to, czy wielkie zbiory danych

for freedom,

staną po stronie wolności,

rather than a force which will hiddenly manipulate us.

a nie posłużą tajnym manipulacjom.

Right now, many of us

Obecnie większość z nas

do not even know that the fight is going on,

nawet nie wie, że ta walka trwa,

but it is, whether you like it or not.

ale tak jest czy nam się to podoba, czy nie.

And at the risk of playing the serpent,

Ryzykując, że odegram rolę biblijnego węża

I will tell you that the tools for the fight

powiem, że narzędzia tej walki

are here, the awareness of what is going on,

są dostępne, a świadomość tej sytuacji

and in your hands,

jest w waszych rękach,

just a few clicks away.

w odległości kilku kliknięć.

Thank you.

Dziękuję.

(Applause)

(Oklaski)