What will a future without secrets look like? | Alessandro Acquisti

Перекладач: Roksolana Berezhanska Утверджено: Marta Oliynyk

I would like to tell you a story

Я б хотів розповісти Вам історію,

connecting the notorious privacy incident

що містить загальновідомий випадок приватності,

involving Adam and Eve,

що трапився з Адамом та Євою,

and the remarkable shift in the boundaries

і про значні зміщення меж

between public and private which has occurred

між публічним і приватним, що відбулися

in the past 10 years.

протягом останніх 10 років.

You know the incident.

Ви знаєте цей випадок.

Adam and Eve one day in the Garden of Eden

Одного дня в Едемському саду Адам і Єва

realize they are naked.

усвідомлюють, що вони голі.

They freak out.

Вони шоковані.

And the rest is history.

А решта - це вже історія.

Nowadays, Adam and Eve

Сьогодні Адам і Єва

would probably act differently.

напевне повели б себе по-іншому.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Адам: вчорашня ніч була супер! ]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Єва: егеж, крихітко, не знаєш, де мої штани? ]

We do reveal so much more information

Ми таки видаємо набагато більше інформації

about ourselves online than ever before,

про нас в Інтернеті, ніж коли-небудь раніше,

and so much information about us

і дуже багато інформації про нас

is being collected by organizations.

збирається різними структурами.

Now there is much to gain and benefit

Тепер є багато вигод

from this massive analysis of personal information,

з масового аналізу особистої інформації

or big data,

чи з баз даних,

but there are also complex tradeoffs that come

але ми також платимо певну ціну

from giving away our privacy.

за викриття приватності.

And my story is about these tradeoffs.

І в моїй розповіді ідеться про цю ціну.

We start with an observation which, in my mind,

Почнемо зі спостереження, яке, на мою думку,

has become clearer and clearer in the past few years,

стає все чіткішим за останні кілька років.

that any personal information

Воно полягає в тому, що будь-яка особиста інформація

can become sensitive information.

може стати точкою ураження.

Back in the year 2000, about 100 billion photos

Повертаючись у 2000 рік, близько 100 млрд фотографій

were shot worldwide,

було зроблено по всьому світу,

but only a minuscule proportion of them

проте лише крихітну їх частину

were actually uploaded online.

завантажили в Інтернет.

In 2010, only on Facebook, in a single month,

У 2010 році лише на Facebook, всього за один місяць

2.5 billion photos were uploaded,

було завантажено 2,5 млрд фотографій,

most of them identified.

і більшість з них ідентифіковані.

In the same span of time,

За той самий проміжок часу

computers' ability to recognize people in photos

можливість комп'ютера розпізнавати людей на фотографіях

improved by three orders of magnitude.

покращилася втричі.

What happens when you combine

Що ж відбувається, коли ви поєднуєте

these technologies together:

ці технології:

increasing availability of facial data;

збільшення доступності до особистих даних;

improving facial recognizing ability by computers;

покращення можливості комп'ютера розпізнавати обличчя;

but also cloud computing,

але також "хмарні" обчислення,

which gives anyone in this theater

що дає кожному присутньому

the kind of computational power

певну обчислювальну потужність,

which a few years ago was only the domain

яка кілька років тому була доступна

of three-letter agencies;

лише підпільним державним структурам;

and ubiquitous computing,

і глобальні обчислення,

which allows my phone, which is not a supercomputer,

що дозволяють моєму телефону, що не є супер-комп'ютером,

to connect to the Internet

під'єднуватися до інтернету

and do there hundreds of thousands

і виконувати там сотні тисяч

of face metrics in a few seconds?

співставлень облич всього за кілька секунд?

Well, we conjecture that the result

Ну, як результат, ми припускаємо,

of this combination of technologies

що ця комбінація технологій

will be a radical change in our very notions

здійснить радикальні зміни в нашому сприйнятті

of privacy and anonymity.

понять приватності та анонімності.

To test that, we did an experiment

Щоб це перевірити, ми здійснили експеримент

on Carnegie Mellon University campus.

у студмістечку університету Карнеґі-Меллон.

We asked students who were walking by

Ми попросили студентів, які проходили повз,

to participate in a study,

взяти участь в дослідженні.

and we took a shot with a webcam,

Ми фотографували їх на веб-камеру

and we asked them to fill out a survey on a laptop.

і просили пройти опитування на лептопі.

While they were filling out the survey,

Поки вони заповнювали анкети,

we uploaded their shot to a cloud-computing cluster,

ми завантажили їхні фото до кластера хмарних обчислень

and we started using a facial recognizer

та застосували систему розпізнавання облич,

to match that shot to a database

щоб знайти їхні відповідники в базі даних

of some hundreds of thousands of images

сотень тисяч фотографій,

which we had downloaded from Facebook profiles.

які ми завантажили з профілів соцмережі Facebook.

By the time the subject reached the last page

Коли учасник дійшов до останньої сторінки

on the survey, the page had been dynamically updated

опитування, оновившись, сторінка динамічно

with the 10 best matching photos

підібрала 10 найбільш відповідних фотографій,

which the recognizer had found,

які знайшов розпізнавач.

and we asked the subjects to indicate

Ми попросили учасників сказати,

whether he or she found themselves in the photo.

чи знайшли вони себе на фотографіях.

Do you see the subject?

Ви бачите респондента?

Well, the computer did, and in fact did so

Що ж, комп'ютер побачив. І побачив

for one out of three subjects.

кожного третього з респондентів.

So essentially, we can start from an anonymous face,

По суті, ми можемо почати з лиця аноніма,

offline or online, and we can use facial recognition

в мережі чи ні, і використати систему розпізнавання облич,

to give a name to that anonymous face

щоб ідентифікувати обличчя цього аноніма

thanks to social media data.

за допомогою даних соціальних мереж.

But a few years back, we did something else.

Проте кілька років тому ми діяли по-іншому.

We started from social media data,

Ми розпочинали з даних соціальних мереж

we combined it statistically with data

та поєднували їх статистично з даними

from U.S. government social security,

уряду соціальної безпеки США.

and we ended up predicting social security numbers,

В результаті ми спрогнозували номери соціального страхування,

which in the United States

які в Сполучених Штатах

are extremely sensitive information.

є надзвичайно конфіденційною інформацією.

Do you see where I'm going with this?

Чи ви бачите, до чого я веду?

So if you combine the two studies together,

Тобто якщо об'єднати ці два дослідження,

then the question becomes,

виникає питання:

can you start from a face and,

чи можемо ми почати з обличчя

using facial recognition, find a name

і, використовуючи розпізнавач облич, знайти ім'я

and publicly available information

та публічно доступну інформацію

about that name and that person,

про це ім'я і цю людину

and from that publicly available information

і, виходячи з цієї інформації,

infer non-publicly available information,

вивести таку, яка не є публічно доступною,

much more sensitive ones

більш конфіденційну,

which you link back to the face?

яку можна знову співставити з обличчям?

And the answer is, yes, we can, and we did.

Відповідь - так, ми можемо. І ми це зробили.

Of course, the accuracy keeps getting worse.

Звісно, точність погіршується.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[ у 27%респондентів визначено перших 5 символів номеру соціального страхування (з 4 спроб) ]

But in fact, we even decided to develop an iPhone app

Але насправді ми навіть вирішили розробити додаток для iPhone,

which uses the phone's internal camera

який застосовує фронтальну камеру телефона,

to take a shot of a subject

щоб сфотографувати респондента

and then upload it to a cloud

і завантажити її в хмару,

and then do what I just described to you in real time:

а потім зробити все те, що я щойно описав:

looking for a match, finding public information,

шукати співпадіння, знайти публічну інформацію,

trying to infer sensitive information,

спробувати вивести конфіденційну

and then sending back to the phone

і надіслати в телефон,

so that it is overlaid on the face of the subject,

щоб вона відобразилася на обличчі респондента,

an example of augmented reality,

як приклад доповненої реальності,

probably a creepy example of augmented reality.

мабуть жахаючої доповненої реальності.

In fact, we didn't develop the app to make it available,

Насправді, ми не розробляли додаток, щоб він був доступним,

just as a proof of concept.

просто для підтвердження концепції.

In fact, take these technologies

Візьмемо ці технології

and push them to their logical extreme.

та доведемо їх до логічної межі.

Imagine a future in which strangers around you

Уявіть майбутнє, в якому незнайомці навколо вас

will look at you through their Google Glasses

дивитимуться на вас крізь Google окуляри

or, one day, their contact lenses,

а, одного дня, й крізь контактні лінзи,

and use seven or eight data points about you

і, використовуючи 7 чи 8 пунктів вихідних даних про Вас,

to infer anything else

виведуть ще щось,

which may be known about you.

що може бути про Вас відомим.

What will this future without secrets look like?

Як же виглядатиме таке майбутнє без таємниць?

And should we care?

Чи повинно нас це хвилювати?

We may like to believe

Нам би хотілося вірити,

that the future with so much wealth of data

що майбутнє з таким обсягом доступної інформації

would be a future with no more biases,

буде майбутнім без упереджень,

but in fact, having so much information

але, насправді, володіння такою кількістю інформації

doesn't mean that we will make decisions

не означає, що наші рішення

which are more objective.

будуть об'єктивнішими.

In another experiment, we presented to our subjects

В іншому експерименті ми запропонували респондентам

information about a potential job candidate.

інформацію про потенційного працівника.

We included in this information some references

Ми включили до інформації про них кілька посилань

to some funny, absolutely legal,

на певну смішну, цілком доступну інформацію,

but perhaps slightly embarrassing information

проте дещо таку, що осоромлює,

that the subject had posted online.

яку респондент виклав в мережі.

Now interestingly, among our subjects,

Цікаво, що поміж респондентів

some had posted comparable information,

дехто оприлюднив непевну інформацію,

and some had not.

а дехто ні.

Which group do you think

Яка з груп, на Вашу думку,

was more likely to judge harshly our subject?

більш імовірно, суворо засудить респондента?

Paradoxically, it was the group

Парадоксально, але це була група,

who had posted similar information,

що виклала ідентичну інформацію -

an example of moral dissonance.

приклад морального дисонансу.

Now you may be thinking,

Як Ви, мабуть, думаєте,

this does not apply to me,

це не про мене,

because I have nothing to hide.

оскільки мені нічого приховувати.

But in fact, privacy is not about

Та насправді приватність не обов'язково означає

having something negative to hide.

мати щось до приховування.

Imagine that you are the H.R. director

Уявіть, що ви директор відділу кадрів

of a certain organization, and you receive résumés,

певної організації. Ви отримуєте резюме

and you decide to find more information about the candidates.

і вирішуєте пошукати більше інформації про аплікантів.

Therefore, you Google their names

Таким чином, ви гуглите їхні імена

and in a certain universe,

і в якомусь із всесвітів

you find this information.

знаходите цю інформацію.

Or in a parallel universe, you find this information.

Чи навіть в паралельному всесвіті, ви все ж знаходите цю інформацію.

Do you think that you would be equally likely

Як Ви думаєте, Ви з однаковою впевненістю

to call either candidate for an interview?

запросите обох кандидатів на співбесіду?

If you think so, then you are not

Якщо так, то Ви не є

like the U.S. employers who are, in fact,

такими, як роботодавці США, які

part of our experiment, meaning we did exactly that.

є частиною нашого експерименту, і вважають, що так чинити правильно.

We created Facebook profiles, manipulating traits,

Ми створили профілі на Facebook, засоби маніпуляції,

then we started sending out résumés to companies in the U.S.,

і почали розсилати резюме в американські компанії.

and we detected, we monitored,

Ми провели моніторинг,

whether they were searching for our candidates,

чи шукали вони наших кандидатів

and whether they were acting on the information

та чи зважали вони на знайдену в соціальних

they found on social media. And they were.

мережах інформацію. І вони зважали.

Discrimination was happening through social media

Дискримінація, що ґрунтується на інформації з соціальних мереж,

for equally skilled candidates.

застосовувалася щодо однаково кваліфікованих кандидатів.

Now marketers like us to believe

Сучасні маркетологи хочуть, щоб ми повірили,

that all information about us will always

що вся інформація про нас завжди

be used in a manner which is in our favor.

буде використана в нашу користь.

But think again. Why should that be always the case?

Але подумайте ще раз. Чи завжди це так?

In a movie which came out a few years ago,

У фільмі "Особлива думка", що вийшов

"Minority Report," a famous scene

кілька років тому, є сцена, де

had Tom Cruise walk in a mall

Том Круз іде в торговому центрі,

and holographic personalized advertising

а навколо нього з'являються

would appear around him.

персоналізовані рекламні голограми.

Now, that movie is set in 2054,

Дія фільму відбувається у 2054 році

about 40 years from now,

близько 40 років від нашого часу,

and as exciting as that technology looks,

і хоч як захоплююче виглядають ці технології,

it already vastly underestimates

вони вже значно недооцінюють

the amount of information that organizations

кількості інформації, яку організації

can gather about you, and how they can use it

можуть про Вас зібрати і як вони можуть нею скористатись,

to influence you in a way that you will not even detect.

щоб вплинути на Вас без Вашого відома.

So as an example, this is another experiment

Отже, як приклад маємо інший експеримент,

actually we are running, not yet completed.

який ще триває.

Imagine that an organization has access

Уявіть, що організація має доступ

to your list of Facebook friends,

до списку ваших друзів на Facebook

and through some kind of algorithm

і завдяки певному алгоритму дій

they can detect the two friends that you like the most.

вона може виокремити двох улюблених,

And then they create, in real time,

а також в реальному часі скомпонувати

a facial composite of these two friends.

з них двох фоторобот.

Now studies prior to ours have shown that people

Дослідження, що передували нашим, показують, що люди

don't recognize any longer even themselves

більше не розпізнають навіть самих себе

in facial composites, but they react

на фотороботах, проте реагують

to those composites in a positive manner.

на такі вельми позитивно.

So next time you are looking for a certain product,

Тому наступного разу, шукаючи певний товар,

and there is an ad suggesting you to buy it,

в рекламі, що пропонуватиме вам його придбати

it will not be just a standard spokesperson.

буде не просто незнайома людина.

It will be one of your friends,

Це буде один із ваших друзів,

and you will not even know that this is happening.

а ви навіть не здогадуватиметесь про це.

Now the problem is that

Проблема полягає в тому,

the current policy mechanisms we have

що сучасні механізми захисту

to protect ourselves from the abuses of personal information

від зловживання персональною інформацією

are like bringing a knife to a gunfight.

виглядають як ніж, принесений на перестрілку.

One of these mechanisms is transparency,

Один із цих механізмів - прозорість,

telling people what you are going to do with their data.

яка каже людям, яким чином ви збираєтеся використовувати їхні особисті дані.

And in principle, that's a very good thing.

Загалом це дуже хороша і необхідна річ.

It's necessary, but it is not sufficient.

Але її недостатньо.

Transparency can be misdirected.

Прозорість може бути неправильно адресована.

You can tell people what you are going to do,

Ви можете інформувати людей про те, що ви збираєтесь робити,

and then you still nudge them to disclose

але, все-таки, підштовхувати їх видавати

arbitrary amounts of personal information.

довільну кількість персональної інформації.

So in yet another experiment, this one with students,

Ми здійснили ще один експеримент, цього разу зі студентами.

we asked them to provide information

Ми попросили їх надати інформацію

about their campus behavior,

про їхню поведінку в студентському містечку,

including pretty sensitive questions, such as this one.

включивши доволі делікатні питання, наприклад:

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[ Ви коли-небудь списували на іспиті?]

Одній групі студентів ми сказали:

"Only other students will see your answers."

"Тільки студенти бачитимуть ваші відповіді".

To another group of subjects, we told them,

Іншій групі ми сказали:

"Students and faculty will see your answers."

"Ваші відповіді бачитимуть студенти і викладачі".

Transparency. Notification. And sure enough, this worked,

Прозорість. Попередження. Звісно, це спрацювало.

in the sense that the first group of subjects

В тому сенсі, що у першій групі піддослідних

were much more likely to disclose than the second.

була більша ймовірність правдивості інформації.

It makes sense, right?

Логічно, чи не так?

But then we added the misdirection.

Але тоді ми застосували зворотню вказівку.

We repeated the experiment with the same two groups,

Ми повторили експеримент з тими ж групами,

this time adding a delay

проте цього разу додали затримку

between the time we told subjects

в часі, між тим, щоб повідомити опонентам,

how we would use their data

як ми будемо використовувати їх дані,

and the time we actually started answering the questions.

і часом, коли вони почали відповідати.

How long a delay do you think we had to add

Наскільки довгою, на Вашу думку, мала бути затримка,

in order to nullify the inhibitory effect

щоб звести нанівець ефект придушення

of knowing that faculty would see your answers?

факту, що викладачі побачать їхні відповіді?

Ten minutes?

10 хвилин?

Five minutes?

5 хвилин?

One minute?

1 хвилина?

How about 15 seconds?

Як щодо 15 секунд?

Fifteen seconds were sufficient to have the two groups

15 секунд було достатньо, щоб дві групи опонентів

disclose the same amount of information,

розкрили таку ж кількість інформації,

as if the second group now no longer cares

при тому, що другу групу не хвилювало те,

for faculty reading their answers.

що викладачі побачать відповіді.

Now I have to admit that this talk so far

Мушу визнати, що моя промова

may sound exceedingly gloomy,

мабуть звучить надзвичайно гнітюче,

but that is not my point.

але це не моя точка зору.

In fact, I want to share with you the fact that

Насправді, я хочу сказати вам про те,

there are alternatives.

що є альтернатива.

The way we are doing things now is not the only way

Спосіб, до якого ми вдаємося, не єдиний

they can done, and certainly not the best way

і не найкращий, порівняно зі способом,

they can be done.

яким ми можемо їх робити.

When someone tells you, "People don't care about privacy,"

Коли хтось каже вам: "Люди не зважають на приватність",

consider whether the game has been designed

подумайте про те, чи правилами гри було обумовлено,

and rigged so that they cannot care about privacy,

що вони не можуть турбуватися про приватність

and coming to the realization that these manipulations occur

і усвідомлюючи, що такі маніпуляції тапляються

is already halfway through the process

на половині шляху до

of being able to protect yourself.

здатності захисти себе.

When someone tells you that privacy is incompatible

Коли хтось каже вам, що приватність несумісна

with the benefits of big data,

з перевагами великих баз даних,

consider that in the last 20 years,

подумайте про те, що протягом останніх 20 років

researchers have created technologies

дослідники створили технології,

to allow virtually any electronic transactions

що дозволяють віртуальним електронним транзакціям

to take place in a more privacy-preserving manner.

відбуватися в режимі збереження приватності.

We can browse the Internet anonymously.

Ми можемо анонімно переглядати інтернет-сторінки.

We can send emails that can only be read

Ми можемо надсилати приватні електронні листи,

by the intended recipient, not even the NSA.

до яких не має доступу навіть Управління національної безпеки.

We can have even privacy-preserving data mining.

Ми навіть можемо мати глибокий аналіз приватних даних.

In other words, we can have the benefits of big data

Іншими словами, ми можемо отримувати вигоду від великих баз даних,

while protecting privacy.

одночасно захищаючи свою приватність.

Of course, these technologies imply a shifting

Звісно, такі технології передбачають рух

of cost and revenues

вартості та доходів

between data holders and data subjects,

між сервісами зберігання та власниками даних,

which is why, perhaps, you don't hear more about them.

саме тому ви, мабуть, не чули багато про них.

Which brings me back to the Garden of Eden.

Це повертає мене до Едемського саду.

There is a second privacy interpretation

Існує інше трактування приватності

of the story of the Garden of Eden

з історії Едемського саду,

which doesn't have to do with the issue

яке не має нічого спільного з тим,

of Adam and Eve feeling naked

що Адам і Єва побачили, що вони голі

and feeling ashamed.

і відчули сором.

You can find echoes of this interpretation

Ви можете знайти схоже трактування

in John Milton's "Paradise Lost."

у "Втраченому раї" Джона Мільтона.

In the garden, Adam and Eve are materially content.

В саду Адам і Єва природньо задоволені.

They're happy. They are satisfied.

Вони щасливі. Вони задоволені.

However, they also lack knowledge

Тим не менше, їм бракує знань

and self-awareness.

та самосвідомості.

The moment they eat the aptly named

У мить, коли вони куштують

fruit of knowledge,

плід пізнання,

that's when they discover themselves.

вони усвідомлюють себе.

They become aware. They achieve autonomy.

Вони стають свідомими. Вони досягають автономії.

The price to pay, however, is leaving the garden.

Проте ціна розплати - вигнання з раю.

So privacy, in a way, is both the means

Тому приватність є засобом і ціною,

and the price to pay for freedom.

яку слід платити за свободу.

Again, marketers tell us

Знову ж таки, маркетологи кажуть нам,

that big data and social media

що великі бази даних і соціальні медіа

are not just a paradise of profit for them,

є не тільки раєм прибутків для них,

but a Garden of Eden for the rest of us.

але Едемським садом для всіх нас.

We get free content.

Ми отримуємо безкоштовний контент.

We get to play Angry Birds. We get targeted apps.

Ми отримуємо гру Angry Birds. Ми отримуємо цільові додатки.

But in fact, in a few years, organizations

Але через кілька років організації

will know so much about us,

знатимуть про нас стільки,

they will be able to infer our desires

що вони будуть здатні вивести наші бажання

before we even form them, and perhaps

перед тим, як ми їх сформуємо, а можливо й

buy products on our behalf

придбати продукти від нашого імені

before we even know we need them.

до того, як ми знатимемо, що вони нам потрібні.

Now there was one English author

Був один англійський письменник,

who anticipated this kind of future

що очікував майбутнього,

where we would trade away

в якому ми віддамо

our autonomy and freedom for comfort.

свою автономність і свободу заради комфорту.

Even more so than George Orwell,

Навіть більше, ніж Джордж Орвелл,

the author is, of course, Aldous Huxley.

цей автор, звісно ж, Олдос Гакслі.

In "Brave New World," he imagines a society

У романі "Чудовий новий світ" він описав суспільство,

where technologies that we created

в якому технології, що первинно створені

originally for freedom

для свободи,

end up coercing us.

в результаті поневолюють нас.

However, in the book, he also offers us a way out

Проте в книзі він також пропонує нам вихід

of that society, similar to the path

з цього суспільства, схожий до шляху,

that Adam and Eve had to follow to leave the garden.

який Адам і Єва пішли, щоб покинути рай.

In the words of the Savage,

Словами Дикуна (героя роману),

regaining autonomy and freedom is possible,

відновлення автономності і свободи можливе,

although the price to pay is steep.

проте ціна надмірно висока.

So I do believe that one of the defining fights

Тому я вважаю, що одним із вирішальних боїв

of our times will be the fight

нашого часу буде бій

for the control over personal information,

за отримання контролю над особистими даними,

the fight over whether big data will become a force

боротьба, в якій великі бази даних стануть силою

for freedom,

для свободи,

rather than a force which will hiddenly manipulate us.

а не такою, що приховано маніпулюватиме нами.

Right now, many of us

Саме зараз багато з нас

do not even know that the fight is going on,

навіть не усвідомлюють, що боротьба вже триває.

but it is, whether you like it or not.

Проте факт залишається фактом, подобається вам це чи ні.

And at the risk of playing the serpent,

І, ризикуючи зіграти змія,

I will tell you that the tools for the fight

скажу вам, що засоби боротьби

are here, the awareness of what is going on,

є тут - усвідомлення того, що відбувається.

and in your hands,

І вони в ваших руках.

just a few clicks away.

Всього кілька кліків мишкою.

Thank you.

Дякую.

(Applause)

(Оплески)