What will a future without secrets look like? | Alessandro Acquisti

Алессандро Аквисти: О значимости конфиденциальности

Переводчик: Max Siz Редактор: Maria Golec

I would like to tell you a story

Я хотел бы рассказать вам историю,

connecting the notorious privacy incident

которая объединяет пресловутый случай

involving Adam and Eve,

с участием Адама и Евы

and the remarkable shift in the boundaries

и ту поразительную перемену границы

between public and private which has occurred

между публичным и личным, которая произошла

in the past 10 years.

за последние 10 лет.

You know the incident.

Случай вам известен.

Adam and Eve one day in the Garden of Eden

Как-то раз в Эдемском саду Адам и Ева

realize they are naked.

поняли, что они голые.

They freak out.

Они пришли в ужас.

And the rest is history.

А остальное — уже история.

Nowadays, Adam and Eve

Сегодня Адам и Ева

would probably act differently.

вели бы себя по-другому.

[@Adam Last nite was a blast! loved dat apple LOL]

@Адам: Прошлая ночь удалась! Прикольное яблочко LOL

[@Eve yep.. babe, know what happened to my pants tho?]

@Ева: да...детка, знаешь, что случилось с моими штанами?

We do reveal so much more information

Мы действительно раскрываем значительно больше информации

about ourselves online than ever before,

о самих себе, чем когда-либо раньше,

and so much information about us

и гораздо больше информации о нас

is being collected by organizations.

собирается организациями.

Now there is much to gain and benefit

Сегодня можно получить много полезного

from this massive analysis of personal information,

из анализа персональных данных

or big data,

или большого объёма информации,

but there are also complex tradeoffs that come

но так же приходится идти на ряд непростых компромиссов

from giving away our privacy.

из-за потери нашей конфиденциальности.

And my story is about these tradeoffs.

Мой рассказ об этих компромиссах.

We start with an observation which, in my mind,

Начнём мы с наблюдения, результат которого, по моему мнению,

has become clearer and clearer in the past few years,

становится всё более ясным за последние несколько лет,

that any personal information

а именно то, что любая персональная информация

can become sensitive information.

может стать деликатной.

Back in the year 2000, about 100 billion photos

Ещё в 2000 году в мире было сделано

were shot worldwide,

около 100 миллиардов фото,

but only a minuscule proportion of them

но лишь мизерная их часть

were actually uploaded online.

была действительно загружена онлайн.

In 2010, only on Facebook, in a single month,

В 2010 году только на Facebook ежемесячно

2.5 billion photos were uploaded,

загружалось 2,5 миллиарда фотографий,

most of them identified.

и большинство из них идентифицированы.

In the same span of time,

В то же самое время,

computers' ability to recognize people in photos

способность компьютеров распознавать людей на фото

improved by three orders of magnitude.

улучшилась на три порядка.

What happens when you combine

Что же происходит, когда вы соединяете

these technologies together:

эти технологии вместе:

increasing availability of facial data;

увеличение доступности персональных данных;

improving facial recognizing ability by computers;

улучшение компьютерного распознания лиц;

but also cloud computing,

а так же облачные вычисления,

which gives anyone in this theater

которые дают любому в этом зале

the kind of computational power

такую вычислительную мощность,

which a few years ago was only the domain

которая ещё несколько лет назад была

of three-letter agencies;

только у спецслужб;

and ubiquitous computing,

и распределённые вычисления,

which allows my phone, which is not a supercomputer,

которые позволяют моему телефону, не будучи суперкомпьютером,

to connect to the Internet

подключаться к интернету

and do there hundreds of thousands

и просматривать там сотни тысяч

of face metrics in a few seconds?

метрик лица за несколько секунд?

Well, we conjecture that the result

Ну, мы предполагаем, что результат

of this combination of technologies

такой комбинации технологий

will be a radical change in our very notions

радикально изменит наши понятия

of privacy and anonymity.

о конфиденциальности и анонимности.

To test that, we did an experiment

Чтобы проверить это, мы провели эксперимент

on Carnegie Mellon University campus.

на кампусе университета Карнеги-Меллон.

We asked students who were walking by

Мы попросили проходящих мимо студентов

to participate in a study,

участвовать в исследовании,

and we took a shot with a webcam,

потом мы сфотографировали их на вебкамеру

and we asked them to fill out a survey on a laptop.

и попросили заполнить опросник на компьютере.

While they were filling out the survey,

Пока они отвечали на вопросы,

we uploaded their shot to a cloud-computing cluster,

мы загрузили их фото в облачный вычислительный кластер

and we started using a facial recognizer

и запустили процесс распознавания лица,

to match that shot to a database

чтобы сравнить сделанные снимки с базой данных

of some hundreds of thousands of images

из нескольких сот тысяч изображений,

which we had downloaded from Facebook profiles.

которые мы загрузили из анкет на Facebook.

By the time the subject reached the last page

К тому времени как субъект доходил до последней страницы опросника,

on the survey, the page had been dynamically updated

страница была динамически обновлена

with the 10 best matching photos

10-ю самыми похожими фото,

which the recognizer had found,

обнаруженными программой;

and we asked the subjects to indicate

и мы просили опрашиваемого указать,

whether he or she found themselves in the photo.

находит ли он или она себя на этих фото.

Do you see the subject?

Вы видите субъекта?

Well, the computer did, and in fact did so

Компьютер видел, и по факту идентифицировал

for one out of three subjects.

одного из трёх опрошенных.

So essentially, we can start from an anonymous face,

Соответственно, мы можем начать с неизвестного лица,

offline or online, and we can use facial recognition

оффлайн или онлайн, мы можем использовать систему распознавания лиц,

to give a name to that anonymous face

чтобы определить имя неизвестного

thanks to social media data.

благодаря данным из социальных сетей.

But a few years back, we did something else.

А несколько лет назад мы делали кое-что другое.

We started from social media data,

Мы начинали с данных из социальных сетей,

we combined it statistically with data

статистически комбинировали их с данными

from U.S. government social security,

социальных служб правительства США,

and we ended up predicting social security numbers,

и мы доходили до предсказания номеров карточек социального страхования,

which in the United States

которые в Соединённых Штатах

are extremely sensitive information.

являются чрезвычайно конфиденциальной информацией.

Do you see where I'm going with this?

Понимаете, к чему я клоню?

So if you combine the two studies together,

Итак, если вы объедините эти два исследования вместе,

then the question becomes,

то возникает вопрос,

can you start from a face and,

можно ли начать с лица,

using facial recognition, find a name

используя систему распознавания, определить имя

and publicly available information

и общедоступную информацию

about that name and that person,

о лице и этом человеке,

and from that publicly available information

и через эту общедоступную информацию

infer non-publicly available information,

сделать предположение о личной информации,

much more sensitive ones

гораздо более конфиденциальной

which you link back to the face?

и связать её с этим лицом?

And the answer is, yes, we can, and we did.

И ответ — да, мы можем и уже сделали это.

Of course, the accuracy keeps getting worse.

Конечно, точность снижается.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[определяются 27% первых 5 цифр номера карточки социального страхования (с 4 попыток)]

But in fact, we even decided to develop an iPhone app

Но на самом деле, мы даже решили разработать приложение для iPhone,

which uses the phone's internal camera

которое использует встроенную камеру телефона,

to take a shot of a subject

чтобы сделать фото человека,

and then upload it to a cloud

потом загрузить его в облако

and then do what I just described to you in real time:

и после сделать то, что я описал в реальном времени:

looking for a match, finding public information,

найти совпадения, используя публичную информацию,

trying to infer sensitive information,

попытаться связать с конфиденциальной информацией

and then sending back to the phone

и потом послать обратно на телефон

so that it is overlaid on the face of the subject,

полученную таким образом информацию об этом человеке,

an example of augmented reality,

как пример дополненной реальности,

probably a creepy example of augmented reality.

возможно, ужасный пример дополненной реальности.

In fact, we didn't develop the app to make it available,

Мы не разработали это приложение, чтобы сделать его доступным,

just as a proof of concept.

а лишь в качестве доказательства идеи.

In fact, take these technologies

Просто возьмите эти технологии

and push them to their logical extreme.

и преувеличьте их возможности.

Imagine a future in which strangers around you

Вообразите будущее, в котором незнакомые люди вокруг вас

will look at you through their Google Glasses

будут смотреть на вас через Google Glass

or, one day, their contact lenses,

или, однажды, через контактные линзы

and use seven or eight data points about you

и использовать 7 или 8 источников информации о вас,

to infer anything else

чтобы узнать, что ещё

which may be known about you.

может быть известно о вас.

What will this future without secrets look like?

Как вам такое будущее без секретов?

And should we care?

И должны ли мы беспокоиться?

We may like to believe

Возможно нам хотелось бы верить,

that the future with so much wealth of data

что будущее с таким огромным количеством данных,

would be a future with no more biases,

будет лишено предвзятости,

but in fact, having so much information

но на самом деле, обладание таким количеством информации

doesn't mean that we will make decisions

совершенно не означает, что мы будем принимать

which are more objective.

более объективные решения.

In another experiment, we presented to our subjects

В другом эксперименте, мы представляли нашим испытуемым

information about a potential job candidate.

информацию о потенциальном соискателе работы.

We included in this information some references

Мы включали в эту информацию некоторые ссылки

to some funny, absolutely legal,

на кое-какую забавную, абсолютно легальную,

but perhaps slightly embarrassing information

но, пожалуй, слегка неловкую информацию,

that the subject had posted online.

которую этот человек разместил о себе в сети.

Now interestingly, among our subjects,

Интересно то, что среди наших испытуемых

some had posted comparable information,

кто-то разместил о себе сопоставимую информацию,

and some had not.

а кто-то нет.

Which group do you think

Как вы думаете, какая из групп

was more likely to judge harshly our subject?

получила более строгое осуждение?

Paradoxically, it was the group

Парадоксально, но это была группа,

who had posted similar information,

которая предоставляла сходную информацию, —

an example of moral dissonance.

пример морального диссонанса.

Now you may be thinking,

Теперь вы, может быть, думаете,

this does not apply to me,

что к вам это не применимо,

because I have nothing to hide.

потому что вам нечего скрывать.

But in fact, privacy is not about

Но ведь на самом деле, частная жизнь —

having something negative to hide.

это не наличие чего-либо негативного, что нужно скрывать.

Imagine that you are the H.R. director

Представим, что вы директор по кадрам

of a certain organization, and you receive résumés,

некой организации, и вы получаете резюме

and you decide to find more information about the candidates.

и хотите узнать больше об этих кандидатах.

Therefore, you Google their names

Поэтому вы ищете их имена через Google

and in a certain universe,

и в каком-то месте

you find this information.

вы найдёте эту информацию.

Or in a parallel universe, you find this information.

Или в другом месте вы обнаружите другую информацию.

Do you think that you would be equally likely

Вы думаете, что вы равно вероятно

to call either candidate for an interview?

вызовете каждого из кандидатов на собеседование?

If you think so, then you are not

Если вы так думаете, то вы не похожи

like the U.S. employers who are, in fact,

на тех работодателей США, которые фактически

part of our experiment, meaning we did exactly that.

стали частью нашего эксперимента, а именно мы сделали вот что.

We created Facebook profiles, manipulating traits,

Мы создали страницы на Facebook, изменив характерные черты,

then we started sending out résumés to companies in the U.S.,

и начали рассылать резюме в компании США,

and we detected, we monitored,

и мы следили, наблюдали,

whether they were searching for our candidates,

будут ли они искать наших кандидатов,

and whether they were acting on the information

и воспользуются ли они информацией

they found on social media. And they were.

найденной в соцсетях. И они делали это.

Discrimination was happening through social media

Через социальные сети произошла дискриминация

for equally skilled candidates.

кандидатов с одинаковыми навыками.

Now marketers like us to believe

Маркетологи убеждают нас в том,

that all information about us will always

что вся информация о нас всегда

be used in a manner which is in our favor.

используется только в наших интересах.

But think again. Why should that be always the case?

Но задумаемся вновь. Почему это всегда должно быть так?

In a movie which came out a few years ago,

В фильме «Особое мнение», который вышел в прокат

"Minority Report," a famous scene

несколько лет назад, была знаменитая сцена,

had Tom Cruise walk in a mall

в которой Том Круз идёт по торговому центру

and holographic personalized advertising

и голографическая персонализированная реклама

would appear around him.

возникает вокруг него.

Now, that movie is set in 2054,

Действия фильма происходят в 2054 году,

about 40 years from now,

спустя 40 лет,

and as exciting as that technology looks,

но как бы захватывающе не выглядела та технология,

it already vastly underestimates

она уже существенно недооценивает

the amount of information that organizations

то количество информации, которую организации

can gather about you, and how they can use it

могут собирать о нас, и как они могут её использовать,

to influence you in a way that you will not even detect.

чтобы влиять на нас способом, который мы даже не замечаем.

So as an example, this is another experiment

Как пример — ещё один эксперимент,

actually we are running, not yet completed.

который мы уже запустили, но ещё не завершили.

Imagine that an organization has access

Представим, что организация имеет доступ

to your list of Facebook friends,

к списку ваших друзей на Facebook,

and through some kind of algorithm

и, через особого рода алгоритм,

they can detect the two friends that you like the most.

они могут выделить двух друзей, наиболее вам симпатичных.

And then they create, in real time,

И потом они создают в реальном времени,

a facial composite of these two friends.

фоторобот из лиц этих двух друзей.

Now studies prior to ours have shown that people

Исследования, проведённые до нас, показали, что люди уже

don't recognize any longer even themselves

не узнают даже самих себя

in facial composites, but they react

по фотороботу, но они реагируют

to those composites in a positive manner.

на такие составные изображения позитивно.

So next time you are looking for a certain product,

В следующий раз, когда вы будете искать определённый товар,

and there is an ad suggesting you to buy it,

появится объявление с предложением купить его,

it will not be just a standard spokesperson.

и это будет не просто персонаж рекламы.

It will be one of your friends,

Это будет один из ваших друзей,

and you will not even know that this is happening.

а вы даже не узнаете, что это случилось.

Now the problem is that

Проблема сейчас в том,

the current policy mechanisms we have

что существующие правила, которыми мы располагаем

to protect ourselves from the abuses of personal information

для защиты себя от злоупотреблений личными данными,

are like bringing a knife to a gunfight.

напоминают то, когда для перестрелки приносят нож.

One of these mechanisms is transparency,

Один из таких механизмов — это прозрачность,

telling people what you are going to do with their data.

объяснение людям того, что собираются делать с их данными.

And in principle, that's a very good thing.

И в принципе, это очень хорошая вещь.

It's necessary, but it is not sufficient.

Это необходимо, но не достаточно.

Transparency can be misdirected.

Прозрачность может быть притворной.

You can tell people what you are going to do,

Вы можете рассказывать людям, что вы собираетесь делать,

and then you still nudge them to disclose

а после всё равно вынудить их раскрыть

arbitrary amounts of personal information.

какое-то количество их персональных данных

So in yet another experiment, this one with students,

Так в ещё одном эксперименте с участием студентов

we asked them to provide information

мы просили их предоставить информацию

about their campus behavior,

о их поведении в учебном заведении,

including pretty sensitive questions, such as this one.

включая довольно деликатные вопросы, такие как:

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[Вы когда-нибудь списывали на экзаменах?]

Одной группе испытуемых было сказано:

"Only other students will see your answers."

«Только остальные студенты будут видеть ваши ответы».

To another group of subjects, we told them,

Другой группе студентов мы сказали:

"Students and faculty will see your answers."

«Студенты и преподаватели будут видеть ваши ответы».

Transparency. Notification. And sure enough, this worked,

Прозрачность. Уведомление. И, конечно, это сработало,

in the sense that the first group of subjects

в том смысле, что первая группа студентов

were much more likely to disclose than the second.

гораздо более охотно признавалась, чем вторая.

It makes sense, right?

Это логично, верно?

But then we added the misdirection.

А потом мы добавили уловку.

We repeated the experiment with the same two groups,

Мы повторили эксперимент с теми же двумя группами,

this time adding a delay

добавив в этот раз задержку

between the time we told subjects

между тем моментом, когда мы сказали ребятам,

how we would use their data

как мы будем использовать их данные,

and the time we actually started answering the questions.

и моментом времени, когда они начали действительно отвечать на вопросы.

How long a delay do you think we had to add

Как вы думаете, насколько продолжительную задержку мы добавили,

in order to nullify the inhibitory effect

чтобы свести на нет тормозящее действие

of knowing that faculty would see your answers?

того факта, что преподаватели будут видеть их ответы?

Ten minutes?

10 минут?

Five minutes?

5 минут?

One minute?

Одна минута?

How about 15 seconds?

Как насчёт 15 секунд?

Fifteen seconds were sufficient to have the two groups

Пятнадцать секунд было достаточно для того,

disclose the same amount of information,

чтобы две группы раскрыли одинаковое количество информации,

as if the second group now no longer cares

и вторая группа больше не беспокоилась о том,

for faculty reading their answers.

что преподаватели читают их ответы.

Now I have to admit that this talk so far

Сейчас я могу допустить, что этот разговор до сих пор

may sound exceedingly gloomy,

может показаться излишне мрачным,

but that is not my point.

но я не это хочу сказать.

In fact, I want to share with you the fact that

В действительности, я хочу поделиться с вами тем фактом,

there are alternatives.

что альтернативы существуют.

The way we are doing things now is not the only way

То, как мы ведём дела сейчас — не единственный путь

they can done, and certainly not the best way

и совершенно точно не самый лучший

they can be done.

из возможных.

When someone tells you, "People don't care about privacy,"

Когда кто-либо говорит вам: «Люди не заботятся о тайне частной жизни», —

consider whether the game has been designed

примите во внимание, что игра разработана

and rigged so that they cannot care about privacy,

и инсценирована так, что они не могут заботиться о тайне частной жизни;

and coming to the realization that these manipulations occur

и приходя к осознанию того, что эти манипуляции происходят,

is already halfway through the process

вы уже на полпути к тому,

of being able to protect yourself.

чтобы суметь защитить себя самим.

When someone tells you that privacy is incompatible

Когда кто-то говорит вам, что тайна частной жизни несовместима

with the benefits of big data,

с преимуществами «больших данных»,

consider that in the last 20 years,

примите во внимание, что за последние 20 лет,

researchers have created technologies

исследователи создали технологии,

to allow virtually any electronic transactions

позволяющие практически любую электронную покупку

to take place in a more privacy-preserving manner.

производить более безопасным образом.

We can browse the Internet anonymously.

Мы можем анонимно искать информацию в интернете.

We can send emails that can only be read

Мы можем посылать электронные письма, которые могут быть прочитаны

by the intended recipient, not even the NSA.

только получателем, а не Управлением национальной безопасности.

We can have even privacy-preserving data mining.

Можно даже вести интеллектуальный анализ данных сохраняя конфиденциальность.

In other words, we can have the benefits of big data

Другими словами, мы можем пользоваться преимуществом «больших данных»

while protecting privacy.

сохраняя конфиденциальность частной жизни.

Of course, these technologies imply a shifting

Конечно, эти технологии подразумевают перераспределение

of cost and revenues

стоимости и доходов

between data holders and data subjects,

между владельцами и субъектами данных,

which is why, perhaps, you don't hear more about them.

именно поэтому, возможно, вы мало знаете о них.

Which brings me back to the Garden of Eden.

Это возвращает меня к саду Эдема.

There is a second privacy interpretation

Существует второе толкование частной жизни

of the story of the Garden of Eden

в истории Эдемского сада,

which doesn't have to do with the issue

которая не имеет отношения к вопросу о том,

of Adam and Eve feeling naked

как Адам и Ева ощутили себя голыми

and feeling ashamed.

и испытали стыд за это.

You can find echoes of this interpretation

Вы можете найти отголоски этой трактовки

in John Milton's "Paradise Lost."

в книге Джона Милтона «Потерянный рай».

In the garden, Adam and Eve are materially content.

В этом саду Адам и Ева удовлетворены материально.

They're happy. They are satisfied.

Они счастливы. Они довольны.

However, they also lack knowledge

Однако, им также не хватает знаний

and self-awareness.

и самосознания.

The moment they eat the aptly named

Момент, когда они вкусили яблоко, — называемое, кстати,

fruit of knowledge,

плодом познания, —

that's when they discover themselves.

это момент, когда они открывают сами себя.

They become aware. They achieve autonomy.

Они начинают осознавать. Они получают независимость.

The price to pay, however, is leaving the garden.

Однако приходится платить уходом из сада.

So privacy, in a way, is both the means

Так и тайна частной жизни, в некотором роде и возможность

and the price to pay for freedom.

и цена, которую нужно платить за свободу.

Again, marketers tell us

И вновь маркетологи говорят нам,

that big data and social media

что «большие данные» и социальные сети —

are not just a paradise of profit for them,

это не только их райская прибыль,

but a Garden of Eden for the rest of us.

но и Эдемский сад для всех остальных.

We get free content.

Мы получаем бесплатный контент.

We get to play Angry Birds. We get targeted apps.

Мы получаем игру в Angry Birds. Мы получаем целевые приложения.

But in fact, in a few years, organizations

Но через несколько лет организации

will know so much about us,

будут знать о нас так много,

they will be able to infer our desires

что они будут в состоянии делать выводы о наших желаниях

before we even form them, and perhaps

ещё до того, как мы их сформировали и, возможно,

buy products on our behalf

покупать продукты от нашего имени

before we even know we need them.

ещё до того, как мы узнаем, что нуждаемся в них.

Now there was one English author

Был один английский писатель,

who anticipated this kind of future

который предвидел такое будущее,

where we would trade away

где мы будем разменивать

our autonomy and freedom for comfort.

нашу независимость и свободу на комфорт.

Even more so than George Orwell,

В большей мере, чем Джордж Оруэлл,

the author is, of course, Aldous Huxley.

таким автором был, конечно, Олдос Хаксли.

In "Brave New World," he imagines a society

В своём романе «О дивный новый мир» он придумал мир,

where technologies that we created

в котором технологии, созданные нами

originally for freedom

первоначально для свободы,

end up coercing us.

в конечном итоге поработили нас.

However, in the book, he also offers us a way out

Однако в своей книге, он также предлагает и выход

of that society, similar to the path

для того общества, схожий с путём,

that Adam and Eve had to follow to leave the garden.

которым последовали Адам и Ева покинув сад.

In the words of the Savage,

Словами Дикаря [Джона],

regaining autonomy and freedom is possible,

вернуть независимость и свободу возможно,

although the price to pay is steep.

хотя и цена этого непомерно высока.

So I do believe that one of the defining fights

Я действительно верю, что одной из предстоящих битв

of our times will be the fight

нашего времени станет битва

for the control over personal information,

за контроль над персональными данными,

the fight over whether big data will become a force

битва за то, станут ли «большие данные»

for freedom,

силами свободы,

rather than a force which will hiddenly manipulate us.

или же силами, которые будут скрыто нами манипулировать.

Right now, many of us

Прямо сейчас многие из нас

do not even know that the fight is going on,

даже не подозревают, что эта битва уже идёт,

but it is, whether you like it or not.

и это так, нравится ли вам это или нет.

And at the risk of playing the serpent,

И, рискуя показаться змеем,

I will tell you that the tools for the fight

я скажу вам, что средства для этой битвы здесь,

are here, the awareness of what is going on,

в понимании того, что происходит,

and in your hands,

и [это средство] в ваших руках,

just a few clicks away.

всего лишь в нескольких кликах.

Thank you.

Спасибо!

(Applause)

(Аплодисменты)