What will a future without secrets look like? | Alessandro Acquisti

Translator: Preslav Nikolov Reviewer: Yavor Ivanov

I would like to tell you a story

Бих искал да ви разкажа история

connecting the notorious privacy incident

за всеизвестния инцидент за поверителността

involving Adam and Eve,

при Адам и Ева

and the remarkable shift in the boundaries

и невероятната промяна на границата

between public and private which has occurred

между публичното и личното, настъпила

in the past 10 years.

през последните 10 години.

You know the incident.

Случката ви е позната.

Adam and Eve one day in the Garden of Eden

Един ден в Райската градина

realize they are naked.

Адам и Ева осъзнали, че са голи.

They freak out.

И откачили.

And the rest is history.

Останалото е история.

Nowadays, Adam and Eve

В днешно време

would probably act differently.

Адам и Ева сигурно ще реагират различно.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Адам, снощи беше невероятно! Влюбих се в тази ябълка LOL]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Ева, да.. скъпа, да знаеш какво е станало с гащите ми?]

We do reveal so much more information

Разкриваме много повече информация

about ourselves online than ever before,

за себе си онлайн от когато и да било

and so much information about us

и много повече информация за нас самите

is being collected by organizations.

се събира от различни организации.

Now there is much to gain and benefit

В днешно време могат да се извлекат много ползи

from this massive analysis of personal information,

от непрестанния анализ на лична информация,

or big data,

значима информация,

but there are also complex tradeoffs that come

но има и големи компромиси, които правим

from giving away our privacy.

когато се отказваме от своето лично пространство.

And my story is about these tradeoffs.

Моята история е за тези компромиси.

We start with an observation which, in my mind,

Започваме с наблюдението, което, според мен,

has become clearer and clearer in the past few years,

става все по-ясно и по-ясно през последните няколко години,

that any personal information

а именно че личната информация

can become sensitive information.

можа да е важна информация.

Back in the year 2000, about 100 billion photos

През 2000 година за били направени около 100 милиарда снимки

were shot worldwide,

по целия свят,

but only a minuscule proportion of them

но много малка част от тях

were actually uploaded online.

са били качени онлайн.

In 2010, only on Facebook, in a single month,

През 2010г., само във Facebook, само за един месец,

2.5 billion photos were uploaded,

са били качени повече от 2,5 милиарда снимки,

most of them identified.

повечето от тях с ясна идентификация.

In the same span of time,

За същия период от време

computers' ability to recognize people in photos

възможностите на компютрите да разпознават хора на снимки

improved by three orders of magnitude.

се е подобрила цели три пъти.

What happens when you combine

Какво се случва

these technologies together:

когато комбинирате следните технологии:

increasing availability of facial data;

по-лесен достъп до идентифициращи данни;

improving facial recognizing ability by computers;

подобрена способност на компютрите за разпознаване на лица;

but also cloud computing,

също това клауд компютинг,

which gives anyone in this theater

който дава на всеки в тази зала

the kind of computational power

такива изчислителни способности,

which a few years ago was only the domain

каквито преди няколко години са били достъпни

of three-letter agencies;

само на трибуквени агенции;

and ubiquitous computing,

както и повсеместен компютинг,

which allows my phone, which is not a supercomputer,

който позволява на телефона ми, който не е суперкомпютър,

to connect to the Internet

да се свърже с Интернет

and do there hundreds of thousands

и да извърши стотици хиляди

of face metrics in a few seconds?

лицеви анализи за секунди?

Well, we conjecture that the result

Според нас резултатът

of this combination of technologies

от това комбиниране на технологии

will be a radical change in our very notions

ще доведе до радикална промяна

of privacy and anonymity.

в разбиранията ни за лично пространство и анонимност.

To test that, we did an experiment

За да тестваме хипотезата си проведохме експеримент

on Carnegie Mellon University campus.

в университета „Карнеги Мелън“.

We asked students who were walking by

Поканихме преминаващи покрай нас студенти

to participate in a study,

да вземат участие в изследване,

and we took a shot with a webcam,

след което ги снимахме с уебкамера

and we asked them to fill out a survey on a laptop.

и ги помолихме да попълнят анкета на лаптоп.

While they were filling out the survey,

Докато попълваха анкетата

we uploaded their shot to a cloud-computing cluster,

ние качихме снимката им в клауд компютинг клъстър

and we started using a facial recognizer

и използвайки програма за лицево разпознаване

to match that shot to a database

започнахме да сравняваме снимката с база данни,

of some hundreds of thousands of images

включваща няколко стотин хиляди образа

which we had downloaded from Facebook profiles.

свалени предварително от Facebook.

By the time the subject reached the last page

За времето, за което субектите стигаха до последната страница на анкетата,

on the survey, the page had been dynamically updated

тя вече беше обновена

with the 10 best matching photos

с десетте най-близки съвпадения на снимки,

which the recognizer had found,

които програмата за разпознаване бе открила

and we asked the subjects to indicate

и помолихме субектите да споделят

whether he or she found themselves in the photo.

дали виждат себе си на снимките.

Do you see the subject?

Виждате ли субекта?

Well, the computer did, and in fact did so

Компютърът го разпознаваше и то правилно

for one out of three subjects.

за един от трима участници.

So essentially, we can start from an anonymous face,

На кратко, можем да започнем със снимка на анонимно лице,

offline or online, and we can use facial recognition

онлайн или не, и да използваме лицево разпознаване,

to give a name to that anonymous face

за да сложим име на лицето,

thanks to social media data.

благодарение на данни от социалните медии.

But a few years back, we did something else.

Няколко години по-рано обаче направихме нещо различно.

We started from social media data,

Започнахме с данни от социалните медии,

we combined it statistically with data

свързахме ги статистически с данни

from U.S. government social security,

от Управлението за социално осигуряване на САЩ

and we ended up predicting social security numbers,

и успяхме да предвидим Номера за социално осигуряване,

which in the United States

коeто в САЩ

are extremely sensitive information.

e изключително поверителна информация.

Do you see where I'm going with this?

Разбирате ли накъде отивам с това?

So if you combine the two studies together,

Ако комбинирате двете изследвания

then the question becomes,

въпросът, който се питаме, е

can you start from a face and,

дали може да се започне с лицето,

using facial recognition, find a name

използвайки лицево разпознаване да се намери име

and publicly available information

и публично достъпна информация

about that name and that person,

за името и самия човек

and from that publicly available information

и от тази публично достъпна информация

infer non-publicly available information,

да се направи извод за информация, която не е със свободен достъп,

much more sensitive ones

много по-значима информация,

which you link back to the face?

която да се свърже обратно с лицето?

And the answer is, yes, we can, and we did.

И отговорът е да, можем да го направим.

Of course, the accuracy keeps getting worse.

Разбира се точността става все по-лоша.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[В 27% от случаите първите 5 цифри на Номера за социално осигуряване са разпознати (от 4 опита)]

But in fact, we even decided to develop an iPhone app

Всъщност, дори разработихме и апликация за iPhone,

which uses the phone's internal camera

която използва вградената камера на телефона,

to take a shot of a subject

за да направи снимка на субекта,

and then upload it to a cloud

да я качи в информационен облак

and then do what I just described to you in real time:

и да извърши това, което току-що обясних:

looking for a match, finding public information,

търси съвпадение, намира публично достъпна информация,

trying to infer sensitive information,

прави опит за извеждане на поверителна информация,

and then sending back to the phone

след което я изпраща обратно до телефона,

so that it is overlaid on the face of the subject,

който я налага върху лицето на субекта,

an example of augmented reality,

пример за добавена реалност,

probably a creepy example of augmented reality.

вероятно зловещ пример за такава.

In fact, we didn't develop the app to make it available,

Реално не създадохме апликацията, за да я предоставим на потребители,

just as a proof of concept.

а само като доказване на концепция.

In fact, take these technologies

Замислете се, вземете тези технологии

and push them to their logical extreme.

и ги доведете до екстремност.

Imagine a future in which strangers around you

Представете си бъдеще, в което непознати

will look at you through their Google Glasses

ви гледат през Гугъл очила

or, one day, their contact lenses,

или, някой ден, контактните си лещи

and use seven or eight data points about you

и използват седем или осем факта за вас

to infer anything else

и правят извод за всичко останало,

which may be known about you.

което може да се знае за вас.

What will this future without secrets look like?

Как ще изглежда такова бъдеще без тайни?

And should we care?

И трябва ли да ни интересува?

We may like to believe

Бихме искали да вярваме,

that the future with so much wealth of data

че бъдеще с такова изобилие от данни

would be a future with no more biases,

ще е бъдеще без предразсъдъци,

but in fact, having so much information

но всъщност достъпът до толкова много информация

doesn't mean that we will make decisions

не означава, че ще взимаме

which are more objective.

по-обективни решения.

In another experiment, we presented to our subjects

В друг експеримент представихме на субектите си информация

information about a potential job candidate.

за потенциален кандидат за работа.

We included in this information some references

В предоставената информация имаше и препратки

to some funny, absolutely legal,

към забавна, напълно законна,

but perhaps slightly embarrassing information

но може би малко засрамваща информация,

that the subject had posted online.

която кандидатите бяха публикували онлайн.

Now interestingly, among our subjects,

Интересното е, че сред нашите субекти имаше такива,

some had posted comparable information,

които бяха публикували сходна информация,

and some had not.

и такива, които не бяха.

Which group do you think

Коя група според вас

was more likely to judge harshly our subject?

бе по-критична към кандидата за работа?

Paradoxically, it was the group

Парадоксално, това бе групата,

who had posted similar information,

в която хората бяха публикували сходна информация,

an example of moral dissonance.

пример за морално несъответствие.

Now you may be thinking,

Може би си мислите

this does not apply to me,

"Това не се отнася до мен,

because I have nothing to hide.

защото нямам какво да крия".

But in fact, privacy is not about

Фактите са, че при поверителността

having something negative to hide.

не е задължително да криете нещо лошо.

Imagine that you are the H.R. director

Представете си, че сте на чело на отдел човешки ресурси

of a certain organization, and you receive résumés,

в дадена организация и получавате резюмета,

and you decide to find more information about the candidates.

и решавате да потърсите по-подробна информация за кандидатите.

Therefore, you Google their names

Следователно търсите имената им в Гугъл

and in a certain universe,

и в една реалност

you find this information.

откривате тази информация.

Or in a parallel universe, you find this information.

А в друга реалност откривате тази информация.

Do you think that you would be equally likely

Мислите ли, че ще бъдете еднакво склонен

to call either candidate for an interview?

да се обадите на някоя от кандидатките за интервю?

If you think so, then you are not

Ако мислите така, значи сте различни

like the U.S. employers who are, in fact,

от американските работодатели, които са, всъщност,

part of our experiment, meaning we did exactly that.

част от нашия експеримент, т.е. направихме точно това.

We created Facebook profiles, manipulating traits,

Създадохме профили във Facebook, изменяйки дадени характеристики,

then we started sending out résumés to companies in the U.S.,

след което започнахме да изпращаме резюмета до работодатели в САЩ

and we detected, we monitored,

и следяхме

whether they were searching for our candidates,

дали търсят кандидатите ни

and whether they were acting on the information

и дали взимаха под внимание информацията,

they found on social media. And they were.

намерена в социалните медии. Правеха точно това.

Discrimination was happening through social media

Кандидати с еднакви способности бяха дискриминирани

for equally skilled candidates.

на база социални медии.

Now marketers like us to believe

Маркетолозите искат да вярваме,

that all information about us will always

че всяка информация за нас

be used in a manner which is in our favor.

винаги ще се използва в наша полза.

But think again. Why should that be always the case?

Помислете отново. Защо мислите, че винаги ще е така?

In a movie which came out a few years ago,

Във филм отпреди няколко години,

"Minority Report," a famous scene

"Специален доклад", в известна сцена

had Tom Cruise walk in a mall

Том Круз влиза в мол

and holographic personalized advertising

и персонализирани холограмни реклами

would appear around him.

се появяват около него.

Now, that movie is set in 2054,

Действието се случва през 2054г.,

about 40 years from now,

след около 40 години,

and as exciting as that technology looks,

и колкото и вълнуваща да изглежда тази технология

it already vastly underestimates

тя вече подценява

the amount of information that organizations

количеството информация, което организациите

can gather about you, and how they can use it

могат да съберат за вас, и как могат да я използват,

to influence you in a way that you will not even detect.

за да ви повлияят по начин, който дори няма да осъзнаете.

So as an example, this is another experiment

Като пример ще ви дам друг експеримент,

actually we are running, not yet completed.

който провеждаме, все още незавършен.

Imagine that an organization has access

Представете си, че някоя организация има достъп

to your list of Facebook friends,

до списъка ви с приятели във Facebook

and through some kind of algorithm

и използвайки някакъв алгоритъм

they can detect the two friends that you like the most.

може да открие двамата приятели, които харесвате най-много.

And then they create, in real time,

Също така може, в реално време, да направят

a facial composite of these two friends.

нереално съчетание от тези двама приятели.

Now studies prior to ours have shown that people

Проведени изследвания преди нашето са показали,

don't recognize any longer even themselves

че хората не разпознават дори себе си

in facial composites, but they react

в лицеви компилации, но реагират

to those composites in a positive manner.

на компилациите по положителен начин.

So next time you are looking for a certain product,

И следващият път когато търсите определен продукт

and there is an ad suggesting you to buy it,

и има реклама, която ви предлага да го купите,

it will not be just a standard spokesperson.

няма да е просто обикновеният говорител.

It will be one of your friends,

Ще бъде един от приятелите ви,

and you will not even know that this is happening.

а вие дори няма да осъзнавате, че се случва нещо подобно.

Now the problem is that

Проблемът идва от това,

the current policy mechanisms we have

че механизмите, които имаме

to protect ourselves from the abuses of personal information

за защита от експлоатация на личните ни данни

are like bringing a knife to a gunfight.

са като нож по средата на престрелка.

One of these mechanisms is transparency,

Един от тези механизми е прозрачност,

telling people what you are going to do with their data.

да се казва на хората за какво ще се използват данните им.

And in principle, that's a very good thing.

По принцип това е нещо много хубаво.

It's necessary, but it is not sufficient.

Нужно е, но не е достатъчно.

Transparency can be misdirected.

Прозрачността може да е подвеждаща.

You can tell people what you are going to do,

Можеш да кажеш на човек какво ще направиш,

and then you still nudge them to disclose

след което да го подканваш да сподели

arbitrary amounts of personal information.

произволен набор лична информация.

So in yet another experiment, this one with students,

В един друг експеримент, проведен със студенти,

we asked them to provide information

ги помолихме да споделят информация

about their campus behavior,

за поведението си в университета,

including pretty sensitive questions, such as this one.

включително доста чувствителни въпроси като този.

[Have you ever cheated in an exam?]

Now to one group of subjects, we told them,

[Преписвали ли сте на изпит?]

На една от групите студенти казахме:

"Only other students will see your answers."

"Само други студенти ще видят отговорите ви."

To another group of subjects, we told them,

На друга група студенти казахме:

"Students and faculty will see your answers."

"Студенти и преподаватели ще видят отговорите ви."

Transparency. Notification. And sure enough, this worked,

Прозрачност. Информиране. И естествено, проработи

in the sense that the first group of subjects

в смисъла, че студентите в първата група

were much more likely to disclose than the second.

бяха много по-склонни да си признаят от тези във втората.

It makes sense, right?

Има смисъл, нали?

But then we added the misdirection.

После обаче добавихме и заблуда.

We repeated the experiment with the same two groups,

Повторихме експеримента със същите две групи,

this time adding a delay

но прибавихме забавяне

between the time we told subjects

между момента, в който казахме на участниците

how we would use their data

как ще използваме данните им, и момента,

and the time we actually started answering the questions.

в който реално започнахме да им задаваме въпроси.

How long a delay do you think we had to add

Колко време трябваше да добавим, според вас,

in order to nullify the inhibitory effect

за да премахнем задръжките

of knowing that faculty would see your answers?

от факта, че преподаватели ще видят отговорите?

Ten minutes?

Десет минути?

Five minutes?

Пет минути?

One minute?

Една минута?

How about 15 seconds?

Какво ще кажете за 15 секунди?

Fifteen seconds were sufficient to have the two groups

Петнадесет секунди бяха достатъчни, за да се изравни

disclose the same amount of information,

количеството информация, споделено от двете групи,

as if the second group now no longer cares

сякаш втората група вече не се интересуваше,

for faculty reading their answers.

че преподаватели ще прочетат отговорите им.

Now I have to admit that this talk so far

Трябва да си призная, че до момента тази лекция

may sound exceedingly gloomy,

звучи изключително мрачно,

but that is not my point.

но не това е идеята ми.

In fact, I want to share with you the fact that

Всъщност бих искал да споделя с вас,

there are alternatives.

че има и алтернативи.

The way we are doing things now is not the only way

Начинът, по който вършим нещата сега, не е единственият начин,

they can done, and certainly not the best way

по който могат да се свършат, и със сигурност

they can be done.

не е най-добрият.

When someone tells you, "People don't care about privacy,"

Когато някой ви каже, че "хората не ги е грижа поверителността им"

consider whether the game has been designed

замислете се дали играта не е проектирана

and rigged so that they cannot care about privacy,

и изкривена по такъв начин, че хората да не могат да са загрижени

and coming to the realization that these manipulations occur

и осъзнавайки, че тези манипулации вече са на лице

is already halfway through the process

е половината от това

of being able to protect yourself.

да защитите личната си информация.

When someone tells you that privacy is incompatible

Когато някой ви каже, че поверителност и ползата от големи бази данни

with the benefits of big data,

не вървят ръка за ръка,

consider that in the last 20 years,

обмислете факта, че през последните 20 години

researchers have created technologies

изследователите са създали технологии,

to allow virtually any electronic transactions

които позволяват практически всеки вид електронна транзакция

to take place in a more privacy-preserving manner.

да бъде извършена по начин, запазващ поверителността ѝ.

We can browse the Internet anonymously.

Можем да сърфираме в Интернет анонимно.

We can send emails that can only be read

Можем да изпращаме е-писма, които да бъдат прочетени

by the intended recipient, not even the NSA.

само от избрания получател, защитени дори от Агенцията по национална сигурност.

We can have even privacy-preserving data mining.

Можем дори да търсим данни без да нарушаваме нечие лично пространство.

In other words, we can have the benefits of big data

С други думи можем да съчетаем

while protecting privacy.

голямото количество данни и поверителността.

Of course, these technologies imply a shifting

Разбира се, тези технологии биха предизвикали промяна

of cost and revenues

в цената и прихода

between data holders and data subjects,

за собствениците на данни и субектите на тези данни,

which is why, perhaps, you don't hear more about them.

което е причината, вероятно, да не се говори за тези технологии.

Which brings me back to the Garden of Eden.

Което ме връща отново към Райската градина.

There is a second privacy interpretation

Има и друга интерпретация на поверителността

of the story of the Garden of Eden

в историята за Райската градина,

which doesn't have to do with the issue

която не разглежда проблема

of Adam and Eve feeling naked

за голотата и срама

and feeling ashamed.

на Адам и Ева.

You can find echoes of this interpretation

Отзвук от тази интерпретация може да се открие

in John Milton's "Paradise Lost."

в поемата на Джон Милтън "Изгубеният рай".

In the garden, Adam and Eve are materially content.

В градината Адам и Ева са материално удовлетворени.

They're happy. They are satisfied.

Щастливи са. Задоволени са.

However, they also lack knowledge

От друга страна им липсва знание

and self-awareness.

и себе-осъзнатост.

The moment they eat the aptly named

Моментът, в който изяждат, уместно наречения,

fruit of knowledge,

плод на знанието,

that's when they discover themselves.

е моментът, в който откриват себе си.

They become aware. They achieve autonomy.

Осъзнават. Постигат автономност.

The price to pay, however, is leaving the garden.

Цената, която плащат обаче, е напускането на градината.

So privacy, in a way, is both the means

Следва, че поверителността е както средството,

and the price to pay for freedom.

така и цената на свободата.

Again, marketers tell us

И отново, маркетолозите ни казват,

that big data and social media

че изобилието от данни и социалните медии

are not just a paradise of profit for them,

са не просто рай за тях,

but a Garden of Eden for the rest of us.

но и Райска градина за всички нас.

We get free content.

Получаваме безплатни неща.

We get to play Angry Birds. We get targeted apps.

Можем да играем Angry Birds. Рекламите са насочени точно към нас.

But in fact, in a few years, organizations

Всъщност, след няколко години

will know so much about us,

организациите ще знаят толкова много за нас,

they will be able to infer our desires

че ще предвиждат желанията ни

before we even form them, and perhaps

преди дори да ги имаме и вероятно

buy products on our behalf

ще купуват продукти от наше име

before we even know we need them.

преди дори да осъзнаем, че ни трябват.

Now there was one English author

Имаше един английски автор,

who anticipated this kind of future

който очакваше такова бъдеще,

where we would trade away

в което ще се отказваме

our autonomy and freedom for comfort.

от автономност и свобода в замяна на удобство.

Even more so than George Orwell,

Повече дори от Джордж Оруел,

the author is, of course, Aldous Huxley.

този автор е, разбира се, Олдъс Хъксли.

In "Brave New World," he imagines a society

В „Прекрасният нов свят“ той си представя общество,

where technologies that we created

в което технологиите, разработени от нас

originally for freedom

по начало за по-голяма свобода,

end up coercing us.

в крайна сметка ни управляват.

However, in the book, he also offers us a way out

В книгата обаче авторът ни показва и пътя

of that society, similar to the path

водещ извън това общество, подобен на пътя,

that Adam and Eve had to follow to leave the garden.

който Адам и Ева поемат, за да излязат от градината.

In the words of the Savage,

По думите на Дивака,

regaining autonomy and freedom is possible,

възвръщането на автономност и свобода е възможно,

although the price to pay is steep.

дори цената да е висока.

So I do believe that one of the defining fights

Така че аз вярвам, че една от определящите битки на нашето време

of our times will be the fight

ще бъде битката за контрол

for the control over personal information,

върху личната информация,

the fight over whether big data will become a force

битката за определяне на голямото количество информация

for freedom,

като сила за освобождаване

rather than a force which will hiddenly manipulate us.

или инструмент за манипулиране.

Right now, many of us

В момента много от нас

do not even know that the fight is going on,

дори не знаят, че битката е започнала,

but it is, whether you like it or not.

но тя започна, дори това да не ни харесва.

And at the risk of playing the serpent,

И с риск да вляза в ролята на змията

I will tell you that the tools for the fight

ще ви кажа, че оръжията за битката са тук,

are here, the awareness of what is going on,

осъзнаване на случващото се,

and in your hands,

и във вашите ръце,

just a few clicks away.

само на няколко клика разстояние.

Thank you.

Благодаря ви.

(Applause)

(Аплодисменти)