How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

Переводчик: Valeria Rakeeva Редактор: Maxim Averin

Do you remember when you were a child,

Помните, в детстве

you probably had a favorite toy that was a constant companion,

у вас, вероятно, была любимая игрушка, которая всегда была с вами,

like Christopher Robin had Winnie the Pooh,

как Винни Пух у Кристофера Робина,

and your imagination fueled endless adventures?

и ваше воображение придумывало бесконечные приключения?

What could be more innocent than that?

Что может быть более безобидным?

Well, let me introduce you to my friend Cayla.

Позвольте мне представить вам мою подругу Кайлу.

Cayla was voted toy of the year in countries around the world.

Кайла была признана игрушкой года во многих странах мира.

She connects to the internet and uses speech recognition technology

Она подключается к интернету и при помощи технологии распознавания речи

to answer your child's questions,

отвечает на вопросы ребёнка,

respond just like a friend.

имитируя живого друга.

But the power doesn't lie with your child's imagination.

Но для этой игрушки главное — не детское воображение,

It actually lies with the company harvesting masses of personal information

а сбор множества личной информации для компании, которая её произвела,

while your family is innocently chatting away in the safety of their home,

пока ваша семья невинно болтает в своём, казалось бы, безопасном доме.

a dangerously false sense of security.

Но это чувство защищённости ложное и коварное.

This case sounded alarm bells for me,

Этот случай обеспокоил меня,

as it is my job to protect consumers' rights in my country.

потому что я отвечаю за защиту прав потребителей в своей стране.

And with billions of devices such as cars,

Учитывая, что миллиарды таких устройств, как автомобили,

energy meters and even vacuum cleaners expected to come online by 2020,

электросчётчики и даже пылесосы, перейдут в онлайн режим к 2020 году,

we thought this was a case worth investigating further.

мы решили, что этот случай заслуживает дальнейшего изучения.

Because what was Cayla doing

Что же Кайла делает

with all the interesting things she was learning?

со всеми услышанными занятными разговорами?

Did she have another friend she was loyal to and shared her information with?

Есть ли у неё другой верный друг, с которым она делится информацией?

Yes, you guessed right. She did.

Да, вы угадали. Он у неё есть.

In order to play with Cayla,

Чтобы играть с Кайлой,

you need to download an app to access all her features.

нужно установить приложение для доступа ко всем её функциям.

Parents must consent to the terms being changed without notice.

Родители должны принять условия, которые меняются без предупреждения.

The recordings of the child, her friends and family,

Аудиозаписи ребёнка, его друзей и семьи

can be used for targeted advertising.

могут быть использованы для целевой рекламы.

And all this information can be shared with unnamed third parties.

И вся информация может быть передана неназванным третьим лицам.

Enough? Not quite.

Думаете, это всё? Не совсем.

Anyone with a smartphone can connect to Cayla

Любой, у кого есть смартфон, может подключиться к Кайле

within a certain distance.

в пределах определённой дистанции.

When we confronted the company that made and programmed Cayla,

Когда мы заявили об этом в компанию, выпустившую и запрограммировавшую Кайлу,

they issued a series of statements

они выступили с заявлениями о том,

that one had to be an IT expert in order to breach the security.

что только IT-эксперты могут обойти защиту.

Shall we fact-check that statement and live hack Cayla together?

Давайте проверим это заявление и прямо сейчас вместе взломаем Кайлу?

Here she is.

Вот она.

Cayla is equipped with a Bluetooth device

У Кайлы есть встроенный блютус модуль,

which can transmit up to 60 feet,

передающий данные в пределах 18 метров

a bit less if there's a wall between.

или немного меньше через стены.

That means I, or any stranger, can connect to the doll

Это значит, что я или любой другой человек может подключиться к кукле,

while being outside the room where Cayla and her friends are.

находясь за пределами комнаты, где находятся Кайла и её друзья.

And to illustrate this,

И чтобы это продемонстрировать,

I'm going to turn Cayla on now.

я сейчас включу Кайлу.

Let's see, one, two, three.

Один, два, три.

There. She's on. And I asked a colleague

Всё. Она включена.

Я попросил коллегу постоять снаружи со смартфоном.

to stand outside with his smartphone,

and he's connected,

Он к ней подключен.

and to make this a bit creepier ...

И чтобы сделать эксперимент ещё более пугающим...

(Laughter)

(Смех)

let's see what kids could hear Cayla say in the safety of their room.

давайте проверим, что Кайла может сказать детям.

Man: Hi. My name is Cayla. What is yours?

Мужчина: Привет. Меня зовут Кайла. А как тебя зовут?

Finn Myrstad: Uh, Finn.

Финн Мирстад: Финн.

Man: Is your mom close by?

Мужчина: Твоя мама рядом?

FM: Uh, no, she's in the store.

ФМ: Нет, она ушла в магазин.

Man: Ah. Do you want to come out and play with me?

Мужчина: Хочешь выйти на улицу и поиграть со мной?

FM: That's a great idea.

ФМ: Отличная идея.

Man: Ah, great.

Мужчина: Отлично.

FM: I'm going to turn Cayla off now.

ФМ: Пожалуй, я выключу Кайлу.

(Laughter)

(Смех)

We needed no password

Нам не понадобилось ни пароля,

or to circumvent any other type of security to do this.

ни каких-либо ещё способов обхода защиты.

We published a report in 20 countries around the world,

Мы выпустили отчёт в 20 странах мира

exposing this significant security flaw

об этой серьёзной уязвимости в системе безопасности,

and many other problematic issues.

а также о других проблемных вопросах.

So what happened?

Что же произошло после этого?

Cayla was banned in Germany,

Кайла была запрещена в Германии,

taken off the shelves by Amazon and Wal-Mart,

снята с полок Амазона и Уолмарта,

and she's now peacefully resting

и сейчас она мирно покоится

at the German Spy Museum in Berlin.

в немецком Шпионском музее Берлина.

(Laughter)

(Смех)

However, Cayla was also for sale in stores around the world

Однако Кайла продавалась в магазинах по всем миру

for more than a year after we published our report.

больше года после выпуска нашего отчёта.

Выяснилось, что нам не хватает правил защиты прав пользователей,

What we uncovered is that there are few rules to protect us

and the ones we have are not being properly enforced.

при этом уже существующие правила не исполняются должным образом.

We need to get the security and privacy of these devices right

Необходимо обеспечить должный уровень

безопасности и конфиденциальности устройств до их выхода на рынок.

before they enter the market,

because what is the point of locking a house with a key

Какой толк запирать дом на ключ,

if anyone can enter it through a connected device?

если любой может зайти в него через подключённое устройство?

You may well think, "This will not happen to me.

Вы, наверное, думаете: «Со мной такого не произойдёт.

I will just stay away from these flawed devices."

Я просто не буду пользоваться недоработанными устройствами».

But that won't keep you safe,

Но так вы себя не обезопасите,

because simply by connecting to the internet,

потому что простое подключение к интернету

you are put in an impossible take-it-or-leave-it position.

ставит вас в бескомпромиссную позицию «соглашайтесь или не пользуйтесь».

Let me show you.

Смотрите.

Like most of you, I have dozens of apps on my phone,

Как и у вас всех, в моём телефоне много приложений.

and used properly, they can make our lives easier,

При должном использовании они могут сделать жизнь легче,

more convenient and maybe even healthier.

удобнее и даже здоровее.

But have we been lulled into a false sense of security?

Но не заманили ли нас ложным чувством безопасности?

It starts simply by ticking a box.

Всё начинается с проставленной галочки.

Yes, we say,

Мы соглашаемся с тем,

I've read the terms.

что прочли условия.

But have you really read the terms?

Но действительно ли вы их прочли?

Are you sure they didn't look too long

Может, текст был слишком длинным,

and your phone was running out of battery,

а батарея телефона уже садилась,

and the last time you tried they were impossible to understand,

или в прошлый раз их было невозможно понять,

and you needed to use the service now?

а приложение было нужно уже сейчас.

And now, the power imbalance is established,

Таким образом устанавливается дисбаланс сил,

because we have agreed to our personal information

потому что вы согласились со сбором и использованием

being gathered and used on a scale we could never imagine.

ваших персональных данных в невообразимых масштабах.

This is why my colleagues and I decided to take a deeper look at this.

Именно поэтому я со своими коллегами решили глубже изучить эту проблему.

We set out to read the terms

Мы задались целью прочитать условия

of popular apps on an average phone.

наиболее популярных приложений.

And to show the world how unrealistic it is

А чтобы показать, насколько нереалистично

to expect consumers to actually read the terms,

ожидать от пользователей, что они действительно прочитают условия,

we printed them,

мы их распечатали —

more than 900 pages,

вышло более 900 страниц —

and sat down in our office and read them out loud ourselves,

и, сидя в офисе, читали их вслух,

streaming the experiment live on our websites.

транслируя в прямом эфире этот эксперимент на нашем сайте.

As you can see, it took quite a long time.

Как видите, это заняло довольно много времени.

It took us 31 hours, 49 minutes and 11 seconds

Нам понадобился 31 час 49 минут и 11 секунд,

to read the terms on an average phone.

чтобы прочитать условия приложений на одном телефоне.

That is longer than a movie marathon of the "Harry Potter" movies

Это больше, чем кино-марафон «Гарри Поттера»

and the "Godfather" movies combined.

и «Крёстного отца» вместе взятых.

(Laughter)

(Смех)

And reading is one thing.

Прочесть — это одно,

Understanding is another story.

а понять — совсем другое.

That would have taken us much, much longer.

Это заняло бы у нас гораздо больше времени.

And this is a real problem,

И это серьёзная проблема,

because companies have argued for 20 to 30 years

учитывая, что компании на протяжении 20–30 лет выступают

against regulating the internet better,

против более эффективного регулирования интернета,

because users have consented to the terms and conditions.

так как пользователи соглашаются с существующими условиями.

As we've shown with this experiment,

Как показал наш эксперимент,

achieving informed consent is close to impossible.

достичь информированного согласия практически невозможно.

Do you think it's fair to put the burden of responsibility on the consumer?

Думаете, справедливо перекладывать ответственность на пользователя?

I don't.

Я так не считаю.

I think we should demand less take-it-or-leave-it

Надо требовать меньше условий «соглашайтесь или не пользуйтесь»

and more understandable terms before we agree to them.

и сделать их в целом более понятными в момент их принятия.

(Applause)

(Аплодисменты)

Thank you.

Спасибо.

Now, I would like to tell you a story about love.

Сейчас мне бы хотелось поведать вам историю любви.

Some of the world's most popular apps are dating apps,

Самые популярные приложения — это приложения для знакомств.

an industry now worth more than, or close to, three billion dollars a year.

Это отрасль стоимостью около трёх миллиардов долларов в год.

And of course, we're OK sharing our intimate details

Нет ничего ненормального в том, чтобы делиться интимными подробностями

with our other half.

со своими половинками.

But who else is snooping,

Но кто ещё подглядывает за нами,

saving and sharing our information

сохраняет и делится нашей информацией,

while we are baring our souls?

когда мы обнажаем наши души?

My team and I decided to investigate this.

Мы с моей командой решили разобраться в этом.

And in order to understand the issue from all angles

Для рассмотрения проблемы со всех сторон

and to truly do a thorough job,

и проведения тщательного исследования

I realized I had to download

я понял, что мне нужно самому установить

one of the world's most popular dating apps myself.

одно из самых популярных приложений для знакомств.

So I went home to my wife ...

Итак, я пошёл домой к жене,

(Laughter)

(Смех)

who I had just married.

с которой мы только поженились:

"Is it OK if I establish a profile on a very popular dating app

«Ничего, если я создам профиль в очень популярном приложении для знакомств

for purely scientific purposes?"

исключительно в научных целях?»

(Laughter)

(Смех)

This is what we found.

Вот что мы обнаружили.

Hidden behind the main menu was a preticked box

Уже отмеченная галочка, скрытая в основном меню,

that gave the dating company access to all my personal pictures on Facebook,

давала компании доступ ко всем моим личным фото в Facebook,

in my case more than 2,000 of them,

что в моём случае составляло более, чем 2 000 изображений,

and some were quite personal.

некоторые из которых были очень личными.

And to make matters worse,

Что ещё хуже,

when we read the terms and conditions,

прочитав условия,

we discovered the following,

мы обнаружили следующее.

and I'm going to need to take out my reading glasses for this one.

Для этого мне понадобятся очки для чтения.

And I'm going to read it for you, because this is complicated.

Я прочту вам текст условий, потому что он очень замысловатый.

All right.

Итак.

"By posting content" --

«Публикуя информацию», —

под информацией понимаются фото, сообщения

and content refers to your pictures, chat

и другие действия в приложении, —

and other interactions in the dating service --

«используя эту платформу,

"as a part of the service,

you automatically grant to the company,

вы автоматически даёте компании,

its affiliates, licensees and successors

её филиалам, лицензиатам и правопреемникам

an irrevocable" -- which means you can't change your mind --

безусловное» — что значит, нельзя передумать, —

«бессрочное» — что значит бесконечное, —

"perpetual" -- which means forever --

"nonexclusive, transferrable, sublicensable, fully paid-up,

«неисключительное, передаваемое, сублицензируемое, полное,

worldwide right and license to use, copy, store, perform,

глобальное право на использование,

копирование, хранение,

display, reproduce, record,

показ, воспроизведение,

play, adapt, modify and distribute the content,

запись, проигрывание, изменение и распространение,

prepare derivative works of the content,

разработку производных продуктов

or incorporate the content into other works

или включение информации в другие продукты,

and grant and authorize sublicenses of the foregoing in any media

а также разрешаете сублицензиатам упомянутое выше

в любом существующем медиа, либо созданном в будущем».

now known or hereafter created."

That basically means that all your dating history

Фактически это означает, что история всех ваших знакомств

and everything related to it can be used for any purpose for all time.

и всё, что с ней связано, всегда может быть использовано в любых целях.

Just imagine your children seeing your sassy dating photos

Представьте, что ваши же дети увидят ваши вызывающие фото

in a birth control ad 20 years from now.

в рекламе контрацептивов через 20 лет.

But seriously, though --

Ну, а если серьёзно,

(Laughter)

(Смех)

what might these commercial practices mean to you?

как подобные рыночные практики могут коснуться вас?

For example, financial loss:

Например, финансовые потери:

based on your web browsing history,

исходя из истории посещаемых сайтов,

algorithms might decide whether you will get a mortgage or not.

алгоритмы могут определять, давать вам ипотеку или нет.

Subconscious manipulation:

Воздействие на ваше подсознание:

companies can analyze your emotions based on your photos and chats,

опираясь на фото и сообщения, компании могут определять ваше настроение

targeting you with ads when you are at your most vulnerable.

и воздействовать на вас через рекламу, когда вы наиболее уязвимы.

Discrimination:

Дискриминация:

фитнес-приложения могут продавать ваши данные страховым компаниям,

a fitness app can sell your data to a health insurance company,

preventing you from getting coverage in the future.

тем самым лишая вас страховых выплат в будущем.

All of this is happening in the world today.

Всё это происходит уже сейчас.

But of course, not all uses of data are malign.

Конечно, не всегда полученные данные используются со злым умыслом.

Some are just flawed or need more work,

Некоторые алгоритмы требуется доработать,

and some are truly great.

а некоторые — просто замечательны.

And there is some good news as well.

Есть и положительные моменты.

The dating companies changed their policies globally

Сервисы онлайн-знакомств во всём мире изменили свою политику

after we filed a legal complaint.

после нашего судебного иска.

But organizations such as mine

Но организации, подобные моей,

that fight for consumers' rights can't be everywhere.

которые борются за права потребителей, есть не везде.

Nor can consumers fix this on their own,

Равно как и потребители не могут решить проблему сами.

because if we know that something innocent we said

Если бы мы знали, что любое безобидно сказанное слово

will come back to haunt us,

может аукнуться нам,

we will stop speaking.

мы бы молчали.

If we know that we are being watched and monitored,

Если бы мы знали, что за нами наблюдают,

we will change our behavior.

мы бы изменили наше поведение.

And if we can't control who has our data and how it is being used,

Если мы не можем контролировать хранение и использование наших данных,

we have lost the control of our lives.

значит, мы не управляем своей жизнью.

The stories I have told you today are not random examples.

То, что я рассказал сегодня, это не случайные примеры.

They are everywhere,

Они происходят повсеместно,

and they are a sign that things need to change.

и это сигнал к необходимым изменениям.

And how can we achieve that change?

Но как можно добиться изменений?

Well, companies need to realize that by prioritizing privacy and security,

Компании должны понять, что конфиденциальность и безопасность

they can build trust and loyalty to their users.

укрепляют доверие и благосклонность пользователей.

Governments must create a safer internet

Государства должны развивать безопасный интернет,

by ensuring enforcement and up-to-date rules.

обеспечивая соблюдение и улучшение правил.

And us, the citizens?

А что насчёт нас, граждан?

We can use our voice

Мы можем отстаивать свои интересы,

to remind the world that technology can only truly benefit society

напомнив миру о том, что технологии приносят пользу обществу,

if it respects basic rights.

только если они не нарушают основных прав.

Thank you so much.

Большое спасибо.

(Applause)

(Аплодисменты)