When technology can read minds, how will we protect our privacy? | Nita Farahany

Переводчик: Mariya Khabarova Редактор: Yulia Kallistratova

In the months following the 2009 presidential election in Iran,

В первые месяцы после президентских выборов в 2009 году в Иране

protests erupted across the country.

по всей стране разгорелись протесты.

The Iranian government violently suppressed

Иранское государство жестоко подавляло то,

what came to be known as the Iranian Green Movement,

что потом стало известным как «иранское зелёное движение»,

even blocking mobile signals

даже блокировало мобильные сигналы,

to cut off communication between the protesters.

чтобы разорвать связь между протестующими.

My parents, who emigrated to the United States in the late 1960s,

Мои родители, эмигрировавшие в США в конце 1960-х,

spend substantial time there,

провели немало времени там,

where all of my large, extended family live.

где живёт вся моя большая семья.

When I would call my family in Tehran

Когда я звонила своей семье в Тегеран

during some of the most violent crackdowns of the protest,

во время самых насильственных подавлений протестов,

none of them dared discuss with me what was happening.

никто из них не осмеливался говорить со мной о том, что происходит.

They or I knew to quickly steer the conversation to other topics.

Кто-то из нас быстро переводил разговор на другую тему.

All of us understood what the consequences could be

Все мы понимали возможные последствия

of a perceived dissident action.

оппозиционных действий.

But I still wish I could have known what they were thinking

Но мне всё равно хотелось бы знать, о чём они думали

or what they were feeling.

или что они чувствовали.

What if I could have?

Что, если бы я могла это узнать?

Or more frighteningly,

Или, что страшнее,

what if the Iranian government could have?

что, если бы правительство Ирана могло это узнать?

Would they have arrested them based on what their brains revealed?

Могли бы их арестовать из-за того, что прочитали их мысли?

That day may be closer than you think.

Этот день намного ближе, чем вы думаете.

With our growing capabilities in neuroscience, artificial intelligence

Благодаря возрастающим возможностям в нейробиологии, искусственном интеллекте

and machine learning,

и машинном обучении

we may soon know a lot more of what's happening in the human brain.

мы скоро узнаем намного больше о том, что происходит в мозге человека.

As a bioethicist, a lawyer, a philosopher

Как биоэтик, юрист, философ

and an Iranian-American,

и ирано-американка

I'm deeply concerned about what this means for our freedoms

я глубоко обеспокоена тем, что это значит для нашей свободы

and what kinds of protections we need.

и какие виды защиты нам потребуются.

I believe we need a right to cognitive liberty,

Я думаю, что нам нужно право когнитивной свободы,

as a human right that needs to be protected.

которое должно защищаться как право человека.

If not, our freedom of thought,

Если нет, наша свобода мысли,

access and control over our own brains

доступ и контроль над нашим мозгом

and our mental privacy will be threatened.

и наша ментальная приватность будут под угрозой.

Consider this:

Подумайте над этим:

the average person thinks thousands of thoughts each day.

у среднестатистического человека за день возникают тысячи мыслей.

As a thought takes form,

Когда мысль принимает форму,

like a math calculation or a number, a word,

также как математическое вычисление или цифра, слово,

neurons are interacting in the brain,

нейроны взаимодействуют в мозге,

creating a miniscule electrical discharge.

создавая минимальный электрический разряд.

When you have a dominant mental state, like relaxation,

Когда доминирует одно психическое состояние, скажем, расслабление,

hundreds and thousands of neurons are firing in the brain,

сотни и тысячи нейронов выстреливают в мозге,

creating concurrent electrical discharges in characteristic patterns

создавая одновременные электрические разряды в типичных схемах,

that can be measured with electroencephalography, or EEG.

которые можно измерить с помощью энцефалографии (ЭЭГ).

In fact, that's what you're seeing right now.

На самом деле это то, что вы сейчас видите.

You're seeing my brain activity that was recorded in real time

Вы видите активность моего мозга, записанную в реальном времени

with a simple device that was worn on my head.

с помощью простого прибора, который я носила на голове.

What you're seeing is my brain activity when I was relaxed and curious.

Вы видите активность моего мозга в состоянии спокойствия и любопытства.

To share this information with you,

Чтобы поделится этой информацией,

I wore one of the early consumer-based EEG devices

я использовала один из первых приборов ЭЭГ, ориентированных на потребителя,

like this one,

как вот этот,

which recorded the electrical activity in my brain in real time.

который записал электрические импульсы моего мозга в реальном времени.

It's not unlike the fitness trackers that some of you may be wearing

Это подобно фитнес-браслетам, которыми некоторые из вас пользуются,

to measure your heart rate or the steps that you've taken,

чтобы измерить пульс или количество сделанных шагов,

or even your sleep activity.

или даже свой режим сна.

It's hardly the most sophisticated neuroimaging technique on the market.

Это вряд ли самая изысканная технология нейровизуализации на рынке.

But it's already the most portable

Но зато она самая портативная

and the most likely to impact our everyday lives.

и скорее всего повлияет на нашу повседневную жизнь.

This is extraordinary.

Это удивительно.

Through a simple, wearable device,

Через простое переносное устройство

we can literally see inside the human brain

мы буквально можем видеть человеческий мозг изнутри

and learn aspects of our mental landscape without ever uttering a word.

и изучать аспекты нашей мысленной картины, не произнося ни слова.

While we can't reliably decode complex thoughts just yet,

Пока ещё мы не можем надёжно расшифровывать сложные мысли,

we can already gauge a person's mood,

но зато можем определять человеческое настроение

and with the help of artificial intelligence,

и с помощью искусственного интеллекта

we can even decode some single-digit numbers

можем даже расшифровать некоторые однозначные цифры,

or shapes or simple words that a person is thinking

формы или простые слова, о которых человек думает,

or hearing, or seeing.

которые слышит или видит.

Despite some inherent limitations in EEG,

Несмотря на некоторые неизбежные ограничения ЭЭГ,

I think it's safe to say that with our advances in technology,

я думаю, что можно смело сказать, что с помощью технологических достижений

more and more of what's happening in the human brain

со временем мы сможем расшифровать

can and will be decoded over time.

всё больше данных о человеческом мозге.

Already, using one of these devices,

Уже сейчас, используя данные устройства,

an epileptic can know they're going to have an epileptic seizure

эпилептик может узнать о предстоящем эпилептическом припадке

before it happens.

до того, как он произойдёт.

A paraplegic can type on a computer with their thoughts alone.

Паралитик может печатать на компьютере просто с помощью своих мыслей.

A US-based company has developed a technology to embed these sensors

Компания в США развила технологию, которая внедряет данные датчики

into the headrest of automobilies

в подголовники в автомобилях,

so they can track driver concentration,

чтобы они следили за концентрацией водителя,

distraction and cognitive load while driving.

отвлечением и когнитивной нагрузкой в пути.

Nissan, insurance companies and AAA have all taken note.

Nissan, страховые компании и ААА уже приняли это к сведению.

You could even watch this choose-your-own-adventure movie

Можно даже смотреть фильм с выбором своего приключения

"The Moment," which, with an EEG headset,

под названием «Мгновение», в котором ЭЭГ устройство

changes the movie based on your brain-based reactions,

меняет фильм в зависимости от реакции вашего мозга

giving you a different ending every time your attention wanes.

с различными концовками каждый раз, когда ваше внимание слабеет.

This may all sound great,

Это всё звучит замечательно,

and as a bioethicist,

и, будучи биоэтиком,

I am a huge proponent of empowering people

я большой сторонник расширения возможностей людей

to take charge of their own health and well-being

для заботы о своём здоровье и благополучии,

by giving them access to information about themselves,

путём предоставления им доступа к информации о себе

including this incredible new brain-decoding technology.

в том числе через эту великолепную технологию расшифровки мозга.

But I worry.

Но я переживаю.

I worry that we will voluntarily or involuntarily give up

Переживаю, что добровольно или нет, мы отдадим

our last bastion of freedom, our mental privacy.

наш последний бастион свободы, нашу психическую приватность.

That we will trade our brain activity

Что мы поменяем нашу мозговую активность

for rebates or discounts on insurance,

на страховые скидки

or free access to social-media accounts ...

или на бесплатный доступ к социальным сетям...

or even to keep our jobs.

или даже на наше рабочее место.

In fact, in China,

На самом деле в Китае

the train drivers on the Beijing-Shanghai high-speed rail,

кондукторы на высокоскоростной железной дороге Пекин-Шанхай,

the busiest of its kind in the world,

самой загруженной в мире,

are required to wear EEG devices

обязаны носить ЭЭГ устройства,

to monitor their brain activity while driving.

чтобы отслеживать их мозговую активность в пути.

According to some news sources,

Согласно некоторым источникам,

in government-run factories in China,

на государственных заводах в Китае

the workers are required to wear EEG sensors to monitor their productivity

рабочие обязаны носить датчики ЭЭГ для отслеживания их продуктивности

and their emotional state at work.

и эмоционального состояния на работе.

Workers are even sent home

Их даже отправляют домой,

if their brains show less-than-stellar concentration on their jobs,

если датчики показывают не столь выдающуюся концентрацию на работе

or emotional agitation.

или беспокойство.

It's not going to happen tomorrow,

Это не произойдёт завтра,

but we're headed to a world of brain transparency.

но мы уже приближаемся к жизни с прозрачными мыслями.

And I don't think people understand that that could change everything.

И мне кажется, что люди не понимают, что это может всё поменять.

Everything from our definitions of data privacy to our laws,

От нашего понимания конфиденциальности, наших законов

to our ideas about freedom.

до наших представлений о свободе.

In fact, in my lab at Duke University,

На самом деле, в моей лаборатории в Университете Дьюка

we recently conducted a nationwide study in the United States

мы недавно проводили общенациональное исследование в США,

to see if people appreciated

чтобы увидеть, ценят ли люди

the sensitivity of their brain information.

чувствительность информации их мозга.

We asked people to rate their perceived sensitivity

Мы их попросили оценить свою чувствительность

of 33 different kinds of information,

на 33 различных вида информации,

from their social security numbers

начиная с номеров социального страхования

to the content of their phone conversations,

до содержания телефонных разговоров,

their relationship history,

истории их романтических отношений,

their emotions, their anxiety,

их эмоций, тревог,

the mental images in their mind

умозрительных образов

and the thoughts in their mind.

и мыслей про себя.

Shockingly, people rated their social security number as far more sensitive

Шокирующе: люди оценили номер страхования как более чувствительный,

than any other kind of information,

в отличие от любой другой информации,

including their brain data.

включая данные мозга.

I think this is because people don't yet understand

Я думаю, что это так, потому что люди пока ещё не понимают

or believe the implications of this new brain-decoding technology.

или не верят в применение новых технологий декодирования мозга.

After all, if we can know the inner workings of the human brain,

В конце концов, если мы знаем, как работает человеческий мозг,

our social security numbers are the least of our worries.

наши страховые номера — наименьший повод для тревоги.

(Laughter)

(Смех)

Think about it.

Подумайте об этом.

In a world of total brain transparency,

Кто бы посмел иметь диссидентские мысли

who would dare have a politically dissident thought?

в мире полной прозрачности?

Or a creative one?

Или креативные мысли?

I worry that people will self-censor

Я боюсь, что люди будут прибегать к самоцензуре,

in fear of being ostracized by society,

опасаясь остракизма со стороны общества,

or that people will lose their jobs because of their waning attention

или будут терять работу из-за ослабления внимания,

or emotional instability,

эмоциональной нестабильности,

or because they're contemplating collective action against their employers.

или потому, что планируют коллективные действия против работодателей.

That coming out will no longer be an option,

Каминг-аут уже не будет вопросом выбора,

because people's brains will long ago have revealed their sexual orientation,

поскольку человеческий мозг сам сможет определить сексуальную ориентацию,

their political ideology

политические идеологии

or their religious preferences,

или религиозные предпочтения

well before they were ready to consciously share that information

намного раньше, чем мы будем готовы осознанно рассказать о этом

with other people.

другим людям.

I worry about the ability of our laws to keep up with technological change.

Я беспокоюсь, смогут ли наши законы идти в ногу с технологиями.

Take the First Amendment of the US Constitution,

Рассмотрим первую поправку к Конституции США,

which protects freedom of speech.

защищающую свободу слова.

Does it also protect freedom of thought?

А свободу мысли она защищает?

And if so, does that mean that we're free to alter our thoughts however we want?

И если так, значит ли это, что мы вольны изменять свои мысли, как хотим?

Or can the government or society tell us what we can do with our own brains?

Или правительство и общество решает, как можно обходиться со нашими же мозгами?

Can the NSA spy on our brains using these new mobile devices?

Может ли АНБ читать наши мысли с помощью новых мобильных устройств?

Can the companies that collect the brain data through their applications

Могут ли компании, собирающие данные мозга через приложения,

sell this information to third parties?

продать эту информацию третьим лицам?

Right now, no laws prevent them from doing so.

И сейчас никакие законы не смогут им помешать.

It could be even more problematic

Но это может представлять проблему

in countries that don't share the same freedoms

в странах, которые не разделяют тех же прав,

enjoyed by people in the United States.

что есть у людей в Соединённых Штатах.

What would've happened during the Iranian Green Movement

Что бы могло случиться во время «зелёного движения» в Иране,

if the government had been monitoring my family's brain activity,

если бы правительство отслеживало работу мозга

and had believed them to be sympathetic to the protesters?

и согласилось бы с протестующими?

Is it so far-fetched to imagine a society

Неужели невозможно представить общество,

in which people are arrested based on their thoughts

где людей арестовывают за их мысли

о совершении преступления,

of committing a crime,

like in the science-fiction dystopian society in "Minority Report."

как в антиутопическом обществе в фильме «Мнение меньшинства»?

Already, in the United States, in Indiana,

Уже в Соединённых Штатах, в Индиане,

an 18-year-old was charged with attempting to intimidate his school

18-летний парень был обвинён в попытке запугать свою школу,

by posting a video of himself shooting people in the hallways ...

опубликовав видео, где он стреляет по людям в коридорах...

Except the people were zombies

Кроме людей там были зомби,

and the video was of him playing an augmented-reality video game,

а само видео показывало то, как он играет в игру с дополненной реальностью,

all interpreted to be a mental projection of his subjective intent.

где всё интерпретируется как ментальная проекция его субъективного намерения.

This is exactly why our brains need special protection.

Именно поэтому нашему мозгу нужна особая защита.

If our brains are just as subject to data tracking and aggregation

Если наш мозг — такой же субъект отслеживания и агрегации,

as our financial records and transactions,

как наши финансовые ведомости и транзакции,

if our brains can be hacked and tracked like our online activities,

если наш мозг можно взломать и отслеживать мысли как действия в сети,

our mobile phones and applications,

в мобильных телефонах и приложениях,

then we're on the brink of a dangerous threat to our collective humanity.

то мы уже на грани опасной угрозы для нашего коллективного рода.

Before you panic,

Прежде чем вы запаникуете,

I believe that there are solutions to these concerns,

я скажу, что полагаю, решение этих проблем существует,

but we have to start by focusing on the right things.

но мы должны сосредоточиться на правильных вещах.

When it comes to privacy protections in general,

Когда дело касается защиты конфиденциальности в целом,

I think we're fighting a losing battle

думаю, мы ведём безнадёжную борьбу,

by trying to restrict the flow of information.

пытаясь ограничить поток информации.

Instead, we should be focusing on securing rights and remedies

Вместо этого мы должны сосредоточиться на обеспечении прав и средствах их защиты

against the misuse of our information.

от злоупотребления нашей информацией.

If people had the right to decide how their information was shared,

Если бы люди имели право решать, как распоряжаться информацией,

and more importantly, have legal redress

и, что важно, располагали бы мерами юридической защиты,

if their information was misused against them,

если их информация была использована против них,

say to discriminate against them in an employment setting

скажем, чтобы дискриминировать их в условиях занятости

or in health care or education,

или в области здравоохранения или образования,

this would go a long way to build trust.

это бы имело большое значение для доверительных отношений.

In fact, in some instances,

На самом деле в некоторых случаях

we want to be sharing more of our personal information.

мы хотим предоставить как можно больше своей личной информации.

Studying aggregated information can tell us so much

Изучение агрегированной информации может многое нам рассказать

about our health and our well-being,

о нашем здоровье и благополучии,

but to be able to safely share our information,

но чтобы безопасно делиться информацией,

we need special protections for mental privacy.

нам нужны специальные средства для защиты ментальной конфиденциальности.

This is why we need a right to cognitive liberty.

Вот почему нам нужно право на познавательную свободу.

This right would secure for us our freedom of thought and rumination,

Это право обеспечит нам нашу свободу мысли и размышления,

our freedom of self-determination,

нашу свободу самоопределения,

and it would insure that we have the right to consent to or refuse

и это будет гарантией того, что у нас есть право соглашаться или отказываться

access and alteration of our brains by others.

от доступа и изменения нашего мозга кем-либо.

This right could be recognized

Это право может быть признано

as part of the Universal Declaration of Human Rights,

частью Всеобщей декларации прав человека,

which has established mechanisms

установившей механизмы

for the enforcement of these kinds of social rights.

для исполнения подобных социальных прав.

During the Iranian Green Movement,

Во время иранского «зелёного движения»

the protesters used the internet and good old-fashioned word of mouth

протестующие пользовались интернетом и устаревшими словами

to coordinate their marches.

для координации маршей.

And some of the most oppressive restrictions in Iran

И некоторые из самых деспотических ограничений в Иране

were lifted as a result.

в итоге были отменены.

But what if the Iranian government had used brain surveillance

Но что, если правительство Ирана использовало мозговой надзор

to detect and prevent the protest?

для обнаружения и предотвращения протеста?

Would the world have ever heard the protesters' cries?

Услышал бы мир когда-нибудь крики протестующих?

The time has come for us to call for a cognitive liberty revolution.

Настало время нам призвать к революции за когнитивную свободу.

To make sure that we responsibly advance technology

Чтобы убедиться, что мы ответственно совершенствуем технологии,

that could enable us to embrace the future

которые могут позволить нам объять будущее,

while fiercely protecting all of us from any person, company or government

яро защищая всех нас от любого человека, компании или правительства,

that attempts to unlawfully access or alter our innermost lives.

пытающегося незаконно получить доступ или изменить наше сокровенное в жизни.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)