When technology can read minds, how will we protect our privacy? | Nita Farahany

Translator: Nastaran Hasanizadeh Reviewer: sadegh zabihi

In the months following the 2009 presidential election in Iran,

در ماه‌های بعد از انتخابات ریاست جمهوری ۲۰۰۹ در ایران،

protests erupted across the country.

اعتراضات تمام کشور را فرا گرفت.

The Iranian government violently suppressed

حکومت ایران با خشونت

what came to be known as the Iranian Green Movement,

چیزی که بعنوان جنبش سبز ایران شناخته شد را سرکوب کرد،

even blocking mobile signals

حتی سیگنال‌های موبایل هم مسدود شد

to cut off communication between the protesters.

تا ارتباط بین معترضان قطع شود.

My parents, who emigrated to the United States in the late 1960s,

والدین من، که در اواخر دهه ۱۹۶۰ به ایالات متحده مهاجرت کرده بودند،

spend substantial time there,

زمان قابل توجهی را آنجا می‌گذراندند،

where all of my large, extended family live.

جایی که خانوادهٔ بزرگ و پرجمعیت من زندگی می‌کنند.

When I would call my family in Tehran

وقتی می‌خواهم با خانواده‌ام در تهران تماس بگیرم

during some of the most violent crackdowns of the protest,

در طول برخی از خشن‌ترین سرکوب‌های معترضین،

none of them dared discuss with me what was happening.

هیچ کدام از آنها جرئت نمی‌کردند دربارهٔ آنچه رخ می‌داد به من توضیح بدهند.

They or I knew to quickly steer the conversation to other topics.

آن‌ها یا من می‌دانستیم که باید سریع بحث را به سمت موضوعات دیگر ببریم.

All of us understood what the consequences could be

همهٔ ما فهمیده بودیم که عواقب

of a perceived dissident action.

آشکار شدن اقدام مخالف چه خواهد بود.

But I still wish I could have known what they were thinking

ولی من هنوز آرزو دارم که می‌توانستم بدانم در سر آن‌ها چه می‌گذشته

or what they were feeling.

یا چه احساسی داشتند.

What if I could have?

چه می‌شد اگر می‌توانستم؟

Or more frighteningly,

و یا ترسناک‌تر،

what if the Iranian government could have?

چه می‌شد اگر حکومت ایران می‌توانست؟

Would they have arrested them based on what their brains revealed?

آیا می‌توانستند بر اساس آنچه که در مغز آن‌ها می‌گذرد دستگیرشان کنند؟

That day may be closer than you think.

چنین روزی از آنچه فکر می‌کنید نزدیکتراست.

With our growing capabilities in neuroscience, artificial intelligence

با رشد قابلیت‌‌هایمان در علوم اعصاب، هوش مصنوعی،

and machine learning,

و یادگیری ماشین،

we may soon know a lot more of what's happening in the human brain.

شاید خیلی زود دربارهٔ آنچه که در مغز انسان می‌گذرد بیشتر بدانیم.

As a bioethicist, a lawyer, a philosopher

بعنوان یک متخصص اخلاق زیستی، یک وکیل، یک فیلسوف،

and an Iranian-American,

و یک ایرانی-آمریکایی،

I'm deeply concerned about what this means for our freedoms

عمیقا نگران معنای آن برای آزادی‌هایمان هستم

and what kinds of protections we need.

و این که به چه نوع حمایت‌هایی نیاز داریم.

I believe we need a right to cognitive liberty,

من معتقدم ما به حق آزادی شناختی نیاز داریم،

as a human right that needs to be protected.

بعنوان یک حق بشر که باید حمایت شود.

If not, our freedom of thought,

اگر نشود، آزادی تفکر ما،

access and control over our own brains

پردازش و کنترل بر روی مغزهایمان

and our mental privacy will be threatened.

و حریم روحی ما مورد تهدید قرار خواهد گرفت.

Consider this:

به این توجه کنید:

the average person thinks thousands of thoughts each day.

روزانه هزاران فکر از سر یک فرد متوسط می‌گذرد.

As a thought takes form,

وقتی یک فکر شکل می‌گیرد،

like a math calculation or a number, a word,

مثل یک محاسبه ریاضی یا یک عدد، یک کلمه،

neurons are interacting in the brain,

رشته‌های عصبی در مغز در حال فعل و انفعا‌ل‌ هستند،

creating a miniscule electrical discharge.

تا تخلیهٔ الکتریکی کوچکی شکل گیرد.

When you have a dominant mental state, like relaxation,

وقتی شما وضعیت روحی ثابتی مثل آرامش دارید،

hundreds and thousands of neurons are firing in the brain,

صدها و هزاران یاختهٔ عصبی در مغز شلیک می‌شوند،

creating concurrent electrical discharges in characteristic patterns

تا تخلیه‌های الکتریکی همزمانی را با الگو‌های مشخص ایجاد کنند

that can be measured with electroencephalography, or EEG.

که به وسیلهٔ نوار مغزی، یا EEG قابل اندازه‌گیری هستند.

In fact, that's what you're seeing right now.

در حقیقت، درست همین چیزی که الان می‌بینید.

You're seeing my brain activity that was recorded in real time

شما فعالیت مغزی من را می‌بینید که در زمان فعالیت

with a simple device that was worn on my head.

با دستگاهی ساده ضبط شده‌اند که سرم را پوشانده بود.

What you're seeing is my brain activity when I was relaxed and curious.

چیزی که می‌بینید فعالیت مغزی من است وقتی در وضعیت آرامش و کنجکاوی بودم.

To share this information with you,

برای به اشتراک گذاشتن این اطلاعات با شما،

I wore one of the early consumer-based EEG devices

یکی از جدیدترین دستگاه‌های نوار مغزی مصرف کننده - محور را سرم گذاشتم

like this one,

مثل این یکی،

which recorded the electrical activity in my brain in real time.

که فعالیت الکتریکی در مغزم را در زمان فعالیت ضبط می‌کرد.

It's not unlike the fitness trackers that some of you may be wearing

فرقی با ثبت کننده‌های تناسب اندام ندارد که بعضی از شما ممکن است بپوشید

to measure your heart rate or the steps that you've taken,

تا ضربان قلب یا تعداد قدم‌هایتان

or even your sleep activity.

و یا حتی فعالیت در خواب را اندازه‌گیری کنید.

It's hardly the most sophisticated neuroimaging technique on the market.

اصلاً این طور نیست که پیچیده‌ترین تکنیک تصویربرداری عصبی موجود در بازار باشد.

But it's already the most portable

اما در حال حاضر قابل حمل‌ترین

and the most likely to impact our everyday lives.

و به احتمال زیاد موثرترین در زندگی‌های روزمره ما است.

This is extraordinary.

فوق‌العاده است.

Through a simple, wearable device,

از طریق یک دستگاه ساده، و قابل پوشش،

we can literally see inside the human brain

می‌توانیم دقیقاً درون مغز انسان را ببینیم

and learn aspects of our mental landscape without ever uttering a word.

و جنبه‌هایی از چشم‌انداز روحی‌مان را بدون حتی ادا کردن یک کلمه یاد بگیریم.

While we can't reliably decode complex thoughts just yet,

درحالیکه هنوز نمی‌توانیم بطور قابل استنادی افکار پیچیده را رمزگشایی کنیم،

we can already gauge a person's mood,

ما الان قادریم حالت یک فرد را بسنجیم،

and with the help of artificial intelligence,

و با کمک هوش مصنوعی،

we can even decode some single-digit numbers

می‌توانیم حتی برخی از اعداد تک رقمی

or shapes or simple words that a person is thinking

یا اشکال یا کلمات ساده که یک شخص به آن فکر می‌کند

or hearing, or seeing.

یا می‌شنود، یا می‌بیند را رمزگشایی کنیم.

Despite some inherent limitations in EEG,

علی‌رغم برخی محدودیت‌های ذاتی در نوار مغزی،

I think it's safe to say that with our advances in technology,

فکر می‌کنم ایرادی نداشته باشد بگوییم که با پیشرفت‌هایمان در تکنولوژی،

more and more of what's happening in the human brain

هرچه بیشتر از آنچه در مغز انسان می‌گذرد

can and will be decoded over time.

به مرور زمان قابلیت رمزگشایی خواهد داشت.

Already, using one of these devices,

هم اکنون، با استفاده از یکی از این دستگاه‌ها،

an epileptic can know they're going to have an epileptic seizure

یک فرد مبتلا به صرع می‌تواند بفهمد که چه موقع مورد حمله صرع قرار خواهد گرفت

before it happens.

قبل از وقوع آن.

A paraplegic can type on a computer with their thoughts alone.

شخص دچار فلج می‌تواند تنها با افکارش روی کامپیوتر تایپ کند.

A US-based company has developed a technology to embed these sensors

شرکتی آمریکایی یک فناوری‌ را توسعه داده تا این حسگرها

into the headrest of automobilies

در زیرسری صندلی ماشین‌ها جاسازی شود

so they can track driver concentration,

تا آنها بتوانند تمرکز راننده،

distraction and cognitive load while driving.

و حواس پرتی و قدرت تشخیص را در هنگام رانندگی ثبت کنند.

Nissan, insurance companies and AAA have all taken note.

نیسان، شرکت‌های بیمه و انجمن خودروسازان امریکا همگی آن را مورد لحاظ قرار داده‌اند.

You could even watch this choose-your-own-adventure movie

شما حتی می‌توانید این را بعنوان فیلم - ماجراجویی-خودت را-انتخاب کن تماشا کنید

"The Moment," which, with an EEG headset,

«لحظه‌،» که یک سربند نوار مغزی،

changes the movie based on your brain-based reactions,

فیلم را به واسطهٔ واکنش‌های مغز-محور شما تغییر می‌دهد،

giving you a different ending every time your attention wanes.

و هر بار که توجه شما کاهش یابد یک پایان متفاوت به شما ارائه می‌دهد.

This may all sound great,

ممکن است همهٔ این‌ها بنظر عالی بیایند،

and as a bioethicist,

و بعنوان متخصص اخلاق زیستی،

I am a huge proponent of empowering people

به شدت طرفدار توانمدسازی مردم هستم

to take charge of their own health and well-being

تا مسئول سلامتی و تندرستی خود شوند

by giving them access to information about themselves,

با دادن دسترسی به اطلاعات درمورد خودشان به آن‌ها،

including this incredible new brain-decoding technology.

از جمله این تکنولوژی جدید رمزگشای مغزی اعجاب‌انگیز.

But I worry.

ولی من نگرانم.

I worry that we will voluntarily or involuntarily give up

من نگرانم از اینکه ما داوطلبانه یا غیر داوطلبانه

our last bastion of freedom, our mental privacy.

آخرین سنگر آزادی‌مان را رها کنیم، حریم خصوصی مغزی‌مان.

That we will trade our brain activity

که باعث می‌شود فعالیت مغزی‌مان را

for rebates or discounts on insurance,

برای تخفیف یا کاهش قیمت بیمه معامله کنیم،

or free access to social-media accounts ...

یا دستیابی رایگان به کاربری شبکه‌های اجتماعی …

or even to keep our jobs.

یا حتی برای نگهداشتن کارمان.

In fact, in China,

در حقیقت، در چین،

the train drivers on the Beijing-Shanghai high-speed rail,

راننده‌های قطار که بر روی خطوط پرسرعت پکن-شانگهای کار می‌کنند،

the busiest of its kind in the world,

شلوغ‌‌ترین از نوع خودش در جهان،

are required to wear EEG devices

ملزم هستند که دستگاه‌های نوار مغزی را بر سر بگذارند

to monitor their brain activity while driving.

تا فعالیت مغزی آن‌ها در هنگام رانندگی مشاهده شود.

According to some news sources,

بر اساس برخی منابع خبری،

in government-run factories in China,

در کارخانجات دولت-گردان در چین،

the workers are required to wear EEG sensors to monitor their productivity

کارگرها لازم است که این دستگاه‌های نوار مغزی را بپوشند تا کارآمدی

and their emotional state at work.

و وضعیت احساسی آن‌ها در کار بررسی شود.

Workers are even sent home

کارگرها حتی به خانه فرستاده می‌شوند

if their brains show less-than-stellar concentration on their jobs,

اگر مغز آن‌ها تمرکزی کمتر-از-ایده‌آل بر روی کارشان داشته باشد،

or emotional agitation.

یا آشفتگی احساسی داشته باشند.

It's not going to happen tomorrow,

این همین فردا اتفاق نمی‌افتد،

but we're headed to a world of brain transparency.

ولی ما به سوی جهانی با شفافیت مغزی پیش می‌رویم.

And I don't think people understand that that could change everything.

و فکر نمی‌کنم مردم بفهمند که آن می‌تواند همه چیز را تفییر دهد.

Everything from our definitions of data privacy to our laws,

هر چیزی از تعاریف ما از حریم خصوصی اطلاعات گرفته

تا قانون‌ها و ایده‌هایمان درباره آزادی.

to our ideas about freedom.

In fact, in my lab at Duke University,

در حقیقت، در آزمایشگاه من در دانشگاه دوک،

we recently conducted a nationwide study in the United States

ما اخیراً یک تحقیق در سراسر کشور ایالات متحده را اداره می‌کنیم

to see if people appreciated

تا میزان استقبال مردم

the sensitivity of their brain information.

از حساسیت اطلاعات مغزیشان را بررسی کنیم.

We asked people to rate their perceived sensitivity

از مردم خواستیم که حساسیت ادراکی‌شان را

of 33 different kinds of information,

از ۳۳ نوع اطلاعات مختلف ارزیابی کنند،

from their social security numbers

از شماره‌های امنیت ملی‌شان

to the content of their phone conversations,

تا محتوای مکالمات تلفنی‌شان،

their relationship history,

تاریخچهٔ روابطشان،

their emotions, their anxiety,

احساساتشان، اضطرابشان،

the mental images in their mind

تصاویر مغزی در ذهن‌شان

and the thoughts in their mind.

و تفکرات در ذهن‌شان.

Shockingly, people rated their social security number as far more sensitive

شگفتا، مردم شماره‌های امنیت ملی‌شان را با حساسیت بیشتری ارزیابی کردند

than any other kind of information,

نسبت به هر نوع اطلاعات دیگری،

including their brain data.

از جمله اطلاعات مغزی‌شان.

I think this is because people don't yet understand

فکر می‌کنم به خاطر این است که مردم هنوز درک نمی‌کنند

or believe the implications of this new brain-decoding technology.

یا باور نمی‌کنند پیامد‌های این تکنولوژی جدید رمزگشای مغزی چیست.

After all, if we can know the inner workings of the human brain,

به هر حال، اگر ما بتوانیم کارکرد‌های درونی مغز بشر را بفهمیم،

our social security numbers are the least of our worries.

شماره‌های امنیت ملی‌مان کمترین نگرانی ما خواهد بود.

(Laughter)

(خنده)

Think about it.

به آن فکر کنید.

In a world of total brain transparency,

در یک جهان با شفافیت مغزی کامل،

who would dare have a politically dissident thought?

چه کسی جرات می‌کند یک تفکر مخالف سیاسی داشته باشد؟

Or a creative one?

یا یک تفکر خلاق؟

I worry that people will self-censor

من نگرانم که مردم

in fear of being ostracized by society,

از ترس طرد شدن توسط جامعه خودشان را سانسور کنند،

or that people will lose their jobs because of their waning attention

یا مردم کارشان را به خاطر کاهش تمرکز

or emotional instability,

یا ناپایداری احساسی،

or because they're contemplating collective action against their employers.

یا به دلیل فکر کردن به اقدامات جمعی برعلیه کارفرماهایشان از دست بدهند.

That coming out will no longer be an option,

که اگر اینطور شود دیگر یک انتخاب نخواهد بود،

because people's brains will long ago have revealed their sexual orientation,

بدلیل اینکه طول خواهد کشید تا مغز‌های مردم گرایش‌های جنسی‌شان را برملا کنند،

their political ideology

ایدئولوژی‌های سیاسی‌شان

or their religious preferences,

یا اولویت‌های مذهبی شان را،

well before they were ready to consciously share that information

بسیار قبل از اینکه آن‌ها آماده باشند تا آگاهانه اطلاعاتشان را

with other people.

با بقیه مردم به اشتراک بگذارند.

I worry about the ability of our laws to keep up with technological change.

من نگران توانمندی قانونمان درتطابق با تغییرات تکنولوژی هستم.

Take the First Amendment of the US Constitution,

اولین اصلاحیهٔ قانون اساسی ایالات متحده آمریکا را درنظر بگیرید،

which protects freedom of speech.

که از آزادی بیان حمایت می‌کند.

Does it also protect freedom of thought?

آیا از آزادی فکر هم حمایت می‌کند؟

And if so, does that mean that we're free to alter our thoughts however we want?

و در اینصورت، یعنی آیا آزادیم تفکراتمان را هرطور خواستیم تغییر دهیم؟

Or can the government or society tell us what we can do with our own brains?

یا دولت و جامعه می‌توانند به ما بگویند که با مغزهایمان چه کار کنیم؟

Can the NSA spy on our brains using these new mobile devices?

آیا NSA می‌تواند با این ابزار جدید موبایلی از مغزهلی ما جاسوسی کند؟

Can the companies that collect the brain data through their applications

آیا شرکت‌هایی که اطلاعات مغزی را از فرم‌های ثبت نامی جمع می‌کنند

sell this information to third parties?

می‌توانند این اطلاعات را به شخص ثالث بفروشند؟

Right now, no laws prevent them from doing so.

در حال حاضر، هیچ قانونی برای جلوگیری از انجام آنها وجود ندارد.

It could be even more problematic

می‌تواند حتی دردسرساز‌تر هم بشود

in countries that don't share the same freedoms

در کشور‌هایی که مردم آزادی‌هایی

enjoyed by people in the United States.

مانند آنچه مردم در ایالات متحده از آن لذت می‌برند را ندارند.

What would've happened during the Iranian Green Movement

در طی جنبش سبز ایرانیان چه اتفاقی می‌توانست بیفتد

if the government had been monitoring my family's brain activity,

اگر دولت فعالیت مغزی خانوادهٔ من را زیر نظر داشت،

and had believed them to be sympathetic to the protesters?

و به این باور رسیده بود که آن‌ها با معترضین همدردی می‌کنند؟

Is it so far-fetched to imagine a society

آیا خیلی بعید است که یک جامعه را تصور کرد

in which people are arrested based on their thoughts

که مردمانش بر اساس تفکراتشان

of committing a crime,

در مورد ارتکاب به یک جرم دستگیر می‌شوند،

like in the science-fiction dystopian society in "Minority Report."

مثل داستان‌های علمی-تخیلی جامعه دوگانه در «گزارش اقلیت.»

Already, in the United States, in Indiana,

در حال حاضر، در ایالات متحده، در ایندیانا،

an 18-year-old was charged with attempting to intimidate his school

یک پسر ۱۸ ساله به اقدام برای ارعاب در مدرسه‌اش محکوم شد

by posting a video of himself shooting people in the hallways ...

به خاطر ارسال ویدیویی از خودش که در حال شلیک به مردم در راهرو است ...

Except the people were zombies

با این تفاوت که مردم به شکل زامبی‌ها بودند

and the video was of him playing an augmented-reality video game,

و فیلم از بازی خودش در یک بازی ویدیویی واقعیت افزوده بود،

all interpreted to be a mental projection of his subjective intent.

که از آن به عنوان تصویرسازی ذهنی از قصد درونی او برداشت شد.

This is exactly why our brains need special protection.

دقیقاً به همین دلیل مغز ما نیاز به حفاظت خاص دارد.

If our brains are just as subject to data tracking and aggregation

اگر مغز‌های ما فقط در حال نگهداری کردن اطلاعات و تجمیع آن‌ها بود

as our financial records and transactions,

بعنوان داده‌ها و تراکنش‌های مالی‌مان،

if our brains can be hacked and tracked like our online activities,

اگر مغزهایمان می‌توانستند مثل فعالیت‌های آنلاین ما موبایل‌هایمان و اپلیکیشن‌هایمان،

our mobile phones and applications,

هک شده و ردیابی شوند،

then we're on the brink of a dangerous threat to our collective humanity.

آن وقت ما در آستانهٔ یک تهدید خطرناک برای جامعهٔ انسانی بودیم.

Before you panic,

قبل از اینکه بترسید،

I believe that there are solutions to these concerns,

من معتقدم که راه حل‌هایی برای این نگرانی‌ها وجود دارد،

but we have to start by focusing on the right things.

ولی ما باید با تمرکز روی چیز‌های درست شروع کنیم.

When it comes to privacy protections in general,

وقتی بطور کلی مربوط به محافظت از حریم شخصی می‌شود،

I think we're fighting a losing battle

فکر می‌کنم یک جنگ باطل انجام می‌دهیم

by trying to restrict the flow of information.

با تلاش برای محدود کردن جریان اطلاعات.

Instead, we should be focusing on securing rights and remedies

درعوض ، ما باید بر روی تأمین حقوق و راه حل‌ها تمرکز کنیم

against the misuse of our information.

در مقابل سوءاستفاده از اطلاعاتمان.

If people had the right to decide how their information was shared,

اگر مردم حق تصمیم گیری درباره نحوه اشتراک‌گذاری اطلاعاتشان داشتند،

and more importantly, have legal redress

و مهمتر از همه، داشتن قانون جبران خسارت

if their information was misused against them,

اگر از اطلاعاتشان علیه خودشان سوءاستفاده می‌شد،

say to discriminate against them in an employment setting

مثلا برای تبعیض قائل شدن علیه آن‌ها در یک ساختار استخدامی

or in health care or education,

یا در بهداشت یا تحصیلات،

this would go a long way to build trust.

بسیار طول می‌کشید تا اعتماد سازی شود.

In fact, in some instances,

در حقیقت، در برخی نمونه‌ها،

we want to be sharing more of our personal information.

ما می‌خواهیم اطلاعات شخصی بیشتری را به اشتراک بگذاریم.

Studying aggregated information can tell us so much

مطالعه اطلاعات جمع آوری شده می‌تواند به ما خیلی چیزها بگوید

about our health and our well-being,

دربارهٔ سلامت‌مان و تندرستی‌مان،

but to be able to safely share our information,

ولی برای اینکه قادر باشیم اطلاعاتمان را با امنیت به اشتراک بگذاریم،

we need special protections for mental privacy.

به حمایت‌های مخصوص برای حریم شخصی مغزی نیاز داریم.

This is why we need a right to cognitive liberty.

این دلیل نیاز ما به یک حق آزادی شناختی است.

This right would secure for us our freedom of thought and rumination,

این حق آزادی تفکر و اندیشه را برای ما تأمین می‌کند،

our freedom of self-determination,

آزادی تشخیص شخصی‌مان،

and it would insure that we have the right to consent to or refuse

و اطمینان می‌دهد که ما حق پذیرش یا رد کردن

access and alteration of our brains by others.

دستیابی و تغییر مغزهایمان توسط دیگران را داریم.

This right could be recognized

این حق می‌تواند تحت عنوان قسمتی از

as part of the Universal Declaration of Human Rights,

اعلامیهٔ جهانی حقوق بشر شناخته شود،

which has established mechanisms

که سازوکار‌هایی را ایجاد کرده است

for the enforcement of these kinds of social rights.

برای اجرایی کردن این مدل‌های حقوق اجتماعی.

During the Iranian Green Movement,

در طول جنبش سبز ایرانیان،

the protesters used the internet and good old-fashioned word of mouth

معترضین از اینترنت و شعار‌های قدیمی خوب استفاده کردند

to coordinate their marches.

تا راهپیمایی‌هایشان را هماهنگ کنند.

And some of the most oppressive restrictions in Iran

و برخی از ظالمانه‌ترین محدودیت‌ها در ایران

were lifted as a result.

در نتیجه برداشته شد.

But what if the Iranian government had used brain surveillance

ولی چه می‌شد اگر دولت ایران از نظارت مغزی استفاده می‌کرد

to detect and prevent the protest?

که جستجو کند و از اعتراض پیشگیری کند؟

Would the world have ever heard the protesters' cries?

آیا جهان فریاد معترضین را می‌شنید؟

The time has come for us to call for a cognitive liberty revolution.

برای ما زمان آن رسیده که برای دگرگونی آزادی شناختی اقدام کنیم.

To make sure that we responsibly advance technology

تا مطمئن شویم که ما مسئولانه تکنولوژی‌ را توسعه می‌دهیم

that could enable us to embrace the future

که می‌تواند ما را قادر به پذیرش آینده کند

while fiercely protecting all of us from any person, company or government

در حالی که از ما در برابر هر شخص، شرکت یا دولتی به شدت حفاظت کند

that attempts to unlawfully access or alter our innermost lives.

که با بی‌قانونی به درونی‌ترین مسائل زندگی ما دسترسی پیدا کند و تغییرشان دهد.

Thank you.

متشکرم.

(Applause)

(تشویق)